ChatGPT выйшаў 3 тыдні таму. Я ўзяў выбарку падзей GitHub за гэты месяц і 4 з 6 рэпазіторыяў, якія атрымалі найбольш зорак, аказаліся пра яго. Адзін гэта спіс падказак, астатнія гэта пашырэнне для браўзера, неафіцыйны кліент API і бот для WeChat. Вакол мяне кажуць, што сёлета ўсе пачалі свой ШІ-праект. Я і сам так казаў і не адзін раз. Ні разу не правяраў, хоць даныя для праверкі адкрытыя. GH Archive запісвае кожную публічную падзею на GitHub, гадзіну за гадзінай, з лютага 2011 года.
Пытанне атрымалася простае. Ці было ў 2022 годзе больш новых ШІ-рэпазіторыяў, чым у 2021, калі лічыць долю ад усіх новых?
Як я лічыў
Кожная гадзіна ў GH Archive гэта адзін файл з падзеямі ў JSON, сціснуты gzip, у 2022 годзе ад 30 да 200 МБ. Калі нехта стварае рэпазіторый, з’яўляецца CreateEvent з ref_type, роўным repository. У ім ляжыць апісанне ў тым выглядзе, у якім яно было ў момант стварэння. Чытаць трэба 2 палі, імя і апісанне. Форкі ідуць асобнай падзеяй і ў гэты лік не трапляюць.
Я ўзяў 2 гадзіны кожнага дня, 04:00 і 16:00 UTC, з 1 студзеня 2021 па 24 снежня 2022 года. Першая гадзіна прыпадае на дзень у Азіі, другая на раніцу ў Амерыцы. Усяго 1446 гадзін. 19 з іх у GH Archive няма зусім: 2 дні ў жніўні 2021 года і тыдзень у кастрычніку 2021. Засталося 1427 гадзін. Дыск у мяне быў амаль поўны, таму невялікі скрыпт на Python чытаў кожны файл патокам праз curl і gzip і захоўваў толькі лічыльнікі.
Рэпазіторый лічыцца ШІ, калі пра гэта кажа яго імя або апісанне. Словы такія: machine learning, deep learning, neural, NLP, computer vision, TensorFlow, PyTorch, YOLO, асобнае слова “AI” і яшчэ некалькі накшталт Keras, BERT або Kaggle. Унутры гэтага я вылучыў меншую групу для генератыўных рэчаў: GPT, ChatGPT, OpenAI без Gym, Stable Diffusion разам з інтэрфейсамі накшталт AUTOMATIC1111, DreamBooth, DALL-E, Midjourney, Whisper. Whisper гэта распазнаванне маўлення, але ён выйшаў у OpenAI той самай восенню і я пакінуў яго ў гэтай групе.
Потым я прачытаў вачыма 100 выпадковых рэпазіторыяў 2022 года. 60 з іх метка ўзяла, а 40 злавіў шырэйшы фільтр і метка адкінула. Памыляецца метка рэдка, але прапускае шмат. Які-небудзь “house price prediction” або праект на Vision Transformer звычайна пра машыннае навучанне, але патрэбных слоў не мае. Таму кожная доля ніжэй гэта ніжняя мяжа, палічаная аднолькава для абодвух гадоў.
Кастрычнік 2022
Першы вынік: 1,05% новых рэпазіторыяў у 2021 годзе і 0,91% у 2022. Менш. У кастрычніку 2022 доля ўпала да 0,65% і ў мяне ўжо была гатовая фраза пра тое, што ўсе пайшлі з ШІ ў нешта іншае.
Потым я паглядзеў на сам кастрычнік. У верасні ў маёй выбарцы 444 234 новыя рэпазіторыі, у кастрычніку 677 185. Я адкрыў адну гадзіну, 10 кастрычніка 16:00 UTC. У ёй 15 267 новых рэпазіторыяў і ў 12 856 з іх няма апісання. 8 самых актыўных акаўнтаў стварылі за гэтую гадзіну ад 125 да 241 рэпазіторыя кожны, з выпадковымі імёнамі. 2 з іх называюцца pgslotzaa і PGSLOTTH888, гэта падобна на тайскія сайты анлайн-слотаў. Гэта быў спам. І не толькі ў гэтую гадзіну, так выглядае амаль увесь кастрычнік.
У 2021 годзе ў выбарцы 1 434 695 новых рэпазіторыяў з апісаннем, у 2022 годзе 1 427 656. Амаль столькі ж. Рост GitHub у маёй выбарцы на 25% далі толькі рэпазіторыі без апісання, іх доля вырасла з 61,5% да 69,3%. Таму я стаў лічыць долю сярод рэпазіторыяў з апісаннем. Я зыходжу з таго, што спам-акаўнты апісанняў здебольшага не пішуць. Кастрычніцкая гадзіна гэта пацвярджае.
З такім назоўнікам выходзіць 1,36% у 2021 годзе і 1,44% у 2022. За 24 месяцы доля скача паміж 0,81% і 1,95%. Снежань 2022 года дае 1,70%, але ў маі 2021 было больш. Калі 2022 год і быў выбухам ШІ-рэпазіторыяў, то ў тым, што людзі ствараюць, я яго не бачу.
Я не першы, хто гэта правяраў. OSS Insight у лістападзе 2022 года выпусціў справаздачу, дзе ШІ-рэпазіторыі знойдзены па іх тэмах (topics), са студзеня па верасень. Паводле іх высновы, хуткі рост адкрытага ШІ прыпаў на 2016 і 2017 гады, а потым стаў павольным. У мяне толькі 2 гады і пра 2016 я нічога сказаць не магу, але скачка ў 2022 годзе я таксама не бачу. Іх перыяд заканчваецца яшчэ да ChatGPT, праз 5 тыдняў пасля таго, як Stable Diffusion выклаў вагі.
Дзе змена
Генератыўная група маленькая, але яна рухаецца. У маёй выбарцы гэта 255 рэпазіторыяў за ўвесь 2021 год і 1152 за 2022. 70% рэпазіторыяў 2022 года прыпадаюць на перыяд з верасня па снежань.
У ліпені і першай палове жніўня іх было ад 7 да 15 у тыдзень на мае 14 гадзін выбаркі. Stable Diffusion выклаў вагі 22 жніўня і з гэтага тыдня іх стала ад 18 да 34. ChatGPT выйшаў 30 лістапада. На гэты тыдзень прыпадае 66, на наступныя 3 тыдні 155, 130 і 126. У апошнім з іх толькі 12 гадзін, бо мае даныя заканчваюцца 24 снежня. У снежні генератыўная група гэта 460 з 3268 ШІ-рэпазіторыяў, 14%. Ад усяго, што створана на GitHub, гэта па-ранейшаму 0,15%.
Зорка ў GH Archive гэта WatchEvent і апісання ў яе няма. Таму тут я размячаў рэпазіторыі па поўным імені разам з уладальнікам. Так у лік трапляе openai/whisper.
Звычайныя рэпазіторыі машыннага навучання атрымалі 2,64% усіх зорак выбаркі ў 2021 годзе і 2,32% у 2022. Росту няма зусім. Генератыўныя атрымалі 0,10% у 2021 годзе, 1,43% у верасні 2022 і 3,07% у снежні. У верасні найбольш зорак сярод генератыўных было ў CompVis/stable-diffusion і openai/whisper. Кода ChatGPT на GitHub няма. У снежні першым ідзе f/awesome-chatgpt-prompts, спіс тэкставых падказак.
У снежні зоркі ў маёй выбарцы атрымалі 699 генератыўных рэпазіторыяў. Разам у іх 3,07% усіх зорак і першыя 3 з іх трымаюць 22% гэтай долі.
Чаго я не правяраў
- Тэмы (topics). OSS Insight лічыў па іх, я па імёнах і апісаннях. Апісанне, дададзенае пасля стварэння, мне не відаць.
- 22 гадзіны кожнага дня. Мае лічбы гэта лік па выбарцы. Сапраўдныя лічбы значна большыя і пераводзіць іх на поўныя суткі я не спрабаваў.
- Зоркі рэпазіторыяў, якія як ШІ пазначае толькі імя ўладальніка. Поўны спіс я захоўваў толькі для імёнаў, што прайшлі шырокі фільтр, плюс топ-300 кожнай гадзіны.
- Прыватныя рэпазіторыі. GH Archive бачыць толькі публічныя падзеі.
- Ці не адны і тыя ж людзі стаяць за гэтымі 1,4%. Студэнт, які кожны тыдзень стварае новы
ML-Homework-3, лічыцца кожны тыдзень.
Снежань яшчэ не скончыўся. Калі тыдні ChatGPT працягнуцца ў студзені, доля сярод новых рэпазіторыяў нарэшце зрушыцца. Пабачым.