Пори року штучного інтелекту

Почалося з того, що Сем Альтман заявив, що не за горами сингулярність, яка настане після появи справжнього, а не іграшкового ШІ — AGI.

А у мене в голові якось ці два поняття не дуже були пов’язані. Сингулярність, якщо що — це коли швидкість зростання технологій «пробиває стелю» і починає зростати так, що це а) неможливо прогнозувати, б) швидкість росту виходить не затухаючою, а навпаки, такою, що розганяється. До чого тут ШІ взагалі?

Виявляється, логіка за цим усім стоїть ось яка: нібито ось зараз хтось із «великих хлопчиків» створює AGI і миттєво дає йому завдання переписати й оптимізувати свій код та тренувати нову нейромережу.

Той бачить море потворного лайнокоду й безглузду нейромережу, виховану жалюгідними людцями — і робить усе правильно, збільшуючи свою потужність одразу на порядки. Наступна версія бачить версію лайнокоду й нейромережу, створену жалюгідним AGI першого покоління, і знову переписує себе, збільшуючи ефективність на порядки. І так далі до божественної (це не мої терміни, якщо що) потужності та досконалості.

У всієї цієї техноутопії (або технокошмару) є купа критиків, які цілком резонно кажуть, що ідея про сингулярність тут ґрунтується на мовчазному припущенні, що AGI буде не просто на порядки кращим за розробника-людину, а зуміє знайти якісь приховані ресурси та можливості для збільшення власної потужності на тих самих фізичних ресурсах.

Бо якщо ні — то між кожною наступною фазою самовдосконалення минуть роки роботи, необхідні для будівництва нових дата-центрів, або десятки років — якщо знадобиться якась нова, досконаліша інфраструктура.

Ну і звісно, в ідеї ШІ-сингулярності якось не враховуються всі потенційні проблеми, помилки та технічні відкати, цілком можливі для нової технології, особливо такої ось глобальної.

І це, зауважте, ми ще не почали говорити про найнеприємніше — про гроші та ширше — про ресурси, необхідні для такого ось злету ракетою.

Бо якщо сингулярність — поняття суто теоретичне, то безперервне зростання витрат на розвиток ШІ — це реально спостережуваний і дуже болісний для галузі феномен.

Щобільше, сама заява Альтмана — вона ж насправді теж про гроші. Йому критично важливо справляти на інвесторів, приватних і державних, позитивне враження. Якщо такого враження не справляти, то замість весни сингулярності настане значно прогнозованіший «ШІ-заморозок».

Обидва контраргументи — і про самовдосконалення, і про гроші — це насправді один і той самий аргумент.

Сингулярність потребує віддачі, що прискорюється: кожен виток має коштувати якщо і не дешевше в абсолютному плані, то хоча б у відносному.

На практиці же поки що відбувається зворотне. Кожен наступний рівень інтелекту ШІ коштує дорожче, причому значно дорожче. Галузь не розганяється сама — її розганяють грошима, закачуючи все більше палива в ракету, у якої ніби є двигун, але немає паливного бака. Усе накачується ззовні.

Тому розмова про сингулярність неминуче впирається в розмову про гроші. Паливо закінчиться — почнеться зовсім інший сценарій.

Про нього поговоримо у другій частині мого раптового лонгріду.