#AI #future

Наша пісня гарна й нова,
Починаймо її знову!

Новий сценарій від авторів AI-2027:

https://ai-2040.com

«План А» — це наше позитивне бачення того, як людство може уникнути екзистенційної катастрофи, спричиненої ШІ, і досягти процвітаючого майбутнього. Він ґрунтується на бесідах з експертами з провідних американських компаній-розробників передового ШІ, безпосередньому досвіді роботи в OpenAI, дискусіях із законодавцями, експертами з національної безпеки та лідерами у сфері регулювання ШІ. Ми рекомендуємо укласти міжнародну угоду, щоб уникнути небезпечної гонки за створенням надрозуму. Ця угода передбачає абсолютну прозорість досліджень і розробок у сфері ШІ, що дозволить країнам світу розуміти те, що відбувається, та забезпечувати дотримання запобіжних заходів. У результаті безліч компаній із різних країн зможуть повільно, безпечно та спільними зусиллями масштабувати свої розробки на шляху до надрозуму, а не брати участь у таємній гонці одна з одною.
«План А» — це насамперед рекомендація, а не прогноз. Цей сценарій не є нашим найімовірнішим припущенням щодо того, яким насправді виявиться майбутнє. Швидше, це інструмент для донесення та стрес-тестування наших політичних рекомендацій (у сфері регулювання ШІ). І хоча сама реалізація «Плану А» є лише рекомендацією, а не тим, що, як ми очікуємо, відбудеться насправді, описані в ньому подальші наслідки є саме прогнозами.
У цьому сценарії розвитку ШІ до 2040 року «План А» реалізується успішно, хай і неідеально, причому це відбувається в останній момент.
Ми протиставляємо «План А» чотирьом альтернативним планам (B, C, D і S), які відповідають основним варіантам реакції США (або її відсутності) на виклики, пов’язані з надрозумом.