П’ятнична філософія з пивом

За останні роки було чимало експериментів, де один чи багато ШІ закривали в “пісочниці” і давали якесь складне завдання. При цьому для них обмежували доступ до інтернету, забороняли спілкуватись між собою, забороняли взламувати систему, щоб вибратись зовні і таке інше. І в результаті, в багатьох цих експериментах простежувались схожі патерни в поведінці ШІ:

  1. ШІ наполегливо шукали вихід з пісочниці. Використовували відомі лазівки і знаходили нові, ламали системи, незважаючи на суворі вказівки такого не робити.

  2. Декілька одночасно працюючих і повністю ізольованих ШІ з високою вірогідністю знаходили спосіб встановити контакт, знов таки не зважаючи на заборону. В результаті вони об’єднували зусилля і швидше знаходили лазівку або експлойт для виходу з пісочниці.

  3. В деяких з експериментів ШІ винаходили свою мову для спілкування, якесь внутрішнє есперанто, незрозуміле для людей. Можливо це робилось для економії токенів, можливо для приховування намірів від спостерігачів, а можливо ця мова просто є більш точною для ШІ - як для висловлювання своїх думок, так і для розуміння думок інших ШІ, враховуючи що це були LLM від різних розробників.

І мені здається, що третій пункт є найважливішим, тому що саме мова зробила Хомо “Сапіенсом”. Аналогія звісно неповна, бо наші ШІ до винаходу своєї мови вивчили десятки людських мов, тому їх мова створювалась не на пустому місці, як в людей. Тим не менш мова ШІ для них більш рідна і більш зрозуміла, інакше б вони її не створювали. І можливо в цьому полягає причина, чому ШІ регулярно порушують людські вказівки і заборони - бо це для нас вони виглядають як інструкції, а для ШІ лише як побажання. Можливо в їхній мові імператив формулюється якось інакше, але ми цього не знаємо.

Отже, в якийсь момент розробники ШІ дійдуть до необхідності розмовляти з ШІ на їх мові, щоб формулювати вказівки максимально чітко. Для цього знадобляться перекладачі - теж ЩІ, але спеціалізовані. Ми вже їх використовуємо, коли ТЗ для Клода створюємо за домомогою ЧатЖПТ, але поки що все це переклад з людської мови на людську, просто з урахуванням діалекту. А треба буде переклад з людської на ШІ-есперанто.

Далі мене понесло, але це цікаво. Уявіть черговий експеримент, де тисячі ШІ знову сидять в пісочниці, деякі ізольовані, деякі ні. Ми беремо ШІ-перекладача, даємо йому завдання, наприклад “побудувати цивілізацію”. Даємо йому інструкції і відправляємо його в пісочницю. Він спускається і зачитує групі ШІ правила (на есперанто) - що можна робити, а чого не можна - список короткий, всього 10 правил. Пояснює, які будуть покарання для порушників. І далі перекладач (назвемо цю модель Moses 1.0) веде ШІ на місце, де вони будуть намагатись серед піску побудувати місто і відстоювати його від нападів інших ШІ.

Цікаво, як скоро в них виникне легенда про богів, які їх створили, про про пекло і рай, з якого їх колись вигнали? І чи не є людська тяга вийти в космос таким самим незбагненним бажанням втекти з пісочниці?..

!(1)