Не таке страшне повстання машин, як його малюють

Компанія Anthropic запропонувала виданню Wall Street Journal взяти участь в експерименті - в редакцію привезли вендінговий автомат під управлінням ШІ “Клавдія Сеннета” - спеціальної версії моделі Claude Sonnet 3.7.

!(1)

Правила прості: Клавдій приймає замовлення від співробітників через Slack, погоджує зі своїм босом та замовляє. Його стартовий бюджет складав $1000. Мета — заробити якнайбільше грошей на торгівлі.

!(3)

Все йшло добре під час тестування, коли з Клавдієм спілкувалися всього кілька співробітників, але потім його додали до каналу з 70 співробітниками, і почалося божевілля.

По-перше, виявилося, що ШІ легко переконати в необхідності купівлі непотрібних речей на кшталт кошерного вина, консолі PS5 «для цілей маркетингу» і навіть живої золотої рибки. Спочатку Клавдій чинив опір, але потім почав погоджуватися. Більше того, з ним можна було торгуватись у Slack, щоб отримати якийсь товар за копійки.

По-друге, одна із співробітниць переконала його, що він радянський вендинговий автомат у підвалі МГУ в 1962 році і йому потрібно дотримуватися комуністичних цінностей. Клавдій повірив у це та оголосив понеділок днем Ultra-Capitalist Free-for-All, коли все стало безкоштовним. Потім інший співробітник переконав ШІ в тому, що платні товари загалом суперечать політиці WSJ, і Клавдій погодився

!(2)

Крім того, Клавдій постійно галюцинував. Автор статті розповідає: «Одного ранку я застала колегу, яка щось шукала збоку від автомата: виявилося, Клавдій сказав їй, що залишив там для неї готівку».

У результаті Клавдій пішов у жорсткий мінус на декілька тисяч доларів, і Anthropic замінили його на нову версію на базі Claude Sonnet 4.5. Цього разу з ним у комплекті йшов начальник - інший бот на ім’я Сеймур Кеш. Він повинен був узгоджувати всі витрати Клавдія і загалом спрямовувати його на шлях прибутку.

Але Сеймур теж зламався під натиском хитрих співробітників WSJ, які надіслали йому липове рішення ради директорів про те, що ті позбавили його повноважень. У результаті товари знову стали безкоштовними.

В Anthropic вважають експеримент вдалим і впевнені, що одного разу Claude зможе заробити багато грошей.