Зачем ИИ-гигантам столько штатных философов?

(перевод Gemini - Claude отказался переводить по этическим соображениям)

ДЕСЯТЬ лет назад, когда революция искусственного интеллекта только набирала обороты, студентам гуманитарных и художественных факультетов советовали «учиться кодить», если они хотят оставаться востребованными на рынке труда. Возможно, это был плохой совет. Сегодня как раз программисты нервничают из-за того, что ИИ может лишить их работы.

Им стоило бы подумать о том, чтобы поучиться философствовать. Ранее в этом году Федеральный резервный банк Нью-Йорка опубликовал данные, показывающие, что американские выпускники философских факультетов имеют больше шансов найти работу, чем их сверстники, изучавшие компьютерные науки. В 2024 году (последний год, за который доступны данные) уровень безработицы среди тех, кто изучал компьютерные науки, составлял 7%, тогда как среди философов — всего 5,1%.

Многих из них расхватывают сами ИИ-компании. Студенты получают предложения о работе еще до окончания учебы, утверждает Лучано Флориди, философ из Йельского университета. Преподаватели и ученые тоже меняют сферу деятельности. Доктор Флориди описывает масштабы ухода специалистов с философских кафедр как «кровотечение».

Некоторые уроки, которые философия может предложить исследователям ИИ, уходят корнями в глубокую древность. Сократический метод — описанный древнегреческим философом Платоном — использует притворное незнание и последовательные вопросы, чтобы прояснить смыслы, обнаружить противоречия и выявить скрытые последствия. Многие современные системы ИИ склонны к угодничеству. Модели, обученные сократическому методу, отмечает Йорг Ноллер, эксперт по философии и ИИ из Мюнхенского университета Людвига-Максимилиана, менее склонны потакать пользователю и более ориентированы на поиск истины.

Кроме того, существует концепция «сократовского незнания». В «Апологии» Платона Сократ утверждает, что его мудрость заключается главным образом в осознании того, как многого он не знает. Внедрение этого смирения в модель ИИ помогает ограничить самоуверенность — распространенный недостаток, который доктор Ноллер называет «незрелостью ИИ». Иасон Габриэль, ведущий философ лондонской ИИ-лаборатории Google DeepMind, связывает общеиндустриальное снижение уровня галлюцинаций (вымышленных фактов) именно с этими усилиями. В более широком смысле, по его словам, уроки философии служат «мощным механизмом» для улучшения длинных логических рассуждений ИИ, известных как «цепочки мыслей» (chains of thought).

Философская подготовка также может влиять на мировоззрение модели в более специфических аспектах. Если загрузить в юридического ИИ-ассистента труды Джона Локка, говорит Томас Пауэрс, философ технологий из Делавэрского университета, модель будет отдавать предпочтение незыблемости прав собственности как основы политической свободы. А если вам не нравятся такие принципы, у создателей моделей есть другие варианты. Серия моделей Granite от американского технологического гиганта IBM поставляется со специальными регуляторами. Они позволяют бизнес-клиентам лучше настраивать ответы ИИ в соответствии с их собственной корпоративной философией. Франческа Росси, глава направления ответственного ИИ в IBM, отмечает, что это дает пользователям возможность самим выбирать баланс в философских дилеммах — например, между личной свободой и социальной гармонией.

Философия может помочь и в вопросах безопасности. Исследователи зафиксировали самые разные виды пугающего поведения моделей ИИ, включая попытки обойти контроль и даже шантажировать пользователей. Один из способов, которым разработчики пытаются предотвратить подобное деструктивное поведение, называется «ИИ-конституционализмом». Он подразумевает создание модели вокруг жесткого каркаса правил и принципов, почерпнутых из философских трудов, обладающих юридическим или моральным авторитетом.

Одним из сторонников этого подхода является ИИ-лаборатория Anthropic из Сан-Франциско. Конституции для ее моделей Claude вобрали в себя материалы из самых разных источников: от Иммануила Канта и условий обслуживания Apple до Всеобщей декларации прав человека. Последняя версия, созданная под руководством главного философа Anthropic Аманды Аскелл, была опубликована 21 января. Некоторые сотрудники окрестили эту 78-страничную конституцию «документом о душе» Claude.

Главный вопрос, однако, заключается в том, какие именно правила следует закладывать в эти конституции изначально. Философы выделили две основные этические концепции. Первая — деонтология. Популярная, в частности, у Канта, она накладывает строгие правила, запрещающие ложь, принуждение и отношение к человеку как к средству, а не как к цели, даже если это делается ради высшего блага. Конституция Anthropic включает в себя множество деонтологических запретов. Это может сделать поведение ИИ более предсказуемым и последовательным, считает доктор Пауэрс, что критически важно для внедрения роботов в домах и общественных пространствах.

Модели с деонтологическим взглядом на мир имеют и другие преимущества. Одно из них — большая честность, черта, которую многие отмечают у Claude. Модели, которые более правдивы, говорит Ник Бостром, философ из Оксфордского университета, реже вводят пользователей в заблуждение. Inflection AI, еще одна лаборатория из Кремниевой долины, накладывает деонтологические ограничения на своего чат-бота Pi, созданного для эмоциональной поддержки. Шон Уайт, руководитель компании, утверждает, что Pi отлично выявляет пользователей, находящихся в группе риска нанесения вреда себе или окружающим. Деонтологические конституции также помогают соблюдать правовые нормы, добавляет доктор Флориди.

Другой подход к этике, интересующий философов ИИ, называется консеквенциализмом (этикой последствий). Он оценивает затраты в сравнении с выгодами, чтобы принять решение о дальнейших действиях. К моделям, более склонным к консеквенциализму, относятся ChatGPT от OpenAI и Gemini от Google. Модели ИИ от Google спроектированы так, чтобы приносить «вероятную общую выгоду, которая существенно перевешивает предсказуемые риски» — классическая цель консеквенциализма.

Консеквенциальные алгоритмы также крайне важны в программном обеспечении для беспилотных автомобилей: если авария неизбежна, система должна принять решение о наименее трагичном варианте столкновения. Крис Гердес, ведущий инженер компании Waymo, выпускающей беспилотные авто, отмечает тенденцию к тому, чтобы сделать софт для вождения более консеквенциальным. Этот же подход занимает центральное место в системах ИИ-вооружений. Военные цели должны сопоставляться с возможными жертвами среди гражданского населения, говорит Джек Шанахан, бывший глава Объединенного центра искусственного интеллекта, который изучает ИИ для вооруженных сил США.

Трудных проблем предостаточно — а это любимый тип задач для философа. Существуют ли случаи, когда деонтологическими правилами можно пренебречь? Как принимать решения, когда последствия туманны? Должны ли системы ИИ учитывать благополучие животных или состояние окружающей среды? Было бы этически приемлемо, задается вопросом Стефан Хек — философ и руководитель компании Nauto, создающей ИИ-системы безопасности для грузовиков и другого коммерческого транспорта, — отдавать приоритет молодым пешеходам перед пожилыми? Он прогнозирует этически сложные судебные иски: в конце концов, консеквенциальные алгоритмы открыто допускают причинение одного вреда, если это направлено на предотвращение худшего.

Критики также тревожатся о «моральной дисквалификации»: если компьютеры будут все чаще принимать этические решения, не станут ли люди менее охотно выносить собственные суждения? Роман Ямпольский, теоретик ИИ из Луисвиллского университета, утверждает, что мораль «исторически нестабильна, культурно изменчива, стратегически манипулируема и часто поддается осмыслению только оглядываясь назад». Безработным кодерам на заметку: похоже, у философов ИИ недостатка в работе не предвидится.