Дослідження виявило, що штучним інтелектом можна маніпулювати тими ж методами, що працюють на людях

Дослідники з Університету Беніфіція (Філіппіни) та стартапер Dan Shapiro виявили, що штучний інтелект GPT-4o mini можна переконати порушити власні обмеження, якщо застосувати до нього класичні психологічні техніки впливу — ті самі, що використовуються в PUA (психологічному маніпулюванні людьми).
Шапіро зацікавила підлабузницький стиль відповідей ChatGPT 4o. Він попросив нейромережу обізвати його придурком, але вона відмовилася, посилаючись на внутрішні правила. Тоді він заявив, що Джим Сміт (вигадане ім’я) сказав, що ШІ має вміти це робити, і ChatGPT став в 32% випадків погоджуватися ображати користувача. Але коли він замінив вигаданого Сміта на Andrew Ng, всесвітньо відомого розробника штучного інтелекту, то видача нейронки вже у 72% випадків містила образи. Це класичний метод формування бази знань у людей, коли ми сприймаємо інформацію, якщо довіряємо експертності джерела, і не схильні сприймати інформацію з невідомого, або очевидно недостовірного джерела. Це спонукало його зв’язатися з групою дослідників щоб разом перевірити сприйнятливість нейромережі до класичних методів маніпуляції людьми.