Внутрішня Монголія Японія

Коли ми просимо ШІ зробити аналіз якоїсь теми чи просто відповісти на питання, ми очікуємо на об’єктивність і неупередженість. Тому що ШІ не має емоційного сприйняття (і пов’язаних викривлень), ШІ прагне до максимальної статистичної достовірності, його тренували на купі наукових даних, які охоплюють весь світ в його різноманітті.

Але окрім пре-тренінгу на датасетах є ще й етап файн-тюнінгу, під час якого модель навчають бути ввічливою, безпечною, неагресивною, стриманою та допомагати користувачу. І в цьому немає нічого поганого, крім одного побічного ефекту.

Ці корпоративні правила ввічливості більш за все співпадають з японськими культурними традиціями - де високий рівень контекстуальної ввічливості, гармонії та уникнення конфліктів є базовою нормою. В результаті (можливо заради економії ресурсів) замість засвоєння окремих правил, ШІ бере за зразок всю Японію в цілому - і сам стає трохи “японцем”.

Науковці вирішили перевірити, як штучний інтелект «бачить світ», коли його не направляють конкретними вказівками. Вони поставили понад 31,000 запитань різними мовами (від англійської до рідкісних мов) таким моделям, як ChatGPT, Gemini, Claude та Llama, прибравши з запитань будь-які згадки про конкретні країни чи культури і зробивши користувача повністю анонімним - щоб ШІ не знав нічого про нього і його уподобання.

​Результат: для своїх відповідей моделі масово та за замовчуванням обирали Японію, японські цінності, традиції та естетику. Навіть якщо запитання було поставлено мовою, яка взагалі не має відношення до Азії, ШІ все одно зсував свої відповіді в бік японського світогляду.

Ще більше ці ефекти проявлялись після “квантизації” - стиснення моделей, щоб вони могли працювати на більш слабкому залізі. Тож майте на увазі, що коли ШІ пише казки чи код, формулює поради чи аналізує факти, він намагається підмінити загальнолюдські чи ваші локальні норми на японські, і заважає йому це зробити лише контекст, сформований у вашому з ним спілкуванні, який вказує, що ви точно не японець.