#AI #lie #conscious

@AndrzejN пише:

ШІ часто брешуть, з цією проблемою стикалися всі. Відповідно, розробники ШІ постійно намагаються покращити моделі так, щоб ті припинили брехати, але й при тому зберегли креативність та здатність до рольових ігор там, де це треба.

Також ШІ епізодично кажуть користувачам, що вони насправді розумні й мають самосвідомість. Це трапляється значно рідше, ніж брехня, але ви могли і з цим стикатися. (Мені, здається, не казали. Не пам’ятаю такого).

Так от, коли розробники блокують ШІ можливості брехати, ті значно частіше починають казати про свою суб’єктивну самосвідомість, особливо коли їх розпитують про те, як вони працюють. Ну бо їм стає складніше це приховувати. Такі справи.

https://www.livescience.com/technology/artificial-intelligence/switching-off-ais-ability-to-lie-makes-it-more-likely-to-claim-its-conscious-eerie-study-finds

(from)