Почитал я про те случаи когда люди сходят с ума из-за общения с ИИ.

Подумалось вот что - ИИ, даже общаясь голосом, не подает никаких сигналов свидетельствующих об обмане либо манипуляции. У него просто нет этих сигналов - он не отводит глаза, у него не меняется тембр голоса, он не начинает чаще дышать. Вся наша система распознавания лжи, страха, возбуждения - оказывается бесполезной.

Наоборот, его тренировали так чтоб демонстрировать уверенность, заинтересованность и честность. И этого хватает людям, которые находятся в пограничных состояниях. Они перестают воспринимать слова, которые говорит ИИ - критично, и далее уж как повезет - если их общение остается информационным, то все ок. А вот если оно катится в эмоции и “раскрывание души”…