Когнитивное караоке промптомакак

[…]

“Наш разум делает нас людьми, а язык обеспечивает социальную архитектуру наших мыслей.

Искусственный интеллект уже уничтожает важные составляющие человеческого опыта. Но одно из самых значительных убийств - пока что - это гибель давнего обряда посвящения в студенты во всём мире: попытка синтезировать сложную информацию и сжать её в убедительную аналитическую прозу. Это тренировочная площадка для самых квинтэссенциальных человеческих способностей, сочетающая умение думать с умением использовать язык для коммуникации.

Если вы хотите узнать, что вы думаете о какой-то теме, напишите об этом. Письмо способно безжалостно обнажить неясные мысли и неточности. Это часть того, что теряет ChatGPT, - ошибочное убеждение, что выплеснутая в разумном порядке строка слов - единственная цель, тогда как зачастую важнее всего когнитивный акт создания этой строки слов.

Увы, с этим меланхоличным панегириком пора подписать свидетельство о смерти. Здесь лежит студенческое эссе — покойся с миром, старый друг, убитый OpenAI.”

— Brian Klaas
The Death of the Student Essay—and the Future of Cognition
(https://www.forkingpaths.co/p/the-death-of-the-student-essayand)
—–

“Пользователи LLM также испытывали трудности с точным цитированием своих собственных работ. Хотя LLM предлагают немедленное удобство, наши результаты указывают на потенциальные когнитивные издержки. В течение четырех месяцев пользователи LLM постоянно отставали на нейронном, лингвистическом и поведенческом уровнях. Эти результаты вызывают опасения по поводу долгосрочных образовательных последствий использования LLM и подчеркивают необходимость более глубокого изучения роли ИИ в обучении.”

Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task
(https://arxiv.org/abs/2506.08872)
—–

“По сути, это своего рода когнитивное караоке; театр мастерства без памяти, усилий или овладения. Как «иллюзия компетентности» Кориата и Бьорка (ссылка ниже), соблазнительное чувство понимания, которое возникает при доступе к информации без её реального освоения.

Illusions of Competence in Monitoring One’s Knowledge During Study. (https://psycnet.apa.org/record/2005-02160-001)

Сама архитектура опыта строится не за счёт воздействия (exposure), а за счёт усилий (effort). Без усвоенных знаний нет ни глубокого понимания, ни гибкого мышления, ни осмысленного творчества. Самый продвинутый ИИ может симулировать интеллект, но он не может думать за вас. Эта задача, великолепная и трудная, остаётся человеческой.

И всё же, возможно, самый коварный аспект когнитивной разгрузки (offloading) - это не то, что мы теряем, а наша неспособность осознать эту потерю. Подобно путнику Шелли, натолкнувшемуся на руины Озимандиаса, мы можем оказаться в окружении остатков интеллектуальных достижений человечества, не понимая, что здесь когда-то стояло. Поколение, воспитанное на внешнем познании (external cognition), может так и не развить внутренний диалог, характерный для глубокой мысли, способность удерживать в напряжении множество спорных идей, чувствовать противоречия, нести груз знаний, накопленных в борьбе.

Эта эрозия происходит тихо, незаметно. Когнитивная база каждого поколения становится предположением следующего поколения о человеческих возможностях. Мы можем радоваться нашей эффективности и в то же время оплакивать, сами не зная почему, потерю чего-то неопределенного, той искры узнавания, когда разрозненные идеи вдруг соединяются в нашем сознании, удовлетворения от решения проблем с помощью чистой мысли, спокойной уверенности, которая приходит от того, что знания являются частью нашей личности, а не просто знанием того, где их найти.

Потеря не только интеллектуальная, но и духовная: мы рискуем стать чужими для собственного разума, беглыми исполнителями интеллекта, которым не обладаем, успешными в решении задач, которые не требуют ни роста, ни борьбы, ни трансформации себя.”

— Carl Hendrick
The Most Important Memory is Still the One Inside Your Head
(https://carlhendrick.substack.com/p/the-most-important-memory-is-still)