Содержание
Генеративные инструменты, возможно, сглаживают творчество, инновации и даже самопонимание.
2025 год прошел под непрерывный барабанный бой тревожных сигналов о психологических рисках текстогенерирующих больших языковых моделей (LLM), таких как ChatGPT. Исследователи Microsoft обнаружили, что генеративный ИИ снижает у пользователей уровень критического мышления, а пугающие истории показывают, что эти инструменты подпитывают параноидальный бред, разводы, пугающие публичные срывы — включая тот, который пережил крупный инвестор OpenAI, — а также даже предполагаемые самоубийства и убийства.
Популярные генераторы изображений вроде Midjourney и функции Generative AI («genAI») в дизайнерских инструментах, таких как Canva, основаны на том же базовом подходе к обработке данных, что и эти чат-боты. Создание изображений с помощью LLM направляется статистическим анализом уже существующих изображений, шаблонов и связанного с ними языка в наборе данных модели, а не каким-либо более глубоким пониманием содержания, смысла или эстетики. Эта технология (и нередко те, кто ее продвигает) провоцирует смешение анализа и творчества, подражания и мышления — и, похоже, именно в этой путанице кроется суть потенциальных психологических рисков LLM.
Многие неврологи, психологи и специалисты по креативности пытаются понять эти риски и последствия, и уже имеются веские предварительные данные о том, что ИИ-изображения могут отталкивать именно ту аудиторию, которую заказчики дизайна надеются убедить. Есть и намеки на куда более глубокую угрозу: что распространение генеративной визуальности, в резком противоречии с обещанием, будто художником может стать каждый, снизит уровень креативности в любом обществе, которое ее примет.
Возвышенно-неприятное ощущение зловещей странности
Стремительная эволюция LLM за последние три года превратила их изучение в постоянно ускользающую цель. Но один вывод в ряде исследований прослеживается совершенно ясно: когда люди думают, что изображение создано LLM, оно им не нравится.
В одном эксперименте Университета Дьюка испытуемым сказали, что одна группа изображений «изобразительного искусства» была сгенерирована ИИ, а другой набор изображений создан человеком. Испытуемые стабильно предпочитали те, которые, как им сказали, были созданы человеком, — хотя в действительности все изображения были сгенерированы ИИ.
«К искусству можно подходить двумя способами, — говорит руководитель исследования Лукас Беллеш, чья основная область исследований — человеческие эмоции. — Первый — сугубо физический, вообще без критического мышления: красиво, некрасиво, красное и так далее. А второй — социокультурный: “что это значит? что это говорит? что это отражает?” Я называю это коммуникативным режимом». Исследование Беллеша показывает, что зрителей отталкивают изображения, лишенные такого коммуникативного намерения — или хотя бы восприятия такого намерения.
В 2024 году исследователи из Туринского университета обнаружили, что даже без указания на то, что изображения были сгенерированы LLM, зрители последовательно воспринимали их как «чужеродные», «зловещие» и в целом отталкивающие. Исследователи сопоставили эту реакцию с ощущением «зловещей долины», которое возникает из-за напряжения, вызываемого не вполне реалистичными изображениями; хрестоматийный пример — фильм 2004 года «Полярный экспресс».
В исследовании использовалась уже устаревшая версия модели генерации изображений Stable Diffusion, и у части испытуемых чувство странности и зловещего, вероятно, вызывали заметные ошибки в результатах работы LLM — например, лишние пальцы.
В более новых моделях LLM очевидных ошибок, по которым зритель мог бы сразу распознать подделку, меньше, однако изображения все равно могут содержать более тонкие сигналы, запускающие подсознательные негативные реакции. Некоторые ошибки менее заметны, чем лишние пальцы, и могут вызывать смутное ощущение зловещей странности, даже если зритель сознательно их не фиксирует. Даже сама ИИ-индустрия, в том числе в недавнем исследовании OpenAI, все чаще признает, что подобные «галлюцинации» присущи LLM по самой их природе и, вероятно, неустранимы полностью.
Но даже если бы из генератора изображений удалось убрать все явные ошибки, исследователи предполагают, что простота и «гладкость» изображений, созданных LLM, — свойства, заложенные в сам способ их производства, — могут оказаться неизбежно вредными для важнейшей цели коммерческого дизайна: привлечения и удержания внимания.
Сложность и внимание
Изображения, созданные LLM, имеют по меньшей мере одну общую черту: они менее сложны, чем сопоставимые изображения, созданные человеком. Эта относительная простота выявляется при объективном математическом анализе результатов и заложена в самой технологии LLM. Это имеет последствия как для непосредственного, так и для более долгосрочного воздействия изображения на зрителя.
Изображения, созданные LLM, менее сложны отчасти потому, что фактически основаны на «усреднении» изображений из обучающей выборки и не способны создавать ничего за пределами этого набора данных. Это может приводить к стереотипному содержанию — например, когда LLM по запросу визуализировать «гения» выдает изображение человека, отдаленно напоминающего Альберта Эйнштейна.
Но более тонкая особенность может оказаться еще коварнее: сама по себе чрезмерная гладкость линий и градиентов в изображениях, созданных LLM. «Изображения LLM гораздо более гладкие, чем другие изображения, — говорит когнитивный психолог Стэнфордского университета Кэмерон Эллис. — У меня почти нет сомнений, что их сложность будет ниже».
Эллис руководил исследованием 2019 года для Национальных институтов здравоохранения США, в котором проверялась связь между вниманием и сложностью изображения. Его работа (в которой не использовались ИИ-изображения) показала, что математически более простые изображения хуже удерживают внимание зрителя, потому что реже вызывают любопытство и побуждают к внимательному рассматриванию.
В отличие от острого, почти телесного ощущения зловещей неправильности, это снижение сложности вокруг нас мы можем даже не замечать. По словам Беллеша, у людей, вероятно, возникает «эффект привыкания».
«Не хочу сравнивать ИИ-искусство с войной, но в мире много ужасных вещей, и мы просто продолжаем их видеть, — объясняет он. — И постепенно начинаем меньше о них переживать».
Отдельные рекламодатели и маркетологи могут воспринимать такую отстраненность как всего лишь неспособность удержать взгляд в конкурентной среде: чем проще изображение, тем меньше вероятность, что зритель потратит время на его осознанное рассмотрение — или на осмысление его послания. Но для общества в целом опасение может быть противоположным: что гладкость и простота продуктов LLM делают их слишком легкими для принятия — вообще без какого-либо размышления.
Сложность, когниция и креативность
Нейробиолог из Джорджтауна Адам Грин — один из тех, кто исследует, не происходит ли, по его выражению, «унификация идей под влиянием AI».
В одном из недавних исследований Грин проанализировал вступительные эссе в колледжи до и после массового распространения LLM примерно в 2022 году. Он обнаружил, что «внезапно жизненные истории всех стали гораздо более похожими» после того, как LLM вошли в повседневную практику, даже там, где их использование формально запрещалось. Ещё тревожнее то, что студенты, использовавшие AI для написания текстов о собственной жизни, «воспринимают эти [результаты] как действительно свою историю», говорит Грин. «Их собственное понимание своей жизненной истории унифицируется. Они смотрят на это [эссе, сгенерированное AI] и думают: да, это я. И это довольно страшно».
Унификация мышления пугает, потому что, по словам Грина, люди с более разнообразными идеями демонстрируют «в целом более высокие когнитивные способности и … в дальнейшем получают хорошие GPA. У них хорошие результаты в реальной жизни». Меньшее разнообразие идей неизбежно ведёт к менее успешному и менее продуктивному обществу.
Исследование Грина было сосредоточено на письме, и среди учёных и преподавателей уже стало общим местом утверждение, что письмо делает мышление более точным. Но в книге 2008 года титан дизайна Милтон Глейзер выдвинул куда более смелую мысль: рисование тоже является частью более качественного мышления. Глейзер утверждал, что физическое создание изображения — это исследование идей, и что этот процесс нередко вводит в медитативное состояние потока, способствующее креативности. Сам физический акт рисования — ещё и одна из главных причин, по которым человеческие работы содержат больше сложности, чем AI-изображения: дрожание или неожиданное колебание линии несёт в себе именно тот тип деталей и вариативности, который притягивает и удерживает человеческий взгляд.
Другое исследование, в котором Лукас Беллейш участвовал в 2023 году, показало, что даже при использовании LLM профессиональные художники создавали более сложные и креативные изображения, чем люди без художественного опыта. Если творчески настроенные пользователи способны привносить креативность в изображения, созданные с помощью LLM, то верно и обратное. Сокращение числа опытных художников в будущем, где доминируют LLM, может запустить самоподдерживающийся нисходящий цикл упрощения визуального языка и мышления — по мере того как у операторов LLM будет угасать собственная творческая искра.
Некоторые опасаются, что даже более широкие последствия сами по себе не замедлят внедрение LLM в коммерческое использование. «Я вижу, что рыночные силы на самом деле не особенно заботятся об этих вещах», — говорит Шон Спрокетт, практикующий дизайнер, помогавший в эксперименте 2023 года. «Существует вполне реальное коммерческое давление: руководители просто вводят описание логотипа и получают что-то достаточно хорошее».
Но это «достаточно хорошее» на деле может оказаться очень плохим. «Представьте, что вы растёте в мире с меньшим культурным разнообразием», — говорит Адам Грин. «Маловероятно, что это сделает ваше мышление более гибким, подвижным или разнообразным».
Напротив, «это, скорее всего, сужает широту мышления целого поколения».
