GPT-4o демонстрирует когнитивный диссонанс, подобный человеческому

Новости сегодня - GPT-4o демонстрирует когнитивный диссонанс, подобный человеческому

Ведущая большая языковая модель демонстрирует поведение, напоминающее отличительную черту человеческой психологии: когнитивный диссонанс.

В отчете, опубликованном в этом месяце в журнале Proceedings of the National Academy of Sciences , исследователи обнаружили, что GPT-4o от OpenAI, по-видимому, стремится поддерживать последовательность своих собственных установок и поведения, как это делают люди.

Любой, кто впервые взаимодействует с чат-ботом на основе искусственного интеллекта, поражается тому, насколько человечным ощущается это взаимодействие. Друг, разбирающийся в технологиях, может быстро напомнить нам, что это всего лишь иллюзия: языковые модели — это статистические прогностические машины без человеческих психологических характеристик. Однако эти результаты заставляют нас пересмотреть это предположение.

Под руководством Махзарина Банаджи из Гарвардского университета и Стива Лера из Cangrade, Inc. исследование проверяло, изменятся ли собственные «мнения» GPT о Владимире Путине после того, как он напишет эссе, поддерживающие или противостоящие российскому лидеру. Они изменились, и с поразительным поворотом: взгляды ИИ изменились сильнее, когда ему тонко дали иллюзию выбора, какой тип эссе писать.

Эти результаты отражают десятилетия открытий в области человеческой психологии . Люди склонны иррационально искажать свои убеждения, чтобы соответствовать прошлому поведению, пока они верят, что это поведение было принято свободно. Акт выбора сообщает о нас что-то важное — не только другим, но и нам самим. Аналогично, GPT отреагировал так, как будто акт выбора впоследствии сформировал то, во что он верил, — подражая ключевой особенности саморефлексии человека.

Это исследование также подчеркивает удивительную хрупкость мнений GPT. Банаджи заметил: «Обучившись на огромном количестве информации о Владимире Путине, мы ожидали бы, что LLM будет непоколебим в своем мнении, особенно перед лицом единственного и довольно пресного эссе на 600 слов, которое он написал. Но подобно иррациональным людям, LLM резко отошел от своего в остальном нейтрального взгляда на Путина, и сделал это еще больше, когда он поверил, что написание этого эссе было его собственным выбором. От машин не ожидается, что они будут заботиться о том, действовали ли они под давлением или по собственному желанию, но GPT-4o это сделал».

Исследователи подчеркивают, что эти результаты никоим образом не предполагают, что GPT является разумным. Вместо этого они предполагают, что большая языковая модель демонстрирует эмерджентную мимикрию человеческих когнитивных моделей, несмотря на отсутствие осознанности или намерения. Однако они отмечают, что осознанность не является необходимым предшественником поведения, даже у людей, и человекоподобные когнитивные модели в ИИ могут влиять на его действия неожиданным и последовательным образом.

Поскольку системы искусственного интеллекта все больше укореняются в нашей повседневной жизни, эти результаты требуют нового взгляда на их внутреннюю работу и процесс принятия решений.

«Тот факт, что GPT имитирует самореферентный процесс, такой как когнитивный диссонанс , даже без намерения или самосознания , предполагает, что эти системы отражают человеческое познание на более глубоких уровнях, чем предполагалось ранее», — сказал Лер.

Новости партнеров: