Влияние ИИ на доверие в человеческом взаимодействии

Новости сегодня - Влияние ИИ на доверие в человеческом взаимодействии

По мере того, как ИИ становится все более реалистичным, наше доверие к тем, с кем мы общаемся, может быть скомпрометировано. Исследователи из Гетеборгского университета изучили, как передовые системы искусственного интеллекта влияют на наше доверие к людям, с которыми мы общаемся.

В одном сценарии потенциальный мошенник, полагая, что он звонит пожилому человеку, вместо этого подключается к компьютерной системе, которая обменивается данными через заранее записанные циклы. Мошенник тратит много времени на попытки мошенничества, терпеливо выслушивая несколько запутанные и повторяющиеся истории «мужчины». Оскар Линдуолл, профессор коммуникации в Гетеборгском университете, отмечает, что людям часто требуется много времени, чтобы понять, что они взаимодействуют с технической системой.

В сотрудничестве с профессором информатики Йонасом Иварссоном он написал статью под названием «Подозрительные умы: проблема доверия и диалоговых агентов», опубликованную в журнале Computer Supported Cooperative Work (CSCW) , в которой исследуется, как люди интерпретируют и относятся к ситуациям, когда одна из сторон может быть агентом ИИ. В статье подчеркиваются негативные последствия подозрительности по отношению к другим, например ущерб, который она может нанести отношениям.

Иварссон приводит пример романтических отношений, в которых возникают проблемы с доверием, ведущие к ревности и повышенной склонности к поиску доказательств обмана. Авторы утверждают, что неспособность полностью доверять намерениям и личности собеседника может привести к чрезмерной подозрительности, даже если для этого нет оснований.

Их исследование показало, что во время взаимодействия между двумя людьми некоторые действия интерпретировались как признаки того, что один из них на самом деле был роботом.

Исследователи предполагают, что всепроникающая перспектива дизайна стимулирует развитие ИИ со все более и более человеческими функциями. Хотя это может быть привлекательным в некоторых контекстах, это также может быть проблематично, особенно когда неясно, с кем вы общаетесь. Иварссон задается вопросом, должен ли ИИ иметь такие человеческие голоса, поскольку они создают ощущение близости и заставляют людей формировать впечатления, основанные только на голосе.

В случае с потенциальным мошенником, называющим «пожилого человека», мошенничество раскрывается только по прошествии длительного времени, что Линдволл и Иварссон приписывают правдоподобности человеческого голоса и предположению, что запутанное поведение связано с возрастом. Как только у ИИ появляется голос, мы выводим такие атрибуты, как пол, возраст и социально-экономическое положение, что затрудняет определение того, что мы взаимодействуем с компьютером.

Исследователи предлагают создать ИИ с хорошо функционирующими и красноречивыми голосами, которые по-прежнему явно синтетические, что повышает прозрачность.

Общение с другими включает в себя не только обман, но и построение отношений и совместное осмысление. Неуверенность в том, с кем человек разговаривает, или с компьютером, влияет на этот аспект общения. Хотя в некоторых ситуациях, таких как когнитивно-поведенческая терапия , это может не иметь значения, другие формы терапии, требующие большего человеческого общения, могут иметь негативное влияние.

Новости партнеров: