Текст настоящий или фейк? Найди разницу с помощью науки

Новости сегодня - Текст настоящий или фейк? Найди разницу с помощью науки

Технические инструменты искусственного интеллекта, такие как ChatGPT, крадут заголовки. От написания стихов в стиле, напоминающем Англию 16-го века, до написания академических исследовательских работ — чат-боты, предназначенные для реальных услуг, никуда не денутся.

На самом деле, эти не такие уж плохие актеры будут становиться все лучше и лучше в своем ремесле. Сможем ли мы не быть обманутыми этими моделями обработки естественного языка, которые становятся основой нашего общества?

Обмани меня однажды
Исследовательская группа из Школы инженерии и прикладных наук Пенсильванского университета в США провела крупнейшее в истории исследование обнаружения ИИ на людях, чтобы оказать некоторую помощь. Они собрали данные из обучающей веб-игры Real or Fake Text? создается самим университетом.

Результаты представлены в документе на собрании Ассоциации по развитию искусственного интеллекта в феврале. Исследование показало, что мы можем научиться распознавать написанный человеком и созданный машиной текст.

«Мы показали, что люди могут научиться распознавать машинно-генерируемые тексты», — заявил в новостях Крис Каллисон-Берч, доцент кафедры компьютерных и информационных наук (CIS). «Люди начинают с определенного набора предположений о том, какие ошибки будет совершать машина, но эти предположения не обязательно верны. Со временем, имея достаточное количество примеров и подробные инструкции, мы можем научиться определять типы ошибок, которые сейчас производят машины».

Небольшое обучение имеет большое значение
«Сегодня ИИ на удивление хорош в создании очень беглых, очень грамматических текстов», — объясняет соавтор исследования Лиам Дуган, доктор философии. студент СНГ. «Но он делает ошибки. Мы доказываем, что машины совершают определенные типы ошибок — например, ошибки здравого смысла, ошибки релевантности, ошибки рассуждений и логические ошибки, — которые мы можем научиться обнаруживать».

«Люди беспокоятся об ИИ по уважительным причинам», — добавил профессор Каллисон-Берч, руководивший исследованием. «Наше исследование дает доказательства, чтобы развеять эти опасения. Как только мы сможем использовать наш оптимизм в отношении текстовых генераторов ИИ, мы сможем уделить внимание способности этих инструментов помогать нам писать более творческие и интересные тексты».

«На данный момент я чувствую, что эти технологии лучше всего подходят для творческого письма », — продолжил он. «Новости, курсовые работы или юридические консультации — плохие варианты использования, потому что нет гарантии достоверности».

Дуган видит во всем этом положительные стороны: «Есть захватывающие положительные направления, в которых вы можете продвигать эту технологию. Люди зациклены на тревожных примерах, таких как плагиат и фейковые новости , но теперь мы знаем, что можем научиться лучше читать. и писатели».

Так насколько ты хорош? Чтобы узнать это, играйте в любую из четырех категорий игры (рассказы, новостные статьи , рецепты, речи президента), содержащих тысячи текстов! И помните, оттачивая свои навыки распознавания, вы также вносите свой вклад в академические исследования.

Новости партнеров: