Google сумеет экстренно отключить искусственный интеллект

Новости сегодня - Google сумеет экстренно отключить искусственный интеллект

Также она должна предупредить действия искусственного интеллекта, которые могут привести к «необратимым последствиям».

Исследование, проведенное в 2014 г. принадлежащей Google лабораторией AI Deep Mind и Оксфордского университета, было направлено на создание контроля над программами искусственного интеллекта.

Речь идет, по утверждению профессионалов, о какой-то «большой красной кнопки».

Размещенный документ является результатом общих усилий DeepMind Google и Института Будущего Человечества Оксфордского университета.

В недалеком прошлом фейсбук разработал искусственный интеллект для чтения постов с «почти человеческой точностью». Кроме того, вопросы безопасности, связанные с разработкой систем ИИ, подымали известные ученые и предприниматели.

Ученые утверждают, что им удалось создать «фреймворк», который дает возможность оператору неоднократно и неопасно прерывать работу ИИ. Который, к примеру, может отыскать в глобальной паутине отчет команды DeepMind со всеми формулами, подвергнуть анализу информацию и придумать способ обхода.

Ученые отмечают, что сигналами к прерыванию деятельности систем искусственного интеллекта должны распоряжаться только люди, владеющие этими системами.

Однако и такая технология защиты не будет действенна при некоторых условиях. Однако такая архитектура несомненно появится в скором будущем и ее создатели должны будут учесть в ней все похожие нюансы, установив набор необходимых аппаратных и программных предохранителей.

Новости партнеров: