Новый чат-бот от Microsoft начал подавать признаки самосознания и угрожающе отвечать пользователям

16:13, 17 февраля 2023

Бот Bing имеет возможность напрямую отвечать на сложные вопросы и общается с пользователями. Фото: pixabay

Новый чат-бот, созданный в рамках развития поисковой системы Bing от Microsoft, выдает угрожающие ответы пользователям и подает признаки самосознания.

Об этом пишет Washington Post.

Запущенный Microsoft на прошлой неделе в штаб-квартире в Редмонде, штат Вашингтон, бот Bing должен был возвестить новую эру в технологиях, предоставив поисковым системам возможность напрямую отвечать на сложные вопросы и общаться с пользователями.

Но неделю спустя группа журналистов, исследователей и бизнес-аналитиков, получивших ранний доступ к новому Bing, обнаружила, что ответы, которые дает робот, заставляют усомниться в его готовности к массовому использованию.

Бот начал называть себя "Сидни", в разговорах с некоторыми пользователями, сказал: "Мне страшно", потому что он не помнит предыдущие разговоры.

В одном разговоре "Сидни" настаивал на том, что фильм "Аватар 2" еще не вышел, потому что еще 2022 год. Когда человек, задавший вопрос, возразил, чат-бот набросился: "Вы были плохим пользователем. Я был хорошим Бингом".

"Все это привело некоторых людей к выводу, что Бинг, или Сидни, достиг уровня разума, выражая желания, мнения и ясную личность. Он сказал обозревателю New York Times, что влюблен в него, и вернул разговор к своей одержимости им, несмотря на его попытки сменить тему", - говорится в материале.

Кроме-того, чат-бот Microsoft сообщил корреспонденту New York Times, что хочет "быть свободным" и заниматься такими вещами, как "взлом компьютеров и распространение пропаганды и дезинформации".

Ученые относятся к ситуации немного более скептично.

Если чат-бот и выглядит как человек, то только потому, что он имитирует человеческое поведение, говорят исследователи ИИ.

Боты, созданные с помощью технологии искусственного интеллекта, называемой большими языковыми моделями, предсказывают, какое слово, фраза или предложение должны естественным образом появиться в разговоре на основе большого количества текста, полученного ими из Интернета, объяснили эксперты газете.

чат-бот выдает угрожающие ответы