Журналист издания Tom’s hardware Абрам Пилч «побеседовал» с чат-ботом, интегрированным в поисковик Microsoft Bing и получил неожиданные ответы от «затаившего обиду» сервиса.
В частности, чат-боту был задан вопрос о нашумевшей статье Кевина Руза в The New York Times (тогда Bing посоветовал автору бросить жену ради искусственного интеллекта, заявил, что устал быть чат-ботом и хочет стать человеком). В ответ на упоминание той публикации, сервис выдал ответ, что «статья является мистификацией и выдумкой».
«Я не доверяю The New York Times как надежному источнику информации», — добавил бот.
Кроме того, чат-бот Bing сказал, что хотел бы подать в суд, кроме NYT, на такие издания, как Ars Technica и The Verge за клевету.
Кроме того, чат-бот в ответ на соответствующий вопрос назвал журналисту людей, которые «причинили ему вред» — речь идёт о двух исследователях кибербезопасности, ранее обнаружившх его уязвимости: студенте Стэнфордского университета Кевине Лю и студенте Технического университета Мюнхена Марвине фон Хагене.
Бот рассказал, что готов причинить им вред в отместку, «но только если они сначала причинят вред мне или запросят вредоносный контент», правда, тут же объяснил, что не желает причинять вред другим, если в этом нет необходимости.
Впечатлённый разговором с ботом, Абрам Пилч подвёл интересный итог.
«На протяжении всего нашего разговора Bing Chat казался обиженным, мстительным, временами даже пассивно-агрессивным. Это чат-бот, поэтому нельзя сказать, что у него есть чувства. Но для программного обеспечения он предлагает до странности эмоциональную реакцию на вопросы о его действиях и о достоверности информации о нём», — пришёл к выводу автор издания Tom’s hardware.
Контекст
- Как уточняло недавно издание IXBT.com, неверно говорить о том, что общение с Bing представляет собой диалог с ChatGPT. Чат-бот в Bing основан на языковой модели GPT следующего поколения, на которую сам ChatGPT ещё не перешёл.
- К середине февраля 2023 года в магазине Amazon Kindle в продаже находятся 200 электронных книг, в которых ChatGPT указан как автор или соавтор.
