На днях в одной из популярных групп на Facebook, посвящённой грибам, появился новый чат-бот FungiFriend. Присутствие помощника вызвало бурную дискуссию среди участников, когда ИИ порекомендовал обжаривать в масле ядовитый гриб. Об этом пишет SecurityLab.
На этот раз речь идёт о внедрении FungiFriend в группу с более 13 тыс. участников, многие из которых — новички, ищущие советы по идентификации грибов. Модераторы группы заявили, что бот был добавлен Meta автоматически и что его уже убирают из сообщества.
Meta недавно начала активно добавлять чат-боты в определённые группы, представляя различные виртуальные персонажи. Однако подобные действия вызывают опасения среди специалистов. Отраслевые эксперты отмечают, что ИИ-инструменты начинают использоваться для помощи новичкам, но способность различать съедобные и ядовитые грибы требует навыков, которые нейросети пока не могут надёжно воспроизводить.
Внешне FungiFriend представлен в виде бородатого волшебника в психоделическом стиле. Один из участников группы задал боту вопрос о приготовлении гриба Sarcosphaera coronaria, который ранее считался съедобным, но, как известно, накапливает мышьяк и может быть смертельно опасен. FungiFriend посоветовал приготовить гриб, обжарив в масле или добавив в суп, что вызвало серьёзное беспокойство среди пользователей.
Отмечается, что новички часто публикуют фотографии грибов прямо с телефонов, находясь на природе, чтобы получить быстрый ответ от более опытных участников. Если информация окажется неверной, другие пользователи могут её скорректировать. В случае с чат-ботом консультации проходят в личных сообщениях, что повышает риск неправильных рекомендаций.
Ранее СМИ уже сообщали об угрозах, связанных с использованием ИИ в хобби по сбору грибов. В частности, на Amazon появились книги с советами, сгенерированными ИИ.
Контекст
- Недавно в Сети распространялись утверждения о существовании в природе вида грибов, которые, если их съесть хотя бы один раз, могут накормить человека до самой смерти. Фактчекеры выяснили, что информация верна, но только технически и в пределах оговорённой логики.
