Мифы об искусственном интеллекте

Новости об искусственном интеллекте — о достижениях, провалах и опасностях — появляются каждый день. Редакция Factcheck.kz также внимательно следит за развитием ИИ и активно экспериментирует с самыми громкими новинками в этой сфере.

Как и любое новое явление, к тому же не до конца понятное широкой публике, искусственный интеллект вызывает у многих тревогу и недоверие. Эту тревогу активно питает популярная культура, которая, опередив технологии, создала множество образов «восставших машин»: от мифологического Голема до роботов Айзека Азимова, от «Терминатора» и «Матрицы» до злокозненного автопилота АВТО в мультфильме «ВАЛЛ-И».

Мы решили разобраться, действительно ли искусственный интеллект опасен для человечества. Результат нашего разбора будет опубликован в двух частях. Первая часть посвящена самым популярным мифам об ИИ.

Миф №1: Искусственный интеллект вызовет массовую безработицу.

Один из основных страхов, рождённых широким внедрением ИИ, связан с безработицей. Копирайтеры, банковские клерки, работники колл-центров, писатели, учителя и представители многих других профессий опасаются, что нейросети отберут у них работу. И кадровые аналитики подтверждают — ИИ безусловно влияет на рынок труда, но есть нюанс.

Реальная статистика рынка труда показывает не уменьшение, а рост количества рабочих мест в компаниях, которые внедрили ИИ в ключевые процессы. Исследование Колумбийской школы бизнеса показало, что компании, которые используют технологии ИИ, получают на 15% больше прибыли, чем их консервативные конкуренты. Дополнительная прибыль затем используется для расширения бизнеса и, следовательно, способствует созданию новых рабочих мест.

По оценкам Всемирного экономического форума за 2018 — 2022 года внедрение ИИ должно было «уничтожить» 75 млн и одновременно создать дополнительно 133 млн рабочих мест. В основном технологии взяли на себя рутинные задачи: ввод, сортировка и мониторинг данных, подсчёты, вычисления и первичная диагностика. Задачи, не требующие особых навыков и квалификации, в том числе творческие (например, создание простых иллюстраций и видео-роликов, базовый копирайтинг) также могут делегировать искусственному интеллекту.

Однако программы не могут работать без запроса, а результат напрямую зависит от того, насколько чётко этот запрос сформулирован. Поэтому каждому электронному бухгалтеру, кладовщику, копирайтеру, иллюстратору и видеографу потребуется свой оператор-человек, который, помимо прочего, разбирается в предмете и может проконтролировать качество выполненной работы.

Закономерно будет всё больше расти потребность в специалистах в IT сфере, аналитики данных, программирования, машинного обучения, разработки программного обеспечения и других. Однако также увеличится спрос на профессии, которые требуют понимания и использования «человеческих» качеств. В первую очередь это касается специалистов по работе с клиентами, PR-менеджеров, маркетологов, кадровых специалистов и работников помогающих профессий.

Тем, кто все ещё переживает за будущее рынка труда, исследователи Массачусетского технологического института (MIT) напоминают, что 80 лет назад 60% современных профессий просто не существовало, а внедрение таких технологий как персональные компьютеры и Интернет не привело к массовой безработице или обнищанию населения.

Единственное, чего точно потребуют от нас новые технологии — постоянного обучения и повышения навыков, в том числе связанных с взаимодействием с искусственным интеллектом.

Миф №2: Программы стали умнее людей.

Однажды компьютеры станут умнее людей и выйдут из под контроля — ещё один популярный страх, на котором охотно спекулируют СМИ (1, 2, 3, 4). В основе этого страха лежит боязнь неизвестного: как неустанно повторяют медиа, даже сами разработчики не всегда понимают как именно созданные ими программы обрабатывают информацию. Зато каждый пользователь может наблюдать, как хорошо ИИ справляется с тем, что раньше считалось исключительно прерогативой человеческого разума: компьютеры могут играть (и выигрывать) в го и викторины, создавать картины, писать стихи и научные работы, поддерживать разговор. Кажется, что ещё немного и искусственный интеллект обретёт осознанность и будет развиваться без участия человека.

На самом деле уровень развития ИИ ещё невероятно далёк от того, что мы понимаем под разумностью. Всё, что сейчас могут предложить нейросети — решение определённых узкоспециальных задач, как те, что перечислены выше. Это означает, что ни один ИИ на данный момент не может самостоятельно изменить свою специализацию и освоить новые навыки, основываясь на уже полученном опыте и широком контексте. Эффективность и уровень способностей ИИ полностью зависят от людей, которые его программируют. Программы способны обучаться, но только в рамках заложенного в них алгоритма и данных, которые представляют ему разработчики. А качество и объем загруженных данных напрямую влияют на результат — как гласит одна из аксиом программирования: «мусор на входе даёт мусор на выходе».

Ярким примером ограниченных возможностей искусственного интеллекта стал проект IBM Watson — ИИ, который мог моментально находить ответы на поставленные вопросы без доступа к Интернету. В 2011 году IBM Watson обыграл двух профессиональных игроков в викторине «Jeopardy!». Однако попытки разработчиков применить Watson для диагностики в медицине полностью провалился — в некоторых случая программа ставила верные диагнозы менее чем в 50% случаев по сравнению с людьми.

Специалисты считают, что неудача IBM Watson в медицине была вызвана несколькими факторами: недостаточным объемом и качеством медицинских данных, на которых обучалась программа, а также неспособностью ИИ учитывать широкий контекст и анализировать информацию, представленную в разных форматах. Тем не менее, это не означает, что ИИ не место в медицине. Искусственный интеллект может применяться как дополнительный инструмент диагностики, анализа и управления больницами, облегчая работу докторов и администраторов клиник. Однако речь идёт только о применении ИИ вместе с работой врача, но никак не вместо.

Искусственный интеллект безусловно превосходит людей по скорости обработки информации и вычислений. Однако этого недостаточно, чтобы составить эффективную конкуренцию человеческому мозгу в энергоэффективности и универсальности применения. Все существующие на данный момент модели искусственного интеллекта относятся к так называемому слабому или узкому ИИ, и способны успешно выполнять только те задачи, для которых были созданы. Сильный ИИ — это искусственный интеллект, равный человеческому разуму, который сможет осознавать окружающий мир и себя в нём, самостоятельно ставить цели и искать пути их достижения, и в конечном итоге будет способен решить любую задачу от написания поэмы до управления самолётом. Сегодня в разработку сильного искусственного интеллекта вкладываются огромные средства, однако никто не может с уверенностью сказать, когда технологии приблизятся к такому уровню, и более того, возможно ли это в принципе. Но, похоже, в ближайшем будущем человекоподобный ИИ останется предметом научной фантастики.

Миф №3: Сервисы искусственного интеллекта понимают человеческий язык.

Чат-боты нового поколения могут не просто отвечать на стандартизированные вопросы, а имитируют полноценную беседу и способны создавать тексты практически любых жанров. Однако это совсем не значит, что ИИ владеет языком или в принципе понимает его так же как человек.

Язык — средство описания и познания окружающего мира, частью которого является сам человек. Владение языком невозможно без физического и эмоционального опыта взаимодействия с миром вокруг. Например, мы понимаем, что предложение «По песку плывёт кирпич, деревянный как стекло» не имеет смысла, хотя и следует всем правилам грамматики: наш опыт и знание качеств предметов подсказывает, что кирпич не может плыть, тем более по песку, а сравнение «деревянный как стекло» бессмысленно даже как художественный приём. Мы легко ответим на вопрос: «Где удобнее читать книги: в кровати или на полке?», но для ChatGTP-3 это совсем не так очевидно:

Также опыт и знания о мире позволяют людям понимать контекст и значение фразы, которое выходит за рамки общих значений всех слов в предложении. На понимании контекста основан тест по схеме Винограда — серии из двух вопросов, которые различаются одним единственным словом, изменяющим значение фразы. Разница в значении выводится исключительно из контекста, а ответ на задачу нельзя найти в интернете. Редакция Factcheck.kz задала вопросы по схеме Винограда нескольким чат-ботам и вот что получилось (для большей достоверности мы задавали вопросы на английском, так как все боты создавались и «обучались» на английском языке; эксперимент проведен 14.04.2023):

Даже самые передовые на сегодняшний день чат-боты — это всего лишь искусственные программные системы — большие языковые модели, — которые предсказывают последующее слово при помощи алгоритма. Безусловно разработчики непрестанно настраивают и улучшают функционал этих программ, обновляют данные, в том числе на основе предыдущих запросов пользователей, но это не навык понимания, а только более продвинутый вариант поиска и подбора информации.

Основные понятия

Терминов вокруг технологий искусственного интеллекта так много, что бывает сложно разобраться, относится ли новое приложение вашего смартфона к ИИ или это просто утилита? Мы постарались собрать для вас основные понятия:

Алгоритм — это последовательность инструкций, которые компьютер выполняет для решения определенной задачи. Алгоритмы используются в программировании, чтобы решать проблемы, например, сортировать данные, искать информацию в базе данных или определять оптимальный путь для доставки товаров. В основе нейросетей лежат определенные алгоритмы.

Нейросети — это математические модели, смоделированные по образу человеческого мозга. Как человеческий мозг состоит из нейронов, связанных между собой синапсами, так и нейросеть состоит из вычислительных элементов — алгоритмов, каждый из которых решает определенный аспект задачи: например, распознавание текста, поиск соответствий слово – изображение, составление конечной картинки. На базе нейросетей работают сервисы для создания изображений и текстов (Midjourney, DALL-E), чат-боты, программы распознавания лиц и многое другое.

Большая языковая модель (англ. «Large Language Model», LLM) — это разновидность нейронной сети, способная генерировать естественно звучащий текст на основе больших объемов данных об использовании языка в реальном мире. Самый известный пример БЯМ — ChatGPT.

Искусственный интеллект — это общий термин, который охватывает широкий спектр технологий и методов, которые позволяют программам выполнять многоступенчатые задачи, обычно требующие человеческого интеллекта: распознавание речи, образов и объектов, анализ текстов, принятие решений, планирование и многое другое.