Кривая Гартнера и разрыв ожиданий

Чтобы понять, почему вокруг ИИ так много шума, удобно посмотреть на так называемую кривую Гартнера. Это модель, которая описывает типичный жизненный цикл новых технологий.

Сначала идёт пик завышенных ожиданий – технология кажется почти магической. Затем наступает разочарование, когда становится понятно, что реальность не совпадает с рекламой. После этого начинается постепенное взросление: появляются реальные кейсы, практическая польза и более трезвое понимание ограничений. В финале технология выходит на плато стабильного использования.

Современный ИИ сейчас как раз проходит фазу завышенных ожиданий и частичного спуска в зону разочарования. Отсюда и главный конфликт: публичный образ «цифрового разума» не совпадает с тем, чем система является на практике.

Система предсказания, а не мышления

Когда технологические гиганты обещали нам «цифровой разум», они немного лукавили. Сам термин «искусственный интеллект» в текущем виде скорее вводит в заблуждение. То, что сегодня принято называть ИИ – это сверхмощные статистические калькуляторы, обученные безупречно имитировать человеческий язык. Они компилируют смыслы из огромных массивов текста, но не генерируют их самостоятельно.

Проще говоря, современный ИИ не думает. Он очень хорошо угадывает следующее слово – за громким названием скрываются не мыслящие сущности, а сложные статистические системы, обученные работать с огромными массивами данных.

Понимать эту разницу важно, потому что общественные ожидания от технологии всё чаще расходятся с её реальными возможностями.

Пределы современной архитектуры

Доминирующая архитектура нейросетей Transformer уже столкнулась с серьёзными ограничениями. Стратегия «залить ещё больше терабайтов текста и сжечь больше электричества» исчерпала себя. Модели научились лучше говорить, но не стали лучше думать.

Есть как минимум два системных ограничения, которые практически не решаются масштабированием:

1. Отсутствие реверсивной логики. Модель не умеет выстраивать причинно-следственную цепочку так, как это делает человек, двигаясь от результата к источнику проблемы.
2. Отсутствие динамической модели мира. Система не удерживает в памяти непрерывную картину реальности, а работает лишь с её «снимком» – набором статистических связей, сформированных в момент обучения.

Восстание машин не будет, но реальная угроза страшнее

Популярные страхи о захвате мира искусственным интеллектом сильно преувеличены. Современные модели слишком нестабильны и склонны к ошибкам, чтобы скрытно захватить планету и действовать автономно в критически важных условиях. Такой ИИ отключат на первом же шаге из-за банального бага в коде.

Настоящая опасность выглядит куда прозаичнее, и именно поэтому она опаснее. Она связана не с «сознанием машин», а с человеческой доверчивостью и склонностью переоценивать качество ответов, если они звучат уверенно и убедительно.

Опасность начинается в момент, когда люди готовы передавать системам принятие решений в сферах, где цена ошибки слишком высока: медицина, судебная система, критическая инфраструктура, оборонные объекты.

Убедительно сформулированный ответ не равен правильному решению. Это ключевая мысль, которую важно помнить при работе с ИИ-инструментами.

Парадокс автоматизации

Существует известный Парадокс Моравека – компьютерам легко даются задачи, которые долго считались вершиной человеческого интеллекта. Но действия, которые человек выполняет интуитивно, вроде движения, ориентации в пространстве или манипуляции предметами, до сих пор остаются крайне сложными для машин.

Например, роботы до сих пор с трудом складывают бельё, зато ChatGPT легко пишет дипломные работы, решает математические уравнения и обыгрывает человека в шахматы. Это и есть Парадокс Моравека в действии.

Индустрия пошла по пути наименьшего сопротивления. Вместо автоматизации тяжёлого физического труда, которая реально облегчила бы жизнь людей, мы получили автоматизацию цифрового производства контента. Результатом стала лавина информационного шума и фейков, в которой всё сложнее отличить правду от убедительной выдумки.

ANI против AGI

Можно ли считать ИИ настоящим интеллектом? Разумеется, нет – если под интеллектом понимать человеческий разум, способный к осознанию, целеполаганию, рефлексии и созданию нового знания из ничего. То, что мы имеем сегодня, – не более чем «псевдоинтеллект».

Для трезвой оценки происходящего важно различать два принципиально разных понятия.

ANI (Artificial Narrow Intelligence) – Узкий ИИ

Именно с ним мы работаем каждый день. Он блестяще справляется с конкретными задачами – находит раковые опухоли на снимках, оптимизирует логистику, переводит тексты. Но пасует перед простейшими логическими задачами вне своей специализации.

Простой способ проверить, насколько хорошо нейросеть понимает контекст – задать ей вопрос про автомойку в 200 метрах от дома и спросить, стоит ли идти туда пешком или поехать на машине. Ответы вас наверняка удивят.

AGI (Artificial General Intelligence) – Универсальный ИИ

Это гипотетическая система, способная мыслить и обучаться столь же гибко, как человек. То, что люди представляют, когда говорят «настоящий ИИ».

До появления подобной технологии человечество пока бесконечно далеко. Для этого потребуются не косметические улучшения текущих моделей, а принципиально новая архитектура и гораздо более глубокое понимание того, как формируется мышление и восприятие физического мира.

Зеркало человечества, а не новый разум

Обещанный «цифровой сверхразум» не появился. Человечество создало не цифрового бога и не терминатора, а информационное зеркало. Когда оно выдаёт ерунду, обманывает или уверенно несёт чушь, оно лишь отражает хаотичный, противоречивый и не всегда логичный массив данных, который создали сами люди.

Когда ИИ выдаёт абсурдные ответы или уверенно ошибается, это не проявление сознания. Это отражение качества данных, на которых система была обучена.

И в этом есть важный нюанс: каждый пользователь интернета уже повлиял на поведение таких моделей. Посты в соцсетях, комментарии, статьи, форумы, обсуждения, мемы, споры и даже откровенная дезинформация – всё это стало частью огромного цифрового массива, на котором обучались современные системы. ИИ не появился «из ниоткуда» – он буквально собран из человеческого контента, со всеми его достоинствами, предубеждениями, ошибками и хаосом.

Нейросеть не может создать знание «из ничего» или вопреки логике данных, потому что у неё нет главного двигателя эволюции – субъективного опыта. У модели ничего не болит, ей ничего не нужно, она не может захотеть решить задачу, которую в неё не загрузили.

В ближайшие годы главным преимуществом человека останутся вещи, которые алгоритмы пока не способны полноценно воспроизводить:

• критическое мышление;
• здравый смысл;
• способность сомневаться;
• моральная ответственность.

Технологии остаются инструментом. Решения по-прежнему принимают люди. И ответственность за последствия тоже остаётся на людях.