Чому ШІ ніколи не замінить людину?

Термін «Штучний інтелект» виявився грандіозним мовним трюком. Розбираємося, що насправді ховається за гарною назвою і чому це важливо знати кожному.

Крива Гартнера та розрив очікувань

Щоб зрозуміти, чому навколо ШІ так багато шуму, варто звернути увагу на так звану криву Гартнера. Це модель, яка описує типовий життєвий цикл нових технологій.

Спочатку настає пік завищених очікувань – технологія здається майже магічною. Потім приходить розчарування, коли стає зрозуміло, що реальність не відповідає рекламі. Після цього починається поступове дорослішання: з’являються реальні кейси, практична користь і більш тверезе розуміння обмежень. У фіналі технологія виходить на плато стабільного використання.

Сучасний ШІ зараз саме проходить фазу завищених очікувань і часткового спуску в зону розчарування. Звідси й головний конфлікт: публічний образ «цифрового розуму» не збігається з тим, чим система є на практиці.

Система передбачення, а не мислення

Коли технологічні гіганти обіцяли нам «цифровий розум», вони трохи лукавили. Сам термін «штучний інтелект» у поточному вигляді скоріше вводить в оману. Те, що сьогодні прийнято називати ШІ, – це надпотужні статистичні калькулятори, навчені бездоганно імітувати людську мову. Вони компілюють сенси з величезних масивів тексту, але не генерують їх самостійно.

Простими словами, сучасний ШІ не думає. Він дуже добре вгадує наступне слово – за гучною назвою ховаються не мислячі істоти, а складні статистичні системи, навчені працювати з величезними масивами даних.

Розуміти цю різницю важливо, оскільки суспільні очікування від технології все частіше розходяться з її реальними можливостями.

Межі сучасної архітектури

Домінуюча архітектура нейронних мереж Transformer вже зіткнулася з серйозними обмеженнями. Стратегія «залити ще більше терабайтів тексту та спалити більше електроенергії» вичерпала себе. Моделі навчилися краще говорити, але не стали краще думати.

Існує принаймні два системних обмеження, які практично не вирішуються масштабуванням:

1. Відсутність зворотної логіки. Модель не вміє будувати причинно-наслідковий ланцюжок так, як це робить людина, рухаючись від результату до джерела проблеми.
2. Відсутність динамічної моделі світу. Система не зберігає в пам’яті безперервну картину реальності, а працює лише з її «знімком» – набором статистичних зв’язків, сформованих у момент навчання.

Восстання машин не станеться, але реальна загроза страшніша

Популярні страхи щодо захоплення світу штучним інтелектом сильно перебільшені. Сучасні моделі занадто нестабільні та схильні до помилок, щоб таємно захопити планету й діяти автономно в критичних умовах. Такий ШІ буде вимкнено на першому ж кроці через банальну помилку в коді.

Справжня загроза виглядає набагато прозаїчніше, і саме тому вона небезпечніша. Вона пов’язана не зі «свідомістю машин», а з людською довірливістю та схильністю переоцінювати якість відповідей, якщо вони звучать впевнено й переконливо.

Загроза виникає в момент, коли люди готові передати системам прийняття рішень у сферах, де ціна помилки занадто висока: медицина, судова система, критична інфраструктура, оборонні об’єкти.

Переконливо сформульована відповідь не дорівнює правильному розв’язку. Це ключова думка, яку важливо пам’ятати під час роботи з інструментами штучного інтелекту.

Парадокс автоматизації

Відомий парадокс Моравека стверджує: комп’ютери легко виконують завдання, які довго вважалися вершиною людського інтелекту. Проте дії, що людина виконує інтуїтивно, наприклад рух, орієнтація у просторі чи маніпулювання предметами, досі залишаються надзвичайно складними для машин.

Наприклад, роботам досі важко складати білизну, тоді як ChatGPT легко пише дипломні роботи, розв’язує математичні рівняння та перемагає людину в шахи. Це і є Парадокс Моравека в дії.

Індустрія пішла шляхом найменшого опору. Замість автоматизації важкої фізичної праці, яка реально полегшила б життя людей, ми отримали автоматизацію цифрового виробництва контенту. Результатом стала лавина інформаційного шуму та фейків, у якій все складніше відрізнити правду від переконливої вигадки.

ANI проти AGI

Чи можна вважати ШІ справжнім інтелектом? Звісно, ні – якщо під інтелектом розуміти людський розум, здатний до усвідомлення, цілепокладання, рефлексії та створення нового знання з нічого. Те, що ми маємо сьогодні, – не більше ніж «псевдоінтелект».

Для тверезої оцінки того, що відбувається, важливо розрізняти два принципово різних поняття.

ANI (Штучний вузький інтелект) – ШІ

Саме з ним ми працюємо щодня. Він блискуче справляється з конкретними завданнями – знаходить ракові пухлини на знімках, оптимізує логістику, перекладає тексти. Але поступається перед найпростішими логічними завданнями поза своєю спеціалізацією.

Простий спосіб перевірити, наскільки добре нейромережа розуміє контекст, – запитати її про мийку для автомобілів за 200 метрів від дому та дізнатися, чи варто йти туди пішки, чи їхати машиною. Відповіді вас, мабуть, здивують.

AGI (Штучний загальний інтелект) – універсальний ШІ

Це гіпотетична система, здатна мислити та навчатися так само гнучко, як людина. Те, що люди мають на увазі, коли говорять про «справжній ШІ».

До появи подібної технології людство ще безмежно далеко. Для цього знадобляться не косметичні покращення поточних моделей, а принципово нова архітектура та набагато глибше розуміння того, як формується мислення та сприйняття фізичного світу.

Дзеркало людства, а не новий розум

Обіцяний «цифровий надрозум» не з’явився. Людство створило не цифрового бога і не термінатора, а інформаційне дзеркало. Коли воно видає дурниці, обманює або впевнено несе чуху, воно лише відображає хаотичний, суперечливий і не завжди логічний масив даних, який створили самі люди.

Коли ШІ видає абсурдні відповіді або впевнено помиляється, це не прояв свідомості. Це відображення якості даних, на яких система була навчена.

І тут є важливий нюанс: кожен користувач інтернету вже вплинув на поведінку таких моделей. Пости в соцмережах, коментарі, статті, форуми, обговорення, меми, суперечки та навіть відверта дезінформація – усе це стало частиною величезного цифрового масиву, на якому навчалися сучасні системи. Штучний інтелект не з’явився «з нізвідки» – він буквально складений із людського контенту, зі всіма його перевагами, упередженнями, помилками та хаосом.

Нейромережа не може створити знання «з нічого» чи всупереч логіці даних, оскільки в неї немає головного двигуна еволюції – суб’єктивного досвіду. У моделі нічого не болить, їй нічого не потрібно, вона не може захотіти вирішити завдання, яке в неї не завантажили.

У найближчі роки головною перевагою людини залишаться речі, які алгоритми ще не здатні повноцінно відтворити:

• критичне мислення;
• здравий глузд;
• здатність сумніватися;
• моральна відповідальність.

Технології залишаються інструментом. Рішення все ще приймають люди. І відповідальність за наслідки також залишається на людях.