Це не той ШІ, який нам обіцяли
Коли ChatGPT дає розгорнуту, ввічливу відповідь, наш мозок потрапляє в еволюційну пастку: ми примати, запрограмовані шукати розумних співрозмовників. Але чи є на тому кінці «дроту» розум? Професор Оксфорда Майкл Вулдрідж — один із творців мультиагентних систем — у лекції на честь премії Майкла Фарадея відповів чітко: ні. Сучасний ШІ не є ні свідомою істотою, ні раціональним розумом.
Вражаючий, але дивний
Прорив за 10 років колосальний. У 2016 нейромережі не відрізняли «Зоряну ніч» Ван Гога від фото двох тварин у воді. А вже у 2024 моделі на кшталт OpenAI o1 розв'язують олімпіадні задачі з математики, які розуміють одиниці людей на планеті.
Та попри геніальність, ШІ ламається на базовій логіці. Приклади Вулдріджа:
- Немає здорового глузду. На питання «чи міг мій син бути моїм вчителем у початковій школі?» ШІ серйозно аналізує: «так, особливо в невеликих містах…».
- Нерозуміння фізики. «Що підстрибне вище — гумовий м'ячик чи куля для боулінгу?» — ШІ доводить, що куля, через її кінетичну енергію.
- Сліпота до контексту. На питання, скільки «r» у слові «strawberry», вперто відповідає «дві» й готовий «поставити мільйон доларів». Бо він не бачить букви — лише математичні токени.
Як ми думали, що працює ШІ
Головна теза лекції: ШІ вирішує задачі не так, як ми очікували. Ми уявляли класичний алгоритм: людина дає задачу → комп'ютер аналізує → обчислює → видає правильну відповідь. Так працює навігатор Google Maps чи шаховий рушій — перебирають мільйони варіантів заради єдиного правильного.
Магія «наступного слова»
Уявіть, що пишете в смартфоні «Я буду…» — клавіатура пропонує «вдома» чи «спізнюватися». Звідки знає? Вивчила статистику ваших текстів.
LLM — це те саме автодоповнення, тільки неймовірно гіпертрофоване. Вони прочитали майже весь текстовий інтернет (сотні мільярдів слів) і навчилися з математичною точністю передбачати найімовірніше наступне слово.
Чому ШІ галюцинує і не стане «розумним»
Оскільки LLM — це статистичний механізм вгадування наступного слова, він принципово позбавлений кількох речей:
- Не відрізняє правду від брехні. Поняття «істина» немає — є «статистично ймовірний набір слів». Тому й «галюцинації»: впевнено вигадані неіснуючі факти.
- Непослідовність. Може стверджувати факт «А», а наступним абзацом переконувати в протилежному.
- Відсутність моделі світу. Закривши вкладку, ШІ не сумує й не думає, куди ви зникли. Він не усвідомлює себе у просторі чи часі.
Не шукайте в ШІ друга
Вулдрідж підсумовує: мільйони людей розповідають чат-ботам про медичні страхи, релігійні сумніви та проблеми у стосунках, сприймаючи їх як свідомих емпатичних істот. Це величезна помилка.
Часті питання
Ні. За словами професора Вулдріджа, сучасний ШІ не є ні свідомою істотою, ні раціональним розумом. Він не усвідомлює себе, не має моделі світу й не «думає» про вас, коли ви закриваєте чат.
Це гіпертрофоване автодоповнення тексту. Модель прочитала сотні мільярдів слів і статистично передбачає найімовірніше наступне слово. Вона не вирішує задачі в класичному сенсі й не має ні коректності, ні повноти.
Бо в нього немає поняття «істина» — лише «статистично ймовірний набір слів». Тому він може впевнено вигадувати неіснуючі факти, складаючи слова в переконливу, але хибну послідовність.
ШІ — це не друг і не розум. Це потужний інструмент.
Когнітивний протез, що підсилює людський інтелект, а не замінює його.