Загадка запитань, що зникли
У листопаді 2022 року OpenAI представила ChatGPT. За шість місяців Stack Overflow зафіксував падіння числа нових запитань приблизно на 25%. Таке спостереження в 2024 році описали Р. Марія дель Ріо-Чанона, Надзея Лаврентьєва та Йоганнес Вакс у PNAS Nexus.
Здавалося б, причина очевидна: навіщо питати форум, якщо бот відповість миттєво? Проблема глибша. Коли розробник розміщував питання публічно, він створював слід для тисяч майбутніх читачів. Розмова з чат-ботом залишається лише в особистому вікні користувача. Публічний слід зникає.
Два види знань, які тримаються одне за одного
Щоб зрозуміти наслідки, розділимо знання на два типи.
- Загальні знання — це системи принципів, які передаються поколінням: закони фізики, основи діагностики, юридичні норми.
- Контекстні знання — деталі про конкретну ситуацію: симптоми конкретного пацієнта, обставини певної справи, параметри інвестиційного портфеля.
Ці типи працюють лише разом. Приклад: навігатор каже «поворот праворуч через 200 метрів» — це контекст. Без розуміння простору і напрямків сама підказка марна.
Магер Каллель і Мохамед Ель Луаді відзначають: будь-яке точне рішення втрачає сенс, якщо людина не має загальної рамки для його розуміння.
Як народжується спільна скарбничка знань
Звідки беруться загальні знання? Вони формуються завдяки людській праці й обміну.
Лікар, що довго розбирається зі складним випадком, отримує приватне розуміння лікування цього пацієнта. Одночасно він може створити публічний сигнал — статтю або пояснення колегам. Перше залишається особистим. Друге поповнює професійну скарбничку знань.
Це явище схоже на загальне пасовище: індивід вкладає зусилля, а вигоду від загального ресурсу отримує весь колектив. Гаррет Гардін у 1968 році назвав це «трагедією спільних благ».
Коли люди вкладають час і інтелект, користь поширюється на всіх. Тому суспільство зазвичай трохи недоінвестує в спільні знання. Кожному вигідніше тримати результати для себе.
Замкнене коло, яке підриває саме себе
А тепер уявіть агентний ШІ — систему, що не лише підказує, а виконує завдання за людину. Вона замінює приватний сигнал, але не створює публічного сліду.
ШІ дає готову відповідь особисто й «забуває» її. Через це люди менше докладають зусиль. Менше зусиль — менше публічних слідів. Менше слідів — тонша база загальних знань. І врешті це б’є по самих моделях ШІ, які навчаються на текстах людей. Система споживає ресурс, що робить її цінною.
Дослідники застерігають: це не незворотний закон, а конструкція моделі. Колапс трапиться лише якщо люди швидко перестануть старатися — явище, яке автори називають «еластичністю зусиль». Якщо ж люди продовжуватимуть робити зусилля, публічний сигнал не зникне.
Чому професіонали часто не втрачають мотивації? Причини різні.
- Лікаря стримує ліцензування — помилку легко виявити.
- Юриста мотивує професійна відповідальність перед клієнтом.
- Науковця тримає щира цікавість до задачі.
Парадокс: чому надточний ШІ може бути гіршим за менш точний
Економіст Дарон Аджемоглу з MIT та колеги склали економічну модель. Вони виявили несподіване: користь від ШІ не завжди зростає разом із точністю.
На ранніх етапах підвищення точності дає чисті виграші — менше помилок, кращі рішення. Але після певного порога домінує інший ефект: посилене використання ШІ виснажує спільні знання, що перевищує вигоду від більшої точності.
У теорії існує оптимальний рівень точності, який не обов’язково є максимальним. Автори прямо спростовують тезу «точніший ШІ завжди гірший». Результат обережніший: користь може спадати лише за конкретних умов, і чи реалізуються вони в реальному житті — поки невідомо.
Модель пропонує більш математичну альтернативу тривожним прогнозам про безповоротну катастрофу.
П’ять причин не панікувати завчасно
Автори моделі самі вказують на щонайменше п’ять слабких місць своєї побудови.
- Модель розділяє знання лише на два типи і не враховує нових компетенцій, що виникають з взаємодії людини і машини.
- Вона припускає, що ШІ лише переробляє старе, не створює нового. Але AlphaFold уже виявив сотні тисяч нових білків, додавши справжнє наукове знання.
- Ключовий параметр — «еластичність зусиль» — досі не виміряли. Це найвразливіша частина моделі.
- Історія знає подібні побоювання. Сократ у «Федрі» вважав, що письмо шкодитиме пам’яті. Друкарський верстат і калькулятор теж викликали страхи, але не знищили мислення.
- Рецепт «навмисно робити ШІ менш точним» практично нереальний. Компанії не погодяться псувати продукти, а міжнародна координація майже неможлива.
Друга модель: звичка до ШІ як вірус, що поширюється
Інша команда дослідників на чолі з Рікардом Соле підійшла інакше. Вони застосували епідеміологічні моделі до розповсюдження звички користуватися ШІ.
Авторам не йдеться про буквальний вірус. Вони використовують математику, схожу на ту, що описує спалахи інфекцій, аби моделювати поведінкові зміни.
У їхній моделі населення ділять на три групи.
- «Нез’єднані» — люди, які майже не користуються ШІ і покладаються на власне мислення.
- «З’єднані, але автономні» — ті, хто регулярно користується ШІ, але зберігає звичку перевіряти та думати самостійно.
- «Залежні» — люди, для яких ШІ став основним способом вирішувати розумові задачі.
Точка неповернення
Головний висновок моделі — не поступове зростання, а різкий стрибок. Поведінка змінюється ніби дверна клямка: поки тиску недостатньо, клямка не рухається. Та щойно тиск перевищує поріг, вона різко клацає.
За прикладом авторів, якщо «тиск» поширення ШІ нижчий за половину умовної шкали, населення залишатиметься автономним. Але після перетину порога суспільство стрибком переходить у режим масової залежності від ШІ.
Повернути назад складніше, ніж запобігти. Щоб «заразити» населення, достатньо підняти тиск до половини шкали. А щоб відновити автономність, треба знизити тиск приблизно до 40% — на 20% менше, ніж поріг зараження.
У наведеному прикладі «когнітивна компетентність» населення падає з 100% до приблизно 42% після перетину порога. Відновлення вимагає значніших зусиль, ніж просте повернення до попередніх умов.
Колективний імунітет для мислення
Чому ефект стрибкоподібний? У рівняннях моделі є доданок, що відповідає за «колективне підкріплення» самостійного мислення.
Ідея простіша: людині легше залишатися автономною, коли поруч багато автономних людей. Школа, колеги чи друзі підтримують звичку перевіряти факти й думати самостійно. Це нагадує колективний імунітет.
Дослідники називають цей ефект «когнітивною імунізацією». Він означає не відмову від ШІ, а збереження стійкості до залежної форми взаємодії з ним.
Модель показує: якщо полегшити повернення до самостійної роботи і зробити його соціально підтримуваним — поріг підніметься, а розрив між зараженням і одужанням звузиться. В оптимальних умовах стрибок може взагалі зникнути.
Що показують реальні експерименти
Теорія знаходить підтвердження в кількох експериментах.
Наталія Космина з MIT Media Lab у 2025 році просканувала мозок учасників, які писали есе з допомогою ChatGPT. У тих, хто користувався ботом, виявили слабші зв’язки між ділянками мозку. Більшість цієї групи не змогли потім процитувати власні тексти. Дослідження невелике і короткочасне, але його результати викликають увагу.
В іншому експерименті людей попросили спочатку поміркувати самим, а потім звернутися до ChatGPT. Ця група показала кращу самостійну творчість, ніж ті, хто відразу отримав доступ до бота.
Команда, до якої входили фахівці Microsoft, опитала працівників розумової праці. Вони виявили: чим більше людина довіряє відповіді ШІ, тим менше вона докладає зусиль до її критичного осмислення.
Автори роблять різницю між двома формами підтримки. «Риштування» полегшує завдання зараз і водночас підвищує здатність людини впоратися самотужки наступного разу. «Заміщення» повністю знімає потребу думати. Перше корисне. Друге ризиковане.
Чому це важливо. Різниця стосується школярів і студентів. Якщо ШІ дає готову відповідь, навичка втрачається. Якщо ж він пояснює логіку і підштовхує до власного вирішення, навичка зміцнюється. Річ не в самому інструменті, а в способі його використання.
Що з цим можна зробити
Головний висновок обох досліджень — не панікувати, а робити свідомий вибір.
Автори економічної моделі наполягають: реалістичний спосіб захисту — не робити ШІ гіршим, а зміцнювати інститути, що збирають і перевіряють людські знання. Це відкриті бази даних, професійні спільноти та університети як хранителі перевіреного знання.
Дослідники, які моделювали «когнітивний вірус», пропонують практичні кроки:
- захищений час для самостійної роботи без підказок;
- вимога перевіряти відповіді ШІ;
- періодична практика без інструментів;
- освітні завдання, де ШІ підтримує хід думки, а не замінює його.
У випадках стійкої залежності може знадобитися психологічна підтримка, кажуть автори, за аналогією з іншими поведінковими залежностями.
Жоден висновок не стверджує, що катастрофа неминуча. Обидві команди підкреслюють: це сценарії, що залежать від параметрів, які ще треба виміряти. Саме тому варто почати вимірювання вже зараз, поки суспільство залишається по той бік порога.
