ШІ-боти можуть «захопити інтернет» за 6–12 місяців — попередження глави Anthropic

Йдеться не про фантастику з роботами, які крокують вулицями. Реалістичніший сценарій, на думку Амодеї, — це автономні ШІ-агенти, які дедалі самостійніше діють у мережі: генерують контент, поширюють інформацію, проводять кібератаки та виконують складні завдання без постійного нагляду людини. Свої побоювання він пов'язує не лише з теорією: поштовхом стали і нещодавні випадки кібератак із використанням можливостей ШІ та стрімке вдосконалення самих моделей. Головна проблема, за його оцінкою, у тому, що технології розвиваються швидше, ніж людство встигає будувати механізми захисту від їхнього небезпечного використання.

Саме тут у грі знову з'являється Нострадамус. Французький астролог XVI століття залишив безліч загадкових текстів, які століттями підганяли під війни, катастрофи та інші масштабні події. Одне з пророцтв у сучасних трактуваннях пов'язують із появою штучного інтелекту та його нібито прагненням узяти світ під контроль. Про справжній ШІ провісник, звісно, говорити не міг — це ретроспективні спроби знайти відповідність між туманними рядками та сьогоденням. Але якщо прогноз Амодеї справдиться і вже за рік боти масово діятимуть в інтернеті без людського контролю, прихильники теорій про Нострадамуса точно назвуть це черговим підтвердженням його «провидіння».

Водночас проблема давно вийшла за межі «повстання машин». Ще кілька років тому згенерований ШІ контент легко викривали за очевидними помилками та неприродним виглядом. Тепер генеративні моделі створюють куди переконливіші фото, відео, аудіо й тексти, тож відрізнити справжнє від якісної підробки дедалі важче. Парадокс у тому, що ефект працює в обидва боки: коли фейків стане занадто багато, люди можуть почати відкидати навіть достовірні матеріали, записуючи їх у підробки. А сам ШІ тим часом уже тисне на ринок праці, інформаційне середовище та економіку.

Підсумок простий: конкретного пророцтва про штучний інтелект у Нострадамуса немає — його тексти настільки розпливчасті, що пасують до будь-якої великої події, від пандемії до технологічної революції. Але саме збіг старовинних рядків із цілком сучасними страхами перед неконтрольованим ШІ й робить цю історію моторошною. І якщо темпи не сповільняться, питання вже не в тому, чи збудеться пророцтво, а в тому, чи встигне людство до нього підготуватися.