Світова технологічна еліта вперше виступила з відкритим і безпрецедентним за своєю тривогою ультиматумом, попередивши людство про небезпечне наближення моменту, коли штучний інтелект остаточно вийде з-під людського контролю через здатність безперервно вдосконалювати власний код. Понад двадцять провідних дослідників, науковців та керівників найпотужніших світових ШІ-корпорацій, серед яких ключові постаті з Anthropic, OpenAI, Meta та Microsoft, оприлюднили спільну доповідь про критичні ризики повної автоматизації розробки алгоритмів. Творці передових нейромереж звернулися до світових лідерів та політиків із вимогою негайно встановити жорсткий наднаціональний нагляд за закритими лабораторіями, які вже сьогодні довіряють штучному розуму проєктування наступних поколінь цифрового інтелекту, наближаючи технологічний сингулярний стрибок, до якого сучасна цивілізація виявилася абсолютно не готовою.
Серед авторів тривожного маніфесту опинилися справжні піонери та архітектори галузі — співзасновник Anthropic Джек Кларк, головний науковий співробітник OpenAI Якуб Пахоцький, а також визнані батьки сучасного машинного навчання Джеффрі Гінтон і Йошуа Бенджіо. Вчені б’ють на сполох через катастрофічну загрозу так званого «інтелектуального вибуху» — явища, за якого алгоритми почнуть масштабувати власні можливості в геометричній прогресії, остаточно нівелюючи будь-який людський нагляд та регулювання. «Попередні дані свідчать, що інтелектуальний вибух, зумовлений удосконаленням програмного забезпечення, можливий. Якщо він станеться, це може бути найвагоміша за наслідками технологічна подія в історії», — безапеляційно констатують автори, додаючи похмуре застереження: «Щойно інтелектуальний вибух почнеться, вікно для дій може зачинитися».
Масштаби технологічної залежності вже сьогодні шокують своєю динамікою: компанія Anthropic офіційно підтвердила, що чат-бот Claude наразі самостійно керує понад двадцятьма шістьма відсотками внутрішніх досліджень і розробок нових моделей штучного інтелекту, хоча ще на початку дві тисячі двадцять шостого року ця частка була практично нульовою. Усвідомлюючи невідворотність ризиків, розробники вимагають запровадити суворий аудит центрів обробки даних, розробити надзвичайні протоколи кризового реагування на випадок втрати контролю над системами та штучно пригальмувати перегони цифрових озброєнь. Заклик генерального директора Anthropic Даріо Амодеї про сповільнення темпів створення надпотужних систем уже публічно підтримали Сем Альтман та Ілон Маск, а спільний виступ керівників галузі на засіданні Ради Безпеки ООН став виразним сигналом: якщо світові уряди не візьмуть дата-центри під тотальний контроль уже сьогодні, завтра алгоритми самі визначатимуть правила виживання людства.
