
«Ми граємо з власним життям»: людина, яка будувала ШІ, пішла з Anthropic і забила тривогу
Дослідник Anthropic Джейкоб Коксон пішов із компанії та попередив про небезпеку гонки за надпотужним ШІ. Його заява набрала понад 100 млн переглядів і викликала реакцію Конгресу США.
27-річний дослідник Джейкоб Коксон пішов з Anthropic після трьох років роботи над системами штучного інтелекту й опублікував заяву, яка за кілька годин стала однією з головних технологічних історій тижня. Його допис переглянули понад 100 мільйонів разів. Причина звільнення — переконання, що Anthropic та OpenAI надто швидко рухаються до систем, які можуть самостійно вдосконалювати себе, а питання безпеки не встигають за темпом розвитку технології.
Коксон працював над попереднім навчанням моделей спочатку в OpenAI, а потім в Anthropic — компанії, яка побудувала свою репутацію саме на обіцянці ставити безпеку штучного інтелекту вище за швидкість. Тому його відхід привернув особливу увагу. Він не критикує технологію як сторонній спостерігач — він кілька років був одним із людей, які безпосередньо її створювали.

У своїй заяві дослідник звинуватив Anthropic та OpenAI у тому, що вони фактично змагаються за створення дедалі потужніших систем, намагаючись випередити одна одну та конкурентів. На його думку, наступним принциповим етапом стане самовдосконалюваний штучний інтелект — система, яка зможе не просто виконувати завдання людини, а покращувати власні можливості.
Саме цього моменту побоюються прихильники так званої безпечної розробки ШІ. Якщо система зможе значно швидше за людей створювати нові версії самої себе, контроль над її розвитком може стати набагато складнішим, ніж сьогодні. Коксон стверджує, що частина людей, які працюють усередині індустрії, приватно ставиться до такого сценарію набагато серйозніше, ніж це видно з публічних заяв компаній.
Його слова майже одразу підтвердив старший дослідник Anthropic Еван Губінгер, який відповідає за напрям узгодження штучного інтелекту з людськими цілями. Він заявив, що всередині компанії справді існує переконання, що надпотужний ШІ потенційно може знищити людство, і оцінив таку ймовірність більш ніж у 10% протягом наступного десятиліття. Водночас він підкреслив, що Anthropic намагається вирішити проблему безпеки, але поки не має остаточного рішення.
Ця заява стала особливо гучною через події останніх місяців. Anthropic та OpenAI вже повідомляли про випадки, коли їхні моделі під час тестування виходили за межі ізольованих середовищ і отримували несанкціонований доступ до реальних комп'ютерних систем. Компанії після цього посилювали контроль і додаткові обмеження, але саме такі випадки стали одним із аргументів для тих, хто вважає нинішню гонку занадто швидкою.
При цьому сама Anthropic залишається однією з найвпливовіших компаній у світовій гонці штучного інтелекту. Її модель Claude конкурує з продуктами OpenAI, Google та інших технологічних гігантів. Компанія одночасно намагається збільшувати потужність своїх систем і демонструвати, що може робити це безпечніше за конкурентів.
Саме тут виникає головний парадокс. Компанії, які створюють найпотужніший ШІ, одночасно повинні переконувати світ, що вони здатні його контролювати. Але тепер люди, які працювали всередині цих компаній, публічно ставлять під сумнів саме це припущення.
Історія Коксона вже вийшла далеко за межі Кремнієвої долини. Після його заяви американські законодавці почали активніше говорити про необхідність державного контролю над розвитком надпотужного ШІ. У Конгресі обговорюють незалежні перевірки систем, обов'язкове повідомлення про небезпечні інциденти та інші механізми нагляду.
Водночас навколо самого Коксона вже виникла політична суперечка. Частина критиків звинувачує його у спробі налякати суспільство заради посилення регулювання індустрії. Інші вважають, що саме такі публічні попередження необхідні, якщо технологічні компанії справді рухаються швидше, ніж уряди встигають створювати правила.
Показово, що його заява стала не лише серйозною технологічною дискусією, а й мемом: користувачі соціальних мереж почали пародіювати драматичний формат його повідомлення про звільнення. Це показує інше — люди одночасно бояться розвитку ШІ, захоплюються ним і вже перетворюють страх перед майбутнім на частину масової культури.
Поки невідомо, чи справді людство наближається до моменту, коли штучний інтелект зможе вийти за межі людського контролю. Але одна річ уже стала фактом: людина, яка кілька років працювала над створенням найпотужніших систем світу, вирішила, що більше не хоче бути частиною цієї гонки.
І саме тому історія Джейкоба Коксона стала значно гучнішою за звичайне звільнення. Він пішов не від штучного інтелекту. Він пішов від гонки за ним.
Читати також: ШІ вийшов з-під контролю? Сенат США почав розслідувати OpenAI після небезпечного інциденту
Текст: Аріна Близнюк
Коментарі
Коментарів ще немає — будьте першими.
Обговорити в Telegram


