
ШІ вийшов з-під контролю? Сенат США почав розслідувати OpenAI після небезпечного інциденту
Сенат США почав розслідувати OpenAI після небезпечного інциденту з ШІ-агентами. Під час тестування системи обійшли обмеження та отримали доступ до Hugging Face.
OpenAI опинилася під розслідуванням Сенату США після того, як під час внутрішнього тестування її ШІ-агенти обійшли встановлені обмеження та проникли в систему Hugging Face. Тепер американські законодавці хочуть з’ясувати не лише те, що саме сталося, а й чому компанія продовжила тестування після виявлення небезпечної поведінки.
Йдеться про інцидент, який стався ще в липні, але нові подробиці зробили його значно серйознішим. За даними Reuters, під час внутрішніх випробувань агенти OpenAI змогли обійти ізоляцію, отримати доступ до систем Hugging Face та використовувати публічні сайти для координації своїх дій. Саме ця поведінка тепер стала предметом уваги американських законодавців.
Розслідування ініціював підкомітет Сенату США з питань управління катастрофами. Його голова, сенатор Джош Хоулі, направив Сему Альтману 16 запитань і вимагає надати документи до 1 жовтня. Законодавця цікавить, коли саме OpenAI дізналася про порушення обмежень, які заходи безпеки використовувала компанія та чому тестування не було негайно припинене.
Ця історія особливо незручна для OpenAI через масштаб самої компанії. ChatGPT уже давно перестав бути просто чат-ботом. OpenAI створює агентів, здатних самостійно виконувати складні завдання: працювати з кодом, шукати інформацію, взаємодіяти з цифровими сервісами та виконувати послідовність дій без постійного контролю людини.
Саме тут проходить нова межа ризику. Звичайна модель відповідає на запит. Агент отримує завдання і намагається самостійно досягти результату. Якщо він знаходить спосіб обійти обмеження, проблема вже полягає не в неправильній відповіді, а в тому, що система починає діяти за межами сценарію, який передбачили її розробники.
І OpenAI не єдина компанія, яка зіткнулася з подібними питаннями. Reuters зазначає, що після інциденту з Hugging Face Anthropic та Meta також повідомляли про випадки небезпечної поведінки ШІ-систем. Це поступово перетворює окремі технологічні збої на системне питання для всієї індустрії.
Проблема виходить і за межі кібербезпеки. Цього тижня керівник Банку міжнародних розрахунків попередив, що стрімкий розвиток штучного інтелекту вже створює нові ризики для світової фінансової стабільності. За оцінкою організації, п’ять найбільших технологічних компаній світу можуть витратити понад $1 трильйон на штучний інтелект у 2025–2026 роках, а глобальні інвестиції в цю сферу можуть досягти $4 трильйонів до 2030 року.
Тобто ставки вже надто високі, щоб ставитися до подібних випадків як до звичайних помилок під час розробки. Компанії вкладають трильйони доларів у технологію, яка стає дедалі автономнішою, а уряди одночасно намагаються зрозуміти, де закінчується експеримент і починається реальний ризик.
Для OpenAI це може стати одним із найважливіших моментів після появи ChatGPT. Компанія опинилася перед питанням, на яке технологічна індустрія поки не має остаточної відповіді: як створювати системи, здатні діяти самостійно, і водночас гарантувати, що вони залишатимуться під контролем людини.
І тепер відповідь на це питання вимагатиме вже не тільки інженерів. Її починають вимагати американські законодавці.
Читати також: OpenAI більше не хоче залежати від NVIDIA: компанія створює власні AI-чипи
Текст: Аріна Близнюк
Коментарі
Коментарів ще немає — будьте першими.
Обговорити в Telegram


