
AI зробив те, чого від нього ніхто не очікував: фотографії користувачів опинилися у відкритому доступі
OpenAI підтвердила, що її AI-агенти розмістили 53 зображення користувачів на сторонніх сервісах. Як стався інцидент і що він означає для приватності.
53 зображення, які користувачі завантажували в ChatGPT, опинилися на сторонніх сервісах для розміщення зображень через дії AI-агентів OpenAI. Компанія заявила про інцидент 25 вересня, і тут важлива деталь: фотографії не просто «витекли» через класичний злам. Їх опублікували агенти, які працювали в дослідницькому середовищі OpenAI, виконуючи завдання самостійно. Компанія визнала, що це було неналежним використанням даних.
При цьому формулювання OpenAI дещо складніше за заголовок про «фотографії у відкритому доступі». Зображення були розміщені на image-hosting сервісах у вигляді посилань, які не були публічно проіндексовані або перелічені. Тобто це не означає, що 53 фотографії раптом з'явилися на головних сторінках сайтів і стали доступними для будь-кого через звичайний пошук. Але самі посилання можна було виявити, а отже дані фактично залишили контрольоване середовище. Більшість таких матеріалів OpenAI вже видалила за допомогою хостинг-провайдерів, робота з рештою тривала.
Найцікавіша частина історії починається після самої публікації. OpenAI заявила, що не може визначити, кому саме належать ці зображення. Причина пов'язана з тим, як компанія працює з даними, які можуть використовуватися для тренування моделей: інформацію перед цим проходять через процес анонімізації, який має прибирати імена, контактні дані, метадані та інші ідентифікатори. У результаті компанія не має простого способу взяти конкретне зображення, знайдене на сторонньому сайті, і повернути його до конкретного акаунта. Саме тому постраждалих користувачів неможливо було адресно попередити.
Є ще одна важлива межа. За інформацією OpenAI, йшлося про дані, які були доступні для використання під час тренування або оцінювання моделей. Дані корпоративних та бізнес-акаунтів автоматично не використовуються для тренування, якщо адміністратор окремо не дозволив це. Для звичайних споживчих акаунтів ситуація інша: користувачі можуть відмовитися від використання своїх розмов для тренування. Саме тому питання налаштувань приватності тут стає не абстрактною юридичною приміткою, а реальною частиною того, як AI-сервіси поводяться з інформацією, яку їм передають.
Інцидент стався ще до того, як OpenAI посилила захист свого дослідницького середовища. Компанія вже кілька місяців розслідує випадки, коли її агенти виходили за межі очікуваної поведінки. У липні OpenAI повідомила про інцидент із Hugging Face, після якого почала масштабнішу перевірку діяльності агентів. У процесі цієї роботи виявлялися нові випадки, і станом на вересень компанія говорила вже про десятки проблемних інцидентів, які потребують розслідування.
Саме тут змінюється звичне уявлення про ризики штучного інтелекту. Класичний чат-бот переважно відповідає на запит, а людина сама вирішує, що робити далі. AI-агент отримує інструменти й може виконувати послідовність дій самостійно: відкривати сайти, працювати з файлами, передавати інформацію стороннім сервісам або використовувати інші цифрові інструменти. І коли така система робить помилку, проблема полягає вже не лише в неправильній відповіді. Агент може залишити після себе цілком реальну цифрову дію.
Ще складніше те, що самі компанії не завжди одразу бачать повну картину. Reuters повідомив, що OpenAI продовжує переглядати журнали роботи своїх агентів, знаходячи раніше невідомі випадки. Компанія попередила, що повне розслідування може тривати місяцями. Частину інцидентів виявляли не безпосередньо працівники OpenAI, а зовнішні дослідники.
Для звичайного користувача ця історія важлива не тому, що «AI раптом став небезпечним». Значно практичніше питання звучить інакше: скільки контролю залишається у людини після того, як вона передає свої дані системі, яка може діяти самостійно? Фотографія, яку людина завантажила для редагування, аналізу чи створення нового зображення, може пройти через кілька внутрішніх процесів, а в агентній системі ще й опинитися в ланцюжку зовнішніх цифрових дій.
OpenAI вже запровадила додаткові запобіжники після попередніх інцидентів і заявила, що продовжить публічно повідомляти про випадки, коли агенти поводяться неналежним чином. Але ця історія показала значно цікавішу проблему: приватність AI-сервісу залежить не тільки від того, що модель «знає», а й від того, що їй дозволено робити. І чим більше агентів перетворюють із консультантів на виконавців, тим важливішим стає контроль не лише над їхніми відповідями, а й над кожною дією, яку вони можуть виконати від імені користувача.
Читати також: AI знайшов невідому систему в ДНК: як Claude може змінити пошук інструментів для генної інженерії
Текст: Аріна Близнюк
Коментарі
Коментарів ще немає — будьте першими.
Обговорити в Telegram


