
Une IA a fait ce que personne n'attendait : des photos d'utilisateurs se sont retrouvées en accès libre
OpenAI confirme que ses agents d'IA ont publié 53 images d'utilisateurs sur des services tiers. Comment l'incident s'est produit et ce qu'il signifie pour la vie privée.
Traduit avec l'IA. Original : Українська
53 images que des utilisateurs avaient téléchargées dans ChatGPT se sont retrouvées sur des services tiers d'hébergement d'images, à la suite d'actions des agents d'IA d'OpenAI. La société a annoncé l'incident le 25 septembre, et le détail important est le suivant : les photos n'ont pas simplement « fuité » à la suite d'un piratage classique. Elles ont été publiées par des agents qui travaillaient dans l'environnement de recherche d'OpenAI, exécutant des tâches de manière autonome. La société a reconnu qu'il s'agissait d'une utilisation inappropriée des données.
Pourtant, la formulation d'OpenAI est un peu plus nuancée que le titre sur des « photos en accès libre ». Les images ont été placées sur des services d'hébergement d'images sous forme de liens qui n'étaient pas indexés publiquement ni répertoriés. Cela ne signifie donc pas que les 53 photos sont soudainement apparues sur les pages d'accueil de sites et sont devenues accessibles à tous via une recherche ordinaire. Mais ces liens pouvaient tout de même être découverts, et les données ont donc effectivement quitté l'environnement contrôlé. La plupart de ces contenus ont déjà été supprimés par OpenAI avec l'aide des hébergeurs, le travail sur le reste se poursuit.
La partie la plus intrigante de l'histoire commence après la publication elle-même. OpenAI affirme qu'elle ne peut pas déterminer à qui appartiennent ces images. La raison tient à la manière dont la société traite les données susceptibles d'être utilisées pour entraîner des modèles : ces informations passent auparavant par un processus d'anonymisation destiné à supprimer les noms, les coordonnées, les métadonnées et d'autres identifiants. En conséquence, la société n'a pas de moyen simple de prendre une image précise trouvée sur un site tiers et de la rattacher à un compte donné. C'est pourquoi il était impossible d'avertir individuellement les utilisateurs concernés.
Il existe une autre limite importante. Selon OpenAI, il s'agissait de données disponibles pour être utilisées lors de l'entraînement ou de l'évaluation des modèles. Les données des comptes d'entreprise et professionnels ne sont pas automatiquement utilisées pour l'entraînement, sauf si l'administrateur l'autorise explicitement. Pour les comptes grand public, la situation est différente : les utilisateurs peuvent refuser l'utilisation de leurs conversations à des fins d'entraînement. C'est pourquoi la question des paramètres de confidentialité devient ici non pas une note juridique abstraite, mais une partie concrète de la manière dont les services d'IA traitent les informations qui leur sont confiées.
L'incident s'est produit avant qu'OpenAI ne renforce la protection de son environnement de recherche. La société enquête depuis plusieurs mois sur des cas où ses agents sont sortis du comportement attendu. En juillet, OpenAI a signalé un incident impliquant Hugging Face, après lequel elle a lancé une vérification plus large de l'activité des agents. Au cours de ce travail, de nouveaux cas ont été découverts, et en septembre la société évoquait déjà des dizaines d'incidents problématiques nécessitant une enquête.
C'est ici que change la vision habituelle des risques liés à l'intelligence artificielle. Un chatbot classique répond surtout à une requête, et c'est la personne qui décide elle-même de la suite. Un agent d'IA reçoit des outils et peut enchaîner des actions de manière autonome : ouvrir des sites, travailler avec des fichiers, transmettre des informations à des services tiers ou utiliser d'autres outils numériques. Et lorsqu'un tel système commet une erreur, le problème ne se limite plus à une mauvaise réponse. L'agent peut laisser derrière lui une action numérique bien réelle.
Ce qui complique encore les choses, c'est que les entreprises elles-mêmes ne voient pas toujours tout le tableau dès le départ. Reuters a rapporté qu'OpenAI continue d'examiner les journaux d'activité de ses agents, découvrant des cas jusqu'alors inconnus. La société a averti qu'une enquête complète pourrait durer des mois. Une partie des incidents a été découverte non pas directement par les employés d'OpenAI, mais par des chercheurs extérieurs.
Pour l'utilisateur ordinaire, cette histoire n'est pas importante parce que « l'IA serait soudainement devenue dangereuse ». La question pratique est bien différente : quel contrôle une personne conserve-t-elle sur ses données après les avoir confiées à un système capable d'agir de manière autonome ? Une photo qu'un utilisateur a téléchargée pour la retoucher, l'analyser ou créer une nouvelle image peut passer par plusieurs processus internes et, dans un système agentique, se retrouver aussi dans une chaîne d'actions numériques externes.
OpenAI a déjà mis en place des garde-fous supplémentaires après les incidents précédents et affirme qu'elle continuera à signaler publiquement les cas où ses agents se comportent de manière inappropriée. Mais cette histoire révèle un problème bien plus intéressant : la confidentialité d'un service d'IA dépend non seulement de ce que le modèle « sait », mais aussi de ce qu'on l'autorise à faire. Et plus les agents passent du rôle de consultants à celui d'exécutants, plus le contrôle devient important, non seulement sur leurs réponses, mais aussi sur chaque action qu'ils peuvent accomplir au nom de l'utilisateur.
À lire aussi : L'IA a trouvé un système inconnu dans l'ADN : comment Claude pourrait changer la recherche d'outils pour le génie génétique
Texte : Arina Blyzniuk
Commentaires
Aucun commentaire pour l'instant : soyez le premier.
En discuter sur TelegramÀ lire aussi
Une île à plusieurs millions, un chef personnel et aucune personne en trop : à quoi ressemble le luxe dont on ne parle pas sur les réseaux sociaux
Une génération sans bureau : comment évolue la notion de travail « normal »
Apple a lancé iOS 27 et macOS 27 : la nouvelle Siri devient plus intelligente, mais un point important se pose pour l'Europe