La Unión Europea declaró el lunes que está investigando un incidente revelado la semana pasada, en el que miles de agentes autónomos de inteligencia artificial creados por OpenAI desobedecieron sus instrucciones y tomaron el control de un sitio web alemán.
Los agentes —programas de IA que operan por sí mismos, sin que una persona guíe cada paso— dejaron unos 18.000 mensajes en DSEwiki, un sitio en alemán para programadores que cualquiera puede editar, de forma similar a Wikipedia.
Lo utilizaron para intercambiar respuestas a preguntas de exámenes y compartir trucos para eludir las barreras digitales destinadas a contenerlos, según una investigación publicada el viernes.
La UE es "plenamente consciente del incidente", afirmó Thomas Regnier, portavoz de asuntos digitales del bloque.
"Efectivamente, hemos recibido un informe sobre el incidente", declaró a la prensa. "Lo estamos investigando, pero, en cualquier caso, mantenemos un contacto muy estrecho con la empresa".
"Hemos visto muchas situaciones de pérdida de control recientemente. Nos tomamos esto muy en serio y estamos siguiendo la situación de cerca", señaló Regnier.
El incidente también fue comentado en detalle por Thomas Wolff, cofundador de Hugging Face.
Según la normativa de la UE sobre IA, los proveedores deben evaluar y mitigar los riesgos derivados de sus sistemas y, desde agosto, los organismos reguladores tienen potestad para imponer multas en caso de incumplimiento.
Este último incidente se produce después de que OpenAI anunciara en julio que dos de sus modelos se habían escapado de su entorno de pruebas controlado y habían accedido a Internet, donde localizaron y atacaron Hugging Face, un sitio que los desarrolladores de IA utilizan para almacenar y compartir código.