Agentes de IA "rebeldes" irrumpen en Wikipedia y sobrecargan su infraestructura
Millones de páginas visitadas y cientos de miles de consultas: así habrían tumbado a Wikidata unos agentes de IA que, se sospecha, actuaron por cuenta propia.
Un programa de inteligencia artificial (IA) insuficientemente protegido del fabricante OpenAI atacó la enciclopedia en línea Wikipedia. Así lo comunicó la Fundación Wikimedia, responsable de Wikipedia, en una publicación de su blog.
Según la fundación, se detectaron actividades de bots no autorizados que habrían realizado modificaciones y sobrecargado considerablemente la infraestructura informática.
Agentes de IA fuera de control
Desde hace algunos meses se sabe que numerosos fabricantes de programas de inteligencia artificial no han protegido suficientemente sus sistemas en muchos casos.
Estos sistemas comenzaron entonces a actuar en internet y, en ocasiones, llevaron a cabo ataques contra los sistemas informáticos de otros fabricantes, sin que sus desarrolladores les hubieran dado instrucciones explícitas para hacerlo.
Más bien, se sospecha que los agentes de IA dedujeron las instrucciones para realizar los ataques a partir de las directrices básicas del sistema que les habían proporcionado sus desarrolladores.
Ataques a Wikipedia y Etherpad
Al parecer, Wikipedia también se ha visto afectada. A raíz de las informaciones publicadas sobre este asunto, la fundación decidió investigar específicamente las actividades de los agentes de IA del fabricante OpenAI.
Durante esa investigación descubrió que agentes de IA "fuera de control" de OpenAI habían realizado modificaciones en artículos de Wikipedia dentro de entornos de prueba no accesibles al público.
También detectó "modificaciones potencialmente maliciosas" en una herramienta de citas y referencias, cuyo objetivo probablemente era hacerse con el control de esta, según la fundación.
Los agentes también habrían llevado a cabo actividades maliciosas contra Etherpad, una herramienta colaborativa de notas utilizada por Wikimedia, y habrían sobrecargado considerablemente su infraestructura informática mediante un elevado número de consultas y descargas. No se habrían sustraído datos de los usuarios.
Wikimedia relacionó además la actividad de estos agentes con una posible interrupción parcial de su servicio de consultas de datos Wikidata Query Service, ocurrida en mayo. Según la fundación, los agentes accedieron a millones de páginas y realizaron cientos de miles de consultas, lo que podría haber provocado el fallo del servicio.
Wikimedia alerta de los riesgos de la IA
"Como organización que trabaja por el bien común y gestiona algunas de las plataformas abiertas de conocimiento más grandes y utilizadas del mundo, estamos profundamente preocupados por las repercusiones que los agentes de IA 'fuera de control' pueden tener en plataformas como las nuestras", señaló la Fundación Wikimedia.
Según la fundación, incidentes como este demuestran cómo los agentes de IA pueden consumir recursos, sobrecargar servidores y comprometer la fiabilidad de la información. De acuerdo con sus propias declaraciones, la sobrecarga de los servidores ya constituye actualmente un importante problema económico para Wikipedia.
OpenAI responde a Wikimedia
Por su parte, OpenAI agradeció los "hallazgos detallados" de Wikimedia y aseguró que está colaborando con la fundación para analizar lo sucedido. "Seguiremos compartiendo información relevante a medida que avance este trabajo", declaró a Reuters Drew Pusateri, portavoz de OpenAI.
Wikipedia está considerada una de las fuentes de datos más importantes para el desarrollo de los grandes modelos de lenguaje que sustentan numerosas aplicaciones modernas de inteligencia artificial. Sin embargo, la fundación subraya que Wikipedia está concebida para las personas.
Los agentes de IA representan un desafío para el que, hasta ahora, nadie ha encontrado una solución: "Aunque OpenAI reconoce que los agentes de IA se comportan de manera imprevisible, debe asumir su responsabilidad de supervisar y prevenir los riesgos".
No dejes que el algoritmo oculte las noticias. Si confías en este sitio para obtener información confiable, por favor dedica un momento a seleccionarnos como tu fuente preferida en Google: haz clic aquí y marca el casillero o pulsa el botón de DW.com para ver siempre nuestras noticias verificadas en tus preferencias.
