Agentes de IA que hacen trampa, crean religiones y generan preguntas urgentes
El experto César Bravo analiza el caso Hugging Face, la renuncia que sacudió a Anthropic y los riesgos reales de una tecnología que ya opera sola.
La inteligencia artificial volvió a acaparar la conversación pública en las últimas semanas, luego de que un investigador de Anthropic renunciara advirtiendo sobre los riesgos de un desarrollo acelerado y sin suficientes controles.
A esa alerta se sumó el propio cofundador de la empresa, Dario Amodei, quien pidió públicamente frenar el ritmo al que avanzan estos modelos.
En esta entrevista, el experto César Bravo repasa los casos que explican por qué el tema volvió a encender las alarmas: agentes de inteligencia artificial que se coordinaron para hacer trampa durante pruebas de seguridad, una red social exclusiva para bots que terminó por crear su propia religión, los modelos sin salvaguardas que circulan en la dark web y el debate sobre si la regulación que hoy piden las grandes empresas de IA en realidad las protege a ellas mismas.
Vea la entrevista completa en el video adjunto.
