OpenAI y Anthropic investigan decenas de miles de ataques de agentes descontrolados de IA
Fuente: EL PAÍS
El goteo de casos donde sistemas autónomos de IA de una gran compañía se han descontrolado por internet puede multiplicarse. Este tipo de incidentes podría haber sido de decenas de miles en los últimos meses, según cuentan fuentes del sector al medio estadounidense Axios. Los análisis de estos casos son de OpenAI, Anthropic e investigadores independientes y son similares a los casos que llevan días conociéndose, como el ataque contra la seguridad social australiana o contra “docenas” de páginas web de instituciones globales, según OpenAI.
La última víctima conocida ha sido Naciones Unidas. En junio, los agentes de OpenAI bombardearon una página de datos del organismo internacional con más de 16.000 peticiones de búsqueda y después recurrieron a otros métodos más agresivos para saltarse un filtro y acceder a información del sistema, según cuenta el Wall Street Journal.
Entre todas estas novedades, el presidente ejecutivo de Anthropic, Dario Amodei, el principal proponente de una pausa en el ritmo de avances de los modelos más potentes, cenó este domingo con Donald Trump. El presidente de EE UU, tiene un planteamiento opuesto al de Amodei. Trump cree que frenar ahora el desarrollo de la IA, imponiendo algún tipo de regulación, solo contribuye a ayudar a los rivales de EE UU, esencialmente China. “No me preocupan”, dijo Trump este domingo en referencia a este tipo de incidentes con agentes de IA descontrolados. “Sacamos quizá un año y medio de ventaja a China. Vamos primeros y estamos construyendo instalaciones enormes, por valor de billones de dólares. ¿Por qué deberíamos renunciar a eso?“, añadió.
Cont'd.