OpenAI retrasa su nueva IA tras reconocer que no ha realizado los controles de calidad pertinentes
Fuente: EL PAÍS
La tecnología que hace posibles a los coches autónomos está disponible desde hace unos diez años. Sin embargo, su despliegue todavía es residual: los reguladores quieren garantías de que esos vehículos sean seguros, así que exigen a los fabricantes que sofistiquen mucho más los sensores avanzados, los sistemas de navegación y la inteligencia artificial (IA) que lo coordina para minimizar el margen de error. No se está teniendo la misma precaución con la IA generativa. Los operadores comercializan sus modelos cuando lo estiman oportuno, sin tener que someter sus productos a ninguna prueba. OpenAI ha anunciado en las últimas horas que retrasa la fecha de lanzamiento –que la propia empresa fijó– de su último modelo, GPT-6.1 Astra, porque sus ingenieros se han dado cuenta de que no cumple con los requisitos de seguridad, según informó The Wall Street Journal.
Anthropic, su principal competidora, prevé advertir a los potenciales inversores en su salida a Bolsa de que la IA avanzada podría plantear “riesgos catastróficos o existenciales para la humanidad”, según ha adelantado Reuters. Es decir, pretende poner en circulación coches autónomos que pueden atropellar a peatones o estrellarse con los pasajeros dentro. Se trata de una advertencia llamativa por parte de una empresa que aspira a obtener beneficios precisamente de esa misma tecnología. Ambos anuncios se producen en un momento en el que las dos compañías que lideran el sector se están preparando para ser empresas cotizadas, en lo que se espera que sean las mayores salidas a Bolsa de la historia.
“Es sorprendente que las empresas de IA hayan tardado tanto en comprender un principio que muchos otros sectores llevan décadas aplicando: no se lanza un producto al mercado hasta que sea seguro”, dice Michael Rovatsos, profesor de la Universidad de Edimburgo, en declaraciones a la agencia SMC. “Eso no significa que haya que ralentizar la investigación y el desarrollo, sino que hay que decidir cuándo no causará daños”.
Cont'd.