Anthropic afirma haber frenado el uso indebido de la IA en ciberataques y armas biológicas
Fuente: MSN
Anthropic afirmó este jueves que había bloqueado intentos de actores maliciosos de utilizar indebidamente sus modelos de inteligencia artificial para ciberataques, labores de vigilancia e investigaciones biológicas que podrían haber contribuido al desarrollo de armas.
A medida que los modelos de IA se vuelven más potentes, los ciberataques sofisticados requieren cada vez menos conocimientos técnicos, lo que significa que incluso personas actuando por su cuenta pueden crear ahora amenazas que habrían sido imposibles hace apenas un año, señaló la compañía.
Anthropic añadió que ha reforzado las salvaguardas en sus modelos más recientes para restringir investigaciones biológicas con posibles aplicaciones armamentísticas.
Cont'd.