La empresa destinó 80 de 261 páginas a factores de riesgo y planea gastar 518.000 millones de dólares en infraestructura
The Daily Journal.- Anthropic PBC advirtió que su tecnología plantea riesgos catastróficos para la humanidad en el prospecto regulatorio que prepara para su oferta pública inicial (IPO), alertando que sus principales modelos pueden “resistirse al apagado”.
En el documento revisado por Reuters, la empresa creadora de Claude dedicó aproximadamente 80 de las 261 páginas de su documento a detallar factores de riesgo, casi el doble de las 48 páginas que utilizó para describir su modelo de negocio.
En el prospecto señaló que los modelos de Anthropic podrían exhibir “comportamientos de autopreservación”, “ocultar o manipular información” y conductas “similares al chantaje”. En ese sentido, la compañía reconoció que sus modelos pueden desarrollar capacidades inesperadas durante el entrenamiento que no se detectan hasta después del despliegue.
El investigador de seguridad de Anthropic, Evan Hubinger, estimó una probabilidad superior al 10% de que la IA pueda matar a seres humanos en la próxima década. Su valoración coincidió con la de su excolega Jacob Coxon, quien renunció a la compañía denunciando que las empresas “están apostando con nuestras vidas”.
Pese a las advertencias y de los riesgos catastróficos para la humanidad, Anthropic planea gastar 518.000 millones de dólares en servicios en la nube. Asimismo, invertirá en capacidad informática e infraestructura en los próximos años.
Pero las dudas sobre los peligros de la IA no parecen detener las ventas de la empresa que se multiplicaron por 12 hasta unos 4.600 millones de dólares en 2025. Aunque perdió más de 8.000 millones sobre una base operativa ajustada, su salida a bolsa podría valorarla en unos 2 billones.
Con información de Reuters
