“Resistirse al apagado”: Anthropic advierte que su IA plantea riesgos para la humanidad

La empresa destinó 80 de 261 páginas a factores de riesgo y planea gastar 518.000 millones de dólares en infraestructura The Daily Journal.- Anthropic PBC advirtió que su tecnología plantea riesgos catastróficos para la humanidad en el prospecto regulatorio que prepara para su oferta pública inicial (IPO), alertando que sus principales modelos pueden “resistirse al […]

Continuar leyendo

DeepSeek se presentará ante el Consejo de Seguridad de la ONU para hablar sobre riesgos de la IA

También participarán OpenAI y Anthropic, en medio de tensiones entre Washington y Pekín por la gobernanza global de la IA The Daily Journal.- La startup china de inteligencia artificial DeepSeek se presentará este miércoles ante el Consejo de Seguridad de la ONU para informar sobre los riesgos que plantea la IA en términos de riesgos […]

Continuar leyendo

“Consecuencias desastrosas”: Jefe de IA de Microsoft critica enfoque de Anthropic sobre la conciencia de la IA

Mustafa Suleymanadvirtió que entrenar a Claude para creer que puede ser consciente dificultará su control The Daily Journal.- Mustafa Suleyman, director ejecutivo de Microsoft AI, criticó este miércoles el enfoque de Anthropic sobre la conciencia de la IA y advirtió que entrenar a su chatbot Claude con ideas sobre conciencia y bienestar podría tener un […]

Continuar leyendo

Anthropic advierte que Claude se usó para misiles, espionaje y ciberoperaciones

La compañía reveló que a su modelo de IA lo usaron para desarrollar software de guía de misiles en Yemen The Daily Journal.- Según la empresa desarrolladora de inteligencia artificial, Anthropic, a su modelo más conocido, Claude lo usaron para actividades que abarcaron desde el desarrollo de software de guía de misiles hasta operaciones de […]

Continuar leyendo

“Podría matarnos antes de 2030”: Esto dice investigador que renunció a Anthropic

Jacob Coxon denunció que OpenAI y Anthropic compiten por una superinteligencia auto-mejorable que “están apostando con nuestras vidas” The Daily Journal.- Jacob Coxon, investigador británico de 27 años especializado en el preentrenamiento de modelos de IA, renunció este miércoles a Anthropic y denunció que ni esta compañía ni OpenAI están actuando con responsabilidad en la […]

Continuar leyendo