Anthropic limita el lanzamiento de la IA Mithos: es demasiado peligrosa para la ciberseguridad mundial

Anthropic ha anunciado el Proyecto Glasswing, una iniciativa de ciberseguridad que combina un modelo de IA de vanguardia aún no lanzado -Claude Mythos Preview- con una coalición de doce importantes empresas de tecnología y finanzas. Será uno de los mayores esfuerzos de la industria en ciberseguridad, en un esfuerzo por encontrar y corregir vulnerabilidades de software en la infraestructura más crítica del mundo antes de que los adversarios puedan explotarlas.

El Proyecto Glasswing tiene motivaciones curiosas. Anthropic asegura que su modelo cibernético de IA más potente es demasiado peligroso para publicarlo y de ahí que haya cambiado el foco hacia un proyecto ambicioso y comunitario que tiene el objetivo de controlar su alcance. La iniciativa vuelve a traer al primer plano de la actualidad uno de los grandes desafíos de la industria tecnológica actual, IA y ciberseguridad, y el papel de la IA en los ciberataques, permitiendo campañas maliciosas cada vez más avanzadas, más baratas y accesibles.

Entre los socios para el lanzamiento del proyecto, se incluyen grandes organizaciones como Amazon Web Services, Apple, Broadcom, Cisco, CrowdStrike, Google, JPMorgan Chase, la Linux Foundation, Microsoft, NVIDIA y Palo Alto Networks. Anthropic afirma que también ha ampliado el acceso a más de 40 organizaciones adicionales que desarrollan o mantienen software crítico, y se compromete a destinar hasta 100 millones de dólares en créditos de uso para Claude Mythos Preview en toda la iniciativa, junto con 4 millones de dólares en donaciones directas a organizaciones de seguridad de código abierto.

Toda la información en MCPRO

La entrada Anthropic limita el lanzamiento de la IA Mithos: es demasiado peligrosa para la ciberseguridad mundial es original de MuySeguridad. Seguridad informática.