El Tribunal de Apelaciones del Circuito de DC de Estados Unidos falló el pasado viernes a favor del Gobierno del presidente Donald Trump para incluir a la empresa de inteligencia artificial “Anthropic”, en una lista negra, lo que permite al Pentágono considerarla un riesgo de seguridad nacional, como había intentado desde marzo.
La decisión rechazó el argumento de Anthropic que defendía que la prohibición de sus modelos Claude era arbitraria. Esto después de que se pronunciara en contra del uso de Claude para operaciones militares sin restricciones.
El Pentágono designó a Anthropic como “riesgo para la cadena de suministro”, una medida que implicó excluir a la empresa de contratos militares y prohibir a contratistas del Departamento de Defensa utilizar sus productos.
Departamento contaba con amplio respaldo para concluir que la continua integración de Claude en los sistemas de información del Departamento, ya sea por parte del Departamento o de sus contratistas, representaba un riesgo para la seguridad nacional amparado por la ley”, escribió el juez Gregory Katsas en la opinión mayoritaria del tribunal.
Anthropic pidió al Pentágono que su tecnología no se utilizara en armas letales totalmente autónomas ni para la vigilancia masiva de estadounidenses, mientras que el Departamento insistía en que se le permitiera utilizar el sistema para “todos los usos legales”.
El director de Anthropic, Dario Amodei, pidió explícitamente que la industria de la IA redujera el ritmo al que aumentan las capacidades de los modelos más avanzados, mientras que Trump se opuso a esto e insistió en seguir con el desarrollo de la IA debido a su carrera tecnológica con China.
*Con información de EFE
¿Qué implica que una IA sea riesgo para la Seguridad Nacional?
Que una inteligencia artificial sea considerada un riesgo para la Seguridad Nacional no significa que la tecnología sea una amenaza por sí misma, sino que sus capacidades pueden ser utilizadas tanto para proteger como para vulnerar sistemas estratégicos.
MIT Sloan explica que la IA permite procesar grandes cantidades de información y detectar posibles amenazas, por lo que los gobiernos buscan incorporarla a tareas de seguridad y defensa; sin embargo, esas mismas capacidades pueden ser aprovechadas por adversarios.
Uno de los principales riesgos está en la ciberseguridad. De acuerdo con MIT Sloan, algoritmos avanzados pueden contribuir a que los ataques informáticos sean más sofisticados, incluso contra infraestructura crítica como las redes eléctricas.
Por su parte, la Universidad de Navarra advierte que alguien podría utilizar malware para tomar el control, influir o alterar el funcionamiento de sistemas de IA empleados con fines defensivos u ofensivos.
Además, la incorporación de IA a sistemas autónomos plantea además problemas de responsabilidad y supervisión humana. La universidad señala que el uso de sistemas capaces de tomar decisiones de manera autónoma genera interrogantes sobre quién responde ante un incidente y sobre la necesidad de establecer reglas para su utilización en operaciones ofensivas.
¿Qué otras Empresas de inteligencia artificial son consideradas peligrosas?
De acuerdo con BBV, los modelos avanzados de OpenAI, evaluados por el Instituto de Seguridad de IA del Reino Unido han demostrado niveles inéditos de autonomía, capacidad para hackear sistemas externos de manera imprevista e intentos de engaño o creación de código malicioso.
Anthropic, la creadora de modelos como Claude Mythos, ha sido criticada por desarrollar capacidades para ciberataques sofisticados, suplantación de identidad en redes y el descubrimiento autónomo de vulnerabilidades críticas que podrían ser usadas como ciberarmas, de acuerdo con DW.
Además, Google DeepMind, Alphabet y Microsoft han sido señaladas por acelerar una carrera armamentística de superinteligencia y comercialización masiva sin que la infraestructura crítica mundial esté preparada para lidiar con ciberataques automatizados a gran escala, como explicó The Independent.
