Vulnerabilidades de la IA Militar: Proyecto SABER de DARPA

Investigadores militares de EE. UU. están a punto de presentar un proyecto crucial que aborda las vulnerabilidades de la IA en el campo de batalla frente a ataques cibernéticos enemigos. La Defense Advanced Research Projects Agency (DARPA) llevará a cabo una jornada informativa para la industria el próximo 12 de marzo de 2025, donde se detallarán los objetivos del programa SABER.

Detalles del Evento

La reunión, que se desarrollará tanto en persona como en formato virtual a través de Zoom para el Gobierno, se llevará a cabo en el Executive Conference Center en Arlington, Virginia, de 9:00 a.m. a 4:30 p.m. La sesión principal estará abierta al público desde las 9:00 a.m. hasta el mediodía, y por la tarde se ofrecerá una sesión restringida solo para ciudadanos estadounidenses, de 1:30 p.m. a 4:30 p.m. Los ciudadanos no estadounidenses podrán asistir a la sesión matutina sin restricciones.

Objetivos del programa SABER

El proyecto SABER tiene como meta formar un equipo de investigación en inteligencia artificial con las herramientas y conocimientos necesarios para evaluar los sistemas de IA utilizados en el ámbito militar. Según las autoridades de DARPA, actualmente no existe un ecosistema operativo que evalúe sistemáticamente las vulnerabilidades de estos sistemas ante ataques cibernéticos. Esto implica que los ataques teóricos de IA adversaria no se han validado en entornos operativos, lo que crea una brecha crítica en la seguridad.

Riesgos y Oportunidades

La tecnología de IA ha avanzado lo suficiente para ser integrada en los sistemas militares de EE. UU., otorgando ventajas en el campo de batalla al mejorar la velocidad, calidad y precisión de las decisiones, además de facilitar la autonomía y la automatización asistida. Sin embargo, la vulnerabilidad de la IA a la manipulación de sus datos de entrada plantea riesgos, como envenenamiento de datos, evasión a través de parches adversarios y robos de modelo.

Participación en el Evento

Las empresas interesadas en asistir a estas jornadas informativas del programa SABER deben registrarse antes del 25 de febrero de 2025 en el siguiente enlace: Registro SABER. Para preguntas y más detalles, se puede contactar al equipo de DARPA a través del correo electrónico darpa-saber@darpa.mil.

La vulnerabilidad de la IA es un tema candente que requiere atención y acción conjunta de la industria y el gobierno para garantizar la seguridad de los sistemas en el campo de batalla. La jornada del SABER será una oportunidad para explorar este reto de forma colaborativa y posicionarse en la vanguardia de la defensa militar.