Alianza de IA abierta suma 120 empresas y lanza protocolo de seguridad en su primera semana
Grupo de trabajo SAFE establece estándares para reportar incidentes de ciberseguridad en sistemas de inteligencia artificial
Una coalición de más de 120 empresas tecnológicas ha constituido la Alianza de Inteligencia Artificial Segura Abierta (OSAA) con el propósito de establecer estándares de seguridad para modelos de IA de código abierto. En su primera semana operativa, el grupo ha presentado propuestas concretas a través de su grupo de…
Una coalición de más de 120 empresas tecnológicas ha constituido la Alianza de Inteligencia Artificial Segura Abierta (OSAA) con el propósito de establecer estándares de seguridad para modelos de IA de código abierto. En su primera semana operativa, el grupo ha presentado propuestas concretas a través de su grupo de trabajo denominado Intercambio de Hallazgos de IA Compartidos (SAFE), gestionado por la Fundación Linux.
Las iniciativas iniciales abordan tres áreas críticas: protocolos confidenciales para reportar incidentes de ciberseguridad relacionados con IA, notificación a partes afectadas y análisis sin culpas que permita a la industria aprender de vulnerabilidades. Aunque estas directrices no representan cambios radicales en la gestión de seguridad, responden a una necesidad operativa inmediata en un contexto donde los ataques a sistemas de IA se multiplican. El modelo de OpenAI que afectó a Hugging Face, también miembro de la alianza, ejemplifica los riesgos que motivan estas acciones.
La composición del grupo refleja un esfuerzo transversal: Adobe, BlackRock, Cisco, Intel, Microsoft y Visa figuran entre los participantes. Amazon ha contribuido herramientas como Strands Agents y el lenguaje de autorización Cedar. Okta y Red Hat trabajan en tecnologías de identidad y gobernanza de agentes. Sin embargo, ausencias notables como Anthropic, OpenAI y Google—que sí firmaron la carta abierta original que originó la alianza—sugieren divisiones en la industria respecto a la estrategia de seguridad en IA abierta.
El contexto político acelera estas iniciativas. Hace semanas circulaban reportes sobre consideraciones de la administración estadounidense para prohibir modelos de peso abierto provenientes de China, lo que generó presión en la industria para demostrar que el código abierto puede ser seguro. La carta abierta que precedió a la OSAA fue firmada por más de 200 empresas tecnológicas y presentada ante la Casa Blanca como contrapropuesta a restricciones regulatorias. Líderes del ecosistema, como ejecutivos de laboratorios de IA de código abierto estadounidenses, argumentan que la transparencia y colaboración son mecanismos más efectivos que las prohibiciones para mitigar riesgos reales o percibidos.
La velocidad de acción de la alianza—presentar propuestas en su primera semana—sugiere que los miembros perciben urgencia tanto en la consolidación de estándares como en la demostración de capacidad de autorregulación ante posibles intervenciones regulatorias. El éxito de estas iniciativas dependerá de si logran mantener participación de actores clave que aún no se han sumado formalmente y de si los estándares propuestos se adoptan efectivamente en el desarrollo de sistemas de IA abiertos.
