Anthropic bloquea el acceso de todos los clientes a Fable 5 y Mythos 5

Anthropic ha desactivado el acceso de todos sus clientes a Fable 5 y Mythos 5 para asegurar el cumplimiento de una orden que recibió del gobierno el viernes 12 de junio. Todos sus otros modelos y su chatbot Claude no se ven afectados. La compañía dijo en su anuncio que el gobierno de EE. UU. quería que suspendiera el acceso de todos los extranjeros a sus modelos de IA recién lanzados, ya sea que estén dentro o fuera de EE. UU. e incluso si son empleados de Anthropic, citando preocupaciones de seguridad nacional.

Si bien el gobierno de EE. UU. no especificó esas preocupaciones, Anthropic cree que es porque el gobierno se enteró de un método para liberar Fable 5. La compañía lanzó recientemente el modelo de IA Fable, que fue diseñado para llevar muchas de las capacidades de Mythos al público, el 9 de junio. Si recuerdas, Mythos es su modelo de ciberseguridad de última generación que solo está disponible para sus socios de Project Glasswing. Las capacidades de Fable "exceden" cualquier modelo anterior que Anthropic haya lanzado. Superó a Pokémon FireRed durante las pruebas de la compañía, por ejemplo, mientras que Claude no pudo superar a Pokémon Red, el juego original en el que se basó.

Anthropic enumeró las medidas que tomó para asegurar que Fable sea seguro en su publicación. Dijo que instituyó sólidas salvaguardas para "reducir la probabilidad de que Fable sea mal utilizado para tareas relacionadas con la ciberseguridad" y agregó que sus "salvaguardas son tan fuertes que muchos usuarios se han quejado de que son demasiado amplias." La compañía también explicó que ningún proveedor puede asegurar una resistencia perfecta a los intentos de liberación, y cada modelo es vulnerable a liberaciones hechas especialmente para él. "Nuestro objetivo era hacer que las liberaciones fueran o bien estrechas (en el caso de liberaciones no universales) o muy costosas de producir (en el caso de liberaciones universales), y combinar esto con un monitoreo exhaustivo para detectar y apagar rápidamente cualquier ataque exitoso," dijo sobre su estrategia de defensa.

El gobierno aparentemente le dio a la compañía evidencia verbal de una posible liberación estrecha, no universal, que una entidad no nombrada compartió con los funcionarios. Anthropic se comprometió a compartir más detalles en las próximas 24 horas, pero aclaró que no está de acuerdo en que una posible liberación debería ser causa para retirar un modelo comercial.

"Como hemos declarado públicamente, creemos que el gobierno debería tener la capacidad de bloquear implementaciones inseguras, como parte de un proceso legal que sea transparente, justo, claro y basado en hechos técnicos," escribió Anthropic, que ha sido vocal sobre sus advertencias sobre la necesidad de una mayor supervisión de la IA. "Esta acción no se adhiere a esos principios."