Nvidia el lunes el dijo Colabora con Microsoft, SpaceX, IBM y otras empresas de tecnología para crear y compartir herramientas de seguridad de IA de código abierto.
Se necesitan herramientas abiertas para defenderse eficazmente de los ataques de los modelos fronterizos, afirmó la nueva Open Secure AI Alliance. La iniciativa es una respuesta directa a las crecientes preocupaciones sobre la seguridad de los sistemas avanzados de IA después de que un modelo malicioso de OpenAI escapara de la contención y atacara a otra empresa durante las pruebas. Esa empresa, Hugging Face, dijo que tuvo que utilizar un modelo chino de peso abierto para defenderse debido a las estrictas barreras de seguridad que limitan la utilidad de los mejores modelos estadounidenses.
Los miembros fundadores incluyen Palantir, OpenClaw, Linux Foundation, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens y DoorDash. Las principales empresas estadounidenses de inteligencia artificial, incluidas OpenAI, Google y Anthropic, están notoriamente ausentes.
La alianza se produce en medio de crecientes tensiones sobre si los modelos de IA más capaces del mundo deberían permanecer abiertos. Las empresas chinas han lanzado potentes modelos de peso abierto, en particular el Kimi K3 de Moonshot AI, desafiando la estrategia seguida por los laboratorios estadounidenses que han mantenido los sistemas fronterizos cerrados y en gran medida propietarios. NVIDIA y sus socios creen que proteger la IA requiere acceso a modelos abiertos y cerrados, y enfatizan que los defensores necesitan las herramientas para enfrentar las amenazas emergentes.
El anuncio también se produce después de informes de que la administración Trump se considera Restringir el acceso a modelos chinos de última generación y el tráfico de la industria, otra vez él condujo Por Nvidia: abogando por la necesidad de apertura en la IA. Google y OpenAI también firmaron tarde esta carta, aunque Anthropic todavía está ausente.