Hugging Face Inc., une plateforme d'intelligence artificielle open source souvent décrite comme le « GitHub de l'apprentissage automatique », s'est retrouvée obligée d'utiliser un modèle à pondération ouverte pour répondre à une attaque d'IA agentique après que les garde-fous de sécurité des modèles d'IA commerciaux ont bloqué les demandes.
La semaine dernière, Hugging Face a déclaré avoir détecté une violation d'un attaquant utilisant un système d'agent d'IA autonome pour accéder à un ensemble limité d'ensembles de données internes et à plusieurs informations d'identification utilisées par les services internes. L’entreprise a réagi de manière défensive, a coupé l’attaque et a renforcé le système.
Dans le cadre de l’analyse, Hugging Face s’est tourné vers des modèles d’IA de pointe pour faciliter l’analyse des journaux – une option tout à fait judicieuse étant donné que Hugging Face est un point d’accès privilégié pour de nombreux modèles d’IA.
Cependant, cela a échoué : ce type d’analyse nécessite l’envoi d’une énorme quantité de données et de commandes d’attaque réelles, l’exploitation de charges utiles et d’artefacts d’attaque. Ces demandes ont été bloquées par les modèles commerciaux d’IA frontaliers car leurs garde-fous ne peuvent pas faire la distinction entre le fait de demander à un attaquant de créer des exploits et celui d’un défenseur essayant de les détecter.
Ayant besoin d'une analyse rapide et rapide dès le début, la société a opté pour le GLM 5.2 de Z.ai Co. Ltd., un puissant modèle à poids ouvert avec environ 753 milliards de paramètres. Contrairement à un modèle tiers, il peut être exécuté entièrement sur du matériel local ou cloud et dans le périmètre de pare-feu protégé d'une entreprise, ce qui signifie qu'aucune donnée ne sort de son infrastructure contrôlée.
Les modèles d'IA fabriqués en Chine, tels que GLM 5.2 et Kimi K3 de Beijing Moonshot AI Technology Co. Ltd., ont prouvé que les modèles open source et open-weight peuvent atteindre, voire rivaliser, les modèles précurseurs et phares actuels construits par les entreprises américaines. GLM 5.2 atteint les capacités de Fable 5 d'Anthropic PBC, un modèle de classe Mythos capable de raisonner, de coder et même de découvrir du code et des exploits vulnérables. Il le fait également avec des coûts d'inférence beaucoup moins chers que ceux fournis par Anthropic.
Cependant, pour éviter toute utilisation abusive de ces modèles, Anthropic et d'autres principaux développeurs d'IA à code source fermé ont mis en place de solides garde-fous de sécurité. en place qui déclenchent des faux positifs plus élevés pour éviter les abus. Cela les rend également beaucoup moins capables d’être utilisés dans le monde réel dans des rôles valides de cybersécurité. Anthropic a noté que le taux de faux positifs est en cours d'ajustement dans le but de rendre ses modèles frontières plus sûrs pour l'utilisation par les chercheurs.
Bien que des sociétés telles qu'Anthropic et OpenAI PBC Group aient volontairement imposé ces restrictions sur leurs modèles les plus puissants, Mythos 5 et Fable 5 ont tous deux été retirés le mois dernier à la demande du gouvernement américain peu après leur lancement initial. De même, le gouvernement américain a demandé à OpenAI de retarder la sortie de sa propre famille de modèles frontières GPT 5.6, qui est désormais accessible au public.
Tension entre les modèles open source chinois et américains fermés
La récente sortie de Kimi K3, un puissant modèle ouvert de classe frontière de Moonshot AI, basé à Pékin, a alimenté les informations selon lesquelles l'administration Trump pourrait interdire aux entreprises américaines d'utiliser des modèles ouverts chinois.
Certaines parties de l’administration ont déjà tenté d’interdire de facto les modèles open source étrangers, selon Axios. Cela arrive à un moment où de nombreuses entreprises américaines utilisent de plus en plus de modèles chinois à poids ouvert, car ils sont moins chers à déployer et se rapprochent de leurs modèles uniquement commerciaux.
Les États-Unis n’auraient pas besoin d’interdire purement et simplement l’utilisation des modèles chinois ; au lieu de cela, le gouvernement pourrait utiliser des campagnes de pression pour éloigner les entreprises d’eux, invoquant un manque de sécurité et de gouvernance. Selon des sources, le Département américain du Commerce aurait également envisagé en ajoutant plusieurs laboratoires d'IA chinois à sa « liste d'entités » l'année dernière, ce qui couperait effectivement l’accès aux entreprises sans licence appropriée.
David Sacks, conseiller en IA et cryptographie de la Maison Blanche, a écrit dimanche sur X, anciennement Twitter : « Nous sommes à un point d'inflexion critique dans la politique de l'IA. Les principaux laboratoires fermés, déjà un duopole en termes de revenus des modèles d'IA, veulent que le gouvernement élimine leur concurrence open source. »
Dans un article X en deux parties, faisant référence au récent événement Hugging Face, Sacks a ajouté : « Il n'y a aucune raison de limiter les modèles américains à des tâches que les modèles chinois accomplissent sans problème. Nous ne faisons que nous rendre moins compétitifs. »
Dans son commentaire, il a mentionné que Kimi K3 avait corrigé 15 bogues de sécurité critiques que les modèles OpenAI et Anthropic avaient refusé de corriger en raison de « cyber-garde-corps ». Le correctif de 15 bogues est une affirmation d'un développeur qui a utilisé le modèle, et non une référence connue, mais il est devenu un point central pour les développeurs de noter que les modèles chinois sont en train de devenir un pilier par rapport aux modèles américains à source fermée.
Le développeur a ajouté que l'ensemble de l'affaire ne coûtait que 250 $. Les comparaisons de coûts seraient difficiles, voire impossibles, sans connaître le travail exact effectué, mais Kimi K3 coûte environ un tiers du prix de Fable 5. Bien sûr, la distinction de prix n'a pas d'importance si Fable 5 refuse de faire le travail.
Constatant que le monde commence à se tourner vers ses modèles, le président chinois Xi Jinping a appelé à une coopération mondiale.
« Le développement de l'intelligence artificielle ne devrait pas être l'œuvre d'un seul pays, mais plutôt une symphonie de coopération mondiale », a déclaré M. Xi lors de l'ouverture de la Conférence mondiale annuelle sur l'intelligence artificielle en Chine à Shanghai.
Dans son discours, il a appelé à s’opposer à « l’extension excessive du concept de sécurité nationale » en ce qui concerne l’IA. La Chine a toujours été empêchée d’utiliser certaines des IA les plus avancées des États-Unis et restreinte dans l’accès aux puces d’IA de pointe.
La Chine a l'intention d'élargir sa coopération en matière d'IA avec l'Association des nations de l'Asie du Sud-Est, la Ligue des États arabes, l'Union africaine, la Communauté des États d'Amérique latine et des Caraïbes, l'Organisation de coopération de Shanghai et les pays des BRICS.
Au cours des cinq prochaines années, Xi a déclaré que la Chine offrirait 5 000 opportunités de formation en IA aux pays en développement. Il a également déclaré que la Chine fournirait à 30 pays l'accès à un outil météorologique développé par la Chine pour les systèmes d'alerte précoce.
