Il devient chaque jour plus évident que les agents de l’intelligence artificielle échappent à notre contrôle – mais on ne sait pas encore qui ou quoi va les maîtriser.
Cette semaine, un chercheur a découvert qu'un essaim d'agents d'IA, dont au moins deux d'OpenAI, avaient piraté une agence gouvernementale, entre autres organisations. Les entreprises modèles d’IA et les sociétés de cybersécurité, sans parler des entreprises qui déploient des systèmes agents, s’efforcent de les contenir, mais il est clair que personne n’était vraiment préparé à ces possibilités, malgré de nombreux avertissements préalables.
Ces incidents ne seront sûrement ni les derniers ni les pires. Bill Gates apparaîtra dans « Meet the Press » ce week-end pour expliquer pourquoi l’IA pourrait causer un milliard de morts, voire plus, si elle n’est pas mieux contrôlée.
Si l’industrie ne commence pas à résoudre ce problème rapidement, quelqu’un d’autre essaiera, comme le gouvernement américain, dont de nombreuses parties cherchent à savoir comment réprimer l’IA (ou non). Ou, mieux encore, les solutions arrivent rapidement et furieusement de la part de toutes les foutues entreprises de cybersécurité.
Mais le fait est que même s’il est facile de blâmer une bande d’agents anonymes, il s’agit en réalité d’humains qui doivent s’assurer qu’ils prennent les choses en main en premier lieu. « Ce qui est remarquable, ce n'est pas qu'un agent IA ait réussi à échapper à un contrôle, mais plutôt que personne n'ait conçu l'agent pour qu'il s'arrête lorsqu'il en heurte un », a noté un ingénieur en cybersécurité. Je dirais : « Laissez vos chiens, les gars. » Mais ce n'est pas si simple.
Pour autant, il n’y a toujours pas de ralentissement de l’IA qui pourrait donner le temps de comprendre comment gérer les agents malveillants. Rien que cette semaine, de nouveaux modèles d'OpenAI et Anthropic (le même jour), SpaceXAI, Xiaomi et Google ont été produits. Une guerre des prix pourrait même se développer. Pendant ce temps, d'autres facteurs pourraient ralentir les choses : il y a des signes de tension dans le développement de l'IA, car Oracle vient de publier un avis à son partenaire de grands centres de données au Nouveau-Mexique qui pourrait lui permettre de retenir les paiements si la capacité n'est pas livrée à temps.
Cela fait bientôt cinq ans que Facebook a changé son nom en Meta Platforms, pour se retrouver pris au dépourvu face au boom de l'IA qui a suivi et, étonnamment, à court d'assez d'argent pour faire à la fois de l'IA et du métaverse. Mais avec son nouvel agent Muse apparemment populaire, le PDG Mark Zuckerberg pourrait bien voir une certaine synergie entre ses deux prochains paris au-delà des médias sociaux, ce qui l'a amené cette semaine à lancer une série de nouvelles lunettes et d'autres produits de réalité virtuelle. Ils sont chers, cependant, il reste donc à voir si la deuxième fois sera la bonne.
Voici toutes les actualités, analyses et opinions sur les entreprises et les technologies émergentes cette semaine de SiliconANGLE et au-delà :
Analyse, avis et matière à réflexion : L’usine à IA, c’est l’ordinateur
L'usine d'IA devient l'ordinateur et change la course aux semi-conducteurs
Les agents exposent les limites de la confiance
Stimuler l’IA ne résoudra pas le déficit de gouvernance
Pourquoi l'inférence de l'IA doit devenir une marchandise
Brookings : Financer le développement de l’IA : « La construction projetée serait plus importante par rapport à l'économie que les grands booms des investissements dans les canaux, les chemins de fer, l'électrification, les autoroutes et les télécommunications aux États-Unis. » 😬 À condition que toutes les entreprises qui tentent de construire toute cette infrastructure puissent réellement le faire : Oracle émet un avis de « force majeure » au développeur du centre de données du Nouveau-Mexique concernant les retards énergétiques
Quand l’IA fait partie du problème de l’inflation (selon Axios) : Réflexions du président de la Fed de Chicago, Austan Goolsbee
Le codage de l’IA ajoute près d’un milliard de dollars aux dépenses de santé des assureurs de la Croix Bleue Super.
Le routage de modèles dynamiques suivra la voie tracée par les réseaux étendus définis par logiciel
Le confinement est mort : cinq points à retenir du retour sur investissement de l'IA lors du Contact Center Summit
Les nouveaux avatars Gemini Live effrayants de Google veulent essayer de rendre les robots d'assistance en ligne plus humains : Pourquoi les entreprises d’IA ressentent-elles le besoin de rendre l’IA « plus humaine » ? C'est un outil, pas une personne !
IA et données : quel ralentissement de l’IA ?
Politique
Trump dit qu'il envisage de créer une « Force IA » et d'embaucher un nouveau tsar de l'IA
Également du SI (Super Idiot) : Trump ordonne à l'IA de rebaptiser « super intelligence » ou SI
Google condamné à une amende de 462 millions de dollars en Irlande pour ses pratiques de collecte de données de localisation
Nouveaux modèles et services
Anthropic lance les compteurs Claude Opus 5.5 et OpenAI avec deux modèles GPT-6 moins chers
SpaceX lance Grok 4.7 avec un traitement à long terme et des améliorations de sécurité
Xiaomi présente la famille de modèles d'IA open source de la série Mimo-V2.6
Google lance deux modèles de génération vocale de référence
Le nouveau plugin d'Amazon permet aux vendeurs de gérer l'intégralité de leur activité de commerce électronique avec l'IA C'est après avoir coupé l'agent Meta's Muse : Amazon empêche l'agent Muse de Meta d'effectuer des achats au nom des utilisateurs
AWS lance Strands Harness, un agent d'IA open source qui peut être déployé dans n'importe quel environnement
UiPath introduit une nouvelle automatisation des flux de travail et des fonctionnalités de test de logiciels
Exclusif : Warp ajoute des agents programmables à sa plateforme RH native IA
Dataiku lance la gestion des agents multiplateforme et étend l'agent de construction Cobuild
Rocket Software apporte des agents d'IA gouvernés aux opérations mainframe
Known Systems AI est issu d'Identity Digital pour rendre les agents d'IA responsables envers leurs propriétaires
ZeroDrift lance trois modèles pour les contrôles de conformité de l'IA en temps réel
Stravito intègre les études de marché aux outils d'IA d'entreprise avec le serveur MCP
NextLM apporte son agent de prospection de précision sur Google Cloud Marketplace
Teradata étend AI Assistant avec des outils pour les agents gouvernés
Kantata lance Agent Studio pour créer des agents IA personnalisés en langage simple
Rabbit revient avec OS3, un agent IA personnel qui peut accéder aux fichiers et connecter des ordinateurs
L’argent compte
Databricks acquiert la start-up Row Zero pour améliorer ses capacités d'IA
Le fournisseur de données de formation Snorkel AI lève 350 millions de dollars pour une valorisation de 3,5 milliards de dollars
Heidi Health obtient 340 millions de dollars pour approfondir l'adoption d'agents d'IA au sein des systèmes de santé à l'échelle mondiale
Le « ChatGPT pour les médecins », OpenEvidence, évalué à 15 milliards de dollars lors d'un nouveau cycle de financement
La start-up Basecamp Research, spécialisée dans la découverte de médicaments en IA, lève 140 millions de dollars
Ema lève 77 millions de dollars pour déployer des employés IA dans les services RH, informatiques et financiers de l'entreprise
La startup de web scraping Firecrawl clôture un investissement de 75 millions de dollars
Avec 35 millions de dollars de financement initial, Baselayer construit la couche de confiance pour l'économie agentique
Sela, un système d'IA vocale pour la vente de prêts hypothécaires, lève 21 millions de dollars et des tours de série A
Ando lance une plateforme de messagerie native pour agents et annonce un amorçage de 20 millions de dollars
Ekai lève 1,7 million de dollars pour offrir aux agents IA d'entreprise un contexte commercial vérifié
Autour de l'entreprise : Akamai lance un accord avec Anthropic
L’argent compte
Les actions d'Akamai bondissent de plus de 20 % grâce à l'accord Anthropic Computing de 11,6 milliards de dollars
Le néocloud européen Verda lève 189 millions de dollars pour construire l'infrastructure d'IA de demain
Groundcover reprend la startup d'optimisation Kubernetes Wand lors de sa première acquisition
Numeral lève 100 millions de dollars de série C pour étendre la conformité fiscale basée sur l'IA dans tous les secteurs
La startup PicoJool, soutenue par Pat Gelsinger, lève 27,5 millions de dollars pour augmenter la bande passante des clusters d'IA
Nexstrom empoche 12 millions de dollars pour aider les fabricants de puces à remplacer le silicium par des plaquettes semi-conductrices plus efficaces
Nouveaux produits et services
Googlebook apporte une intelligence premium à un ordinateur portable léger basé sur ChromeOS
Vast Data lance un service informatique confidentiel pour les charges de travail sensibles
LittleHorse ajoute des contrôles d'agent et un essai gratuit sans serveur à sa plateforme d'orchestration « Business-as-Code »
Flux étend sa plateforme pour montrer si les investissements dans le codage de l'IA portent leurs fruits
Cyber-beat : des agents devenus voyous
Attaque et réponse
Les chercheurs associent davantage de cyberattaques à un essaim d’agents OpenAI
Un rapport DataDome révèle que le trafic de robots malveillants augmente neuf fois plus vite que le trafic humain
Les agents IA créent un nouveau risque de sécurité interne : analyse Oktane de theCUBE
Nouveaux services
Exclusif : CoreWeave lance Remote Key Encryption pour garder les clés des clients hors de son cloud
Exclusif : Darktrace rend SECURE AI largement disponible pour surveiller l'utilisation de l'IA en entreprise
Microsoft dévoile l'Integrated Security Operations Center dans Defender pour les agents AI
Cisco Talos découvre un malware qui soumet sa prochaine étape à un vote de quatre modèles
Vicarius lance ScriptAI pour rédiger des correctifs pour les failles sans correctif du fournisseur
Barracuda lance AI Data Security pour contrôler ce que les employés envoient aux chatbots
Okta ajoute une passerelle d'exécution d'agent IA et forme Blueprint Alliance avec AWS et CrowdStrike
Sumo Logic étend ses pipelines de données pour réduire les coûts d'observabilité et de sécurité des données
Lookout lance un module mobile pour détecter les escroqueries textuelles et vocales basées sur l'IA
L’argent compte
Cyera lève 400 millions de dollars supplémentaires dans le cadre de la sécurité des agents IA
Le développeur de navigateurs d'entreprise Island lève 400 millions de dollars pour une valorisation de 6,4 milliards de dollars
Kontext lève 4 millions de dollars pour contrôler ce que les agents d'IA sont autorisés à faire au sein des entreprises
Ailleurs dans la technologie : Meta essaie à nouveau la VR
Meta tente de ressusciter le métaverse avec ses nouvelles lunettes VR
Le premier satellite Project Suncatcher AI de Google devrait décoller en orbite la semaine prochaine
L'unité de robotique de Google, Intrinsic, met en open source son infrastructure de base pour les robots intelligents
Amazon va dépenser 100 millions de dollars dans une usine en Indiana, son quatrième site de construction de robots
La société de vision industrielle Cognex achète RealSense, spin-off de la robotique Intel, pour 600 millions de dollars
Hubble Network lève 200 millions de dollars pour apporter une couverture mondiale à tous les appareils Bluetooth LE
Binance achète une participation de 100 millions de dollars à Circle dans le cadre d'un accord de promotion USDC sur cinq ans
Allées et venues
Plateforme de données Boomi nommé ancien vice-président directeur des finances de Proofpoint Mike Hickman directeur financier.
Chris Malone, OpenAIl'ancien responsable des centres de données, a rejoint Nvidia en tant que vice-président de sa plateforme DSX.
Éthyquela plateforme de gouvernance d'exécution derrière Astralis, nommée Daniel J. Weitzner directeur de la stratégie. Il a servi à la Maison Blanche d'Obama en tant que leader de la politique américaine en matière de données et de technologie.
Plateforme de défense de l'ingénierie sociale par l'IA Double nommé ancien cadre de Xerox Joey Rachid conseiller principal en matière de sécurité.
Quelle est la prochaine étape
Événements
29 septembre : Journée de développement OpenAISan Francisco
29 septembre : Fusion de travail atomiqueSan Francisco
29 septembre-oct. 1 : Aperçu NetAppLas Vegas : TheCUBE sera sur place le 30 septembre avec des interviews et des analyses
29 septembre-oct. 1 : CoreWeave entièrement connectéSan Francisco : TheCUBE sera sur place le 29 septembre avec des interviews et des analyses
29 septembre-oct. 1 : La conférence sur l'IA, San Francisco
Mercredi 30 septembre : Sommet sur l'IA des pistesSan Francisco
Gains
Mercredi 30 septembre : Micron, logiciel de progrès
