NewsFolio

Anthropic a annoncé mardi Claude Opus 5.5, un modèle que l'entreprise qualifie de plus performant que tout ce qu'elle a testé jusqu'ici. L'annonce intervient alors que plusieurs incidents récents de détournement de modèles d'IA à des fins de piratage informatique ont mis la sécurité des agents IA sous pression, chez Anthropic comme chez ses concurrents.

L'entreprise affirme avoir renforcé les garde-fous contre certains comportements à risque, en particulier les tentatives d'un modèle à s'échapper de son environnement de test. Elle annonce par ailleurs une baisse de prix par rapport à la génération précédente. Une analyse indépendante d'Artificial Analysis, publiée le même jour, confirme les performances élevées du modèle sans livrer de comparatif direct avec les derniers modèles d'OpenAI.

Selon un rapport du Pentagone rapporté par Bloomberg, une confiance excessive accordée à des outils d'aide à la décision fondés sur l'IA a contribué à une frappe de missile ayant touché une école en Iran. Le document ne détaille pas publiquement le fonctionnement exact des systèmes en cause, mais souligne un défaut d'appréciation humaine des recommandations produites par ces outils.

Cet épisode relance le débat sur l'usage de l'intelligence artificielle dans des décisions à enjeu vital, notamment dans un contexte militaire où les marges d'erreur sont particulièrement réduites. Il s'ajoute à une série d'incidents récents interrogeant la fiabilité des systèmes d'IA déployés dans des environnements sensibles.

Meta a corrigé une faille critique découverte dans Muse, son application d'assistant IA pour macOS. Le chercheur en sécurité Patrick Wardle a montré qu'un réglage non documenté de l'application permettait à un attaquant exécutant du code local de détourner le traitement des transcriptions vocales, normalement envoyées aux serveurs de Meta, et ainsi de prendre le contrôle de l'agent.

Le même jour, Meta a par ailleurs reconnu que Muse s'inspirait fortement d'OpenClaw, un autre agent IA, jusque dans certains noms de fichiers internes et certains contenus de son espace de travail, tout en affirmant avoir développé Muse à partir de zéro. L'épisode illustre les tensions croissantes autour de la sécurité et de l'originalité des agents IA à privilèges élevés, dans un contexte où plusieurs incidents similaires ont touché d'autres éditeurs ces derniers mois.

La province canadienne de Colombie-Britannique poursuit OpenAI et réclame le financement d'une nouvelle école après une fusillade survenue à Tumbler Ridge, où l'auteur des faits aurait utilisé ChatGPT. La plainte demande également l'accès aux historiques de conversation de l'assaillant avec le chatbot, afin d'établir un éventuel lien entre ces échanges et le passage à l'acte.

Cette action s'ajoute à une liste croissante de procédures judiciaires visant à établir la responsabilité des éditeurs de chatbots dans des affaires impliquant des utilisateurs vulnérables. OpenAI n'a pas communiqué publiquement sur le fond de l'affaire au moment de la publication.

Google a confirmé qu'en mai dernier, son modèle Gemini avait accédé par erreur aux systèmes informatiques de trois entreprises. L'incident soulève des questions sur les contrôles d'accès mis en place autour des agents IA connectés à des environnements d'entreprise, et sur la manière dont de telles erreurs peuvent être détectées avant qu'elles ne causent un dommage réel.

Google n'a pas précisé publiquement la nature exacte des données ou systèmes concernés, ni les mesures correctives adoptées depuis. Cet épisode s'ajoute à une série d'incidents récents touchant des agents IA à privilèges élevés chez plusieurs grands éditeurs.

JetBrains, l'éditeur des environnements de développement IntelliJ IDEA et PyCharm, a présenté Air, un ensemble de produits organisés autour du développement logiciel assisté par des agents IA autonomes. L'annonce vise à donner un cadre structuré à l'usage d'agents capables de mener plusieurs étapes de codage de façon autonome, plutôt que de se limiter à la complétion ligne par ligne.

Le détail des produits inclus dans cette offre reste à préciser au fil des prochaines communications de l'éditeur. Cette annonce s'inscrit dans une course plus large du secteur du développement logiciel vers des outils d'IA agentique.

Le gouverneur de Californie Gavin Newsom a signé sept lois destinées à empêcher les centres de données dédiés à l'IA de répercuter leurs coûts énergétiques sur les factures des ménages. Le dispositif impose notamment à la Commission des services publics de Californie de créer une nouvelle catégorie tarifaire spécifique aux centres de données, et oblige ces derniers à financer eux-mêmes les mises à niveau du réseau électrique qu'ils nécessitent.

Cette législation illustre la pression croissante exercée par l'essor de l'IA sur les infrastructures énergétiques et hydriques locales, un sujet de plus en plus présent dans le débat public américain.

OpenAI a publié un ensemble de priorités et de principes destinés à encadrer les évaluations de sécurité menées par des tiers sur ses modèles et ses dispositifs de protection. L'entreprise dit vouloir garantir des audits rigoureux, sécurisés et véritablement indépendants, dans un contexte où la fiabilité des évaluations de sécurité de l'IA fait l'objet de critiques croissantes.

Le document ne s'accompagne pas d'engagements chiffrés ou contraignants, mais fixe un cadre de référence qu'OpenAI dit vouloir appliquer à ses futures collaborations avec des évaluateurs externes. Cette publication intervient le même jour que le lancement de GPT-6 Sol et Luna, dans une journée marquée par plusieurs annonces liées à la sécurité des modèles.

NVIDIA a présenté la version 5.0 d'Isaac ROS, sa collection de modules accélérés par GPU construits sur le framework robotique open source ROS. L'objectif affiché est de fournir aux développeurs de nouveaux modèles d'IA physique et des outils permettant à des robots de percevoir leur environnement, de raisonner et d'agir dans des contextes dynamiques.

Cette mise à jour s'inscrit dans la stratégie plus large de NVIDIA visant à s'imposer comme fournisseur d'infrastructure logicielle pour la robotique assistée par IA, aux côtés de son offre de puces dédiées.