NewsFolio

La journee est dominee par les questions de securite et de gouvernance de l'IA : des chercheurs ont pirate OpenAI a l'aide de Claude, l'armee americaine a frole un incident du a une hallucination, et Dario Amodei comme Gavin Newsom avancent chacun leurs propositions pour encadrer les modeles les plus puissants. Cote produits, OpenAI decline son modele pour le droit, Anthropic fusionne ses interfaces de travail, et Alibaba ajoute une variante rapide a sa gamme Qwen.

À la une
Ecosysteme et transverse · Securite et alignement

Des chercheurs en securite ont utilise Claude pour pirater OpenAI

Trois chercheurs independants de la societe Hacktron ont reussi a s'introduire dans les comptes d'employes d'OpenAI en combinant une faille de type heap overflow et une mauvaise configuration de l'authentification unique (SSO), avec l'aide de Claude Opus 4.8 puis 5 pour automatiser une partie de l'exploitation. L'operation, menee en moins de 72 heures selon le Wall Street Journal, leur a donne acces au depot GitHub interne d'OpenAI, surnomme « Monorepo » et repute contenir des elements algorithmiques sensibles.

Il s'agissait d'une demarche de securite responsable : les chercheurs ont documente la chaine d'attaque et alerte OpenAI plutot que d'exploiter les donnees. L'episode illustre a quel point les agents IA actuels peuvent accelerer le travail offensif en cybersecurite, dans un sens comme dans l'autre. Plusieurs medias americains, dont Ars Technica, The Verge et TechCrunch, ont repris l'enquete initialement publiee par Hacktron.

Source : Hacktron · Aussi : Ars Technica, The Verge, TechCrunch
Ecosysteme et transverse · Securite et alignement

L'armee americaine evite de justesse un incident apres une fausse alerte generee par IA

Selon CNN, l'armee americaine a frole un incident grave apres qu'un outil d'intelligence artificielle a produit un rapport de renseignement errone concernant un navire chinois. L'information, prise pour argent comptant dans un premier temps, aurait pu declencher une reponse operationnelle disproportionnee avant d'etre corrigee.

L'affaire relance les interrogations sur la fiabilite des systemes d'IA generative integres aux chaines de decision militaires, ou une hallucination peut avoir des consequences bien plus lourdes que dans un usage civil. Elle intervient alors que plusieurs armees, dont l'americaine, accelerent l'adoption d'outils IA pour l'analyse du renseignement.

Source : CNN
Ecosysteme et transverse · Securite et alignement

Dario Amodei propose un plan pour « rythmer » la course a l'IA

Une semaine apres qu'un chercheur d'Anthropic a alerte sur les risques existentiels de l'IA, le directeur general Dario Amodei a devoile sa proposition pour « pacer la frontiere » du developpement des modeles. Le plan repose sur des evaluateurs de securite independants et une coordination entre laboratoires d'IA des pays democratiques, plutot que sur une pause unilaterale.

L'idee recueille un soutien partiel dans l'industrie, mais essuie des critiques, notamment de Jensen Huang, le patron de Nvidia, qui y voit un frein a l'innovation. Le debat illustre la tension persistante entre acceleration commerciale et prudence sur la securite des modeles les plus avances.

Source : TechCrunch
Ecosysteme et transverse · Regulation et juridique

La Californie veut pouvoir imposer un « kill switch » aux modeles les plus avances

Le gouverneur de Californie Gavin Newsom a signe vendredi un decret positionnant l'Etat en tete de la supervision de l'IA aux Etats-Unis. Le texte ouvre la voie a l'obligation, pour les developpeurs de modeles de pointe, d'integrer un mecanisme d'arret d'urgence.

Il charge egalement un groupe d'experts de remettre des recommandations sous deux mois sur l'encadrement des systemes les plus puissants. La Californie, siege de la plupart des grands laboratoires d'IA, cherche ainsi a peser sur une regulation federale encore inexistante.

Source : The Verge
Ecosysteme et transverse · Regulation et juridique

Microsoft et OpenAI perdent la bataille judiciaire pour garder secrets des documents internes

Dans le cadre d'une action en justice sur le droit d'auteur, Microsoft et OpenAI ont echoue a faire sceller des documents internes evoquant ouvertement l'aspiration massive de contenus proteges pour entrainer leurs modeles. Selon Ars Technica, un cadre de Microsoft y qualifie cette pratique de « plus grand vol de travail de l'histoire humaine ».

La decision judiciaire force la publication de ces echanges, qui pourraient peser lourd dans les nombreux proces intentes par des auteurs, journaux et artistes contre les grands laboratoires d'IA. L'affaire illustre le decalage entre le discours public des entreprises d'IA et certaines appreciations internes de leurs propres pratiques.

Source : Ars Technica
IA appliquees a des secteurs particuliers · IA robotique

Des drones dotes de petits modeles d'IA identifient et attaquent seuls des cibles

La startup Scaleout, soutenue par l'OTAN, deploie des systemes d'apprentissage decentralise sur des bases militaires et des drones capables d'identifier et de frapper des cibles sur le champ de bataille de maniere autonome, rapporte Ars Technica. La technologie repose sur des modeles d'IA compacts executes directement sur les appareils plutot que dans le cloud, ce qui reduit la dependance a une connexion et accelere la prise de decision.

Cette autonomie croissante des systemes d'armement souleve des questions ethiques et juridiques deja anciennes, mais que l'industrialisation du procede rend plus pressantes. Le projet s'inscrit dans une course plus large des armees occidentales a integrer l'IA embarquee dans leurs equipements.

Source : Ars Technica
IA specialisees dans des taches · Agents IA

Google recentre son agent IA « CC » sur la gestion du foyer

Google fait evoluer son agent experimental CC vers la coordination domestique, rapportent Ars Technica et TechCrunch. Plusieurs membres d'une meme famille peuvent desormais partager e-mails, agendas et taches pour que l'IA gere les plannings, remplisse des formulaires, etablisse des listes de courses ou propose des menus.

L'agent agit ainsi pour le compte de plusieurs utilisateurs a la fois, une approche distincte des assistants individuels habituels. Google positionne CC comme un banc d'essai pour des agents capables de gerer des taches partagees au sein d'un groupe, avant une eventuelle integration plus large dans ses produits grand public.

Source : Ars Technica · Aussi : TechCrunch
IA specialisees dans des taches · Agents IA

Anthropic fusionne Claude Chat et Cowork en une seule interface

Anthropic poursuit la transformation de Claude en veritable environnement de travail en fusionnant son interface de discussion classique, Chat, avec Cowork, son produit oriente execution de taches longues, selon Le Monde Informatique. Les utilisateurs disposeront desormais d'un seul espace pour dialoguer avec l'assistant et lui confier des missions plus autonomes necessitant plusieurs etapes.

Ce rapprochement traduit la strategie d'Anthropic de ne plus separer conversation et delegation de taches, dans un marche ou OpenAI et Google poussent egalement leurs propres agents vers davantage d'autonomie. Le calendrier de deploiement complet n'est pas precise.

IA appliquees a des secteurs particuliers · IA juridique

OpenAI lance Astra for Law pour les professionnels du droit

OpenAI a annonce le 17 septembre Astra for Law, une declinaison de son modele GPT-6 Astra destinee aux cabinets d'avocats et aux directions juridiques, rapporte Le Monde Informatique. L'outil vise les taches courantes du secteur : recherche de jurisprudence, analyse de contrats et preparation de documents.

OpenAI rejoint ainsi une categorie deja disputee par des acteurs specialises du legaltech, en misant sur la puissance generaliste de son modele plutot que sur un outil construit specifiquement pour le droit. L'annonce s'inscrit dans la strategie plus large d'OpenAI de decliner ses modeles par secteur d'activite.

Ecosysteme et transverse · Modeles de fondation

Alibaba devoile Qwen 3.8 Omni Flash, une version allegee de son modele multimodal

L'equipe Qwen d'Alibaba a mis en ligne Qwen 3.8 Omni Flash, une variante rapide et moins couteuse de sa gamme de modeles multimodaux « Omni », capables de traiter texte, image et audio dans une meme conversation. Le format « Flash » vise les usages ou la latence et le cout d'inference comptent davantage que la performance maximale, une strategie deja adoptee par Google avec Gemini Flash.

La publication s'inscrit dans le rythme de sorties tres soutenu de Qwen depuis le debut de l'annee, qui multiplie les variantes pour couvrir differents budgets de calcul. Aucun benchmark detaille n'accompagnait l'annonce au moment de sa publication.

Source : Qwen (Alibaba)