NewsFolio

Selon plusieurs médias, un rapport généré par une intelligence artificielle et contenant des informations inventées sur des composants nucléaires chinois a failli conduire l'armée américaine à monter à bord d'un navire chinois. L'alerte reposait sur une hallucination du modèle, c'est-à-dire des données présentées comme factuelles sans fondement réel.

Un chercheur du GovAI cité dans la presse souligne l'importance, pour le personnel militaire, de comprendre l'incertitude inhérente aux grands modèles de langage. L'épisode intervient alors que l'usage de l'IA dans les processus de décision militaire américains continue de s'accélérer, ce qui accroît le risque de voir ce type d'erreur se reproduire dans un contexte aux conséquences plus lourdes.

Alibaba a publié en open source un modèle d'intelligence artificielle médicale capable de repérer le cancer ainsi que près de 150 autres pathologies à partir de données cliniques et d'imagerie. Cette mise à disposition permet à des chercheurs et à des établissements de santé de l'utiliser et de l'adapter sans dépendre d'un accès payant.

Ce geste s'inscrit dans une stratégie plus large des grands groupes technologiques chinois, qui misent sur l'ouverture de leurs modèles pour gagner en influence face aux laboratoires américains, notamment dans des domaines à forte valeur sociale comme la santé.

La NASA et IBM, avec l'appui scientifique de l'USRA, ont mis en libre accès un modèle de fondation destiné à l'analyse de données géospatiales, développé notamment pour les besoins de l'exploration lunaire. L'outil vise à faciliter l'exploitation de grands volumes d'images et de mesures planétaires par la communauté scientifique.

En le rendant open source, les trois organisations permettent à des équipes de recherche extérieures de réutiliser et d'affiner le modèle plutôt que de repartir de zéro, une démarche qui s'inscrit dans la tendance des agences publiques à publier leurs outils d'IA scientifique plutôt qu'à les garder propriétaires.

Des documents internes déscellés dans le cadre du procès intenté par le New York Times contre OpenAI et Microsoft montrent que les deux entreprises avaient elles-mêmes anticipé les dégâts causés par leurs pratiques. Leur propre documentation évoquait une « boucle fatale » qui allait fragiliser l'écosystème du web, et qualifiait l'aspiration de données pour l'entraînement des modèles de plus grand vol de travail de l'histoire.

Ces pièces renforcent l'argumentaire du New York Times, qui accuse les deux entreprises d'avoir utilisé ses contenus sans autorisation pour entraîner ChatGPT, tout en sachant que cela porterait atteinte aux médias et aux sites dont le trafic dépend des moteurs de recherche.

En fin de semaine dernière, le patron d'Anthropic Dario Amodei avait proposé un plan en trois étapes pour ralentir le développement de l'IA : intégrer des évaluateurs indépendants au sein des laboratoires, coordonner les efforts entre acteurs américains, puis négocier des accords internationaux. Une partie du secteur semblait, au moins temporairement, se ranger derrière l'idée d'un encadrement plus strict.

Mais l'unité affichée en début de semaine n'a pas tenu : les tensions entre partisans d'une régulation renforcée et défenseurs d'un développement peu contraint ont rapidement resurgi, signe que le sujet reste loin d'être tranché au sein de l'industrie américaine de l'IA.

Dans le cadre du plan de régulation volontaire évoqué par Dario Amodei, Anthropic a choisi Accenture comme premier évaluateur tiers intégré à ses activités. Le cabinet de conseil aura pour mission d'examiner les pratiques du laboratoire en matière de sécurité, une fonction inhabituelle pour une entreprise dont le métier reste avant tout le conseil aux entreprises.

Ce choix interroge sur la capacité d'un acteur commercial, potentiellement aussi client d'Anthropic, à exercer un regard réellement indépendant sur les pratiques du laboratoire.

La start-up Vals AI, financée par le fonds Andreessen Horowitz, entend s'imposer comme un tiers de confiance pour évaluer les performances des modèles d'intelligence artificielle. L'objectif est de proposer des benchmarks neutres, à l'écart des chiffres souvent mis en avant par les laboratoires eux-mêmes pour promouvoir leurs propres modèles.

Ce positionnement répond à une préoccupation croissante du secteur : avec la multiplication des modèles et des annonces de performances, disposer de mesures indépendantes et comparables devient un enjeu pour les entreprises qui doivent choisir quel modèle déployer.

Anthropic mène, en parallèle de ses activités de recherche sur les grands modèles de langage, des expériences de biologie au sein d'un laboratoire dédié. L'initiative illustre la promesse récurrente des grands laboratoires d'IA selon laquelle leurs modèles pourraient accélérer la recherche médicale et la découverte de traitements.

Elle contraste avec le discours plus alarmiste tenu par certains chercheurs d'Anthropic sur les risques existentiels que ferait courir l'intelligence artificielle, une tension qui traverse l'ensemble du secteur entre promesses scientifiques et mises en garde sur la sécurité.

Le secteur des « world models », ces systèmes d'IA censés modéliser et simuler le monde physique, attire des levées de fonds considérables et beaucoup d'attention médiatique. Mais les détails concrets sur les technologies développées restent rares : ni les fondateurs des start-up concernées, ni même leurs fournisseurs de données, ne détaillent précisément ce qui est construit.

Cette opacité contraste avec l'ampleur des sommes en jeu et nourrit les interrogations sur la maturité réelle de ces technologies, encore présentées davantage comme une promesse d'avenir que comme des produits éprouvés.