À la une
Ecosysteme et transverse · Securite et alignement
Dans un long essai publié cette semaine, Dario Amodei, directeur général d'Anthropic, plaide pour lever le pied sur la course aux modèles toujours plus puissants. Il propose un plan en trois volets pour « caler le rythme de la frontière » technologique, une formule qui désigne concrètement un ralentissement volontaire plutôt qu'un simple discours de prudence. Anthropic s'engage notamment à ouvrir l'accès à ses modèles à des évaluateurs indépendants comme METR, chargés de vérifier le respect de ses engagements de sécurité.
Cette sortie intervient alors que les dirigeants des grands laboratoires, OpenAI en tête avec Sam Altman, semblent converger vers un vocabulaire de prudence similaire, sans que cela se traduise encore par un ralentissement mesurable des annonces. Aucun mécanisme contraignant n'accompagne cette déclaration d'intention, et l'initiative dépend largement de la bonne volonté des laboratoires concurrents.
OpenAI affirme avoir résolu l'un des sept problèmes du prix du Millénaire, une série de défis mathématiques parmi les plus difficiles au monde, chacun doté d'un million de dollars par l'institut Clay. L'annonce s'inscrit dans une série de démonstrations de force de l'entreprise sur le terrain des mathématiques de haut niveau, mais elle est accueillie avec scepticisme par une partie de la communauté scientifique.
Vingt-cinq mathématiciens de premier plan ont signé une lettre ouverte accusant les laboratoires d'IA de s'approprier un travail intellectuel collectif sans reconnaissance adéquate ni passage par les formes habituelles de vérification par les pairs. Le différend illustre une tension plus large entre la vitesse de communication des entreprises d'IA et le rythme, plus lent et contradictoire, de la validation scientifique.
Selon une enquête du Washington Post, des combattants houthis au Yémen auraient utilisé le chatbot d'Anthropic pour les aider à concevoir des armes guidées. L'ampleur exacte de ce que l'IA aurait permis de faire n'est pas détaillée publiquement dans son intégralité, et Anthropic n'avait pas communiqué, au moment de la publication, sur les mesures prises depuis la découverte de cet usage.
L'affaire relance le débat sur la difficulté à empêcher le détournement des assistants conversationnels par des acteurs armés non étatiques, malgré les garde-fous mis en place par les éditeurs de modèles. Elle intervient alors qu'Anthropic communique par ailleurs largement sur son engagement en matière de sécurité, une tension qui n'échappe pas aux observateurs.
L'administration Trump affaiblit plusieurs réglementations environnementales fédérales pour accélérer la construction de centres de données destinés à l'intelligence artificielle. D'anciens responsables de l'Agence de protection de l'environnement (EPA) ont averti, dans un rapport publié cette semaine, que cet assouplissement fait courir des risques sanitaires supplémentaires aux populations vivant à proximité de ces infrastructures.
Ils appellent, sans grand espoir d'être entendus selon leurs propres mots, à l'adoption d'un cadre de protection sanitaire spécifique aux centres de données. Le dossier illustre l'arbitrage croissant entre la course à la capacité de calcul et les contraintes environnementales et sanitaires locales.
Mecka AI, jeune pousse spécialisée dans la collecte de données d'entraînement pour la robotique, serait sur le point de boucler un nouveau tour de table mené par Sequoia Capital, qui la valoriserait à environ 500 millions de dollars. L'opération intervient seulement quelques mois après l'annonce de sa série A, ce qui traduit l'appétit croissant des investisseurs pour les entreprises fournissant des données spécialisées destinées à entraîner des modèles de robotique.
Ce financement rapide reflète une course plus large : à mesure que les laboratoires cherchent à doter leurs robots de capacités physiques comparables à celles des grands modèles de langage, les données de mouvement et de manipulation deviennent une ressource rare et disputée.