Jakub Pachocki appelle a un sursaut sur l'alignement des IA
Dans un essai publie sur le blog d'OpenAI, le chef scientifique de l'entreprise, Jakub Pachocki, revient sur la difficulte croissante d'aligner des systemes d'intelligence artificielle de plus en plus capables avec les intentions humaines. Il decrit ces modeles comme des esprits de plus en plus etrangers a notre facon de raisonner, dont le comportement devient plus difficile a anticiper a mesure que leurs capacites progressent.
Il appelle a un renforcement des garde-fous techniques et organisationnels au sein des laboratoires, ainsi qu'a une coordination internationale accrue entre gouvernements et acteurs du secteur pour encadrer le developpement de ces systemes. Le texte ne fixe ni delai ni mesure contraignante precise : il s'agit d'un plaidoyer plutot que d'une annonce de politique. Venant du responsable scientifique d'OpenAI, il confirme que les questions de securite restent affichees comme une preoccupation au sommet de l'entreprise, alors meme que la course aux modeles se poursuit.