Point de suivi sur une publication récente. Fait central daté du 10/10/2026. Ce texte n’est pas présenté comme une nouvelle annonce du jour.
Suivi — Satya Nadella réclame un « frein d'urgence » sous contrôle humain pour les modèles d'IA
Le 10 octobre 2026, Satya Nadella, directeur général de Microsoft, a publié un texte proposant de traiter les modèles d'IA puissants comme des risques internes lorsqu'ils accèdent à des données sensibles ou agissent sur des systèmes. Il préconise de séparer les capacités du modèle des autorisations qui lui sont accordées, de conserver des traces lisibles de ses actions et de permettre à une personne habilitée de suspendre ou d'arrêter une tâche en cours. Il compare ce dernier contrôle à un « frein d'urgence ». Intitulé « Models as Insider Risks in the Super Intelligence Era », publié sur son blog personnel et relayé sur X, le texte vise aussi bien les modèles fermés que ceux dont les poids sont publiés. Son point de départ n'est pas qu'un modèle serait malveillant, mais que tout acteur compétent ayant accès à des systèmes importants peut se tromper ou être compromis : « Nous devons supposer qu'un modèle est compromis et le confiner dès le départ », écrit-il. Concrètement, c'est l'organisation qui exploite le modèle, et non le modèle lui-même, qui doit décider de ce qu'il peut atteindre et faire, au moyen de contrôles placés hors de sa portée ; le modèle doit aussi rester distinct du « harnais » logiciel qui orchestre son travail. Chaque action significative devrait laisser une trace infalsifiable et lisible par un humain, afin de reconstituer les faits sans dépendre du récit du modèle. Nadella en tire une conséquence : l'entreprise qui déploie un modèle reste responsable de ses actes, quelles que soient les assurances de son fournisseur. Il appelle aussi à informer les personnes touchées en cas d'incident, à partager les enseignements entre acteurs du secteur et à établir des normes communes, sans en proposer de précises ni dire qui serait la personne habilitée à actionner le frein. Il s'agit d'une proposition de gouvernance exprimée par Nadella : son texte n'annonce ni nouvelle fonction de Microsoft ni obligation réglementaire. L'efficacité de tels garde-fous dépendrait de leur mise en œuvre et de leur contrôle.
📰 Texte de Satya Nadella