Satya Nadella estime que les systèmes d’intelligence artificielle capables d’accéder à des données sensibles ou d’agir au nom de leurs utilisateurs doivent être surveillés et contrôlés par des dispositifs indépendants.
Les outils d’intelligence artificielle prennent une place croissante dans les entreprises et peuvent désormais accomplir des tâches complexes. Mais leur fonctionnement reste parfois difficile à suivre, alors même que certains systèmes ont accès à des informations sensibles et peuvent intervenir dans des opérations importantes.
Dans une prise de position publiée le 10 octobre, Satya Nadella, directeur général de Microsoft, appelle à renforcer les mécanismes de contrôle autour des modèles les plus avancés. Il propose de les considérer comme des risques potentiels au sein d’une organisation : non parce qu’ils seraient nécessairement malveillants, mais parce qu’ils peuvent se tromper ou être compromis.
Le dirigeant préconise notamment de limiter les accès des modèles, de conserver des traces fiables de leurs actions, de tester régulièrement leur comportement et de faire vérifier leurs résultats par des mécanismes indépendants. Il insiste aussi sur la nécessité de garder les contrôles en dehors du modèle lui-même.
L’un des principes avancés est de permettre à une personne autorisée de suspendre ou d’arrêter un système en pleine tâche, comme avec un « frein d’urgence ». Nadella appelle également à signaler rapidement les incidents afin de comprendre les défaillances et d’éviter qu’elles ne se reproduisent.
Cette prise de position intervient alors que l’intelligence artificielle s’installe dans de nombreux domaines de la vie quotidienne et professionnelle. Elle souligne une question centrale pour les entreprises, les institutions et les utilisateurs : comment profiter de ces nouveaux outils tout en gardant la maîtrise de leurs décisions et de leurs actions ?
Dans son texte, Nadella emploie aussi le terme « Super Intelligence », ou « SI », à la place d’« intelligence artificielle ». Ce choix reprend la terminologie que le décret signé par Donald Trump le 29 septembre demande aux administrations fédérales américaines d’utiliser dans leurs communications officielles.
Ashdodcafe.com
Vous pouvez nous retrouver tous les jours sur notre groupe whatsapp et recevoir notre newsletter hebdomadaire en vous y inscrivant et en invitant vos amis à faire de même.
