Cette semaine, le thème dominant est la souveraineté au sens large : garder le contrôle des systèmes d’IA, des infrastructures qui les font fonctionner et, pour le CA, des grandes décisions stratégiques. Les développements des derniers jours donnent à cette notion un contenu beaucoup plus concret.
1. Microsoft rédige une « constitution » pour maintenir l’IA sous contrôle humain
Microsoft vient de présenter un projet de code de conduite destiné à ses futurs modèles d’IA. Le principe central est remarquable : un système doit demeurer corrigible par l’humain, accepter d’être interrompu ou désactivé et ne jamais chercher à contourner cette autorité. Mustafa Suleyman, CEO de Microsoft AI, présente le document comme une sorte de constitution pour les modèles futurs. (Folha de S.Paulo)
Principaux enjeux. Autonomie croissante des agents, droit d’arrêt, comportement imprévu, sécurité et définition précise de l’autorité humaine.
Pourquoi cela importe au CA. Nous retrouvons exactement la question que nous examinons depuis quelques semaines : que peut réellement faire notre IA et qui peut l’arrêter? L’idée de « contrôle humain » doit devenir un mécanisme opérationnel et non une jolie phrase dans une politique éthique.
Action concrète : pour chaque agent capable d’agir dans les systèmes de l’entreprise, faire documenter qui peut l’autoriser, quelles permissions il possède, quelles actions nécessitent une validation humaine et qui possède le pouvoir immédiat de suspension.
2. Canada : un investissement potentiel de 52,5 G$ place la souveraineté de l’IA à une tout autre échelle
Le gouvernement canadien a annoncé hier, 14 septembre, accueillir favorablement le projet de Bell Canada visant à accroître considérablement sa capacité d’infrastructure IA en Saskatchewan. Le projet pourrait atteindre 900 MW de capacité nouvelle, contribuer à un pôle de 1,2 GW, représenter jusqu’à 52,5 milliards de dollars d’investissements et créer 4 500 emplois. (Gouvernement du Canada)
Cette annonce suit les nouveaux principes fédéraux de développement responsable des centres de données, qui cherchent notamment à protéger les consommateurs d’électricité, limiter l’utilisation de l’eau et créer des retombées locales durables. (Gouvernement du Canada)
Principaux enjeux. Énergie, eau, acceptabilité sociale, souveraineté des données, dépendance aux infrastructures étrangères et rentabilité d’investissements extraordinairement lourds.
Pourquoi cela importe au CA. L’IA n’est plus seulement un logiciel acheté par abonnement. Elle repose sur une infrastructure physique considérable. Les administrateurs devront donc progressivement intégrer à leurs décisions IA des questions de résilience, énergie, localisation des données et concentration des fournisseurs.
Question concrète :
Si notre principal fournisseur de nuage ou de calcul devenait indisponible pendant une semaine, quelles activités critiques cesseraient de fonctionner?
3. Novartis : une perte de 30 G$ et un actionnaire important demande maintenant de revoir le conseil
Après deux revers dans des essais cliniques, la valeur boursière de Novartis a chuté de plus de 30 milliards $ US. Un important actionnaire demande maintenant un remaniement du CA et critique notamment la capacité du groupe à superviser ses acquisitions et ses décisions d’allocation du capital. (Reuters)
Le cas est particulièrement intéressant parce que les médicaments concernés proviennent en partie d’acquisitions. Reuters Breakingviews souligne ainsi le paradoxe : Novartis aura probablement encore besoin d’acquisitions pour renouveler son portefeuille, précisément au moment où ses investisseurs remettent en question sa compétence en matière de transactions. (Reuters)
Principaux enjeux. Qualité du CA, acquisitions, discipline d’investissement, contrôle des hypothèses de la direction et responsabilité lorsque des paris stratégiques échouent.
Pourquoi cela importe. Le CA ne peut évidemment pas garantir le succès d’un médicament, d’une acquisition ou d’un projet d’IA. Son rôle consiste plutôt à s’assurer que les hypothèses ont été suffisamment contestées avant d’engager le capital.
Je retiendrais une question remarquablement simple pour tout investissement majeur :
Quelles hypothèses doivent être vraies pour que cet investissement réussisse — et lesquelles avons-nous réellement mises à l’épreuve?
4. Ottawa lance une vaste initiative de littératie en IA : jusqu’à un million d’étudiants visés
Le gouvernement fédéral a lancé le 9 septembre son Initiative nationale de littératie en IA avec l’Alberta Machine Intelligence Institute. Elle vise jusqu’à un million d’étudiants postsecondaires et plus de 50 000 enseignants. Un cours gratuit de trois heures abordera notamment l’utilisation responsable de l’IA, les biais, la désinformation et la protection de la vie privée. (Gouvernement du Canada)
Principaux enjeux. Compétences, transformation des emplois, qualité du jugement humain et capacité à reconnaître les limites des résultats produits par l’IA.
Pourquoi cela importe au CA. C’est une dimension de la gouvernance de l’IA parfois négligée. On peut posséder une excellente politique et néanmoins obtenir de mauvais résultats si les employés ne savent pas quand utiliser l’IA, quand vérifier ses réponses et quelles informations ne doivent jamais lui être confiées.
Action concrète : ajouter au tableau de bord IA du conseil un indicateur très simple : % des employés concernés ayant reçu une formation minimale sur l’utilisation responsable de l’IA.
Pour une organisation de taille moyenne, une formation initiale de deux ou trois heures peut déjà constituer un excellent point de départ.
5. Chine : la question de la « perte de contrôle » quitte le domaine de la science-fiction
Une enquête publiée par Reuters hier et datée du 15 septembre montre que les chercheurs et responsables chinois travaillent eux aussi sur le risque que des systèmes d’IA suffisamment avancés puissent éventuellement échapper au contrôle humain. Des chercheurs étudient notamment l’alignement, les mécanismes d’arrêt et les comportements autonomes des modèles. (Reuters)
Le sujet est d’autant plus notable que la Chine et les États-Unis demeurent en compétition technologique intense. Autrement dit, la sécurité de l’IA devient simultanément un problème scientifique et un problème géopolitique. (Reuters)
Principaux enjeux. Course aux capacités, sécurité des modèles avancés, coordination internationale, contrôles humains et difficulté d’imposer des règles communes à des concurrents stratégiques.
Pourquoi cela importe aux administrateurs. Un CA ordinaire n’a évidemment pas à débattre chaque trimestre de l’intelligence artificielle générale. Mais cette recherche renforce un principe beaucoup plus immédiat : plus nous accordons d’autonomie à une IA, plus les mécanismes de contrôle doivent être explicites et testés.
Un « bouton d’arrêt » dont personne n’a jamais vérifié le fonctionnement possède à peu près la même valeur qu’un extincteur peint sur le mur.
Le chiffre de la semaine : 52,5 milliards $
Ce montant potentiel consacré à une seule infrastructure canadienne donne une idée de la transformation en cours. (Gouvernement du Canada) L’IA devient à la fois technologie, infrastructure, énergie, capital et géopolitique.
Pour les conseils, cela signifie que la gouvernance de l’IA ne peut plus être abandonnée aux TI.
Ma question prioritaire au CA cette semaine
Je prolongerais notre travail récent sur l’inventaire des systèmes IA avec une étape supplémentaire :
« Parmi nos systèmes d’IA, lesquels sont devenus suffisamment importants pour que leur indisponibilité, leur erreur ou la disparition de leur fournisseur perturbe sérieusement nos opérations? »
On peut ensuite demander à la direction de classer simplement chaque système : non critique – important – critique.
Pour les systèmes critiques seulement, le CA demanderait alors quatre choses : responsable humain identifié, solution de rechange, procédure d’arrêt et plan de continuité.
Voilà un exemple où la gouvernance de l’IA devient beaucoup moins mystérieuse : quatre informations, quelques systèmes prioritaires et une responsabilité clairement attribuée.
À surveiller dès demain à ALL IN 2026 : la grande conférence canadienne sur l’IA s’ouvre à Montréal les 16 et 17 septembre, avec chercheurs, entreprises, investisseurs et gouvernements. (Gouvernement du Canada)
Je porterai une attention particulière aux annonces qui touchent la gouvernance, la souveraineté technologique et l’adoption de l’IA par les organisations.
Gouvernance | Jacques Grisé 