Aujourd’hui, je retiens un fil conducteur particulièrement intéressant : la compétence technologique du conseil devient indissociable des questions classiques de gouvernance — succession, indépendance, devoir de diligence, allocation des responsabilités et stratégie.
1. Apple : une succession préparée de longue date… au moment où l’IA devient le principal défi stratégique
John Ternus devient aujourd’hui, 1er septembre, chef de la direction d’Apple, succédant à Tim Cook après quinze ans. Cook devient président exécutif du conseil; l’ancien président Arthur Levinson devient administrateur indépendant principal. Apple précise que la succession a été préparée à long terme et approuvée unanimement par le CA. (Apple)
Ce passage de témoin est remarquable : sous Cook, la capitalisation d’Apple est passée d’environ 350 G$ US à plus de 4 000 G$, mais Ternus hérite d’une entreprise aujourd’hui sommée de rattraper son retard perçu en IA. (Apple)
Principaux enjeux. Continuité versus renouvellement; rôle d’un ancien PDG devenu président exécutif; indépendance réelle du nouveau DG; stratégie IA; Chine et chaîne d’approvisionnement.
Pourquoi cela importe au CA. C’est presque un cas d’école sur la succession. Conserver l’ancien PDG peut préserver un immense capital institutionnel, mais il faut empêcher que le successeur demeure implicitement son adjoint.
Question concrète :
Lorsque notre prochain DG entrera en fonction, aurons-nous précisé noir sur blanc les responsabilités qu’abandonnera son prédécesseur?
La présence d’un administrateur indépendant principal chez Apple est justement un mécanisme destiné à préserver un contrepoids.
2. La CIBC fait entrer directement l’expertise IA et cyber au conseil
Autre changement qui prend effet aujourd’hui : Prasanna Gopalakrishnan rejoint le CA de la CIBC. Son profil est révélateur de l’évolution des matrices de compétences : plus de 30 ans d’expérience en technologie, données, cybersécurité et IA, notamment comme Global Chief Product and AI Officer chez ADP et CIO des services bancaires de détail de Bank of America. (Media Centre)
La présidente du conseil, Kate Stevenson, relie expressément cette nomination à la responsabilité du CA de surveiller la stratégie alors que technologie, données et IA deviennent des moteurs de création de valeur. (Media Centre)
Principaux enjeux. Compétences collectives du CA, capacité de contester la direction, cybersécurité, qualité des données et compréhension des investissements en IA.
Pourquoi cela importe. On observe ici une évolution intéressante : au lieu d’envoyer systématiquement les administrateurs suivre une formation supplémentaire, certaines entreprises font aussi entrer au conseil une personne qui a réellement dirigé des systèmes technologiques à grande échelle.
Mais attention à un piège : l’administratrice experte ne doit pas devenir « celle qui s’occupe de l’IA ». La responsabilité demeure collective.
Action concrète : lors de la prochaine révision de la matrice de compétences du CA, ajouter distinctement :
IA | données | cybersécurité | transformation numérique.
Puis demander : avons-nous suffisamment de compétence pour poser les bonnes questions sans dépendre entièrement de la direction?
3. Fasken pousse beaucoup plus loin la réflexion : le devoir de diligence pourrait porter sur le système de décision, et non seulement sur chaque décision
Le cabinet canadien Fasken a publié le 26 août une excellente analyse prospective fondée notamment sur des travaux du Harvard Business Review, du Harvard Journal of Law & Technology et du Canadian Business Law Journal. Son idée la plus intéressante est que l’IA pourrait transformer progressivement la conception même du devoir de diligence. (Fasken)
Lorsque des milliers de décisions sont assistées par des algorithmes, il devient matériellement impossible aux administrateurs de vérifier chacune d’elles. L’attention pourrait alors se déplacer vers la conception du système dans lequel ces décisions sont prises : qualité des données, contrôles, attribution des responsabilités, validation humaine et surveillance des résultats. (Fasken)
Principaux enjeux. Jusqu’où un administrateur peut-il raisonnablement se fier à une IA? Quel contrôle doit-il exercer? Qu’est-ce qu’une diligence raisonnable devant une technologie que même des spécialistes ne peuvent pas toujours expliquer complètement?
Pourquoi cela importe. C’est une évolution fondamentale de la gouvernance. Le CA ne devra vraisemblablement pas demander :
« Avez-vous vérifié chacune des 85 000 décisions produites par le système? »
mais plutôt :
« Quelles garanties avons-nous que le système qui produit ces 85 000 décisions est correctement conçu, testé, surveillé et corrigé? »
Comment obtenir concrètement cette assurance?
Demander à la direction, pour les systèmes importants, une fiche très simple comprenant le propriétaire du système, la décision concernée, les données utilisées, les tests effectués, la supervision humaine, les incidents constatés et la personne pouvant suspendre le système.
Voilà ce que signifie véritablement « gouverner l’IA ».
4. États-Unis contre Europe : le G20 devient le théâtre de deux philosophies de gouvernance de l’IA
Reuters rapporte aujourd’hui que les États-Unis profiteront d’une rencontre du G20 en Caroline du Nord pour défendre les nouveaux Carolina Principles, qui privilégient une réglementation légère afin de ne pas freiner l’innovation. Washington souhaite notamment éviter la création systématique de nouveaux organismes ou règlements pour chaque évolution technologique. (Reuters)
Le contraste avec l’approche européenne fondée sur le risque est évident. Le Canada, pour sa part, devrait défendre une position cherchant davantage à concilier innovation, sécurité et confiance du public. (Reuters)
Principaux enjeux. Fragmentation réglementaire, compétitivité, protection du public, coûts de conformité et concurrence États-Unis–Chine.
Pourquoi cela importe aux entreprises canadiennes. Un CA ne peut plus simplement demander : « Sommes-nous conformes à la loi canadienne? » Une entreprise utilisant un fournisseur américain et servant des clients européens peut être prise entre plusieurs conceptions réglementaires.
Action concrète
Demander au responsable juridique ou des risques un tableau d’une page :
| Où faisons-nous affaire? | Règles IA applicables | Système concerné | Écart à corriger |
|---|---|---|---|
| Québec | Québec/Canada | IA RH | Aucun |
| UE | AI Act | IA clientèle | Documentation à compléter |
| États-Unis | État/fédéral | Marketing | À surveiller |
Le conseil n’a pas à apprendre les centaines de pages de réglementation. Quelqu’un doit cependant savoir lesquelles s’appliquent.
5. Québec : une expérience intéressante de gouvernance de l’IA dans le secteur public
La dissolution de l’Assemblée nationale le 27 août suspend les nouveaux travaux législatifs québécois jusqu’à l’élection du 5 octobre, mais les règles administratives existantes concernant l’IA demeurent applicables. Une analyse du Cercle de gouvernance de l’IA souligne notamment que les organismes publics doivent déjà déclarer leurs projets et actifs informationnels en IA. (Cercle de Gouvernance de l’IA)
Le portrait disponible est impressionnant : 258 initiatives d’IA dans 83 organismes publics, contre 168 initiatives dans 65 organismes auparavant — une augmentation de 54 %. Les usages les plus nombreux concernent l’aide à la décision et la prédiction, les assistants conversationnels et l’automatisation. (Cercle de Gouvernance de l’IA)
Principaux enjeux. Inventaire, traçabilité, responsabilité, prolifération des projets et capacité de surveiller un portefeuille qui grossit rapidement.
Pourquoi cela importe aux CA privés et aux OBNL. Voilà précisément un exemple concret de la fameuse « vue consolidée des systèmes d’IA » dont nous avons parlé récemment.
Québec demande en substance à ses organismes :
Qu’avez-vous? Où? Pour quoi faire?
Une entreprise peut parfaitement reprendre cette logique sans aucune sophistication informatique.
Action concrète : une fois par année, envoyer à chaque direction un formulaire de cinq questions :
- Quel outil d’IA utilisez-vous?
- Pour quelle tâche?
- Quelles données lui confiez-vous?
- Influence-t-il une décision concernant une personne, un client ou un employé?
- Qui en est responsable?
En rassemblant les réponses dans Excel, vous venez de créer votre premier registre de gouvernance de l’IA. Nul besoin de commander immédiatement un logiciel à 100 000 $.
Le conseil pratique que je retiens cette semaine
Les nouvelles de la CIBC et l’analyse de Fasken se rejoignent admirablement.
La bonne question n’est probablement plus :
« Avons-nous un expert en IA au conseil? »
mais :
« Notre conseil possède-t-il collectivement la compétence nécessaire pour comprendre le système de gouvernance entourant l’IA et exiger des preuves qu’il fonctionne? »
Cela distingue deux responsabilités.
Le CA doit comprendre suffisamment pour questionner. La direction doit connaître suffisamment précisément pour répondre.
Et lorsqu’elle répond : « Ne vous inquiétez pas, notre fournisseur nous assure que son IA est sécuritaire », la conversation ne fait que commencer.
Gouvernance | Jacques Grisé 