Le leadership au défi de l'intelligence artificielle

"La grande supériorité des ordinateurs sur l’être humain, c’est qu’ils ne font jamais de réunions". Avec cette réplique, Jean Yanne soulignait à quel point le travail en groupe est difficile.

A l’époque, les ordinateurs n’étaient pas encore capables de travailler ensemble. Mais ça c’était avant. Aujourd’hui, l’intelligence artificielle et le machine learning leur permettent de dialoguer et d’apprendre par eux-mêmes.

Peut-on en déduire que l’ordinateur est en train de devenir l’égal de l’homme ? C’est-à-dire ambitieux, rusé et changeant ? Ce qui est sûr, c’est que l’incroyable potentiel des algorithmes auto-apprenants donne autant de raisons d’espérer que de s’inquiéter.

Le potentiel inquiétant des algorithmes

Côté espérance, notons les fabuleuses perspectives que cela ouvre surtout quand le machine learning fusionne avec d’autres disciplines scientifiques comme les nanosciences et la biologie. C’est le cas dans le domaine de la santé où les progrès sont fulgurants.

Côté inquiétant, les algorithmes de machine learning en savent déjà beaucoup sur nous. Ils nous connaissent mieux que nous ne les connaissons et ne nous oublient pas facilement. Plus inquiétant, ces technologies auto-apprenantes investissent les sciences cognitives pour les aider à décrypter les mécanismes de la pensée humaine dans le but d’expliquer les conduites sociales, avec l’espoir d’anticiper nos agissements et d’agir de façon préventive.

Plus inquiétant encore, ces technologies peuvent devenir des outils de surveillance de masse. Avez-vous déjà entendu parler du Social Credit System ? Il s’agit d’un montage algorithmique tenu secret destiné à mesurer la réputation des citoyens chinois. Plus le score est élevé, plus vous êtes considéré comme une personne de confiance et plus vous risquez d’être privilégié vis-à-vis du marché de l’emploi, des sociétés de crédit et de l’administration. 

Déjà plusieurs millions de volontaires ont accepté de connaitre leur note sociale. Une note individuelle calculée à partir de plusieurs critères parmi lesquels votre réputation financière, vos habitudes et préférences de consommation, et aussi les évaluations de vos fréquentations personnelles.

Un défi humain, donc un défi pour le leadership

Un tel outil de surveillance fait penser aux travaux de Jeremy Bentham et Michel Foucault sur la société panoptique : une société qui surveille et cherche à tout voir pour mieux prévenir, car, nous dit-on, plus nous sommes étroitement surveillés et mieux nous nous conduisons.

L’avènement de l’intelligence artificielle n’est donc pas neutre sur le plan éthique et démocratique. Car derrière le machine learning on trouve des enjeux économiques et politiques considérables, à la hauteur des rapports de force en présence. Je veux parler de la concentration des pouvoirs de certaines multinationales, qui les met en capacité de tenir tête à des Etats pour sauvegarder leurs intérêts vitaux.

Le paradoxe dans tout ça, c’est que plus l’humain est connecté et moins il semble se préoccuper de son sort. Comme si, au fond, les citoyens faisaient davantage confiance aux machines qu’aux politiques qui les gouvernent. Le véritable défi de l’intelligence artificielle sera donc bien plus humain que technologique. Et puisque la démocratie est en jeu, l’intelligence artificielle est désormais un des grands défis du leadership.