La déferlante des algorithmes : les avantages et les risques

Le monde des plateformes est aussi celui des algorithmes qui sont les dispositifs qui couronnent les processus d'acquisition et de diffusion des informations du big data. Des algorithmes au service d'une certaine gouvernementalité qui tend à encourager et renforcer les comportements générateurs de valeur des populations en interaction.

Le caractère favorable est une qualité qui renforce les externalités positives sur un autre marché. Des conciergeries efficaces encouragent les propriétaires à louer leurs appartements. La bonne conduite des covoitureurs rassure les passagères. Mais la gentillesse de ces dernières encourage les conducteurs à renouveler plus fréquemment le partage de leurs itinéraires.

Plus concrètement les algorithmes jouent un rôle important dans différents domaines :
• ils permettent de recherche de l’information : moteurs de recherche
• ils permettent de sélectionner l’information : les moteurs de recommandation
• ils facilitent l’identification : la reconnaissance d’objets et de visages (deep learning)
• ils permettent des appariements entre des individus proches comme dans les plateformes de dating
• ils permettent d’évaluer le risque de certains individus ; modèles de crédit scoring,
• d’établir l’authenticité de documents
• ils facilitent les interactions vocales
• ils sont au cœur de systèmes conversationnels artificiels (chatbots)
• ils assurent la personnalisation des interfaces
• Ils piloteront des voitures et des drones,

Nombre d’entre eux sont anciens, et classiques et s’appuient sur des méthodes statistiques, les plus récents bénéficient des avancées de l’intelligence artificielle en particulier les systèmes de deep learning. Mais la nouveauté c’est l’étendue de leurs applications : elles sont généralisées à des centaines de millions d’individus et d’action. Elles s’appuient sur des volumes de données gigantesques.

Ils commencent à inquiéter. De nombreuses institutions comme la cnil ou le cnn lancent ainsi des auditions pour plus en saisir les risques, et même les GAFA avec l’alliance pour l’IA veulent y introduire des éléments éthiques. Ces risques peuvent être regroupés en deux grands domaines :
- des risques éthiques quand la machine prend des décisions qui concerne la santé ou l’intégrité des utilisateurs. C’est le cas désormais des véhicules autonomes qui devront trancher dans des dilemmes éthiques : sauver le passager et clients et tuer 2 personnes, ou tuer son passager pour sauver plus de personnes. Mais aussi l’octroi de crédit.

- des risques sociaux dont la discrimination est l’élément principal, mais qui peuvent prendre d’autres aspect tels que le filtrage par les bulles informationnelles, la polarisation des opinions qui en découle, des effets de renforcement.

Ces risques proviennent de la nature même du système : ils apprennent à partir de données collectées massivement, ce qui ne fait pas pour autant leur représentativité au sens statistiques, et leur paramètres sont dépendants des données. Si on y introduit de mauvaises données, il en ressortira de mauvaises décisions. L’apprentissage est un enjeu fondamental.

Cette dépendance des données les soumets à un risque adversial important : des groupes extérieurs en sur-sollicitant les algos peuvent les tromper et leurs apprendre des choses erronées comme Tay l’agent conversationnel de Microsoft en a fait les frais. Plus loin encore, on commence à s’interroger sur leur capacité collusive.

Ces effets nuisibles et non voulu par leur concepteurs sont désigné par “ politiques des algorithmique”. Leur vraisemblance, conduit à s’interroger sur leur gouvernance : quel degré de transparence? Comment évaluer leurs impacts? Qui faire participer à leur conception ?