Connexion
Accédez à votre espace personnel
Recevez nos dernières vidéos et actualités quotidiennementInscrivez-vous à notre newsletter
ÉCONOMIE
Décryptages éco Intelligence économique Intelligence sectorielle Libre-propos Parole d'auteur Graphiques Notes de lecture
STRATÉGIE & MANAGEMENT
Comprendre Stratégies & Management A propos du management Parole d'auteur Notes de lecture
IQSOG
RUBRIQUES
Économie généraleFranceEurope, zone euroÉconomie mondiale Politique économique Emplois, travail, salairesConsommation, ménagesMatières premières Finance Géostratégie, géopolitique ComprendreManagement et RHStratégieMutation digitaleMarketingEntreprisesFinanceJuridiqueRecherche en gestionEnseignement, formation
NEWSLETTERS
QUI SOMMES-NOUS ?


La déferlante des algorithmes : les avantages et les risques

Publié le jeudi 23 février 2017 . 6 min. 26

Voir plus tard
Partager
Imprimer

Le monde des plateformes est aussi celui des algorithmes qui sont les dispositifs qui couronnent les processus d'acquisition et de diffusion des informations du big data. Des algorithmes au service d'une certaine gouvernementalité qui tend à encourager et renforcer les comportements générateurs de valeur des populations en interaction.


Le caractère favorable est une qualité qui renforce les externalités positives sur un autre marché. Des conciergeries efficaces encouragent les propriétaires à louer leurs appartements. La bonne conduite des covoitureurs rassure les passagères. Mais la gentillesse de ces dernières encourage les conducteurs à renouveler plus fréquemment le partage de leurs itinéraires.


Plus concrètement les algorithmes jouent un rôle important dans différents domaines :
• ils permettent de recherche de l’information : moteurs de recherche
• ils permettent de sélectionner l’information : les moteurs de recommandation
• ils facilitent l’identification : la reconnaissance d’objets et de visages (deep learning)
• ils permettent des appariements entre des individus proches comme dans les plateformes de dating
• ils permettent d’évaluer le risque de certains individus ; modèles de crédit scoring,
• d’établir l’authenticité de documents
• ils facilitent les interactions vocales
• ils sont au cœur de systèmes conversationnels artificiels (chatbots)
• ils assurent la personnalisation des interfaces
• Ils piloteront des voitures et des drones,


Nombre d’entre eux sont anciens, et classiques et s’appuient sur des méthodes statistiques, les plus récents bénéficient des avancées de l’intelligence artificielle en particulier les systèmes de deep learning. Mais la nouveauté c’est l’étendue de leurs applications : elles sont généralisées à des centaines de millions d’individus et d’action. Elles s’appuient sur des volumes de données gigantesques.


Ils commencent à inquiéter. De nombreuses institutions comme la cnil ou le cnn lancent ainsi des auditions pour plus en saisir les risques, et même les GAFA avec l’alliance pour l’IA veulent y introduire des éléments éthiques. Ces risques peuvent être regroupés en deux grands domaines :
- des risques éthiques quand la machine prend des décisions qui concerne la santé ou l’intégrité des utilisateurs. C’est le cas désormais des véhicules autonomes qui devront trancher dans des dilemmes éthiques : sauver le passager et clients et tuer 2 personnes, ou tuer son passager pour sauver plus de personnes. Mais aussi l’octroi de crédit.


- des risques sociaux dont la discrimination est l’élément principal, mais qui peuvent prendre d’autres aspect tels que le filtrage par les bulles informationnelles, la polarisation des opinions qui en découle, des effets de renforcement.


Ces risques proviennent de la nature même du système : ils apprennent à partir de données collectées massivement, ce qui ne fait pas pour autant leur représentativité au sens statistiques, et leur paramètres sont dépendants des données. Si on y introduit de mauvaises données, il en ressortira de mauvaises décisions. L’apprentissage est un enjeu fondamental.


Cette dépendance des données les soumets à un risque adversial important : des groupes extérieurs en sur-sollicitant les algos peuvent les tromper et leurs apprendre des choses erronées comme Tay l’agent conversationnel de Microsoft en a fait les frais. Plus loin encore, on commence à s’interroger sur leur capacité collusive.


Ces effets nuisibles et non voulu par leur concepteurs sont désigné par “ politiques des algorithmique”. Leur vraisemblance, conduit à s’interroger sur leur gouvernance : quel degré de transparence? Comment évaluer leurs impacts? Qui faire participer à leur conception ?


Les dernières vidéos
Recherche en gestion

Les dernières vidéos
de Christophe Benavent

x
Cette émission a été ajoutée à votre vidéothèque.
ACCÉDER À MA VIDÉOTHÈQUE
x

CONNEXION

Pour poursuivre votre navigation, nous vous invitons à vous connecter à votre compte Xerfi Canal :
Déjà utilisateur
Adresse e-mail :
Mot de passe :
Rester connecté Mot de passe oublié?
Le couple adresse-mail / mot de passe n'est pas valide  
  CRÉER UN COMPTE
x
Saisissez votre adresse-mail, nous vous enverrons un lien pour définir un nouveau mot de passe.
Adresse e-mail :

STOCKAGE DE VOS DONNÉES

Xerfi Canal utilise et stocke des informations non sensibles (par exemple : adresses IP, données de navigation, identifiants) obtenues par le dépôt de cookies ou technologie équivalente sur votre appareil. L’utilisation de ces données nous permet de mesurer notre audience et de vous proposer des fonctionnalités et des contenus personnalisés.

Les données stockées par Xerfi Canal ne sont en aucun cas partagées avec des partenaires ou revendues à des tiers à des fins publicitaires.

Vous pouvez librement donner, refuser ou retirer à tout moment votre consentement en accédant à notre outil de paramétrage des cookies.

ACCEPTER PERSONNALISER REFUSER

PERSONNALISEZ LE STOCKAGE
DE VOS DONNÉES

Cookies Google AnalyticsCes cookies permettent d’obtenir des statistiques de fréquentation anonymes du site Xerfi Canal afin d’optimiser son ergonomie, sa navigation et ses contenus.

Cookies de personnalisation du parcours de visiteCes cookies nous permettent de vous proposer, en fonction de votre navigation sur le site, des contenus et/ou des offres de produits et services les plus adaptés à vos centres d’intérêt.

Vous pourrez librement et à tout moment modifier votre consentement en accédant à notre outil de paramétrage des cookies.

VALIDER ANNULER