Robots humanoïdes ou assistants vocaux même combat : il s’agit d’œuvrer au service des utilisateurs dans le but de préserver leur santé aussi bien que leur humeur. Ainsi ils font œuvre de bienveillance, au sens où l’entend le philosophe Pierre Cassou-Noguès dans un essai qui met en évidence l’ambiguïté de ce terme, car la bienveillance suppose ici la surveillance, mais aussi le potentiel de modifier en profondeur les relations professionnelles.

Par exemple dans le domaine commercial. Comme en témoigne Cassou-Noguès, une application sur Google Play s’est par exemple « spécialisée dans l'analyse de la voix pour améliorer les performances des opérateurs téléphoniques : commerces à distance, services après-vente, compagnies d'assurances. L'algorithme analyse les intonations de l'opérateur et du client durant leur conversation, pour évaluer leur satisfaction (…) et donner des conseils à l'opérateur : faire ressortir de l'émotion, prendre un ton plus ferme, ou plus empathique, ralentir son débit etc. etc. » (p. 86) La société Cogito, qui développe ce service qui transforme en profondeur la relation-client, a également pour projet de bouleverser la relation médicale à partir des données récoltées sur le téléphone du patient. « A terme indique-t-on, « le but est de se passer de médecin » (p. 87) car le logiciel pourra bientôt renseigner directement l’utilisateur de l’ordiphone sur son état général rendant superflu l’intervention d’un professionnel de santé. Le nom de cette application est bien choisi : « Cogito Companion ». Ainsi vous n’avez plus besoin d’avoir de rapport à vous-même puisque l’application fait le travail à votre place.

Notez que le terme de « cogito » rappelle l’indubitable « je pense donc je suis » cartésien et signifie tout autre chose ici dans la mesure où nous serions condamnés à être sans cesse à l’écoute des machines pour savoir enfin qui nous sommes. En bref nous ne sommes plus un sujet cartésien mais le sujet d’internet explique l’auteur, c’est-à-dire un sujet désuni et divisé qui n’aurait plus grand-chose de commun avec la substance pensante découverte par Descartes. Etudions si vous le voulez bien les trois aspects de cette transformation :

-tout d’abord l’individu semble disparaître dans le « dividu », « pour qualifier » indique l’auteur, « ces instances partielles impliquées dans les sollicitations de la machine ». Le sujet est fragmenté en autant de sollicitations qui réclament son attention : composer un code, recevoir une notification, répondre à un appel, ‘checker’ ses emails etc...

-deuxièmement nos contenus de pensée n’en sortent pas indemnes. L’auteur mentionne le site Crowpac qui permet à des leaders d’opinion de se faire connaître et de s’exprimer tout en proposant aux utilisateurs de leur suggérer un choix de candidat à partir de l’analyse de leurs données (p. 76).  En gros si vous ne savez pas qui choisir, la machine le sait pour vous.

-troisièmement, c’est au fond l’accès à nos propres désirs qui s’en trouve transformé. Pour soutenir l’attention du futur client, les marques doivent investir en publicité et cet investissement est répercuté sur le prix final. Il évoque alors le « travail zombie », lequel est finalement fournit par le futur client lui-même (son temps de cerveau humain disponible aurait dit l’ancien président de TF1), sans améliorer les qualités du produit qu’il devra néanmoins payer plus cher pour cette raison.

Au final, la bienveillance des machines serait donc à double tranchant : certes les données qu’elles contiennent nous renseigneraient sur nous-mêmes mieux que nous sommes capables de le faire sans elles. Elles peuvent nous aider à contenir nos biais aussi bien que le bruit, au sens exposé ici même par Olivier Sibony. Il ne faut pas tout à fait écarter ce point positif. Mais à quel prix y parviendront-elles, c’est là la question posée par ce texte captivant. Le risque encouru y est décrit en tant syndrome du thermomètre : ce qu’indique le mercure vous renseigne sur votre température mais ne vous dit rien de vos états d’âme : comment vous vous sentez, et ce que vous en ressentez, voilà ce que la machine ne pourra jamais expérimenter à votre place. La machine enregistre des signes, elle participe au premier genre de connaissance dirait Spinoza, le plus bas. Mais elle ne peut jamais atteindre le troisième genre, le plus haut, qui suppose une connaissance intuitive et adéquate de l’essence des choses. Et qui nous contraint, face aux nouveaux pouvoirs des machines, à conserver quelque bienveillance aussi pour les exercices spirituels et spéculatifs auxquels nous invitent les philosophes.