Chat GPT ne fait que refléter la pensée dominante, même sur l'environnement

Il y a quelques mois j’ai été contacté par un ancien étudiant, devenu professeur à l’ESSEC, me demandant si je voulais bien faire un cours en économie de l’environnement à leur antenne de Rabat. J’acceptais et j’y rencontrais une cinquantaine d’étudiants de troisième année, intéressés et travailleurs, issus pour les deux tiers de l’ESSEC de Cergy, les autres étant marocains.

Le cours se passa sans problème et vint le moment de l’évaluation. Je décidais, plutôt que de leur demander de réfléchir à une question particulière, de demander à Chat GPT de me dire si la protection de l’environnement était compatible avec la croissance, en lui précisant que la demande venait d’un économiste chargé de répondre à cette question pour le compte d’un ministre soucieux d’être capable de répondre sur ce sujet d’actualité lors d’interventions publiques.

Je donnais cette réponse aux étudiants en leur précisant d’où elle venait, leur demandant de la commenter et de l’amender s’il la trouvait insuffisante.

J’avoue avoir été désolé de leurs réponses, qui étaient loin de ce que j’espérais.

Comme la demande, telle qu'elle était formulée à Chat GPT, venait d'un économiste, le logiciel a parcouru tous les documents émanant d'économistes ou de journalistes économiques traitant cette question et a finalement reproduit la doxa dominante qui se résume en peu de mots : bien sûr que la protection de l’environnement est compatible avec la croissance à condition de faire attention.

J’espérais qu'au moins quelques étudiants auraient été conscients de ce biais qui fait que Chat GPT ne peut que répéter ce qu'on lui a fourni comme données. Nulle intelligence dans son fonctionnement, fut-elle qualifiée d’artificielle, juste un traitement statistique qui permet de retrouver la réponse dominante à la question posée, la majorité des économistes étant pour incapables d’imaginer un monde où le PIB n’augmenterait pas et suivis par des médias peu critiques.

Or, la totalité des réponses étaient en plein accord avec Chat GPT, considéré comme un humain ayant réfléchi à la question, les étudiants dans leurs copies ne faisant que paraphraser l’IA. Cela m’a d’autant plus surpris qu’ils passent une partie importante de leur temps sur leur smartphone, ce qui pouvait laisser supposer, de la part d’étudiants en fin de cursus, qu’ils l’utilisaient en réfléchissant à ce qu’ils y trouvaient.

Je ne peux m’empêcher de faire le lien avec le récent rapport sur l’utilisation des écrans dans les familles. Certes, ce rapport ne traitait que de l’usage de ces écrans par les enfants de 6 à 11 ans pour lesquels il formulait des recommandations restrictives à cause des effets négatifs sur leur développement cognitif et leur santé physique et mentale, quand mon histoire concerne des adultes avec un bon niveau d’études supérieures. Pourtant les craintes exprimées dans le rapport sur les effets négatifs des écrans pour les jeunes enfants se révèlent également fondées pour mes étudiants.

La conclusion que j'en tire c'est que le mal est bien plus profond et que ces effets négatifs ne concernent pas que les enfants de 6 à 11 ans, mais bien tout le monde. Si des étudiants à bac + 5, par ailleurs sympathiques et curieux, se révèlent incapables d'avoir un minimum de recul sur l'usage du smartphone ou de l'ordinateur pour rechercher et comprendre les informations qu'ils en tirent alors qu’ils me confiaient qu'ils passaient entre deux et trois heures par jour sur leur téléphone, on peut penser qu’il en est de même pour la majorité des adultes qui, selon un rapport récent y passent 3h3O par jour pour les français, d’ailleurs loin des 5h en moyenne pour la population mondiale.

On a du mal à croire que l’intelligence dite artificielle puisse inverser cette tendance collective à ce déficit de réflexion. Les espoirs qu’elle suscite pour relancer la croissance en berne risquent fort d’avoir un coût caché qu’il faudrait prendre au sérieux : une dégradation anthropologique des rapports entre humains. L’IA est un outil qu’il est nécessaire d’apprendre collectivement à utiliser.