Les effets du recours à l’intelligence artificielle sur les individus suscitent l’inquiétude d’un grand nombre de scientifiques. Ils expriment la crainte qu’elle affaiblisse la capacité de chacun à penser par soi-même.
© Julian Stratenschulte / DPA / ABACA
En nous connectant à des contenus de piètre qualité ou en les générant à notre place, l’IA affaiblit notre esprit critique.
Marius Bertolucci
Maître de conférences en sciences de gestion à Aix-Marseille université
Baisse des résultats des tests Pisa, évaluations alarmantes des capacités cognitives et effondrement de la lecture. Ces jours-ci encore, ce constat du déclin de l’intelligence des jeunes et des adultes alarme le Financial Times. L’état de tutelle des consciences par les écrans où président des IA n’est pas étranger à l’épidémie de solitude grandissante, affectant aussi nos facultés émotionnelles et sociales. Quel est le rôle de l’IA dans tout cela ?
L’IA prédictive, d’abord, optimise sans cesse nos interfaces numériques afin de nous rendre accros. L’économie de l’attention repose sur cette absorption du temps conscient pour extraire des données et influencer les comportements. L’ingénieur Andrej Karpathy, acteur de la Vallée du silicium, le dit sans détour : « Tiktok, c’est du crack digital qui a attaqué mon cerveau ! » L’addiction est un fait générationnel. La moitié des adolescents aux États-Unis sont presque constamment connectés. Connectés à quoi ? La « pourriture cérébrale » ! Soit des contenus de piètre qualité qui détériorent les capacités mentales.
D’ailleurs, l’expression a été élue mot de l’année par le dictionnaire d’Oxford. Gageons qu’elle rejoigne celle de « crétin digital » forgée par Michel Desmurget pour caractériser la surexposition aux écrans. L’IA générative, ensuite, crée du contenu sans effort. Dans les années 1980, le philosophe Ellul écrivait que si « vous mettez un appareil entre les mains d’un imbécile, il ne deviendra pas intelligent pour cela ». L’actualité continue de lui donner raison. Même les consultants de McKinsey sont trompés par des résultats erronés de ChatGPT. Plus ils y recourent et moins ils sont moins performants et créatifs. Allant dans le même sens, une étude de Microsoft et de l’université Carnegie démontre que l’usage des IA génératives au travail diminue l’esprit critique.
L’IA interactive, enfin, crée une relation avec l’utilisateur. L’université de Cambridge alerte sur l’essor de ces compagnons IA ouvrant la voie à la capture et la manipulation de nos intentions. Ce n’est plus seulement l’attention, mais l’intention qui est l’objet de la machinerie algorithmique. Même les choix les plus ordinaires (quel film regarder ? quel cadeau offrir ?) sont délégués et toute faculté que l’on n’exerce plus finit par s’atrophier. Ces études ne sont pas anecdotiques, puisque le MIT a recensé pas moins de 777 risques documentés scientifiquement de l’IA répartis en 23 catégories, dont la dépendance affective et la perte d’autonomie.
Le « capitalisme numérique colonise tous les lieux que nous dés-habitons », écrit la philosophe Rouvroy. Il en est de même de nos esprits. Le temps d’écran est la continuation du temps de travail. La destruction de nos intelligences est le corollaire de la production au sein de ce capitalisme. Pour nous maintenir dans un défilement morbide de pourriture cérébrale devant un écran, il faut d’abord nous transformer. La fainéantise d’Oblomov a remplacé le puissant Stakhanov.
L’outil numérique n’a ni cerveau ni valeurs. C’est à nous qu’il revient de faire société et de réfléchir à la place que nous voulons lui donner.
Anne Cordier
Professeure des universités en sciences de l’information et de la communication à l’université de Lorraine
Alerte ! Après la télévision, les jeux vidéo, le rap, les réseaux sociaux numériques, voici la nouvelle innovation qui menace l’intelligence de l’humanité tout entière : l’IA. Les prophéties alarmistes réitérées à chaque nouveauté technologique, fleurissent sur la crétinisation annoncée des masses, et encore plus sur celle d’une jeunesse déjà régulièrement qualifiée de crétine (digitale).
Selon plusieurs études récentes, l’IA séduirait la population, fascinée par les performances de l’outil. Beaucoup de bruit pour une banale évidence : l’absence ou la fragile éducation – ici, au numérique – nuit gravement à l’exercice d’un esprit critique. Immense boîte noire, nourrie par d’innombrables corpus de textes et d’images, bien souvent sans le consentement de leurs auteurs, l’usage de l’IA générative nous pousse à interroger notre rapport aux sources, à l’information, à la propriété intellectuelle. Elle nous rappelle combien l’éducation est la clé d’un regard distancié et critique, d’un pouvoir d’agir informé sur le monde. Mais l’IA ne porte aucune responsabilité. Aucune.
Ont une responsabilité les professionnels de l’information qui jouent aux apprentis sorciers, se pâmant devant une IA « trop forte », s’émerveillant de ses performances comme s’ils assistaient à une démonstration de magie. Ont une responsabilité ceux qui s’évertuent à pointer les « erreurs » commises par une IA, surpris qu’un programme conçu pour générer du contenu à partir de modèles statistiques « se trompe », et lui reprochant de nous attirer dans les limbes des approximations, méprises et autres faussetés. Dans les deux cas est alimenté le fantasme d’une IA autonome, quasi divine, que nous utilisons, impuissants.
Prenons le temps. Ne nous jetons pas à corps et esprits perdus dans les multiples potentialités et/ou affres de l’IA. Le procès en crétinisme évite le vrai procès, citoyen celui-ci : de quelle IA voulons-nous ? De celle qui récupère des données que nous cédons sur le Web à des industries sans éthique ? De celle qui, à l’empreinte écologique colossale, condamne un peu plus (vite) l’avenir de notre planète ? De celle à laquelle nous déléguons jusqu’à notre créativité singulière au profit de l’hégémonie d’un savoir standardisé, aseptisé et parfois, pour ne pas dire bien souvent, biaisé ? De celle que l’on utilise pour contribuer à cette accélération dénoncée par Hartmut Rosa qui nous asservit chaque jour davantage aux dogmes les plus avilissants qui soient ?
Prenons le temps. Celui de mesurer des choix, vertigineux mais aussi passionnants, qui nous reviennent. Celui de prendre nos responsabilités, individuelles et collectives, en décidant de la place que nous souhaitons accorder à une innovation qui n’est en aucun cas toute-puissante. Celui de faire société, en exerçant notre capacité à « penser d’après nous-mêmes » selon l’intemporelle pensée de Condorcet. L’IA n’a ni cerveau ni valeurs. Nous si. À nous de jouer. Sérieusement.
À lire :
L’Homme diminué par l’IA, de Marius Bertolucci, éditions Hermann, prix Jacques-Ellul 2024, 232 pages, 22 euros.
Grandir Informés. Les pratiques informationnelles des enfants, adolescents et jeunes adultes, d’Anne Cordier, C & F éditions, 344 pages, 27 euros.
Le journal des intelligences libres
« C’est par des informations étendues et exactes que nous voudrions donner à toutes les intelligences libres le moyen de comprendre et de juger elles-mêmes les événements du monde. »
Tel était « Notre but », comme l’écrivait Jean Jaurès dans le premier éditorial de l’Humanité.
120 ans plus tard, il n’a pas changé.
Grâce à vous.
Soutenez-nous ! Votre don sera défiscalisé : donner 5€ vous reviendra à 1.65€. Le prix d’un café.
Je veux en savoir plus !
Les mots-clés associés à cet article
