Les promesses entourant l’IA foisonnent. Aux extrêmes, la naissance d’une superintelligence artificielle globale est à nos portes, et elle promet d’être une panacée divine ou une menace pour le genre humain. Des versions plus banales, qui semblent raisonnables en comparaison, annoncent de graves perturbations économiques.
Les entreprises, les institutions et les nations futées miseront sur l’IA pour réduire leurs coûts et rehausser considérablement leur productivité. Les travailleuses et travailleurs ainsi que les étudiantes et étudiants devront par conséquent faire (ou refaire) leur formation en fonction d’un marché de l’emploi profondément transformé. Les investisseurs avisés en profiteront pour s’enrichir substantiellement.
D’une certaine manière, cela mènera à une plus grande prospérité pour tous, mais seulement si nous sommes assez intelligents pour comprendre la vision et garder sa promesse à l’esprit alors que les puissances en cause redéploient leurs capitaux et transforment le rôle des travailleuses et travailleurs afin qu’elles et ils deviennent des préposées et préposés aux systèmes IA.
Cette banale frénésie a pour cible les investisseuses et investisseurs, les gestionnaires et les élues et élus dans le but d’encourager l’adoption de l’IA. Si cela se produit et convainc d’autres types de personnes, facilitant ainsi l’acceptation généralisée d’une concurrence sans fin, de changements technologiques et d’une certaine précarité, alors tant mieux.
Et voilà qu’est publié The AI Con rédigé par Emily Bender, linguiste à l’Université de Washington et par Alex Hanna, sociologue et directrice de recherche au DAIR (Distributed AI Research Institute). Emily Bender est bien connue comme étant l’une des autrices de « Stochastic Parrots », un influent article critique de l’IA publié en 2021.
Publié en 2025, The AI Con est un ouvrage qui déconstruit la frénésie autour de l’IA. Il est clair dès le début du livre que Bender et Hanna ne sont pas contre la technologie (en effet, une de leurs collègues, Timnit Gebru, informaticienne et fondatrice du DAIR, était chercheuse en IA auprès de Google, avant d’avoir été forcée de quitter l’entreprise). Elles ne dépeignent pas non plus tous les systèmes d’apprentissage automatique d’une façon unique, même lorsqu’ils sont tous regroupés sous la même bannière « IA ». Les deux autrices nous aident à décortiquer les différents enjeux.
L'intelligence, la pensée, l’esprit, la compréhension et la créativité ne sont pas des catégories véritablement définies avec grande précision ni pleinement comprises, malgré le fait qu’elles soient largement répandues grâce au marketing du secteur de l’IA. Comme nous le rappellent les autrices, le terme « intelligence artificielle » est d’abord apparu non pas en tant que descriptif d’un ensemble de technologies bien défini, mais comme une initiative de stratégie commerciale. En effet, le terme a été utilisé dans différents contextes, tant aujourd’hui qu’au fil du temps.
Prenez par exemple les « systèmes experts » basés sur la logique et la déduction — l’« IA » telle que conçue il y a quelques décennies — et faites la comparaison avec les « perroquets stochastiques » dont on parle aujourd’hui. Emily Bender et Alex Hanna ciblent tout particulièrement les systèmes d’IA générative qui s’inspirent de textes synthétiques et d’autres médias. Songez à des robots conversationnels comme ChatGPT ou à des systèmes de transformation de texte en image comme Stable Diffusion. Ces systèmes sont entraînés en utilisant énormément de puissance informatique (sans parler d’effort humain, d’énergie, de matériaux et d’eau) avec l’aide d’ensembles de données à l’échelle d’Internet afin de créer des corpus qui saisissent des éléments comme les relations entre les mots et qui peuvent ainsi reproduire des approximations plausibles de documents ou d’images déjà existants. Les mots utilisés dans la réponse synthétique à une question posée à un robot conversationnel semblent cohérents parce qu’ils tendent à se retrouver ensemble tout comme le font les mots rédigés préalablement par des êtres humains.
S’inspirant de la linguistique, les autrices expliquent pourquoi les lectrices et lecteurs sont prédisposés à croire en l’existence d’un autre esprit pensant derrière les réponses synthétiques tirées d’un vaste modèle linguistique, même si ce n’est pas le cas. Cette prédisposition, affirment Bender et Hanna, est le crédo des générateurs de frénésie, qui les aide à convaincre d’autres personnes que les systèmes génératifs sont suffisamment puissants pour remplacer des travailleuses et travailleurs en chair et en os.
Pour celles et ceux qui suivent l’évolution de l’adoption de l’IA d’un point de vue critique, le livre les mène probablement sur des sentiers déjà bien explorés. Cependant, vers la page 200, on retrouve une démystification concise de la frénésie entourant l’IA et un résumé très utile d’une foule d’enjeux importants. Les autrices fournissent de nombreux exemples de systèmes n’ayant pas rempli leurs promesses, parfois de manière très décevante, et parfois avec des conséquences désastreuses pour de véritables personnes.
Les établissements publics ainsi que leurs administratrices et administrateurs ont été particulièrement vulnérables à la hausse de popularité de l’IA. Les autrices du livre illustrent à de nombreuses reprises que les conditions sont réunies lorsque l’austérité et les services en forte demande (par exemple, les soins médicaux, l’enseignement postsecondaire, la révision par les pairs, etc.) exercent des pressions persistantes, de concert avec la présence de données accumulées et exploitables. L’argument avancé : les systèmes IA entraînés sur des données institutionnelles ou sectorielles peuvent atténuer les pressions en permettant de réduire les coûts et de libérer du temps à ceux qui restent; cependant, leurs conditions d’emploi seront plus précaires.
Le problème? Comme le savent les enseignantes et enseignants, la relation entre elles et eux et les étudiantes et étudiants, tout comme la relation entre médecin et patiente ou patient est un rapport complexe, profondément humain qui, lorsqu’il est signifiant, ne peut se réduire à un court appel ou à une réponse générée par ordinateur. Cette relation englobe beaucoup plus que cela. Les autrices, extrêmement convaincantes, expliquent que ces activités sont résolument humaines et qu’il faut des êtres humains pour la prestation de services sociaux.
L'ouvrage The AI Con possède cependant une lacune : l’analyse politico-économique insuffisante de la poussée actuelle de l’adoption de l’IA et du pouvoir politique collectif nécessaire pour orienter le développement de l’IA de meilleure façon. Le débat est un terrain de lutte; par conséquent, s’il est nécessaire de condamner la frénésie autour de l’IA, cette initiative n’est pas suffisante.
Les autrices concluent leur ouvrage par un chapitre portant sur la stratégie et qui renferme une liste exhaustive de mesures de réglementation et de mise en place de politiques, notamment le soutien à accorder aux bibliothèques que les gouvernements se doivent de mettre en œuvre. Cependant, elles misent trop sur la déconstruction de la frénésie entourant l’IA comme moyen de réaliser ces objectifs, sans parler de l’éléphant dans la pièce : les gouvernements, notamment le gouvernement Carney et l’administration Trump. Ceux-ci sont pleinement favorables à l’adoption de l’intelligence artificielle susceptible d’attirer des capitaux et à propos de laquelle Bender et Hanna affirment de façon convaincante qu’elle va nuire à la science, au journalisme, à l’éducation, aux soins de santé et ainsi de suite. Les autrices qualifient les grèves des acteurs et des scénaristes américains en 2023 de luttes fructueuses, mais autrement les syndicats ne font l’objet que d’une faible attention.
Un mouvement syndical plus étendu et plus fort — une force locale et qui se manifeste par des relations de solidarité multisectorielle plus étendues — constitue le seul véritable espoir que nous avons de protéger la dignité du travail dans nos établissements et de construire la puissance collective sans laquelle les gouvernements ne seront pas motivés à mettre en place une réglementation plus efficace et se tourneront plutôt vers des intérêts financiers.
Alors oui, adoptez une approche critique tel une érudite ou un érudit et découvrez comment reconnaître et démanteler la frénésie autour de l’IA. L’ouvrage d’Emily Bender et Alex Hanna est une ressource utile. Mais sachez que de dénoncer la frénésie n’empêchera pas la prétendue intelligence artificielle de nous être enfoncée dans la gorge. Travaillez avec vos collègues chaque jour, même modestement, pour créer de façon constante le pouvoir collectif nécessaire afin que la technologie, lorsque nous choisissons de la développer et de l’adopter, serve véritablement l’intérêt public ainsi que la nature profondément humaine de notre travail.
Marc Schroeder enseigne l’informatique au département des mathématiques et de l’informatique de l’Université Mount Royal, étudie l’enseignement de l’informatique du point de vue des sciences de l’apprentissage, et il est vice-président de l’ACPPU.
