L’apocalypse artificielle

Voilà un essai à glacer le sang !  

Sous le titre alléchant des Prophètes de l’IA, Thibault Prévost nous explique pourquoi les élites de Silicon Valley se servent de scénarios apocalyptiques pour nous vendre leurs modèles d’Intelligence artificielle générative (IAG).  

La situation n’est pas nouvelle, elle a même plutôt tendance à être réutilisée. Une technologie apparaît et d’emblée les prophètes annoncent la fin de la civilisation. Nous avons eu droit à ce scénario il y a trente ans avec le développement du réseau Internet, qui était censé sonner le glas de la civilisation de l’écrit. C’est maintenant au tour de la commercialisation et de la généralisation de l’usage de l’IAG à des fins commerciales, avec le lancement en 2022 de l’agent conversationnel ChatGPT 3.0, suivi depuis par une pléthore d’autres IAG (Gemini, Claude, Grok, Mistral, DeepSeek, etc.). Ces générateurs produisent du texte, du code, des images, des vidéos, des traductions, des transcriptions, des avatars animés, etc. avec une aisance insoupçonnée, ce qui les rend tout aussi fascinants que menaçants.  

Les prophètes de malheur n’ont pas tardé à se manifester et leurs prédictions sur un possible « A.I. Takeover » ont avivé notre crainte d’une fin du monde. Reid Hoffman, le co-fondateur de Linkedin, a prédit ainsi que les emplois de 9 h à 17 h pourraient avoir disparu d’ici 2034, prédiction devenue rapidement virale. Sam Altman, patron d’OpenAI, écrivait sur son blogue dès 2015 : « Le développement d’une intelligence artificielle surhumaine est probablement la plus grande menace qui pèse sur la poursuite de l’existence de l’humanité » (traduction libre). Le philosophe Daniel C. Dennett a déclaré, pour sa part, que les agents conversationnels représentaient « les artefacts les plus dangereux de l’histoire humaine, capables de détruire non seulement les économies, mais aussi la liberté humaine elle-même » (traduction libre). Même le magazine Time y est allé d’un titre choc pour la couverture de son édition de juin 2023 : « La fin de l’humanité » (traduction libre). 

C’est une IApocalypse, comme le souligne Thibault Prévost, une apocalypse artificielle, au double sens d’une fin du monde provoquée par l’intelligence artificielle et ses capacités génératives, et d’une représentation imaginaire, exprimant une inquiétude face aux scénarios catastrophes et aux risques existentiels posés par l’implantation de l’IAG dans nos sociétés (perte de contrôle, armes autonomes, manipulations politiques, cyberattaques).  

Or, ce ne sont pas que les critiques d’un développement non encadré (pour ne pas dire effréné) de l’IAG qui tiennent un tel discours apocalyptique ou qui demandent que soient développées des normes pour un développement responsable (cf. La Déclaration de Montréal pour un développement responsable de l’intelligence artificielle), ce sont les PDG eux-mêmes des principales compagnies développant des IAG qui le font et, cela, à des fins paradoxalement commerciales. Ils soufflent le chaud et le froid, entretenant un sentiment d’urgence et de crise afin de capter notre attention et de susciter un intérêt pour leur produit qui, malgré ses limites, est présenté comme un moteur de changement radical, capable de nous conduire dans un nouveau monde, où le transhumanisme ( fondé sur cette volonté, très souvent naïve, de vouloir améliorer l’être humain pour assurer l’avenir de l’espèce) sera notre nouvelle condition humaine. On comprend que « techno-utopie et IApocalypse se rejoignent et se complètent; les deux scénarios préfèrent se projeter dans un futur imaginaire plutôt que d’analyser les menaces  qui pèsent sur le présent » (p. 116). On retrouve à l’œuvre, déployé sur fond de crise, la logique du pharmakon, à la fois poison et remède, ce qui peut nous détruire et nous définir.  

Tandis que nous sommes là, sur les lignes de côté, armés de notre téléphone cellulaire, de notre tablette ou de notre ordinateur portable, à multiplier les prompts, à dicter avec enthousiasme nos réflexions sur nos logiciels de note ou de traitement de texte, tout heureux de profiter de cette technologie et de l’incroyable puissance de nos dispositifs, nous ne nous rendons pas compte que nous participons à une mouvance idéologique qui ne veut pas notre bien mais, au contraire, qui se sert de notre naïveté pour parvenir à ses fins.