Les risques de l’intelligence artificielle

Nicolas Guiard

Petit sondage

• Ici : https://aixr.ng.ax/E7Va
• QR code :

L’IA et l’humanité

La force de l’intelligence

Premier contact

L’humanité a en fait déjà fait face à de l’IA à grande échelle, avec les réseaux sociaux.

Shehab et al. (2025): “From Instagram to TikTok: How Social Media Fuels Eating Disorders, Anxiety, Depression, and Insomnia in Gen Z”

METR

https://metr.org

METR, mais en échelle linéaire

Nos difficultés avec les exponentielles

• “Exponential Growth Prediction Bias” (Lammers et al., 2020; Wagenaar & Sagaria, 1975)
• Biais de prédiction de croissance exponentielle
• Les humains ~linéarisent
• Si on essayait d’extrapoler plus rigoureusement ?

Pire qu’exponentiel ?

https://www.aifuturesmodel.com/

Autres difficultés pour raisonner sur cette question et la gérer

• prémisses implicites
• difficulté à raisonner sous incertitude
• rationalisation
• réactivité / pro-activité
• autres biais humains

Dynamiques économiques

Falk & Tsoukalas (2026)

-> Taxe Pigouvienne sur l’automatisation

Autres problèmes

• concentration de pouvoir, bascules en dictatures
• surveillance de masse, propagande de masse
• cyberattaques massives automatisées
• santé mentale
• extinction

Une théorie +/- crédible du changement

METR sur des tâches spécifiques

Que faire ?

Éviter d’empirer la situation

• éviter d’être “pire qu’ignorant”
• le piège d’une technologie accessible
• risque de sur-focalisation sur certains points
  • usage de l’eau
  • risques IA locaux / très spécifiques
• quel est le niveau d’inquiétude approprié ?

Se renseigner sur la question

• https://aisafety.com/
• Quelques termes :

Alignement, Orthogonalité, Buts terminaux / instrumentaux, Convergence instrumentale, AI Stop Button Problem, Explosion de l’intelligence, Loi de Goodhart, Specification Gaming, Reward Hacking, Fonction utilitaire / Utility function, Alignment Faking, Corrigibilité, Interprétabilité mécanistique, Maximizers…

• Bons points de départ :
  • https://lensacademy.org/
  • https://cesia.org/ (en français)

Sondage encore !

• Ici : https://aixr.ng.ax/3UEU
• QR code :

Références

Falk, B. H., & Tsoukalas, G. (2026). The AI Layoff Trap. https://arxiv.org/abs/2603.20617

Lammers, J., Crusius, J., & Gast, A. (2020). Correcting misperceptions of exponential coronavirus growth increases support for social distancing. Proceedings of the National Academy of Sciences, 117(28), 16264‑16266.

Shehab, A. A., Ciubară, A., Burlea, S., Carina, V. D., Grigoraș, M., Buicu, C.-F., & Ciubară, A. (2025). From Instagram to TikTok: How Social Media Fuels Eating Disorders, Anxiety, Depression, and Insomnia in Gen Z. European Psychiatry, 68(S1), S380‑S381.

Wagenaar, W. A., & Sagaria, S. D. (1975). Misperception of exponential growth. Perception & Psychophysics, 18(6), 416‑422.