Complexity & Systems of MeaningGet the book

Part III

The paradox of AI literacy

Can you recognise when an answer is wrong?

The idea, in brief

I start from my teaching experience to question a belief I considered solid: knowing more should help people use AI better. I discuss the gap between technical competence and metacognitive accuracy, actual uses of AI, and Centaur and Cyborg approaches. I argue for education that also addresses the limits of judgement.

Here I summarise the chapter’s argument. Below you will find an excerpt from my book and the references I cite there, numbered as in the bibliography.

Companion page reviewed · 17 October 2026

From the book’s companion

An excerpt from my book

Original Italian text, from the chapter opening. · 2 min

Era inevitabile che il cortocircuito, prima o poi, si verificasse. Era, statisticamente, solo questione di tempo. Da quando è iniziata la "corsa all'oro" dell'adozione dell'AI in azienda (metafora che mi sembra rappresentare bene la situazione che stiamo vivendo: masse di persone che a fatica sanno distinguere la pirite dal rame ma che diventano esperte di ingegneria dei materiali "overnight", attratte da faraoniche promesse a discapito di rischi e difficoltà della "ricerca" e reali benefici che stentano ad arrivare per tutti tranne che per chi vende pale, picconi e setacci) uno dei pochi capisaldi che mi sono sempre, in modo intellettualmente onesto, sentito di poter garantire come non solo utile ma necessario è stato quello della formazione. Rendere le persone consapevoli di costi e benefici e dotarle di qualche "malizia" di base per poter quanto meno "gestire" se non comprendere gli strumenti che stavano entusiasticamente usando mi è sembrato sempre un imperativo morale più che un esercizio di business. Mosso dalla convinzione dell'educatore che tra saperne e non saperne è sempre meglio la prima mi sono imbarcato in questa battaglia contro i mulini a vento che è convincere i decisori aziendali che, se per guidare una macchina serve una patente che si consegue con corsi di settimane di teoria e pratica, per poter evitare di fare danni con uno strumento costruito ad arte per convincerci con la plausibilità di una perfetta sintassi priva di consapevolezza semantica, servissero almeno un paio di giornate di teoria e di pratica per tutti i supposti utilizzatori. E siccome credo che la coerenza sia il valore più prezioso per chi fa un mestiere basato sulla fiducia, mi sono poi reso attore in prima persona del percorso formativo per diverse centinaia di "studenti aziendali" con i quali ho avuto la possibilità di lavorare.

My note

The third part of the book (which, in the writing, became the main part, though it was not at the start) is a sequence of slaps that begins with the findings of a few studies that called some of my certainties into question.

The chapter’s infographics

Enlarge each plate to inspect it. The overview and extended text above explain the chapter in text; they are not a word-for-word transcription of the images.

Chapter infographic map #

Check and compare

References I cite in this chapter

I have gathered the references cited in this chapter, preserving the entries and numbering of my book’s bibliography. Links are included only where supplied in the book.

  • [40] Fernandes, Daniela, Steeven Villa, Salla Nicholls, Otso Haavisto, Daniel Buschek, Albrecht Schmidt, Thomas Kosch, Chenxinran Shen e Robin Welsch. "AI makes you smarter but none the wiser: The disconnect between performance and metacognition". Computers in Human Behavior, 175, 108779, 2026. DOI: 10.1016/j.chb.2025.108779.
  • [47] Floridi, Luciano e Anna C. Nobre. "Anthropomorphising Machines and Computerising Minds: The Crosswiring of Languages Between Artificial Intelligence and Brain & Cognitive Sciences". Minds and Machines, 34(1), 1–9, 2024. DOI: 10.1007/s11023-024-09670-4.
  • [49] Floridi, Luciano. La differenza fondamentale. Artificial Agency: una nuova filosofia dell'intelligenza artificiale. Mondadori, Milano, 2025.
  • [26] Chatterji, Aaron, Thomas Cunningham, David J. Deming, Zoe Hitzig, Christopher Ong, Carl Yan Shan e Kevin Wadman. How People Use ChatGPT. NBER Working Paper No. 34255. National Bureau of Economic Research, 2025. DOI: 10.3386/w34255.
  • [101] Puntoni, Stefano, Prasanna Tambe e Jeremy Korst. Accountable Acceleration: Gen AI Fast-Tracks Into the Enterprise. 2025 AI Adoption Report. Wharton Human-AI Research & GBK Collective, University of Pennsylvania, ottobre 2025. ↗
  • [103] Randstad. More than Half of Workers Believe AI Skills Will Future-Proof Their Careers, but Only 13% Have Been Offered Such Training Opportunities - Randstad Data Reveals. Comunicato stampa, 5 settembre 2023.
  • [105] Randstad Enterprise. AI, Skills, and Flexibility in a "Talent Multiverse": Randstad Enterprise Highlights Top Priorities for Talent Leaders in 2025. Comunicato stampa, 6 febbraio 2025.
  • [104] Randstad Enterprise. 2025 Global In-demand Skills Research. 2025.
  • [18] Bick, Alexander, Adam Blandin e David J. Deming. The Rapid Adoption of Generative AI. NBER Working Paper No. 32966. National Bureau of Economic Research, 2024. DOI: 10.3386/w32966.
  • [11] Beauchene, Vinciane, Sylvain Duranton, Nipun Kalra e David Martin. AI at Work: Momentum Builds, but Gaps Remain. Boston Consulting Group, 26 giugno 2025.
  • [125] WalkMe. Employees Left Behind in Workplace AI Boom, New WalkMe Survey Finds. Comunicato stampa, 27 agosto 2025.
  • [87] Mollick, Ethan. Co-Intelligence: Living and Working with AI. Portfolio/Penguin, New York, 2024.
  • [32] Dell'Acqua, Fabrizio, Edward McFowland III, Ethan R. Mollick, Hila Lifshitz-Assaf, Katherine C. Kellogg, Saran Rajendran, Lisa Krayer, François Candelon e Karim R. Lakhani. Navigating the Jagged Technological Frontier: Field Experimental Evidence of the Effects of AI on Knowledge Worker Productivity and Quality. Harvard Business School Technology & Operations Management Unit Working Paper No. 24-013 / The Wharton School Research Paper, 2023. DOI: 10.2139/ssrn.4573321.
A term is unfamiliar? Open the glossary →

Bring it into your work

Can you recognise when an answer is wrong?

Write down one real example, identify what you would delegate and name who will check the result.

Use the worksheet

Connected ideas

is introduced by

The illusion of agentic AI

from the agentic to the human side of our relationship with AI

introduces

Cognitive drift and surrender

from the paradox to the phased model of the drift

reinforces

Cognitive drift and surrender

the paradox of AI literacy and cognitive drift: two sides of the same coin

contributes to

A(I)DOPTION

feeds the method's Academy and Training

contributes to

The formula of meaning

C₁ — metacognitive awareness

View these connections on the map →

Choose your edition

Keep reading in the book

Riccardo Bovetti · Essay · English edition. Purchase and current availability on Amazon.

Paperback on Amazon ↗

The links open the store; they do not purchase the book.