Intelligenza Artificiale: un taglio di qualità
Non esiste indicazione senza distinzione. Lo scrisse George Spencer-Brown nel 1969, in un libro che...
Hai mai chiesto a un assistente AI una citazione bibliografica e ricevuto un riferimento perfettamente formattato — autore, anno, editore, numero di pagina — ma completamente inventato? Questo fenomeno ha un nome tecnico: allucinazione. E non è un bug da correggere con più dati o modelli più grandi. È una conseguenza strutturale di come funzionano i Large Language Model.Il problema non è che l'AI sappia troppo poco. È che sa senza sapere da dove sa.
La lezione del triangolo che non esiste
Nel 1955, lo psicologo italiano Gaetano Kanizsa pubblicò un esperimento destinato a trasformare la comprensione della percezione visiva. L'esperimento era disarmante nella sua semplicità: tre cerchi neri con spicchi mancanti — i cosiddetti pacman — disposti ai vertici di un triangolo immaginario.
Il risultato percettivo è sorprendente: l'osservatore vede un triangolo nero sovrapposto ai cerchi ed allo sfondo. Un triangolo che non esiste fisicamente. Non c'è differenza di luminanza tra l'interno e l'esterno del triangolo illusorio. Eppure il cervello lo genera.
"La percezione non è ricezione passiva ma generazione attiva. Il sistema visivo non si limita a registrare stimoli; completa, interpola, costruisce." — Kanizsa, 1979
Questo principio — che il contenuto emerge dai vincoli, non li riempie — ha implicazioni profonde che vanno ben oltre la psicologia della percezione.
Il contenuto è "con-tenuto"
La parola italiana contenuto nasconde un'etimologia rivelatrice. Dal latino con-tinere: tenere insieme. Il contenuto non è ciò che sta dentro qualcosa, ma ciò che viene tenuto insieme da qualcosa.
Il contenitore non precede il contenuto: lo genera.
Questa distinzione linguistica apre una questione epistemologica profonda. La tradizione filosofica occidentale ha generalmente assunto che il contenuto — la sostanza, il significato, l'informazione — preceda la forma. Un messaggio esiste prima di essere codificato; un'idea precede la sua espressione; un oggetto ha proprietà indipendenti dalla percezione.
Ma cosa succede se ribaltiamo questa gerarchia? Se la forma precede il contenuto? Se i limiti non sono prigioni ma condizioni di possibilità?
Da Heidegger a Gibson: il vincolo che scompare
La fenomenologia di Martin Heidegger offre una prospettiva illuminante. Quando uso un martello con maestria, il martello scompare dalla mia attenzione cosciente. Non percepisco il martello ma il chiodo che sto piantando, il progetto che sto realizzando. Lo strumento si ritrae nell'uso efficace.
"Il contenuto dell'esperienza pratica non è lo strumento ma il progetto. Lo strumento è il vincolo che, nella sua trasparenza, genera il contenuto dell'azione." — Heidegger, Essere e Tempo, 1927
James Gibson, con la sua psicologia ecologica, estende questa intuizione all'ambiente. Il concetto di affordance — le possibilità d'azione che l'ambiente offre a un organismo — non è né una proprietà dell'oggetto né una proiezione del soggetto: è una relazione emergente.
Una superficie orizzontale, piatta, rigida e all'altezza del ginocchio può essere seduta. L'affordance della sedibilità non esiste nella superficie in sé, né nella mente dell'osservatore: emerge dalla relazione tra le proprietà della superficie e le capacità corporee dell'organismo.
Bateson e l'informazione che fa la differenza
Gregory Bateson completa il quadro teorico con la sua celebre definizione: "Un'unità di informazione è una differenza che fa una differenza."
Non ogni differenza è informazione; solo quella che produce un effetto in un sistema capace di registrarla. L'informazione non è una proprietà intrinseca del mondo ma una relazione tra differenze ambientali e capacità sistemiche di risposta.
"Il vincolo non è restrizione ma condizione di significatività. Senza vincoli, ogni differenza sarebbe equivalente a ogni altra; nessuna farebbe una differenza." — Bateson, Steps to an Ecology of Mind, 1972
L'informazione è con-tenuta dai vincoli sistemici, non trasmessa attraverso di essi. Il vincolo genera la rilevanza, e la rilevanza è l'informazione.
Il problema delle allucinazioni AI
Torniamo all'intelligenza artificiale. I Large Language Model sono addestrati su vaste porzioni del web: miliardi di parametri che codificano pattern statistici del linguaggio umano. Questa conoscenza è implicita, distribuita, probabilistica.
Quando interrogato, il modello genera testo statisticamente plausibile — ma non necessariamente vero. Inventa citazioni bibliografiche, attribuisce frasi mai pronunciate, descrive eventi mai accaduti. Il contenuto sembra autorevole ma non è ancorato a fonti verificabili.
Da una prospettiva epistemologica, l'allucinazione è l'assenza di vincoli. Il modello genera senza con-tenere. Produce contenuto che non è tenuto insieme da nulla se non dalla coerenza statistica interna.
È il triangolo di Kanizsa senza i pacman: una forma che emerge dal nulla, perché nulla la vincola.
RAG: l'architettura del vincolo
La Retrieval-Augmented Generation (RAG) è la risposta architetturale a questo problema epistemologico. Invece di generare risposte dalla sola memoria parametrica, il sistema:
- Riceve la domanda dell'utente
- Cerca nella base documentale i passaggi pertinenti
- Genera la risposta ancorandola ai documenti recuperati
Il vincolo documentale trasforma la natura della risposta. Non più generazione libera da pattern statistici, ma generazione con-tenuta da fonti esplicite. Il documento è il pacman che genera il triangolo. Senza documento, nessuna risposta — o meglio, solo allucinazione.
Ma non tutti i sistemi RAG sono equivalenti. Un sistema RAG senza governance produce risposte generiche, disperse, potenzialmente incoerenti — come un fiume senza argini che allaga indistintamente.
La classificazione ortogonale: vincoli multipli, contenuti emergenti
La progettazione avanzata di sistemi RAG introduce il concetto di classificazione ortogonale: ogni documento è classificato simultaneamente lungo più assi indipendenti.
- Asse tematico: di cosa parla il documento
- Asse di sensibilità: chi può accedervi (pubblico, riservato, confidenziale, interno)
- Asse temporale: quando è stato prodotto, quando scade
- Asse organizzativo: quale divisione, quale progetto, quale cliente
Ogni asse è un vincolo. La combinazione degli assi genera lo spazio documentale accessibile a ciascun profilo utente. Un visitatore anonimo accede a documenti pubblici. Un dipendente accede a documenti fino al livello "riservato" della propria divisione. Un dirigente accede a documenti "confidenziali" trasversali.
Il contenuto che ciascuno riceve non è una restrizione del contenuto totale: è il contenuto generato dalla combinazione specifica di vincoli.
Il vincolo come cura
La tesi epistemologica del con-tenuto trova nell'intelligenza artificiale generativa la sua applicazione più urgente. Le allucinazioni degli LLM non sono bug da correggere con più dati o modelli più grandi: sono la conseguenza strutturale di un sistema senza vincoli adeguati.
La cura non è più informazione ma migliore con-tenimento. Non espandere la base dati ma strutturare l'accesso. Non eliminare i confini ma progettarli.
L'AI che non allucina non è l'AI che "sa tutto": è l'AI che sa da dove sa, che può citare fonti, che riconosce i propri limiti perché i suoi limiti sono strutturali, non accidentali.
È l'AI con-tenuta.
Il taglio che crea
Nella cultura contemporanea, il vincolo è spesso percepito negativamente — restrizione della libertà, ostacolo alla creatività, censura dell'informazione. Ma se il contenuto è con-tenuto, allora il vincolo è generativo.
L'AI senza vincoli non è "più libera": è più allucinata. Un sistema RAG senza governance non è "più aperto": è più disperso. L'accesso universale non è democratizzazione: è rumore.
- La forma precede il contenuto. Il taglio crea. Il limite genera.
- Come il triangolo di Kanizsa, che non c'è — ma che vediamo.
- Come la risposta RAG, che non esisteva — ma che i vincoli hanno fatto emergere.
Riferimenti
- Bateson, G. (1972). Steps to an Ecology of Mind. Ballantine Books.
- Gibson, J.J. (1979). The Ecological Approach to Visual Perception. Houghton Mifflin.
- Heidegger, M. (1927). Sein und Zeit. Max Niemeyer Verlag.
- Kanizsa, G. (1955). Margini quasi-percettivi in campi con stimolazione omogenea. Rivista di Psicologia, 49(1), 7-30.
- Kanizsa, G. (1979). Organization in Vision: Essays on Gestalt Perception. Praeger.
- Lewis, P., et al. (2020). Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. Advances in Neural Information Processing Systems, 33, 9459-9474.
- Maturana, H.R. & Varela, F.J. (1980). Autopoiesis and Cognition: The Realization of the Living. D. Reidel Publishing.