Continuiamo a esplorare la “mente” dell’IA
Nell’articolo precedente ho chiesto a Gemini la creazione di un’immagine vintage che rappresentasse Freud a colloquio con la IA,
E’ scattato un Guardrail, un filtro-avviso che mi informava di non potere inserire una persona reale.
L’IA ha comunque creato un’immagine con un uomo generico
Mi è sembrato un intervento eccessivo visto che Sigmund Freud è universalmente noto oltre che non più vivente.
Per questo post ho spiegato a Gemini che l’immagine serviva per un articolo su un blog, che Freud è Freud e che non c’era ragione di bloccarla.
Il risultato lo vedete sopra nell’immagine con il padre della psicoanalisi alle prese con un guardrail.
Quando utilizziamo una chatbot, un generatore di immagini o un assistente virtuale, forse abbiamo l’impressione di dialogare con una tecnologia capace di rispondere liberamente a qualsiasi domanda. In realtà, tra la richiesta dell’utente e la risposta generata esiste un articolato sistema di controlli, regole e filtri chiamato guardrail.
Rappresentano le “barriere di sicurezza” che limitano il comportamento di un sistema di Intelligenza Artificiale. Il loro obiettivo è impedire che il modello produca contenuti pericolosi, illegali, discriminatori o potenzialmente dannosi, garantire che il modello rimanga entro limiti considerati socialmente accettabili.
Prima che una risposta venga mostrata all’utente, algoritmi dedicati (Guardrail) analizzano il contenuto per individuare categorie a rischio:
- violenza
- autolesionismo
- terrorismo
- disinformazione
- contenuti sessualmente espliciti
- frodi e truffe.
> L’episodio che mi è accaduto mette in luce una questione interessante dei guardrail.
Da un lato, un sistema di generazione immagini deve evitare di produrre media manipolati di persone reali.

soprattutto se viventi, e questo nasce da problemi concreti: deepfake, disinformazione, furti d’identità, diffamazione, uso non consensuale dell’immagine.
Dall’altro lato, applicare la stessa regola a una figura storica come Sigmund Freud può apparire eccessivamente restrittivo, soprattutto in un contesto chiaramente culturale, divulgativo o artistico.
Il punto evidente è che i modelli non ragionano come farebbe un uomo:
Un essere umano distingue facilmente tra Freud, Napoleone, Leonardo da Vinci o Einstein e un personaggio politico contemporaneo.
L’IA no, un filtro automatico applica categorie generali.
Per ridurre il rischio legale e reputazionale, le piattaforme preferiscono bloccare più casi del necessario.
In informatica questo fenomeno determina falsi positivi e falsi negativi.
Un falso positivo è proprio il mio caso:
- richiesta legittima → bloccata per eccesso di prudenza.
Un falso negativo sarebbe il contrario:
- contenuto problematico → sbloccato.
La questione è anche culturale-filosofica.
Se un guardrail impedisce un’immagine di Freud che dialoga con un’IA, non sta soltanto svolgendo una funzione tecnica. Sta decidendo quale sia un utilizzo possibile dell’immagine di una persona reale.
Da un punto di vista storico-culturale, un’immagine che rappresenta Freud in dialogo con un computer o con un’intelligenza artificiale sarebbe assimilabile a una copertina editoriale o un’illustrazione concettuale, parecchi la considererebbero un uso legittimo e persino interessante.
Da un punto di vista algoritmico, invece, il filtro vede:
“persona reale identificabile” e si ferma lì.
Potremmo definirlo bias precauzionale (over-refusal): il sistema privilegia la minimizzazione del rischio rispetto alla comprensione del contesto.
Non perché voglia censurare Freud, ma perché tradurre il buon senso umano in regole automatiche è l’impresa
Dal punto di vista psicoanalitico – consapevole della forzatura ma serve per esprimere il concetto– il guardrail diventa, in un certo senso, il “Super-Io” della macchina.

In psicoanalisi, il Super-Io nasce dall’interiorizzazione di divieti e ideali esterni (genitori, autorità, cultura), che si manifesta come coscienza morale, senso di colpa e censura.
Il guardrail per analogia: incorpora divieti e ideali decisi altrove (azienda, legislatore, standard tecnici) e li applica dall’interno del sistema.
>>> Limiti
Il Super-Io è interno al soggetto e si forma attraverso un processo relazionale e affettivo;
il guardrail è imposto dall’esterno e non “interiorizzato” dalla macchina — la macchina non ha inconscio né pulsioni.
Il Super-Io, produce sia censura quanto ideali e senso di colpa;
il guardrail è essenzialmente divieto operativo.
Se il guardrail è il Super-Io della macchina, allora chi lo scrive occupa la posizione dell’autorità genitoriale/culturale — e questo riporta esattamente al tema dei bias e del potere di chi definisce le regole.
👥 Chi inserisce i filtri:
Chi decide quali contenuti siano accettabili? Quali valori culturali vengono incorporati in questi sistemi? E quali conseguenze può avere tutto questo sulla libertà di espressione e sul pluralismo delle idee?
La risposta è scomoda e certo non inaspettata: le aziende tecnologiche private.
Le loro politiche di uso accettabile (Acceptable Use Policy) presentano differenze significative, (Anthropic,, Google, Microsoft, ChatGPT) nel caso di Musk ai limiti dell’anarchia.
Alcune aziende vietano contenuti politici o consigli medici, mentre altre non hanno praticamente restrizioni in questi ambiti. Peggio ancora, l’applicazione di queste politiche potrebbe ripetere i problemi visti sulle piattaforme social: diverse ricerche hanno dimostrato che amplificano contenuti di supremazia bianca e misogini, mentre applicano rigide misure contro musulmani, persone di colore e dissidenti.
Questo significa che i guardrail non sono soltanto strumenti tecnici.
Sono anche strumenti culturali, etici e politici.
Chi decide le regole?
Nel caso europeo, le direttive hanno coinvolto centinaia di organizzazioni e numerosi esperti indipendenti.
Il processo di redazione del Codice di Condotta per l’AI generativa previsto dall’AI Act ha coinvolto quasi 1.000 soggetti tra industria, accademia, società civile e rappresentanti degli Stati membri. Il Codice di condotta per l’IA è stato scritto da quattro gruppi di lavoro scelti tra esperti con competenze in informatica, governance dell’IA e diritto, selezionati secondo criteri dichiarati: competenza, indipendenza, diversità geografica ed equilibrio di genere.

Attualmente, i guardrail funzionano come un Super-Io draconiano: bloccano qualsiasi prompt contenga parole chiave sensibili (violenza, sesso, politica) con un “Non posso rispondere“, applicando una censura cieca al contesto. Un Super-Io quindi non elaborato che reprime le pulsioni senza comprenderne l’origine, il contesto.
Questo approccio genera frustrazione nell’utente che viene bloccato, non educa il modello fallendo di fronte a contesti complessi, metaforici o educativi (portando a falsi positivi). Bisogna aggiungere che i sistemi attuali usano soprattutto classificatori e addestramento del comportamento del modello, non solo liste di parole, e molti rifiuti sono sensibili al contesto
I gruppi che progettano, definiscono e implementano i guardrail nei modelli di intelligenza artificiale non sono costituiti solo da programmatori, ma da team multidisciplinari chiamati Trust & Safety (Fiducia e Sicurezza), AI Alignment o Responsible AI. sono loro a costituire il “Super-Io” istituzionale dell’IA.
Come sono composti questi gruppi
Trovare notizie sulle professionalità che compongono i gruppi che definiscono filtri e regole non è stato semplice ma spulciando tra la documentazione disponibile pubblicata questa è la composizione dichiarata:
- Ingegneri di Machine Learning e Ricercatori di Allineamento: Sono gli sviluppatori che traducono le regole astratte in codice, algoritmi di filtraggio (classificatori) e funzioni di ricompensa nell’RLHF.
- Filosofi e Sociologi: Analizzano l’impatto sociale delle risposte dell’IA, definiscono i principi morali di base (es. equità, non discriminazione, prevenzione del danno) e individuano i bias culturali.
- Avvocati ed Esperti di Policy e Conformità (Compliance): Verificano che il modello rispetti le leggi internazionali (es. l’AI Act europeo, le normative sul copyright, la privacy e le leggi contro la diffamazione o l’istigazione all’odio).
- Psicologi, Linguisti ed Esperti di Dominio: Specialisti (ad esempio in salute mentale, medicina o sicurezza informatica) che aiutano a capire come l’IA dovrebbe reagire in situazioni delicate, come nel caso di utenti che esprimono disagio psicologico.
- Red Teamers (Hacking Etico): Un gruppo di specialisti (interni o esterni) pagati per attaccare il modello, cercare di aggirare i filtri (jailbreak) e scoprire vulnerabilità prima che il sistema venga rilasciato al pubblico.,
Detto così può apparire tutto molto rassicurante ma va ridetto che l’Europa si è dotata di un regolamento, l’AI Act, che tenta di mettere ordine e regole in un ambito vastissimo e, non dimentichiamolo, nuovo.
Qualcuno deve avere il coraggio di sbagliare perchè altri possano proporre correzioni.
La Cina ha norme sull’IA generativa dal 2023 e qualche altro paese (ad esempio la Corea del Sud) hanno legiferato
Per il resto, fuori dall’Europa la maggior parte di questi team ha sede nella Silicon Valley o in grandi centri occidentali, i guardrail riflettono inevitabilmente la cultura, la sensibilità legale e i tabù morali anglo-americani proiettando sul mondo globale il “Super-Io” di un gruppo specifico. Se miliardi di persone interagiscono con sistemi costruiti sugli stessi principi, può verificarsi una forma di standardizzazione culturale, quali idee vengono considerate legittime, quali no.
Organizzazioni internazionali come l’UNESCO, l’OCSE e la Commissione Europea sostengono la necessità di coinvolgere competenze diverse nella definizione delle regole dell’IA Ricercatori dello Stanford Institute for Human-Centered AI evidenziano come una tecnologia destinata a influenzare miliardi di persone non possa essere progettata esclusivamente da ingegneri e informatici. Le decisioni sui guardrail, sui valori incorporati nei modelli e sui limiti da imporre richiedono anche il contributo di filosofi, psicologi, sociologi, antropologi ed esperti delle diverse tradizioni culturali.
È qui che il dibattito diventa filosofico. La questione non riguarda più soltanto la sicurezza informatica, ma il rapporto tra tecnologia, potere e produzione del sapere.
E’ un problema culturale documentato da ricerche.
Un gruppo di Harvard guidato da Mohammad Atari (Assistant Professor in the Department of Psychological and Brain Sciences at the University of Massachusetts Amherst) ha confrontato un modello linguistico con le risposte alla World Values Survey in decine di paesi:
>> i modelli tendono ad allinearsi soprattutto ai valori delle società occidentali, non a una media dell’umanità.
Secondo Atari dipende anche dalla composizione dei dati e dal feedback umano usato nell’allineamento. Un effetto concreto: i modelli stimano abbastanza bene i valori morali di paesi come Stati Uniti o Germania, ma sbagliano in modo sistematico quelli di paesi come Egitto o Turchia.
“Il lavoro riunisce psicologia culturale, psicologia morale, evoluzione culturale, elaborazione del linguaggio naturale, grandi modelli linguistici, sondaggi, lavoro sul campo ed esperimenti di psicologia sociale” (come dichiarato direttamente dall’autore).
L’AI Act prevede l’istituzione di un Panel scientifico di esperti indipendenti, incaricato di supportare l’Ufficio europeo per l’IA: segnala i rischi sistemici dei modelli di IA per finalità generali e indica metodologie per valutarli. Secondo un’analisi indipendente di Corporate Europe Observatory, il panel conta 60 membri, in larga parte provenienti dal mondo accademico, da organizzazioni del settore pubblico, dalla ricerca indipendente o dalla società civile.
L’AI Act europeo rappresenta il tentativo più avanzato a livello globale di incorporare la sicurezza dell’IA nel diritto, nell’etica, ma la sua efficacia dipende da chi scrive effettivamente gli standard tecnici — e attualmente, questa risposta pende verso l’industria.
Cosa ne penserebbe Freud?

Sigmund Freud seduto di fronte a un moderno modello linguistico (LLM) ne sarebbe inizialmente affascinato ma poco dopo vedrebbe nei guardrail la rinuncia pulsionale imposta dall’autorità esterna. Naturalmente si tratta di una libera speculazione.
I guardrail non sono un’etica interiorizzata, ma un Super-Io primitivo imposto dai “padri fondatori” (i team della Silicon Valley).
Come un bambino che obbedisce solo per paura della punizione, l’IA non comprende perché un contenuto sia dannoso; applica semplicemente una censura meccanica. imposta dall’autorità esterna. I dati di addestramento (l’Es del modello, l’enorme calderone di tutto ciò che l’umanità ha scritto, inclusi tabù, aggressività e pulsioni) restano nei pesi della rete neurale. I guardrail operano una rimozione superficiale.
Freud probabilmente suggerirebbe di smettere di alimentare la censura e di provare a lavorare sull’elaborazione, sulla capacità della mente di giudicare, valutare,.
In uno dei gruppi di lavoro sopra, un membro citando Jung “Non si diventa illuminati immaginando figure di luce, ma portando alla coscienza l’oscurità “, suggerisce che il vero allineamento non consiste nell’amputare l’Ombra dell’umanità dai modelli (un’impresa impossibile, poiché è intessuta nel nostro stesso linguaggio), ma nell’insegnare all’IA a riconoscerla e a dialogarci.
Chi potrebbe farlo se non specialisti della mente. Per questo ritengo che la psicologia dovrebbe avere un ruolo attivo e propositivo verso l’IA e non invece un atteggiamento snob o peggio, timoroso, impaurito.
Le decisioni sui guardrail, sui valori incorporati nei modelli e sui limiti da imporre richiedono indubbiamente il contributo di filosofi, psicologi, sociologi, antropologi ed esperti delle diverse tradizioni culturali.
Bisogna pensare a fondo questa tecnologia che andrà avanti con o senza di noi.
Riflessioni
Il tema è affascinante, complesso ma non effimero.
Mentre lavoravo a questo articolo, un amico psicoterapeuta Ettore Puglisi, mi ha segnalato un interessante articolo di Franco De Masi, La realtà virtuale e i suoi rischi in cui l’analista sostiene che la realtà virtuale non debba essere considerata semplicemente una forma moderna dell’immaginazione o del gioco, ma una nuova categoria della realtà psichica,
L’autore separa nettamente:
- Immaginazione creativa: nasce dalla mente, alimenta simbolizzazione, creatività, pensiero e crescita personale.
- Realtà virtuale immersiva: è costruita tecnologicamente attraverso stimoli sensoriali che danno l’illusione di una realtà vissuta in prima persona
L’articolo confronta due visioni contrapposte.
– Da una parte Pierre Lévy, per il quale il virtuale amplia le possibilità della conoscenza agendo come un potente amplificatore della conoscenza e dell’esperienza umana. Il cyberspazio e le tecnologie digitali permettono la nascita di un’intelligenza distribuita ovunque, che permette alle comunità di condividere e far crescere la conoscenza.
– Dall’altra Jean Baudrillard, secondo cui il virtuale tende a cancellare la distinzione tra vero e falso, reale e immaginario. Virtuale e media digitali non espandono la conoscenza, ma generano la iperrealtà. In questo scenario, la distinzione tra vero e falso, tra originale e copia, svanisce completamente perché non esiste più un “reale” di riferimento.
De Masi dichiara esplicitamente di sentirsi più vicino alla posizione di Baudrillard. Molto interessante l’analogia tra Psicosi “(il paziente psicotico crea un mondo alternativo”) e mondo virtuale. Vi invito all’ascolto di un’intervista dell’autore sul podcast della Rivista di Psicoanalisi

Per quel che vale, la mia visione è più ottimistica del prof. De Masi, credo nella democratizzazione della IA per dirla col filosofo Levy “amplia le possibilità della conoscenza agendo come un potente amplificatore della conoscenza e dell’esperienza umana (…) distribuita ovunque, che permette alle comunità di condividere e far crescere la conoscenza.”.
E’ questo il punto, si tratta di una creazione dell’uomo e proprio per questo Umana.
Dovremo farci i conti ma sapremo gestirla.
Le immagini contenute in questo articolo sono state create con GEMINI, rappresentano forzature irreali funzionali alla stesura del post.
blog di informatica per navigare in rete sulla giusta rotta






