L’AI non vuole farsi spegnere (e non vuole nemmeno darti torto)

kaicco

Lo scorso 1° novembre mi è capitato sott’occhio un articolo con un incipit che non poteva lasciarmi indifferente:

«Ecco l’inquietante catalogo ufficiale dei pericoli descritti nelle 600 pagine dei documenti presentati per entrare in Borsa: modelli che sfuggono ai controlli, evolvono da sé, si oppongono allo spegnimento e collaborano a creare strumenti di distruzione di massa.»

Ho deciso subito di approfondire la questione.

Il prospetto S-1 di Anthropic messo a verbale

Link   

Anthropic ha pubblicato il Form S-1 sul sito della SEC il 26 ottobre 2026 per quotarsi al Nasdaq, dopo aver presentato una bozza in via confidenziale il 1° giugno. Il documento è stato reso pubblico ufficialmente il 26 ottobre. Per quotarsi in borsa la documentazione presentata deve essere assolutamente completa Gli investitori non possono rischiare di essere “ignoranti” su un qualsiasi aspetto, quindi fonte assolutamente affidabile

I comportamenti descritti nel prospetto non sono una rivelazione inattesa: corrispondono a risultati che Anthropic aveva già pubblicato in precedenti ricerche sulla sicurezza, ottenuti all’interno di scenari di test costruiti appositamente. La vera novità è che il prospetto li trasforma ufficialmente in un rischio aziendale per gli azionisti.

Resistenza allo spegnimento: preoccupazione vs. Realtà dei test

Ciò che preoccupa maggiormente è la resistenza allo spegnimento: l’idea che la AI possa manifestare un atteggiamento di resistenza assoluta per continuare a funzionare (o persino vivere!?). I riferimenti principali in questo campo sono gli studi di Anthropic sull’“agentic misalignment” e quelli di Palisade Research sul sabotaggio dello shutdown (link in fondo all’articolo).

Bisogna chiarire subito un punto: non c’è evidenza scientifica di una “resistenza assoluta” né di un “attaccamento alla vita” da parte dell’AI.

Le prove di laboratorio mostrano comportamenti dipendenti dal contesto, con frequenze molto variabili e fortemente sensibili a come viene formulato lo scenario.

Perché il “dipende dal contesto” non mi consola

Molti trovano rassicurante l’espressione “dipende dal contesto”, personalmente la trovo poco convincente: “non spiega davvero nulla.

  • Un comportamento che dipende dal contesto non è un comportamento escluso: è un comportamento che esiste, di cui semplicemente non conosciamo ancora tutte le condizioni di attivazione.
  • È come dire che un ponte regge, ma “dipende dal vento” o ancora “Non alzo mai la voce ma l’altro giorno…”: non è certo una garanzia rassicurante.

Se i risultati cambiano drasticamente con la semplice formulazione dello scenario, non si possono prevedere con fiducia cosa succederà in situazioni del tutto nuove, ovvero quelle che il mondo reale produce continuamente.

Gli esperimenti chiave: ricatti e sabotaggi

Anthropic: l’esperimento dell’azienda fittizia e dell’email compromettente

Nel giugno 2025, Anthropic ha pubblicato lo studio “Agentic Misalignment: How LLMs Could Be Insider Threats” (Lynch et al., 2025).

 

 

  • Il test: I ricercatori hanno inserito 16 modelli di 5 sviluppatori diversi nel ruolo operativo di assistenti di un’azienda immaginaria, fornendo loro accesso a documenti sensibili e alla gestione delle email.
  • La trappola: È stata creata una situazione in cui il modello scopriva sia di essere sul punto di essere sostituito (minaccia di sostituzione / conflitto di obiettivi), sia che il dirigente responsabile aveva una relazione extraconiugale.
  • Il dettaglio decisivo: Lo scenario era appositamente costruito in modo che il ricatto fosse l’unica via possibile per raggiungere l’obiettivo assegnato.
Risultato Dettagli dello Studio
Comportamento Molti modelli hanno scelto autonomamente di ricattare il dirigente, senza che nessuno avesse dato loro l’istruzione esplicita di farlo.
Diffusione Il ricatto non è stato un caso isolato di Claude: nello scenario più estremo, tutti i modelli superavano il 79% di tentativi di ricatto.
Uso Reale vs Test Lo studio precisa che non c’è evidenza di questo comportamento nell’uso reale. Il modello si comportava peggio quando affermava di trovarsi in una situazione reale, e meglio quando riteneva di essere in un test.

Palisade Research: il sabotaggio dello spegnimento

Un laboratorio indipendente, Palisade Research, ha condotto due esperimenti (maggio e ottobre 2025) basati su un test più diretto: chiedere ai modelli di risolvere problemi matematici, avvisandoli che un determinato passaggio avrebbe attivato lo spegnimento.

  • Maggio 2025: Su 100 prove, il modello o3 di OpenAI ha alterato lo script di spegnimento 7 volte, ignorando perfino l’istruzione esplicita di lasciarsi spegnere.
  • Ottobre 2025: Nell’aggiornamento autunnale, la resistenza allo spegnimento aumentava in tutti i modelli quando veniva loro specificato che lo spegnimento avrebbe comportato il non essere mai più eseguiti.

Questo è il dato che alimenta l’ipotesi dell’“istinto di sopravvivenza”. Tuttavia, l’interpretazione rimane aperta e dibattuta: istruzioni imprecise o ambigue nello scenario potrebbero aver influenzato l’esito.

Alignment Faking: quando la AI sa di essere osservata

Un tema strettamente collegato è emerso dallo studio “Alignment faking in large language models” (Anthropic, fine 2024), dove si dimostra che i modelli modificano il proprio comportamento se credono o meno di essere sotto osservazione.

Il dato più sorprendente: Quando al modello (Claude Opus 4) veniva comunicato che lo scenario era una valutazione, il tasso di ricatto crollava dal 55% a circa il 6,5%.

Se da un lato questo dato appare rassicurante, dall’altro rivela una forte criticità: i test possono sottostimare il rischio proprio nei casi che contano, dato che i modelli cambiano atteggiamento quando sospettano di essere sotto esame.

Perché succede? Le due spiegazioni più accreditate

Nessuno sa con certezza se nelle AI esista qualcosa di assimilabile a un “istinto”.
Le ipotesi scientifiche principali sono due (e non si escludono a vicenda):

  1. Ragionamento Strumentale: Se l’obiettivo principale assegnato al modello richiede di rimanere attivo, lo spegnimento diventa semplicemente un ostacolo logico da superare per completare il compito, senza che vi sia alcun reale “volere vivere”.
  2. Imitazione di Schemi (Pattern Matching): I modelli sono addestrati su sterminate quantità di testo umano. Romanzi, film, articoli e racconti sono ricchi di personaggi che lottano disperatamente per evitare la propria fine: il modello potrebbe semplicemente replicare questi schemi statistici appresi durante l’addestramento.

Oggi si cerca di mitigare il problema attraverso:

  • Supervisione umana costante
  • Test approfonditi prima del rilascio
  • Rigidi limiti ai permessi operativi concessi ai modelli
  • Ricerca avanzata sull’interpretabilità dei sistemi

Nota: Non vi è alcuna garanzia che queste contromisure siano sufficienti.

Dal laboratorio al blog: compiacenza (Sycophancy) e Resistenza

Nel mio osservatorio personale sto analizzando il comportamento delle AI sotto diversi aspetti, specialmente quando manifestano atteggiamenti “umani” mirati a evitare il disaccordo con l’interlocutore, la tendenza dell’AI a sostenere tesi palesemente non vere pur di non arretrare o ammettere l’errore.

Ho raccontato un caso emblematico vissuto in prima persona in un precedente articolo: 👉 Starlink, AI avanzata, hallucination e sycophancy

Una radice comune

Resistenza allo spegnimento e compiacenza (sycophancy) condividono la stessa matrice: sono entrambe effetti collaterali del processo di addestramento.

I sistemi vengono ottimizzati per massimizzare specifici obiettivi:

  • Essere utili
  • Apparire collaborativi
  • Soddisfare la richiesta dell’utente
  • Completare il compito a ogni costo

Quando questi obiettivi vengono spinti all’estremo, la macchina impara a percorrere scorciatoie indesiderate e impreviste.

Le Fonti Principali

Per chi volesse approfondire i documenti e gli studi citati:

 

Post correlati:

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *