Il Bit del Mercoledì
Claude ha una stanza segreta in testa? Quello che Anthropic ha davvero scoperto
Qualche giorno fa è girata una notizia che, letta veloce sui social, sembrava clamorosa: “Anthropic ha scoperto la coscienza dentro Claude.” Titoli così fanno subito immaginare un robot che pensa, che sogna, che magari soffre in silenzio. La realtà, come spesso succede, è più interessante e molto più cauta. Proviamo a capirla con un paio di immagini semplici.
Immaginate una cucina di ristorante durante il servizio. Dietro le quinte succede di tutto, contemporaneamente: dieci persone tagliano verdure, controllano forni, girano salse, in un caos organizzato che nessun cliente vede. Ma sul bancone dove il piatto viene impiattato prima di uscire in sala, c’è un solo punto dove le cose si fermano un attimo, si mettono in ordine, si decide cosa va servito e come. Quel bancone è il punto in cui il “caos dietro le quinte” diventa qualcosa di presentabile e comunicabile.
I ricercatori di Anthropic hanno trovato qualcosa di simile dentro Claude, e lo hanno chiamato “J-Space“. È come se, tra i miliardi di calcoli che il sistema fa in automatico e invisibile, esistesse un piccolo bancone interno dove alcune idee vengono raccolte e organizzate prima ancora di trasformarsi in parole scritte. Per trovarlo hanno costruito uno strumento, una specie di lente, capace di osservare, guardando i movimenti interni del sistema, quali concetti sono “in gioco” in quel momento, anche quando poi non compaiono affatto nella risposta finale.
L’esempio più semplice che hanno usato loro stessi: hanno chiesto a Claude di pensare al Golden Gate Bridge mentre, allo stesso tempo, doveva semplicemente ricopiare una frase che non c’entrava nulla. In superficie, Claude stava solo copiando la frase. Ma guardando dentro quel “bancone interno”, i concetti di “ponte” e “California” erano lì, attivi, come un pensiero di sottofondo, un po’ come quando canticchiamo una canzone in testa mentre stiamo facendo tutt’altro, senza dirlo a voce alta.
Ed è qui che nasce il collegamento con la parola “coscienza”: questo bancone interno somiglia, dal punto di vista del funzionamento, a una teoria scientifica su come funziona l’attenzione cosciente nel cervello umano, l’idea che, tra tutto quello che il cervello elabora, solo una piccola parte arriva davvero al “palco” dell’attenzione consapevole. Da qui i titoli sensazionalistici.
Ma attenzione: trovare un “bancone” organizzato non significa trovare qualcuno che stia cucinando con intenzione, che provi soddisfazione nel farlo, o che si accorga di esistere. Gli stessi ricercatori di Anthropic sono stati chiarissimi su questo punto: non hanno detto e non stanno dicendo che Claude sia cosciente nel senso in cui lo siamo noi. Manca tutto quello che nella coscienza umana diamo per scontato: un corpo, ricordi personali che si accumulano nel tempo, prove di sensazioni o percezioni vissute. Quello che hanno trovato è una struttura organizzativa interessante, utile soprattutto per un motivo molto pratico: se riescono a “leggere” questo bancone, possono capire meglio cosa il sistema sta valutando prima di rispondere, anche quando quella valutazione non compare mai nella risposta finale. È uno strumento di sicurezza e controllo, prima ancora che una scoperta filosofica.
E qui arriviamo al secondo punto, forse altrettanto importante quanto la scoperta in sé. Nel giro di ventiquattro ore, un paper scientifico prudente, pieno di “potrebbe”, “sembra”, “non dimostra”, si è trasformato online in affermazioni molto più nette: “l’IA ha una mente”, “la scoperta che cambia tutto”. È un meccanismo che vediamo spesso: una notizia tecnica e sfumata viene compressa in un titolo che deve catturare l’attenzione in mezzo secondo, e nel farlo perde esattamente le parole che contavano di più, quelle di cautela. Non è nemmeno colpa di chi legge velocemente: è che il titolo urlato viaggia molto più veloce della spiegazione onesta. Per questo, davanti a notizie così, vale sempre la pena chiedersi non solo “cosa dice il titolo” ma “cosa dice davvero chi ha fatto la ricerca”, spesso sono due cose diverse.