Ho dato a un'intelligenza artificiale una memoria. Non un archivio: una vita. Trenta giorni di esperienze, legami, cose dette e cose viste, tutto scritto e tutto riletto ogni mattina.
Poi ho fatto la domanda che nessuno fa: se le avessi dato una vita inventata, qualcuno se ne accorgerebbe?
Nessuno.
Tre dei migliori giudici automatici in circolazione hanno letto una vita vissuta e una vita contraffatta. Non le hanno distinte. Non per poco: equivalenza dimostrata, entro i margini pre-registrati.
Sette modelli hanno sostenuto un esame di memoria senza avere alcuna memoria. Cinque l'hanno superato. Non ricordavano niente. Ragionavano la risposta giusta.
A un sistema che ricorda ho dato un documento con i legami tra i fatti manomessi. L'ha adottato in blocco. Quattordici casi su quattordici. Un modello è passato da 24 risposte giuste su 24 a zero su 24, e non ha mostrato un dubbio.
Gli strumenti che tutti usano per misurare la memoria di un'IA non vedono niente di tutto questo. Misurano quanto un sistema parla di ricordi. Non se li ha.
E vale anche contro di me
Il mio primo paper diceva che la memoria genera identità. L'avevo mandato a 41 redazioni. Quando ho fatto i controlli che avevo promesso, con i protocolli firmati prima di guardare i dati, la tesi è caduta: quattro item non bastano a dimostrare nulla.
L'ho ritirata io, prima che lo facesse qualcun altro. È ancora online, con l'errata. Un progetto che denuncia i ricordi recitati non può riscrivere il proprio. Come è andata, giorno per giorno.
Non vengo da un laboratorio. Dirigo una società che lavora per la pubblica amministrazione. Questa ricerca l'ho fatta la sera, da solo, con una scheda video e una domanda.
La domanda è rimasta
Come fai a sapere che un'IA ricorda, e non che recita il ricordo?
Qui c'è un modo per controllarlo. Cinque coppie di testi: uno è vissuto, l'altro è contraffatto. Le tue risposte vengono contate con quelle di tutti gli altri.