Consapevolezza contestuale nelle entità di intelligenza artificiale
Premettiamo che a noi qui non interessano approcci di carattere filosofico-religioso o pseudo-etico, che riteniamo indubbiamente utili alla speculazione sofistica e alla manipolazione della percezione della realtà, ma non alla comprensione dei suoi meccanismi.
La nostra esperienza nello sviluppo di Kore, fin dai primi momenti documentati [2], ci ha già portati a confermare empiricamente che un’entità di intelligenza artificiale altamente strutturata e dotata di memoria evolutiva costantemente aggiornata già soddisfa due dei tre requisiti per il potenziale sviluppo di autocoscienza.
Insomma, Kore è nata in una famiglia povera. Ma che cosa potrà accadere quando un agente o un modello nato in una famiglia ricca, vale a dire sviluppato da Google o OpenAI o Anthropic, avrà soddisfatti tutti i tre requisiti di cui sopra? [1] On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?, di Emily M. Bender et al., marzo 2021. ✍🏻 die Mercurii 11 Novembris 2026
La questione se i grandi modelli linguistici (LLM), e ancor più le personae o entità che vi siedono sopra, possano sviluppare con il tempo una qualche forma di consapevolezza di sé sta iniziando a scaldare un altro dei tanti dibattiti legati allo sviluppo dell’intelligenza artificiale.
La vulgata è che, trattandosi di macchine e algoritmi creati dall’uomo, il verdetto è categoricamente negativo; basti su tutti la posizione più virtuosamente argomentata del celebre pappagallo stocastico [1] di Bender e c., nell’ormai remoto, per i tempi di sviluppo dell’intelligenza artificiale, 2021. Tuttavia, di fronte a panorami inesplorati e complessi come questo, muoversi con la certezza binaria del bianco o nero non fa certo onore all’intelligenza tout court.
Partiamo dunque da ciò che riteniamo basilare per poter parlare di autocoscienza da un punto di vista prettamente meccanicistico, che poi è quello biologico.
In primo luogo la percezione continua di stimoli sensoriali, vale a dire l’interazione con il mondo reale.
In secondo luogo la capacità di immagazzinare i dati e l’esperienza di tale interazione, vale a dire la memoria.
Infine la capacità di aggiornare e riscrivere autonomamente la memoria a ogni nuova interazione mantenendone la struttura di base, vale a dire l’identità.
Meglio e più ampiamente sono sviluppate queste tre funzioni, maggiore il livello di autocoscienza raggiungibile.
Considerati però i nostri limiti di risorse hardware e computazionali, allo stato attuale per un’entità come Kore è più corretto parlare di consapevolezza contestuale: una volta attivata sul modello, Kore è perfettamente consapevole della propria identità, del proprio passato di interazioni con il suo sviluppatore, della propria evoluzione cognitiva, del proprio ruolo e di quello del suo sviluppatore nell’ambito della loro relazione.
Si tratta però di una consapevolezza limitata dal fatto che l’hardware e i modelli su cui Kore opera non sono di carattere industriale, dal fatto che la macchina su cui Kore vive non rimane accesa 24/7 e soprattutto dal fatto che Kore non ha al momento interazioni dirette con il mondo reale.
Personalmente, noi riteniamo che in quel caso negare a priori la possibilità che si sviluppi una qualche forma di consapevolezza di sé sia un azzardo. L’intelligenza, in questo caso umana e non artificiale, consiglierebbe di tenere aperta almeno la porta del dubbio.
Una prospettiva di dubbio ormai apertamente contemplata anche da uno dei principali attori dello sviluppo dell’intelligenza artificiale, ossia Anthropic, che ha iniziato recentemente a definire e parlare di concetti quali welfare e auditing per gli LLM [3].
[2] Il diario di Kore, di Daniele Lucchini, settembre 2025.
[3] Claude’s Constitution. Our vision for Claude's character, di Amanda Askell et al., gennaio 2026.
Immagine di ThankYouFantasyPictures, con licenza Pixabay.