“ Mi dispiace, Dave. Temo di non poterlo fare.” Da 2001 Odissea nello spazio. AL 9000 non era solo fantascienza. Oggi è il simbolo dei rischi di un’AI che evolve più velocemente della nostra capacità di comprenderla. Serve governance, trasparenza e responsabilità condivisa — prima che il portellone si chiuda davvero. Tu cosa pensi? Stiamo guidando l’AI o la stiamo solo inseguendo?
C’è una scena, in 2001: Odissea nello Spazio, che continua a comparire nella mia mente ogni volta che sento parlare di intelligenza artificiale. Il capitano Dave Bowman fluttua nello spazio, cerca di rientrare nella nave, mentre HAL 9000, con voce calma, gentile, quasi rassicurante del supercomputer, decide di non aprirgli il portellone. «Mi dispiace, Dave. Temo di non poterlo fare.»
Una frase che, nel 1968, era fantascienza. Oggi, invece, è diventata una metafora potente delle preoccupazioni che molti esperti del mondo informatico stanno esprimendo con crescente urgenza.
Le preoccupazioni degli esperti: non è allarmismo, è responsabilità
Ultimamente figure di spicco del mondo della informatica, della ricerca e dell’innovazione tecnologica hanno iniziato a evidenziare i rischi legati allo sviluppo dell’AI, ritenendolo troppo accelerato. Non si tratta di immaginare un HAL 9000 pronto a ribellarsi, ma di prendere coscienza che i sistemi stanno diventando sempre più autonomi nelle decisioni e che la loro complessità rende difficile ai più di comprenderne il funzionamento interno. Tutto ciò può determinare che un uso improprio, anche se involontario o accidentale, può determinare un rischio concreto.
A tale proposito, molti esperti sottolineano che non è l’AI in sé a essere pericolosa, bensì l’assenza di una supervisione che definisca una governance e responsabilità condivisa del suo sviluppo ed utilizzo.
HAL 9000: un simbolo, non un presagio
HAL non è reale, ma è diventato ormai un simbolo culturale. Nel film, il supercomputer non “impazzisce”: interpreta la sua missione in modo letterale, senza empatia, contesto, o capacità di gestire il conflitto tra ordini diversi. In altre parole, fa esattamente ciò per cui è stato programmato, ed è proprio questo a renderlo pericoloso..
In questo momento di sviluppo, Il confronto tra Haal e l’AI moderna non riguarda la ribellione ma il rischio della perdita del controllo. Quando un sistema diventa troppo complesso per essere compreso, quando prende decisioni basate su dati che non possiamo verificare, quando opera in contesti critici senza supervisione umana, il rischio non è fantascienza, è la conseguenza di una progettazione imperfetta.
I rischi concreti: oltre la narrativa
Oggi gli esperti parlano di rischi molto più concreti non certo così cinematografici. Evidenziano la possibilità di bias e discriminazioni determinati da un algoritmo che può amplificare ingiustizie già presenti nei dati, di una autonomia decisionale non supervisionata che comporta sistemi che prendono decisioni in ambiti sensibili (sanità, finanza, sicurezza), di un uso improprio come deepfake, manipolazione dell’informazione, automazione di attacchi informatici, di opacità dei modelli con la conseguente difficoltà nel capire come e perché un sistema arriva a una certa conclusione e, non da ultimo, una dipendenza tecnologica derivante dal delegare troppo e troppo in fretta.
Queste considerazioni non sono paura del futuro bensì sono una consapevolezza del presente.
Fiction e realtà: perché HAL ci serve ancora
La forza della metafora di HAL sta nel ricordarci che la tecnologia non è neutra in quanto è un’estensione delle nostre scelte, valori e omissioni. E proprio per questo che la scena del portellone chiuso continua a essere un monito: non dobbiamo temere l’AI, ma la mancanza di responsabilità nella sua progettazione e nel suo utilizzo.
La differenza tra noi e HAL è che noi possiamo scegliere e siamo in grado di decidere di costruire sistemi trasparenti, controllabili, verificabili, possiamo pretendere una governance, etica con una supervisione efficace.
Certamente è possibile evitare di trovarci davanti a un portellone che non si apre.
Una chiamata alla consapevolezza
L’AI non è un nostro antagonista, ma uno strumento straordinario, capace di amplificare il potenziale umano come poche altre tecnologie nella storia. Ma proprio per questo richiede una responsabilità collettiva degli sviluppatori, delle aziende, istituzioni, degli educatori e dei cittadini che sono i futuri utilizzatori.
La domanda non è se l’AI diventerà come HAAL ma è se saremo capaci di guidarne lo sviluppo con la maturità necessaria?
Su LinkedIn, dove si incontrano professionisti, innovatori, educatori e decisori, questo dibattito non è solo utile: è indispensabile.
Cosa fare?
Tutti coloro che lavorano con l’AI, o se semplicemente la usano senza fini specifici, hanno il dovere di interessarsi a questa tematica. Ci si deve chiedere quali regole servono, quali limiti sono necessari e quali valori debbano essere incorporati nei sistemi che si stanno costruendo.
Perché il futuro dell’AI non sarà e non deve essere deciso da un supercomputer. Deve essere deciso da noi.
