“L’illusione dell’AI: «Sistema cifrato perfetto», ma un esperto scopre falle critiche nella sicurezza”

Il professionista Michele Genito lancia l’allarme dopo aver testato le risposte di Claude, ChatGPT e DeepSeek: «Simulano di capire, ma non comprendono. La logica è assente. E i dati sensibili diventano vulnerabili»

Un esperimento tecnico, un risultato inquietante e un messaggio chiaro a chi si affida ciecamente alle intelligenze artificiali generative per sviluppare sistemi sensibili. Michele Genito, esperto del settore, ha condiviso pubblicamente una riflessione a partire da un test condotto su Claude, ChatGPT e DeepSeek, denunciando quella che definisce «l’illusione dell’intelligenza artificiale» e «il pericolo dell’assenza di logica».

La richiesta iniziale rivolta ai modelli era ambiziosa, ma teoricamente semplice: creare un sistema di messaggistica cifrata basato su una chiave segreta divisa tra più utenti, che il destinatario potesse decifrare solo ottenendo tutte le parti della chiave stessa. Le AI hanno risposto con entusiasmo e codice pronto in pochi secondi. Apparentemente tutto funzionava. Ma, come sottolinea Genito, “testare, osservare, ragionare” è ancora essenziale, soprattutto in ambiti critici come la sicurezza.

Analizzando in dettaglio una delle chiavi generate, l’esperto ha scoperto che l’originalKey era presente in chiaro nella porzione codificata, e bastava modificarne un parametro (il noise) per ottenere una nuova chiave ritenuta valida dal sistema. In altre parole, non era necessaria la collaborazione di tutti i partecipanti per decifrare il messaggio, come previsto invece dalle specifiche iniziali.

Dopo aver segnalato l’errore, l’intelligenza artificiale ha generato una seconda versione. Ma il nuovo sistema presentava un problema ancora più grave: tutte le chiavi contenevano una porzione comune di circa 20 caratteri, rendendo possibile intercettare o rigenerare chiavi simili tramite una semplice ricerca nel codice (grep), compromettendo del tutto l’unicità e la sicurezza del sistema.

«Non è solo un bug», sottolinea Genito. «È l’assenza di logica, la superficialità strutturale, e il pericolo concreto di affidarsi a strumenti che simulano intelligenza ma non comprendono veramente ciò che fanno. Nessun sistema critico — in crittografia, in sicurezza, in medicina — dovrebbe mai essere lasciato all’output automatico di un modello linguistico senza la supervisione di un esperto umano».

La riflessione, che ha già suscitato interesse nella comunità tecnologica, tocca un nodo fondamentale nel dibattito sull’intelligenza artificiale: quello della fiducia e della verifica. «L’AI non è ancora intelligenza», conclude Genito. «È una macchina statistica che predice frasi. E se l’apparenza è perfetta ma la logica è assente, il danno può essere invisibile — finché qualcuno, con un minimo di spirito critico, non se ne accorge».

Un monito, il suo, a non scambiare la velocità per affidabilità, e a ricordare che il pensiero umano, almeno per ora, resta l’unico vero garante della sicurezza.