Il caso Galileu: istruzioni nascoste negli atti giudiziari per manipolare l’intelligenza artificiale. I rischi della prompt injection per gli avvocati
In Brasile un giudice ha sanzionato due avvocate per aver inserito in un atto processuale istruzioni invisibili destinate a condizionare i sistemi di intelligenza artificiale. Una vicenda che solleva interrogativi sulla sicurezza degli strumenti di IA utilizzati nella giustizia e sui doveri di lealtà e correttezza nell’esercizio della professione forense.
Luca Frabboni – Maat Srl
Quando un atto giudiziario contiene istruzioni che il lettore non può vedere
Un atto processuale dovrebbe contenere argomentazioni giuridiche, allegazioni di fatto, richieste e produzioni documentali destinate al giudice e alle altre parti del procedimento. Ma cosa accade quando, all’interno dello stesso documento, vengono inserite istruzioni che nessun lettore umano è in grado di vedere e che sono invece progettate per essere interpretate ed eseguite da un sistema di intelligenza artificiale?
Non si tratta di un’ipotesi puramente teorica, né di uno scenario futuristico. È quanto accaduto in Brasile, dove un giudice del lavoro ha sanzionato due avvocate che avevano inserito in un atto introduttivo un comando occulto, scritto in caratteri bianchi su fondo bianco, con l’obiettivo di influenzare il comportamento degli strumenti di IA eventualmente utilizzati per esaminare il documento.
La vicenda, conosciuta come «caso Galileu», dal nome del sistema di intelligenza artificiale che ha consentito di individuare l’anomalia, rappresenta un esempio particolarmente significativo di prompt injection, una tecnica che consiste nell’introdurre istruzioni malevole all’interno di contenuti destinati a essere elaborati da un modello linguistico.
…
