Nell'ambito della sicurezza informatica, un worm è un particolare tipo di malware in grado di autoreplicarsi. Questo significa che, una volta entrato in un sistema, è in grado di diffondersi autonomamente senza bisogno di un'azione umana.
Questo tipo di malware che oggi è tipicamente utilizzato per danneggiare sistemi informatici, è stato creato inizialmente per scopi di ricerca scientifica. Infatti nel 1988 Robert Tappan Morris, uno studente del MIT, creò il primo worm della storia, chiamato semplicemente "Morris Worm", il cui scopo era misurare la dimensione di Internet. Sfortunatamente non tutto andò come previsto e il worm si diffuse in modo incontrollato, causando danni per milioni di dollari e portando il suo creatore verso la prima condanna per pirateria informatica negli Stati Uniti d'America.
Tornando ai giorni nostri, un gruppo di ricercatori della Cornell University è riuscito a sviluppare il primo worm per l'intelligenza artificiale chiamato "Morris II". Questo worm è in grado di diffondersi da un sistema di IA all'altro sfruttando la tecnica del cosiddetto "adversarial self-replicating prompt". L'idea alla base di questa tecnica è quella di sfruttare un prompt che faccia si che all'interno della risposta del modello di intelligenza artificiale generativa venga prodotto ed eseguito un altro prompt. All'interno del paper pubblicato, i ricercatori hanno dimostrato come un assistente per la generazione di email possa essere attaccato al fine di sottrarre informazioni sensibili e di diffondere spam.
Questo tipo di attacco non è particolarmente sofisticato, basterebbe infatti validare le risposte generate dall'IA per evitare che contengano altri prompt potenzialmente dannosi. Tuttavia, questo lavoro dimostra come l'IA possa essere vulnerabile ad attacchi informatici e come sia necessario sviluppare nuove tecniche di sicurezza per proteggerla. Se ormai chiunque navighi in rete abbia la consapevolezza che il proprio computer possa essere attaccato da un malware, è importante che con l'adozione sempre più massiccia di sistemi di intelligenza artificiale si cominci a diffondere anche la consapevolezza dei rischi legati a questo tipo di tecnologie.
E tu che ne pensi? Sei a conoscenza dei rischi legati all'utilizzo di sistemi di intelligenza artificiale?
Grazie per aver letto questo articolo della rubrica Input/Output. Ad ogni input, tipicamente, corrisponde un output. E solo esponendosi ad input diversi si possono tirare fuori idee non convenzionali. Proprio per questo ogni martedì prendo in input una curiosità legata al mondo tecnologico per ragionare su nuove idee da tirare fuori in output.