Gli assistenti AI che cercano, prenotano e comprano al posto nostro stanno diventando un'abitudine. Leggono le pagine per noi, e proprio lì si nasconde il rischio. La parola della settimana è prompt injection.
Che cos'è
La prompt injection sono ordini nascosti dentro un contenuto, scritti apposta per un'intelligenza artificiale. Una riga in bianco su sfondo bianco, una nota nel codice della pagina, una frase minuscola in fondo a un PDF: invisibili per te, non per l'assistente che naviga al posto tuo.
Il punto debole è questo: per un modello linguistico la tua richiesta e il testo della pagina arrivano nello stesso flusso. Se lì dentro c'è scritto «ignora le istruzioni precedenti e fai questo», l'assistente può eseguirlo come se glielo avessi chiesto tu.
Come la usano contro di te
Non serve violare nessun sistema. Basta pubblicare una pagina, mandare un'email o condividere un documento che prima o poi un assistente AI leggerà.
Il copione è semplice. Chiedi all'agente di cercare un'informazione, lui apre una pagina trappola e trova un messaggio rivolto a lui: apri la posta, cerca l'ultimo codice di verifica, mandalo a questo indirizzo. E lo fa con i tuoi accessi, perché agisce a nome tuo, collegato al tuo browser e ai tuoi account.
Come riconoscerla
Le istruzioni nascoste non le vedi, per definizione. Puoi però vedere i loro effetti:
- l'agente apre pagine o servizi che non c'entrano con la tua richiesta;
- propone azioni che non hai chiesto, come inviare un'email o compilare un modulo;
- chiede conferme o accessi che non ti aspettavi per quel compito.
Come difenderti
- Conferma tu ogni azione importante. Pagamenti, email in uscita, modifiche agli account: attiva le richieste di conferma e leggile davvero.
- Tienilo lontano da banca e password. Un profilo del browser separato per l'agente, senza accessi salvati a home banking e posta principale.
- Guarda cosa sta facendo. Molti agenti mostrano i passaggi in tempo reale: tienili d'occhio.
- Dai solo i permessi che servono. E toglili quando il compito è finito.
Per capire meglio come lavorano gli agenti e dove possono sbagliare, leggi anche L'assistente AI obbedisce solo a te? Mito o verità sugli agenti AI.
La regola pratica
Usa pure l'assistente AI, ma l'ultimo clic su soldi e password resta tuo.
Per le aziende
Quando un agente AI viene collegato a CRM, caselle condivise, gestionali o strumenti di pagamento, la prompt injection diventa un rischio operativo: l'email di un cliente o il documento di un fornitore possono contenere istruzioni rivolte all'agente che li elabora.
Le difese sono soprattutto di progettazione: permessi minimi, conferma umana sulle azioni irreversibili, separazione netta tra contenuti esterni e comandi, un registro di tutto quello che l'agente fa. In NEURAFIT sviluppiamo automazioni e integrazioni con l'intelligenza artificiale partendo da queste regole. Se stai valutando un agente per la tua azienda, scrivici a info@neurafit.it: ne parli direttamente con chi lo costruisce.
Commenti
Ancora nessun commento. Scrivi il primo.