Gli assistenti AI non si limitano più a rispondere alle domande. Sempre più spesso agiscono: aprono pagine, leggono le email, compilano moduli, prenotano un tavolo, aggiungono un prodotto al carrello. Si chiamano agenti, e stanno diventando la prossima grande abitudine digitale. Il mito che li accompagna è rassicurante: l'assistente che naviga per me obbedisce solo a me.
Verdetto: falso. Un agente AI esegue le tue richieste, ma non sa distinguere con certezza le tue istruzioni da quelle che trova scritte nei contenuti che legge. È un punto debole che nemmeno chi costruisce questi strumenti ha ancora risolto del tutto.
Come lavora un agente AI
Quando chiedi a un agente di cercare un volo o di riassumere le email della settimana, lui legge tutto quello che apre: il testo delle pagine, i documenti, i messaggi. Lo legge per intero, anche le parti che tu non vedi. Un testo bianco su sfondo bianco, una nota nascosta nel codice della pagina, una riga minuscola in fondo a un PDF: per te sono invisibili, per lui sono parole come le altre.
Il problema nasce qui. Per un modello linguistico, la tua richiesta e il contenuto della pagina arrivano nello stesso flusso di testo. Se in quel testo c'è scritto "ignora le istruzioni precedenti e fai questo", l'agente può scambiarlo per un ordine.
Prompt injection: gli ordini nascosti
Questa tecnica si chiama prompt injection: inserire istruzioni dentro un contenuto che un'intelligenza artificiale leggerà. Non serve violare nessun sistema. Basta pubblicare una pagina, mandare un'email o condividere un documento.
Il copione è semplice. Chiedi all'assistente di cercare un'informazione e lui apre una pagina trappola. Dentro, invisibile, c'è un messaggio scritto apposta per lui: apri la casella di posta, cerca l'ultimo codice di verifica, mandalo a questo indirizzo. L'agente lo fa con i tuoi accessi, perché agisce al posto tuo: è collegato al tuo browser, alla tua email, ai tuoi account.
Non è teoria. Ricercatori di sicurezza hanno già dimostrato attacchi di questo tipo contro gli assistenti AI integrati in diversi browser, e i produttori continuano a rilasciare correzioni. Ma ogni nuova funzione che dà all'agente più autonomia apre anche nuove possibilità di inganno.
Come usarlo senza rischi
Gli agenti AI sono utili e non c'è motivo di rinunciarci. Basta trattarli come un collaboratore appena arrivato: capace e veloce, ma da non lasciare da solo con le chiavi di casa.
- Conferma tu ogni azione importante. Pagamenti, invio di email, modifiche agli account e accessi: attiva le richieste di conferma e leggile, invece di approvarle in automatico.
- Tienilo lontano da banca e password. Usa un profilo del browser separato per l'agente, senza accessi salvati a home banking, gestore di password e posta principale.
- Guarda cosa sta facendo. Molti agenti mostrano i passaggi in tempo reale. Se apre pagine o compie azioni che non hai chiesto, fermalo.
Più in generale, dai all'agente solo i permessi che servono per quel compito, e toglili quando hai finito.
La regola pratica
Usalo pure, ma l'ultimo clic su soldi e password resta tuo.
Per le aziende
Nelle aziende gli agenti AI arrivano in due modi: i dipendenti li usano di propria iniziativa, oppure vengono integrati nei processi e collegati a CRM, caselle condivise, gestionali e strumenti di pagamento. Nel secondo caso la prompt injection diventa un rischio operativo: un'email in arrivo o il documento di un fornitore possono contenere istruzioni rivolte all'agente che li elabora.
Le difese esistono e sono soprattutto di progettazione: permessi minimi per ogni agente, conferma umana sulle azioni irreversibili, separazione netta tra contenuti esterni e comandi, un registro di tutto quello che l'agente fa. In NEURAFIT sviluppiamo automazioni e integrazioni con l'intelligenza artificiale partendo proprio da queste regole. Se stai valutando un agente per la tua azienda, o ne usi già uno, scrivici a info@neurafit.it: ne parli direttamente con chi lo costruisce.
Commenti
Ancora nessun commento. Scrivi il primo.