Agenti AI in azienda: come lavorano, chi li sorveglia, come si spengono

Cosa distingue un agente AI da un assistente che risponde?

Un assistente in chat risponde a una domanda e si ferma lì.

Un agente riceve un obiettivo, per esempio «chiudi questo reso», e lo scompone in passaggi.

Usa strumenti che gli avete concesso: consultare un ordine, compilare un campo, preparare un messaggio.

La differenza pratica è una sola: l'agente tocca i vostri sistemi. Per questo servono permessi, firme e un interruttore.

Come è fatto un agente, passaggio per passaggio?

Ogni agente ben progettato segue lo stesso schema in cinque tempi.

Se un tempo fallisce, l'agente non salta al successivo: si ferma e chiede.

Quali permessi dare a un agente?

Vale il principio dei permessi minimi: solo ciò che serve a quella pratica, niente di più.

Si parte in sola lettura. La scrittura si aggiunge un campo alla volta, dopo le prove.

Ogni agente ha credenziali proprie, separate da quelle dei dipendenti. Così si ritirano senza bloccare nessuno.

• Sola lettura sui dati della pratica, non su tutto l'archivio.
• Scrittura limitata a campi nominati, mai cancellazioni.
• Invii verso l'esterno solo dopo la firma di una persona.
• Un tetto al numero di azioni per giornata, deciso da voi.

Chi sorveglia l'agente e cosa chiede la legge?

Per i sistemi ad alto rischio l'AI Act chiede una sorveglianza umana efficace durante l'uso (art. 14).

Chi usa questi sistemi deve affidare la sorveglianza a persone competenti, formate e con l'autorità per intervenire (art. 26).

Molti agenti d'ufficio non sono ad alto rischio. Conviene comunque applicare la stessa regola: una persona con nome e potere di fermarlo.

Il GDPR tutela le persone da decisioni solo automatiche con effetti rilevanti (art. 22). Rimborsi negati e reclami respinti restano quindi firmati da una persona.

Se l'agente scrive a clienti o fornitori, deve dichiarare di essere un sistema AI (AI Act, art. 50).

Come si spegne un agente senza perdere il lavoro?

Lo spegnimento va previsto prima dell'accensione, non durante un incidente.

Si spegne il singolo agente, oppure il suo collegamento con un sistema. Le pratiche aperte passano alla coda delle persone.

Registro e bozze restano consultabili. Nessun dato si perde spegnendo l'automazione.

Provate lo spegnimento durante la fase di prova, con un orario e un responsabile. Se nessuno sa farlo in pochi minuti, l'agente non è pronto.

Cosa misurare nelle prime settimane?

Le misure devono dire due cose: se l'agente fa risparmiare tempo e se sbaglia dove non deve.

Confrontate sempre con le stesse pratiche del mese prima, lavorate a mano.

• Tempo dall'arrivo della pratica alla firma.
• Proposte approvate senza modifiche, rispetto al totale.
• Pratiche fermate per dato mancante, e quale dato mancava.
• Correzioni fatte dalle persone, divise per tipo.
• Casi in cui l'agente ha provato un'azione non permessa.

Quali lavori affidare a un agente e quali no?

Un buon lavoro per un agente è frequente, ha regole scritte e un esito controllabile.

Un cattivo lavoro richiede giudizio sulle persone, o non ha dati affidabili.

Quali errori fermano un progetto di agenti, e cosa chiedere al fornitore?

Il primo errore è partire da tre pratiche insieme. Nessuna arriva in fondo e nessuno sa quale ha funzionato.

Il secondo è dare subito permessi di scrittura ampi, «tanto poi si restringono». Di solito nessuno li restringe.

Il terzo è lasciare le regole nella testa di chi lavora la pratica. L'agente segue solo ciò che è scritto.

Il quarto è non nominare chi firma. Le proposte si accumulano e l'ufficio torna a lavorare a mano.

Prima di firmare un contratto, fate al fornitore domande precise e chiedete le risposte per iscritto.

• Quali azioni può compiere l'agente, elencate una per una?
• Dove si vede il registro, e in quale formato si esporta?
• Come si spegne, chi può farlo e in quanto tempo?
• Cosa succede alle pratiche aperte quando l'agente è spento?
• Su quali server passano i dati, e chi sono i sotto fornitori?
• Chi corregge un comportamento sbagliato, e con quali tempi di servizio scritti nel contratto?
• Come si ripetono le prove dopo ogni modifica delle istruzioni?

Domande frequenti