Microsoft aggiunge un "freno" all'agente Copilot: è necessaria l'approvazione umana prima di inviare email o effettuare pagamenti

Microsoft ha annunciato che a settembre apporterà importanti modifiche a Copilot Studio: gli agenti AI dovranno ottenere l'approvazione manuale prima di utilizzare gli strumenti. Questa piattaforma serve per creare e gestire agenti AI, consentendo la connessione con strumenti aziendali come email, ticket e pagamenti. Con l'aggiornamento, gli sviluppatori possono impostare l'obbligo di approvazione per ciascun strumento e agente AI; l'utilizzo degli strumenti sottoposti ad approvazione sarà sospeso e verrà mostrata una richiesta in cui viene spiegato l'intento dell'agente, permettendo all'utente di approvare, approvare la sessione o rifiutare. Microsoft ha specificato tre scenari d'uso: invio di email, chiusura di ticket e gestione dei pagamenti. Una volta configurato il flusso di approvazione per queste attività sensibili, gli agenti AI non potranno più eseguirle autonomamente. Questa mossa riflette l'attenzione di Microsoft per la sicurezza e il controllo sugli agenti AI.

Autore, Fonte: AIBase

Microsoft prevede di distribuire le modifiche a Copilot Studio da settembre: gli agenti AI dovranno ottenere un'approvazione manuale prima di utilizzare gli strumenti. Copilot Studio è la piattaforma di Microsoft per creare e gestire agenti AI e consente agli agenti di collegarsi a strumenti aziendali come email, ticket e pagamenti.

Secondo quanto riportato da Microsoft nella presentazione ufficiale, Copilot Studio permette ora agli sviluppatori di richiedere l'approvazione manuale prima che un agente AI utilizzi determinati strumenti. Grazie agli interruttori configurabili per ogni strumento e agente, qualsiasi utilizzo che richiede approvazione sarà sospeso e verrà presentata una richiesta, che descrive l'intento dell'agente per consentire all'utente di approvare, approvare la sessione o rifiutare prima dell'esecuzione.

Microsoft ha inoltre identificato tre scenari di utilizzo: invio di email, chiusura di ticket e gestione dei pagamenti. Dopo la configurazione dell'approvazione per queste operazioni, gli agenti AI non potranno più eseguirle autonomamente.