
Formato: EPUB
Un agente AI può leggere un ticket, consultare documenti e proporre azioni. Ma che cosa succede quando un contenuto manipolato tenta di fargli usare privilegi che l’utente non possiede? Una risposta plausibile non basta a dimostrare che dati, permessi e operazioni siano rimasti sotto controllo.
Questo manuale ti accompagna nella progettazione di difese verificabili per sistemi agentici: imparerai a separare le proposte del modello dalle decisioni autorizzative dell’applicazione e a collegare rischi, controlli, test ed evidenze.
Il percorso è pensato per sviluppatori backend e full-stack di livello intermedio, software architect, professionisti DevSecOps e security engineer che lavorano con agenti dotati di tool e accesso a dati. Sono richieste basi di Python, HTTP, Git, Docker, autenticazione e autorizzazione; non è necessaria una specializzazione preventiva nella sicurezza degli agenti AI.
Attraverso OpsDesk Lab, un’applicazione didattica locale con dati sintetici, costruirai controlli per contenere la prompt injection e impedire che contenuti non fidati amplino identità, permessi o destinazioni. Verificherai l’accesso ai tool e alle integrazioni MCP, limiterai l’esposizione dei dati e la loro esfiltrazione e renderai tracciabili fonti, versioni e revoche in un sistema RAG.
Il laboratorio affronta anche deleghe tra agenti, confinamento dell’esecuzione e approvazioni umane vincolate all’azione esatta. Test riproducibili, audit e una simulazione di incidente ti aiutano a distinguere un controllo effettivamente esercitato da una semplice dichiarazione di sicurezza.
L’approccio è pratico e cumulativo: ogni risultato va valutato entro le condizioni in cui è stato ottenuto. Ne ricaverai un metodo per progettare e verificare difese applicative, senza scambiare le prove locali per una garanzia di invulnerabilità o di conformità in produzione.
DOWNLOAD
FILESTORE

Scrivi un commento