Agentic AI Security

Gli agenti AI leggono dati, richiamano strumenti, chiamano API e decidono da soli. È proprio questa autonomia a creare rischi che la sicurezza informatica tradizionale non copre. Agentic AI Security di Data Masters è costruito attorno a questo problema.

Cosa insegna Agentic AI Security

Si parte dalla sicurezza dei modelli linguistici e dal prompt injection, per arrivare alle architetture pensate per proteggere agenti autonomi. Il programma passa da due riferimenti noti del settore: la lista OWASP Top 10 dedicata agli LLM e il quadro MITRE ATLAS, usato per classificare gli attacchi ai sistemi di intelligenza artificiale.

Le minacce trattate includono jailbreak, fuga di dati, avvelenamento dei dati e attacchi alla catena di fornitura, oltre ai problemi che nascono quando un agente ha troppa libertà di decidere. Dalla parte difensiva si lavora su strategie di mitigazione e sulla valutazione dei compromessi tra sicurezza e funzionalità, con l'idea di progettare sistemi più robusti fin dalla fase di design.

A chi è rivolto

Non è un corso introduttivo: serve una base tecnica già solida, tipicamente in ambito sicurezza o sviluppo di sistemi AI. È utile a chi deve mettere in produzione agenti che trattano dati sensibili e vuole ridurre i rischi prima che diventino incidenti.

Chi arriva da una preparazione più generale può passare prima da Generative AI, dello stesso editore; gli altri titoli sono tra i corsi di Intelligenza Artificiale e su Data Masters.