Sadržaj kursa
Osnove veštačke inteligencije i bezbednosti
- Šta sisteme veštačke inteligencije čini jedinstvenim iz perspektive bezbednosti
- Pregled životnog ciklusa veštačke inteligencije: podaci, obuka, inferencija i implementacija
- Osnovna taksonomija rizika veštačke inteligencije: tehnički, etički, pravni i organizacioni
Vektori pretnji specifični za veštačku inteligenciju
- Adversarial primeri i manipulacija modelima
- Rizici od inverzije modela i curenja podataka
- Trovanje podacima tokom faza obuke
- Rizici u generativnoj veštačkoj inteligenciji (npr. zloupotreba LLM, ubacivanje upita)
Okviri za upravljanje bezbednosnim rizicima
- NIST okvir za upravljanje rizicima veštačke inteligencije (NIST AI RMF)
- ISO/IEC 42001 i drugi standardi specifični za veštačku inteligenciju
- Mapiranje rizika veštačke inteligencije na postojeće preduzeće okvire za upravljanje, usklađenost i kontrolu (GRC)
Principi upravljanja veštačkom inteligencijom i usklađenosti sa propisima
- Odnost i mogućnost auditiranja veštačke inteligencije
- Prozračnost, objašnjivost i fer ponašanje kao svojstva relevantna za bezbednost
- Pristrasnost, diskriminacija i posredne štete
Spremnost preduzeća i politike bezbednosti veštačke inteligencije
- Definisanje uloga i odgovornosti u programima bezbednosti veštačke inteligencije
- Elementi politike: razvoj, nabavka, upotreba i povlačenje iz upotrebe
- Rizik trećih strana i korišćenje alata veštačke inteligencije dobavljača
Regulatorni pejzaž i globalni trendovi
- Pregled EU zakona o veštačkoj inteligenciji i međunarodnih regulativa
- Izvršni nalog SAD o bezbednoj, pouzдноj i pouzdanoj veštačkoj inteligenciji
- Nastajuće nacionalni okviri i smernice specifične za sektor
Opcioni radionica: Mapiranje rizika i samoprocena
- Mapiranje stvarnih slučajeva upotrebe veštačke inteligencije na funkcije NIST AI RMF-a
- Izvođenje osnovne samoprocene rizika veštačke inteligencije
- Identifikacija unutrašnjih nedostataka u spremanosti za bezbednost veštačke inteligencije
Rezime i naredni koraci
Uslovi
- Razumevanje osnovnih principa kibernetičke bezbednosti
- Iskustvo sa okvirima za IT upravljanje ili upravljanje rizicima
- Poznavanje opštih koncepta veštačke inteligencije je korisno, ali nije obavezno
Ciljna publika
- IT timovi za bezbednost
- Upravnici rizika
- Profesionalci za usklađenost sa propisima
Iskustva korisnika (3)
inventarisanje i identifikacija različitih izloženosti riziku u veštačkoj inteligenciji
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Mašinski prevedeno
Veliko mi je bilo zadovoljstvo naučiti o napadima na veštačku inteligenciju i o alatu dostupan za početak prakse i aktivnu primenu u testiranju bezbednosti. Ponesao sam sa sobom mnogo znanja koje prethodno nisam imao, a kurs je ispunio ona očekivanja koja sam imao. Najdraži deo treninga bio je Comet Browser, bio sam zapanjen njegovim mogućnostima. Definitivno ću dalje istraživati ovu tematiku. Ukupno, u pitanju je bio odličan kurs i uživao sam u učenju svih tačaka iz OWASP GenAI Top 10.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Mašinski prevedeno
Profesionalno znanje i način na koji ga je predstavio pred nama.
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Mašinski prevedeno