Kontaktirajte nas
 Trajanje 14 sati

Sadržaj kursa

Osnove veštačke inteligencije i bezbednosti

  • Šta sisteme veštačke inteligencije čini jedinstvenim iz perspektive bezbednosti
  • Pregled životnog ciklusa veštačke inteligencije: podaci, obuka, inferencija i implementacija
  • Osnovna taksonomija rizika veštačke inteligencije: tehnički, etički, pravni i organizacioni

Vektori pretnji specifični za veštačku inteligenciju

  • Adversarial primeri i manipulacija modelima
  • Rizici od inverzije modela i curenja podataka
  • Trovanje podacima tokom faza obuke
  • Rizici u generativnoj veštačkoj inteligenciji (npr. zloupotreba LLM, ubacivanje upita)

Okviri za upravljanje bezbednosnim rizicima

  • NIST okvir za upravljanje rizicima veštačke inteligencije (NIST AI RMF)
  • ISO/IEC 42001 i drugi standardi specifični za veštačku inteligenciju
  • Mapiranje rizika veštačke inteligencije na postojeće preduzeće okvire za upravljanje, usklađenost i kontrolu (GRC)

Principi upravljanja veštačkom inteligencijom i usklađenosti sa propisima

  • Odnost i mogućnost auditiranja veštačke inteligencije
  • Prozračnost, objašnjivost i fer ponašanje kao svojstva relevantna za bezbednost
  • Pristrasnost, diskriminacija i posredne štete

Spremnost preduzeća i politike bezbednosti veštačke inteligencije

  • Definisanje uloga i odgovornosti u programima bezbednosti veštačke inteligencije
  • Elementi politike: razvoj, nabavka, upotreba i povlačenje iz upotrebe
  • Rizik trećih strana i korišćenje alata veštačke inteligencije dobavljača

Regulatorni pejzaž i globalni trendovi

  • Pregled EU zakona o veštačkoj inteligenciji i međunarodnih regulativa
  • Izvršni nalog SAD o bezbednoj, pouzдноj i pouzdanoj veštačkoj inteligenciji
  • Nastajuće nacionalni okviri i smernice specifične za sektor

Opcioni radionica: Mapiranje rizika i samoprocena

  • Mapiranje stvarnih slučajeva upotrebe veštačke inteligencije na funkcije NIST AI RMF-a
  • Izvođenje osnovne samoprocene rizika veštačke inteligencije
  • Identifikacija unutrašnjih nedostataka u spremanosti za bezbednost veštačke inteligencije

Rezime i naredni koraci

Uslovi

  • Razumevanje osnovnih principa kibernetičke bezbednosti
  • Iskustvo sa okvirima za IT upravljanje ili upravljanje rizicima
  • Poznavanje opštih koncepta veštačke inteligencije je korisno, ali nije obavezno

Ciljna publika

  • IT timovi za bezbednost
  • Upravnici rizika
  • Profesionalci za usklađenost sa propisima

Broj učesnika


Cena po učesniku

Iskustva korisnika (3)

Predstojeći kursevi

Povezane kategorije