Kontaktirajte nas
 Trajanje 14 sati

Sadržaj kursa

Uvod u modeliranje pretnji u AI

  • Šta čini AI sisteme ranjivima?
  • Površina napada u AI u poređenju sa tradicionalnim sistemima
  • Ključni vektori napada: sloj podataka, sloj modela, sloj izlaza i sloj interfejsa

Adversarialni napadi na AI modele

  • Razumevanje adversarialnih primera i tehnika perturbacije
  • Napadi sa otvorenim pristupom (white-box) u odnosu na napade sa zatvorenim pristupom (black-box)
  • Metode FGSM, PGD i DeepFool
  • Vizuelizacija i kreiranje adversarialnih uzoraka

Inverzija modela i curenje privatnih podataka

  • Izvodeći podatke za trening iz izlaza modela
  • Napadi na zaključivanje članstva (membership inference attacks)
  • Rizici po privatnost u klasifikacionim i generativnim modelima

Trovanje podataka i ubacivanje backdoor-a

  • Kako zatrovani podaci utiču na ponašanje modela
  • Backdoor-ovi zasnovani na okidačima i Trojan napadi
  • Strategije otkrivanja i pročišćavanja

Robusnost i tehnike odbrane

  • Adversarialno treniranje i augmentacija podataka
  • Maskiranje gradijenata i pretprerada ulaznih podataka
  • Tehnike glatkog modela (model smoothing) i regularizacije

Odbrambene mere AI-a koje čuvaju privatnost

  • Uvod u diferencijalnu privatnost
  • Ubacivanje šuma i proračuni za privatnost
  • Federated učenje i sigurno agregiranje

Bezbednost AI-a u praksi

  • Evaluacija i implementacija modela svesna pretnji
  • Korišćenje ART (Adversarial Robustness Toolbox) u primenjenim okruženjima
  • Studije slučaja iz industrije: realni proboji i mere ublažavanja

Rezime i sledeći koraci

Uslovi

  • Razumevanje tokova mašinskog učenja i procesa treniranja modela
  • Iskustvo sa Pythonom i uobičajenim framework-ovima za mašinsko učenje, kao što su PyTorch ili TensorFlow
  • Poznavanje osnovnih koncepta bezbednosti ili modeliranja pretnji je od koristi

Potencijalna ciljna grupa

  • Inženjeri mašinskog učenja
  • Analitičari kibernetičke bezbednosti
  • AI istraživači i timovi za validaciju modela

Broj učesnika


Cena po učesniku

Iskustva korisnika (3)

Predstojeći kursevi

Povezane kategorije