Sadržaj kursa
Veštačka inteligencija u preduzeću: Strategijski i pravni aspekti
- Uvođenje AI u ključne poslovne funkcije: prilike i rizici
- Odgovornost rukovodstva u upravljanju AI
- AI sistemi visokog rizika i izloženost organizacije
Klasifikacija rizika AI i globalno regulatorno okruženje
- EU AI Act: nivoi rizika, zahtevi, kazne
- Izučna odluka SAD o veštačkoj inteligenciji i nove federalne/državne propise
- Usklađenost AI u okviru GDPR, HIPAA i drugih okvira
- Pregled ISO/IEC 42001, NIST AI RMF, OECD principa za AI
Bezbednost i nadzor AI sistema
- Bezbednosna postava AI: pretnje, ranjivosti i zaštitne mere
- Reakcija na incident i notifikacija o kršenju u AI vođenim procesima
- Revizija i praćenje ulaznih podataka, odluka i izlaza modela
Odnosna nabavka AI i rizik dobavljača
- Detaljna provera kod nabavke AI alata (uključujući LLM-ove i API-je)
- Ključni elementi ugovora: vlasništvo nad podacima, objašnjivost modela, SLA
- Ocenjivanje tvrdnji dobavljača: smanjenje pristrasnosti, garancije privatnosti, bezbednost
Interni okviri upravljanja i organizacione kontrole
- Kreiranje politika korišćenja AI kroz odeljenja
- Etički komiteti, odbori za reviziju rizika i međufunkcionalni nadzor
- Obuka, dokumentacija i integracija usklađenosti
Ocenjivanje slučajeva upotrebe i scenarija rizika
- Ocenjivanje slučajeva upotrebe velikog uticaja (npr. HR selekcija, finansijsko bodovanje, botovi za korisničku podršku)
- Alati i šabloni za procenu rizika AI
- Scenariji: neusklađenost, sklonost, halucinacija, diskriminacija
Rastući trendovi i buduće razmatranje
- Predviđanje regulatorne evolucije i globalne konvergencije
- Rizici specifični za GenAI i ekstenzije upravljanja
- Odnosno skaliranje AI operacija u preduzeću
Sažetak i sledeći koraci
Uslovi
- Znanje o okvirima rizika, prava ili tehnologije u preduzeću
- Iskustvo u izvršnom rukovanju, kibernetičkoj bezbednosti ili nadzoru usklađenosti
- Ne zahteva se prethodno tehničko znanje o razvoju veštačke inteligencije
Ciljna publika
- Glavni službenici za informacionu bezbednost (CISO)
- Pravni savetnici i službenici za usklađenost
- Glavni tehnološki direktori (CTO)
Iskustva korisnika (3)
inventarisanje i identifikacija različitih izloženosti riziku u veštačkoj inteligenciji
Gary Cook - Cybersecurity and Information Technology Risk Division
Kurs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Mašinski prevedeno
Veliko mi je bilo zadovoljstvo naučiti o napadima na veštačku inteligenciju i o alatu dostupan za početak prakse i aktivnu primenu u testiranju bezbednosti. Ponesao sam sa sobom mnogo znanja koje prethodno nisam imao, a kurs je ispunio ona očekivanja koja sam imao. Najdraži deo treninga bio je Comet Browser, bio sam zapanjen njegovim mogućnostima. Definitivno ću dalje istraživati ovu tematiku. Ukupno, u pitanju je bio odličan kurs i uživao sam u učenju svih tačaka iz OWASP GenAI Top 10.
Patrick Collins - Optum
Kurs - OWASP GenAI Security
Mašinski prevedeno
Profesionalno znanje i način na koji ga je predstavio pred nama.
Miroslav Nachev - PUBLIC COURSE
Kurs - Cybersecurity in AI Systems
Mašinski prevedeno