Hvala što ste poslali upit! Jedan od naših članova tima će vas uskoro kontaktirati.
Hvala što ste poslali rezervaciju! Jedan od naših članova tima će vas uskoro kontaktirati.
Trajanje 14 sati
Sadržaj kursa
Pregled arhitekture LLM-ova i površine napada
- Kako se LLM-ovi izgrađuju, implementiraju i pristupaju putem API-ja.
- Ključne komponente u LLM aplikacijama (npr. promptovi, agenti, memorija, API-ji).
- Gde i kako bezbednosni problemi nastaju u realnim uslovima korišćenja.
Ubacivanje promptova (Prompt Injection) i Jailbreak napadi
- Šta je ubacivanje promptova i zašto je opasno.
- Scenariji direktnog i indirektnog ubacivanja promptova.
- Tehnike Jailbreak-a za zaobilaženje bezbednosnih filtera.
- Strategije detekcije i ublažavanja.
Curenje podataka i rizici za privatnost
- Slučajna otkrivanja podataka kroz odgovore.
- Curenje PII podataka i zloupotreba memorije modela.
- Dizajniranje promptova svestritih privatnosti i Retrieval-Augmented Generation (RAG).
Filtriranje i zaštita izlaznih podataka LLM-ova
- Korišćenje Guardrails AI za filtriranje sadržaja i validaciju.
- Definisanje šema i ograničenja za izlaze.
- Monitoring i evidentiranje nesigurnih izlaza.
Human-in-the-Loop i pristupi radnim tokovima
- Gde i kada uvesti ljudski nadzor.
- Redovi za odobravanje, prazini za ocene, obrada rezervnih opcija.
- Kalibracija poverenja i uloga objasnjivosti.
Bezbedni obrasci dizajna LLM aplikacija
- Najmanja privilegija i sandboxing za API pozive i agente.
- Ograničavanje brzine, prigušivanje i detekcija zloupotreba.
- Robusno povezivanje (chaining) uz LangChain i izolaciju promptova.
Konformnost, evidentiranje i upravljanje
- Osiguranje mogućnosti audit-a izlaznih podataka LLM-ova.
- Održavanje pratljivosti i kontrole verzija promptova.
- Usklađivanje sa internim bezbednosnim političkama i regulatornim zahtevima.
Zaključak i dalji koraci
Uslovi
- Razumevanje velikih jezičkih modela i interfejsa zasnovanih na promptovima.
- Ispostavljanje veština izgradnje LLM aplikacija koristeći Python.
- Poznavanje integracija API-ja i cloud-based implementacija.
Ciljna publika
- AI developeri
- Arhitekti aplikacija i rešenja
- Tehnički produkt menadžeri koji rade sa LLM alatima