Kontaktirajte nas
 Trajanje 14 sati

Sadržaj kursa

Pregled arhitekture LLM-ova i površine napada

  • Kako se LLM-ovi izgrađuju, implementiraju i pristupaju putem API-ja.
  • Ključne komponente u LLM aplikacijama (npr. promptovi, agenti, memorija, API-ji).
  • Gde i kako bezbednosni problemi nastaju u realnim uslovima korišćenja.

Ubacivanje promptova (Prompt Injection) i Jailbreak napadi

  • Šta je ubacivanje promptova i zašto je opasno.
  • Scenariji direktnog i indirektnog ubacivanja promptova.
  • Tehnike Jailbreak-a za zaobilaženje bezbednosnih filtera.
  • Strategije detekcije i ublažavanja.

Curenje podataka i rizici za privatnost

  • Slučajna otkrivanja podataka kroz odgovore.
  • Curenje PII podataka i zloupotreba memorije modela.
  • Dizajniranje promptova svestritih privatnosti i Retrieval-Augmented Generation (RAG).

Filtriranje i zaštita izlaznih podataka LLM-ova

  • Korišćenje Guardrails AI za filtriranje sadržaja i validaciju.
  • Definisanje šema i ograničenja za izlaze.
  • Monitoring i evidentiranje nesigurnih izlaza.

Human-in-the-Loop i pristupi radnim tokovima

  • Gde i kada uvesti ljudski nadzor.
  • Redovi za odobravanje, prazini za ocene, obrada rezervnih opcija.
  • Kalibracija poverenja i uloga objasnjivosti.

Bezbedni obrasci dizajna LLM aplikacija

  • Najmanja privilegija i sandboxing za API pozive i agente.
  • Ograničavanje brzine, prigušivanje i detekcija zloupotreba.
  • Robusno povezivanje (chaining) uz LangChain i izolaciju promptova.

Konformnost, evidentiranje i upravljanje

  • Osiguranje mogućnosti audit-a izlaznih podataka LLM-ova.
  • Održavanje pratljivosti i kontrole verzija promptova.
  • Usklađivanje sa internim bezbednosnim političkama i regulatornim zahtevima.

Zaključak i dalji koraci

Uslovi

  • Razumevanje velikih jezičkih modela i interfejsa zasnovanih na promptovima.
  • Ispostavljanje veština izgradnje LLM aplikacija koristeći Python.
  • Poznavanje integracija API-ja i cloud-based implementacija.

Ciljna publika

  • AI developeri
  • Arhitekti aplikacija i rešenja
  • Tehnički produkt menadžeri koji rade sa LLM alatima

Broj učesnika


Cena po učesniku

Predstojeći kursevi

Povezane kategorije