Get in Touch
 Duration 21 hours

Course Outline

Temelji agentskih sistema u produkciji

  • Agentske arhitekture: petlje, alati, memorija i slojevi orkestracije
  • Životni ciklus agenata: razvoj, implementacija i kontinuirana operacija
  • Izazovi upravljanja agentima produkcijske veličine

Infrastruktura i modeli implementacije

  • Implementacija agenata u kontejnerskim i cloudske okruženja
  • Oblici skaliranja: horizontalno naspram vertikalnog skaliranja, konkurentnost i usporavanje (throttling)
  • Multi-agentna orkestracija i balansiranje opterećenja

Monitoring i posmatranost

  • Ključni metrike: latencija, stopa uspeha, upotreba memorije i dubina poziva agenata
  • Tracing aktivnosti agenata i grafova poziva
  • Instrumentacija posmatranosti koristeći Prometheus, OpenTelemetry i Grafana

Dnevnik, revizija i usklađenost

  • Centralizovano beleženje logova i strukturovano sakupljanje događaja
  • Usklađenost i revizabilnost u agentskim tokovima
  • Dizajn revizije tragova i mehanizama reprodukcije za uklanjanje grešaka

Otvaranje performansi i optimizacija resursa

  • Smanjenje troškova zaključivanja i optimizacija ciklusa orkestracije agenata
  • Cashiranje modela i lagani embeddings za brže pronalaženje
  • Testiranje opterećenja i stres scenariji za AI tokove

Kontrola troškova i upravljanje

  • Razumevanje faktora troškova agenata: API pozivi, memorija, izračunavanje i spoljni integriteti
  • Praćenje troškova na nivou agenata i implementacija modela povraćaja troškova (chargeback)
  • Politike automatizacije za sprečavanje rasplićenja agenata i neaktivnu potrošnju resursa

CI/CD i strategije širenja za agente

  • Integracija tokova agenata u CI/CD sisteme
  • Testiranje, verzionisanje i strategije povlačenja (rollback) za iterativna ažuriranja agenata
  • Postepena širenja i bezbedni mehanizmi implementacije

Oporavak od neuspeha i inženjerstvo pouzdanosti

  • Dizajniranje za tolerantnost na greške i elegantno propadanje
  • Šabloni ponovnog pokretanja, istekla vremena i osiguravača za pouzdanost agenata
  • Odgovor na incidente i post-mortem okviri za AI operacije

Kapstajn projekat

  • Izgradnja i implementacija agentskog AI sistema sa punim nadzorom i praćenjem troškova
  • Simulacija opterećenja, merenje performansi i optimizacija upotrebe resursa
  • Prezentacija konačne arhitekture i nadzorne ploče kolegi

Zaključak i sledeći koraci

Requirements

  • Jaka razumevanje MLOps-a i produkcijskih mašinskih učenja sisteme
  • Ispitivanje sa kontejnerskim implementacijama (Docker/Kubernetes)
  • Znate se sa cloud optimizaciju troškova i alate za posmatranost

Ciljana publika

  • MLOps inženjeri
  • Inženjeri pouzdanosti sajta (SRE)
  • Inženjerski menadžeri koji nadgledaju AI infrastrukturu

Number of participants


Price per participant

Testimonials (3)

Upcoming Courses

Related Categories