Kontaktirajte nas
 Trajanje 14 sati

Sadržaj kursa

Priprema modela mašinskog učenja za razvijanje

  • Pakovanje modela sa Docker-om
  • Eksporovanje modela iz TensorFlow-a i PyTorch-a
  • Razmatranja verzionisanja i skladištenja

Serviranje modela na Kubernetes-u

  • Pregled inferencijalnih servera
  • Razvijanje TensorFlow Serving-a i TorchServe-a
  • Postavljanje modelnih krajnjih tačaka

Tehnike optimizacije inferencije

  • Strategije grupnog obrade (batching)
  • Obrada konkurentnih zahteva
  • Podešavanje latencije i prolaznosti

Automatsko skaliranje ML radnih opterećenja

  • Horizontalni Pod Autoscaler (HPA)
  • Vertikalni Pod Autoscaler (VPA)
  • Kubernetes Event-Driven Autoscaling (KEDA)

Dodela GPU-a i upravljanje resursima

  • Konfiguracija GPU čvorova
  • Pregled NVIDIA device plugin-a
  • Zahtevi i ograničenja resursa za ML radna opterećenja

Strategije izlaska i oslobađanja modela

  • Plavo-zeleno razvijanje (Blue/green deployments)
  • Kanarijski obrasci izlaska
  • A/B testiranje za procenu modela

Monitoring i posmatrajljivost ML-a u produkcijskoj okruženju

  • Mere za radna opterećenja inferencije
  • Praktike beleženja dnevnika i praćenja (tracing)
  • Nadzorne ploče i alarmi

Razmatranja bezbednosti i pouzdanosti

  • Zaštita modelnih krajnjih tačaka
  • Mrežne politike i kontrola pristupa
  • Osiguranje visoke dostupnosti

Rekapitulacija i sledeći koraci

Uslovi

  • Razumevanje tokova rada aplikacija u kontejnerima
  • Ispitivanje sa modelima mašinskog učenja baziranim na Python-u
  • Znanje o osnovama Kubernetes-a

Publika

  • ML inženjeri
  • DevOps inženjeri
  • Timovi platformskog inženjeringa

Broj učesnika


Cena po učesniku

Iskustva korisnika (1)

Predstojeći kursevi

Povezane kategorije