Hvala što ste poslali upit! Jedan od naših članova tima će vas uskoro kontaktirati.
Hvala što ste poslali rezervaciju! Jedan od naših članova tima će vas uskoro kontaktirati.
Trajanje 14 sati
Sadržaj kursa
Priprema modela mašinskog učenja za razvijanje
- Pakovanje modela sa Docker-om
- Eksporovanje modela iz TensorFlow-a i PyTorch-a
- Razmatranja verzionisanja i skladištenja
Serviranje modela na Kubernetes-u
- Pregled inferencijalnih servera
- Razvijanje TensorFlow Serving-a i TorchServe-a
- Postavljanje modelnih krajnjih tačaka
Tehnike optimizacije inferencije
- Strategije grupnog obrade (batching)
- Obrada konkurentnih zahteva
- Podešavanje latencije i prolaznosti
Automatsko skaliranje ML radnih opterećenja
- Horizontalni Pod Autoscaler (HPA)
- Vertikalni Pod Autoscaler (VPA)
- Kubernetes Event-Driven Autoscaling (KEDA)
Dodela GPU-a i upravljanje resursima
- Konfiguracija GPU čvorova
- Pregled NVIDIA device plugin-a
- Zahtevi i ograničenja resursa za ML radna opterećenja
Strategije izlaska i oslobađanja modela
- Plavo-zeleno razvijanje (Blue/green deployments)
- Kanarijski obrasci izlaska
- A/B testiranje za procenu modela
Monitoring i posmatrajljivost ML-a u produkcijskoj okruženju
- Mere za radna opterećenja inferencije
- Praktike beleženja dnevnika i praćenja (tracing)
- Nadzorne ploče i alarmi
Razmatranja bezbednosti i pouzdanosti
- Zaštita modelnih krajnjih tačaka
- Mrežne politike i kontrola pristupa
- Osiguranje visoke dostupnosti
Rekapitulacija i sledeći koraci
Uslovi
- Razumevanje tokova rada aplikacija u kontejnerima
- Ispitivanje sa modelima mašinskog učenja baziranim na Python-u
- Znanje o osnovama Kubernetes-a
Publika
- ML inženjeri
- DevOps inženjeri
- Timovi platformskog inženjeringa
Iskustva korisnika (1)
Najviše mi se dopao deo obuke posvećen Kubernetes-u, jer sam imao neke zadatke vezane za K8s podove i portove, pa mi je bilo drago što sam sada stekao dublje razumevanje. Hvala vam!
Laura Miron - Betfair
Kurs - Docker and Kubernetes
Mašinski prevedeno