Uwaga: Poniższy artykuł pomoże Ci w: MLOps — Podstawy rządzenia i kilka praktycznych przypadków użycia — W stronę sztucznej inteligencji
Nauczanie maszynowe
MLOps — podstawy rządzenia i kilka praktycznych przypadków użycia
Przepływ pracy MLOps
Zanim przejdę bezpośrednio do praktycznych przypadków użycia MLOps, pozwólcie, że opiszę kilka podstaw MLOps.
Dlaczego pojawiły się MLOps?
Inżynierowie i badacze na całym świecie opracowywali wiele modeli wysokiego poziomu, łącząc wiedzę i techniki uczenia maszynowego i sztucznej inteligencji, ale wdrażanie tych modeli i uzyskiwanie z nich maksymalnych korzyści na dużą skalę stawało się coraz bardziej złożone i stanowiło wyzwanie. Tak więc, aby znaleźć rozwiązanie tego wszystkiego, pojawiły się MLOps.
MLOps to superpodejście lub zestaw praktyk, który zarządza wdrażaniem modeli uczenia głębokiego i uczenia maszynowego w środowiskach produkcyjnych na dużą skalę i zapewnia szybki zwrot od rozwoju do wdrożenia i ponownego wdrożenia zgodnie z wymaganiami biznesowymi.
Ponieważ z dnia na dzień jego popularność rośnie, przyciąga uwagę coraz większej liczby organizacji, które chcą wykorzystać zalety uczenia maszynowego w swojej działalności.
Co to jest MLOps?
MLOps jest uważany za dziecko DevOps i został poślubiony Operations, przy pełnym wsparciu inżynierii danych stąd termin ukuty razem to
MLOps = ML (uczenie maszynowe) + operacje (operacje)
MLOps automatyzuje procesy opracowywania modeli, wdrażania, monitorowania i kontroli jakości, zarządzania modelami, ponownego szkolenia modeli i potoków w ramach jednej platformy.
Z drugiej strony łączy analityków danych, inżynierów uczenia maszynowego, programistów i specjalistów ds. operacji oraz ułatwia ich współpracę i komunikację w celu wydajnej automatyzacji i zarządzania modelami ML i AI oraz ich cyklem życia dzięki wbudowanemu monitorowaniu i zarządzaniu.
Co robi MLOps?
Powtórzę jeszcze raz, że modele uczenia maszynowego muszą działać w produkcji, zwiększając wydajność i lepsze podejmowanie decyzji w aplikacjach biznesowych. Dlatego organizacje wykorzystują MLOps do skalowania liczby operacji i aplikacji ML poprzez automatyzację procesów, sprawdzanie poprawności, testowanie i tworzenie powtarzalnego procesu zarządzania ML w dynamicznym środowisku.
Poza tym MLOps umożliwia inżynierom i programistom przejęcie pełnej odpowiedzialności za uczenie maszynowe w produkcji, jednocześnie uwalniając analityków danych do prowadzenia badań i wykonywania innych istotnych zadań.
Podobnie jak tradycyjny DevOps, którego celem jest usprawnienie dostarczania oprogramowania do produkcji, MLOps ma również na celu usprawnienie dostarczania modeli i oprogramowania z dodatkowym elementem polegającym na dokonywaniu prognoz na podstawie wzorców uczenia się maszynowego na podstawie danych.
Dlatego MLOps zachęca do automatyzacji i ciągłego wdrażania, podobnie jak DevOps, a także dodaje unikalne możliwości ML, takie jak sprawdzanie poprawności modelu, aby umożliwić tworzenie wysokiej jakości prognoz w środowisku. Bez tak wydajnego potoku wdrożeniowego rozwiązania te są skazane na pozostanie w laboratorium badawczym i obumieranie, zanim zostaną wykorzystane w biznesie.
Zapewnia organizacjom z możliwościami ML i AI podstawę do maksymalizacji inwestycji dzięki ich realnym rozwiązaniom i uzyskania ogromnego wpływu i wartości.
Osiąga się to poprzez przyspieszenie ciągłej produkcji modeli ML na dużą skalę, co znacznie skraca czas wdrażania takich inteligentnych aplikacji w ciągu kilku dni, a czasem nawet godzin.
MLOps wprowadza również powtarzalność i słyszalność do potoku wdrażania, co może być korzystne, jeśli model ML nie działa lub wymaga audytu po wdrożeniu. Posiadanie odpowiedniego potoku wdrażania ułatwia ponowne generowanie modeli i odtwarzanie kroków w razie potrzeby.
Jakie powinno być podejście MLOps przez organizacje?
1. Pierwszym krokiem jest stworzenie kultury współpracy z wielofunkcyjnymi zespołami pracującymi nad osiągnięciem celów biznesowych organizacji.
2. Musi być wspierany odpowiednią technologią bazową, aby pomóc członkom zespołu współpracować i osiągać te cele.
3. Każdy członek zespołu powinien mieć określoną rolę do odegrania w rurociągu produkcyjnym. Na przykład analitycy danych przygotowują dane, stosują algorytmy ML i dostrajają modele, aby były bardziej wydajne. Deweloperzy używają tych modeli jako części swoich aplikacji, a operacje zapewniają, że modele są zatwierdzane i monitorowane w produkcji.
4. Zespoły powinny pracować nad wspólnym celem, który jest zgodny z głównymi celami ich organizacji.
5. W zależności od organizacji cel może koncentrować się na przypadku użycia.
6. Celem nie powinna być optymalizacja określonej metryki inżynieryjnej, ale strategiczny cel organizacyjny, który mają spełniać zespoły MLOps.
7. Idealna platforma powinna wspierać wymianę informacji między zespołami i umożliwiać zwinne procesy programistyczne.
8. Wreszcie, najwyższe kierownictwo organizacji powinno wspierać te kulturowe i strategiczne inicjatywy za pomocą technologii, która pomaga zespołom MLOps w łatwym tworzeniu i wdrażaniu aplikacji opartych na ML i AI.
MLOps Przypadki użycia
1. Projekt pilotażowy/Projekt badawczy
Ilekroć testujemy dowód koncepcji lub przeprowadzamy projekt badawczy lub pilotażowy dla ML, koncentrujemy się głównie na przygotowaniu danych, inżynierii funkcji, prototypowaniu modelu i walidacji. Ale wszystkie te zadania są wykonywane w wielu iteracjach, aby uzyskać niezawodny model. Analitycy danych często chcą śledzić i porównywać te iteracje oraz szybko i łatwo konfigurować eksperymenty, aby znaleźć ostateczne rozwiązanie.
Tutaj MLOps rozszerza swoje wsparcie, tworząc potok do przechowywania metadanych ML, możliwości śledzenia artefaktów w celu debugowania, zapewniania macierzy identyfikowalności, udostępniania i śledzenia konfiguracji eksperymentów oraz zarządzania wszystkimi powiązanymi artefaktami ML poprzez zarządzanie konfiguracją i systemy kontroli wersji zintegrowane z aplikacja.
2. Systemy rozpoznawania mowy lub głosu
Podejście MLOps można zastosować w aplikacjach do rozpoznawania mowy lub głosu.
Ogólnie rzecz biorąc, aplikacja do rozpoznawania mowy wykorzystuje kontekst do rozpoznawania emocji i tonów tego, jak poszczególne osoby mówią, i odpowiednio szkoli model. Ale z biegiem czasu może się to nie udać, zwłaszcza gdy osoby podczas mówienia wprowadzają nowe zwroty i zmieniają swój zwykły styl. Może to prowadzić do rozpadu modelu i musi być identyfikowane przez zespół poprzez ciągłe ręczne monitorowanie, które czasami może być męczące i wyczerpujące.
Sposób, w jaki MLOps może w tym pomóc, polega na automatyzacji procesu ciągłego monitorowania predykcyjnej wydajności modeli rozpoznawania mowy, a za każdym razem, gdy wydajność spada poniżej zdefiniowanego progu lub zbliża się do niego, system uruchamia alert. To natychmiast przyciąga uwagę zespołu odpowiedzialnego za trenowanie nowego modelu przy użyciu świeżych danych, a następnie wdrażanie go w celu zastąpienia starego modelu produkcyjnego.
3. Maszyny pakujące/Roboty
Często firmy produkcyjne wykorzystują maszyny lub roboty na końcu linii montażowej do pakowania swoich produktów. Te roboty wykorzystują wizję komputerową opartą na uczeniu maszynowym do analizy i pakowania produktów. Na przykład, jeśli model ML jest wyszkolony w rozpoznawaniu trójkątnych i okrągłych pudełek o określonych wymiarach, ale w celu zaspokojenia przyszłego zapotrzebowania, firma decyduje się na wprowadzenie nowych wymiarów i kształtów opakowań, co prowadzi do problemu, który należy jak najszybciej rozwiązać jak to możliwe, zanim system pakowania ulegnie awarii.
Tutaj MLOps pomaga inżynierom i naukowcom współpracować przy użyciu ciągłej integracji i ciągłego wdrażania (CI/CD) w celu stworzenia i wdrożenia nowego modelu ML w możliwie najkrótszym czasie przy użyciu zdefiniowanego potoku ML, zanim nowe wymiary lub kształty opakowań zostaną wprowadzone do zespołu linia.
4. System rekomendacji
System rekomendacji często podąża za przewidywaniami partii, ponieważ nie ma potrzeby oceniania w czasie rzeczywistym. Wyniki można wstępnie obliczyć i przechowywać do późniejszego wykorzystania, więc opóźnienie nie stanowi większego problemu. Ale ponieważ ma miejsce przetwarzanie dużej ilości danych naraz, dlatego ważna jest przepustowość.
MLOps obsługuje to dzięki silnym, dobrze ugruntowanym technikom przetwarzania danych i potokom ML wraz z rejestrem modeli, aby zapewnić takiemu procesowi obsługi wsadowej najnowszy zweryfikowany model do wykorzystania do oceny, a nie jakiekolwiek starsze wersje z powodu niepożądanego błędu ludzkiego.
5. Nagłe wartości odstające na giełdzie
Biorąc przykład handlu akcjami, załóżmy, że model ML jest wyszkolony do przewidywania na podstawie produktów farmaceutycznych, ale tylko przy dodatnich cenach, tj. wzroście cen. I nagle zauważa się, że produkty farmaceutyczne zaczynają podążać w kierunku negatywnego trendu, czyli spadku cen. Zdecydowanie model nie będzie działał idealnie po napotkaniu tak nagłej ujemnej ceny / trendu spadkowego. W takim przypadku zespół programistów i analityków danych musi podjąć natychmiastowe działania w celu wytrenowania i ponownego wdrożenia nowego modelu ML.
Tutaj na ratunek przychodzi MLOps z dużą częścią potoku do szkolenia i wdrażania nowego modelu, który jest już zautomatyzowany. W takim przypadku inżynierowie i naukowcy mogą nawet nie potrzebować pomocy programistów do obsługi rurociągu. Mogą łatwo wykorzystać już zautomatyzowane systemy do aktualizacji, szkolenia i natychmiastowego wdrożenia nowego modelu, aby uniknąć dalszych negatywnych skutków.
6. Model wykrywania oszustw, który jest szkolony codziennie lub co tydzień w celu wychwytywania ostatnich wzorców oszustw.
Model wykrywania oszustw jest rodzajem systemu częstego ponownego szkolenia, w którym wydajność modelu jest silnie uzależniona od zmian w danych szkoleniowych. Takie ponowne szkolenie może opierać się na interwałach czasowych (na przykład codziennie lub co tydzień) lub może być wyzwalane na podstawie przypadków, gdy dostępne są nowe dane szkoleniowe.
Takie systemy wymagały MLOps z dobrze skonfigurowanymi potokami ML do łączenia wielu etapów, takich jak ekstrakcja danych, wstępne przetwarzanie, szkolenie modeli i możliwości oceny modeli, aby zapewnić, że nowo wyszkolony model spełnia wymagania biznesowe pod względem dokładności. Wraz ze wzrostem liczby wyszkolonych modeli rejestr modeli, metadane i śledzenie artefaktów stają się niezwykle ważne dla śledzenia działań szkoleniowych i wersji modeli.
7. Model promocji maksymalizujący współczynnik konwersji
Takie systemy często wymagają częstych aktualizacji implementacji, które mogą wiązać się ze zmianami samego frameworka ML, co może prowadzić do zmiany architektury modelu lub zmiany kroku przetwarzania danych w potoku szkoleniowym. Takie zmiany prowadzą do zmian przepływu pracy ML i wymagają kontroli, aby upewnić się, że nowy kod jest funkcjonalny i że nowy model działa zgodnie z przeznaczeniem.
Tutaj MLOps wspiera wydajny i nienaruszony proces CI/CD (ciągła integracja/ciągłe wdrażanie), przyspieszając tempo eksperymentów ML do produkcji i zmniejszając możliwość błędu ludzkiego. Ponieważ zmiany są znaczące, eksperymenty online i ocena modelu pomagają upewnić się, że nowa wersja działa zgodnie z oczekiwaniami. Ponadto rejestr modeli, metadane i śledzenie artefaktów umożliwiają operacjonalizację i śledzenie częstych aktualizacji implementacji.
Końcowe przemyślenia
Dobrze zaplanowane MLOps w organizacji mogą prowadzić do zwiększonej wydajności i produktywności, prowadząc do więcej niż optymalnego zwrotu z inwestycji dla firmy. To także świetny sposób na zjednoczenie międzyfunkcyjnych zespołów programistów i analityków danych w celu współpracy i komunikacji. Wszystko, czego potrzeba, to systematycznie i zgodnie ze środowiskiem produkcyjnym wykorzystywać uwalniający się potencjał.
Dziękuje za przeczytanie !!!
Planuję napisać kolejny artykuł, aby podzielić się kilkoma ciekawszymi informacjami na temat MLOps.
Możesz śledzić mnie również na medium
LinkedIn: Supriya Ghosh
I Twitter: @isupriyaghosh
MLOps — Podstawy rządzenia i kilka praktycznych przypadków użycia zostało pierwotnie opublikowane w Towards AI on Medium, gdzie ludzie kontynuują rozmowę, podkreślając tę historię i odpowiadając na nią.
