SysOps/DevOps Kraków MeetUp #21
Prelekcja #1: “Deployment LLM: praktyczne strategie, narzędzia, częste problemy” - Karol Horosin
Deployment dużych modeli językowych (LLM) to złożone wyzwanie, które wymaga zmierzenia się z problemami takimi jak rozmiar modeli, wymagania sprzętowe czy szybkość ewolucji technologii. W trakcie tej prezentacji poznacie praktyczne strategie wdrażania LLM-ów w środowisku produkcyjnym. Omówimy publiczne, zarządzane i samodzielnie hostowane modele LLM, przez porównanie usług zarządzanych z samodzielnym hostowaniem, aż po zarządzanie zasobami i optymalizację kosztów. Poruszymy również kluczowe kwestie związane z bezpieczeństwem i prywatnością danych, monitorowaniem oraz utrzymaniem wdrożonych modeli.
Karol Horosin - inżynier oprogramowania i twórca startupów wykorzystujących dane i sztuczną inteligencję. Współzałożyciel sentimatic.io – innowacyjnego narzędzia do analizy pracy call center w czasie rzeczywistym, wspieranego przez AI. Na horosin.com dzieli się wiedzą i doświadczeniem w obszarach takich jak sztuczna inteligencja, uczenie maszynowe, programowanie i rozwój produktów technologicznych. Uwielbia dzielić się wiedzą na temat rozwiązań opartych na AI i programowania oraz budować relacje z innymi profesjonalistami.
_________________________________________________________________________
Lightning Talk: “Rakiety, Zombie i Tajemnice Disaster Recovery: Odkrywamy Strategie MRDR” - Stefan Garbaciak
W tej dynamicznej prezentacji odkryjemy fascynujący świat Disaster Recovery. Rozpoczniemy od wyjaśnienia, czym jest MRDR (Multi-Region Disaster Recovery) i dlaczego jest ono kluczowe dla ciągłości działania biznesu. Omówimy konfiguracje active-active i active-passive. Następnie przyjrzymy się, jak liderzy branży radzą sobie z awariami. Stefan opowie również o tym, jak Pega wdrożyła unikalne podejście "active-zombie", które łączy podejścia active i passive, aby optymalizować koszty i efektywność odzyskiwania.
Stefan Garbaciak - Cloud Engineering Manager za dnia, Software Developer Wizard nocą! Łączy technologie cloud-native z programowaniem. Stara się zwiększać efektywność biznesową poprzez dostępne technologie.
_________________________________________________________________________
Prelekcja #2: “Od chmury po serwer w piwnicy: tworzymy klaster Kubernetes przy użyciu Omni i Talos” - Robert Siemiński
Czy zastanawialiście się, jak szybko i sprawnie stworzyć wydajny klaster Kubernetes działający zarówno w chmurze, jak i w lokalnej serwerowni? W tej prelekcji zobaczymy, jak wykorzystać narzędzia Omni i Talos do automatyzacji procesu budowy i zarządzania klastrem – od instalacji po aktualizacje. Prelegent pokaże krok po kroku, jak postawić cały klaster Kubernetes, przeprowadzić jego upgrade, dodawać i usuwać node’y oraz utrzymać jego skalowalność i niezawodność.
Robert Siemiński - Cofunder, startuper, CTO, DevOps Engineer. Lider techniczny z ponad 15-letnim doświadczeniem w IT. Specjalizuje się w automatyzacji i optymalizacji procesów biznesowych. Posiada szeroką wiedzę z zakresu DevOps, Kubernetes - CKA, fan K8 operatorów i GitOps. Jest pasjonatem zwinnych metodyk programowania i holistycznego podejścia do rozwoju produktów.
Regulamin SO/DO MeetUpów stacjonarnych: https://bit.ly/RegulaminSODO