Wait AI Meetup #19: AI Safety

Legaltechowa zima w WAIT za nami. Była bardzo ciepła! Nawet wróciliśmy z Warszawy ze skromnym Laurem z Legal Hackathon 2026!!!

Zmieniamy branżę, a nawet nie tyle branżę, co wchodzimy w nowy paradygmat!

AI SAFETY

Czym jest AI Safety i co ją odróżnia od AI Security, z którą bywa mylona?

AI Security chroni systemy AI przed ludźmi (atakami). Mowa tu o cyberbezpieczeÅ„stwie AI, czyli jak zabezpieczyć SztucznÄ… InteligencjÄ™ przed atakami, manipulacjÄ… czy próbami przejÄ™cia modeli.

AI Safety chroni ludzi przed systemami AI. Chodzi o to, aby AI robiÅ‚o dokÅ‚adnie to, co chcemy. Nie podejmowaÅ‚o niebezpiecznych decyzji, nie generowaÅ‚o szkodliwych treÅ›ci.

Naszych dwóch Prelegentów mocno w tych zagadnieniach siedzi i podzieli się z Wami swoją wiedzą z prespektywy "ogólnej" (celowo unikamy słowa biznesowej) oraz technicznej.

Jeżeli myślisz, że kogoś z Twoich znajomych może to zainteresować - bierz ich ze sobą!

Prelegenci:

Jakub KryÅ›, PhD:

Jakub jest pracownikiem badawczym w SaferAI, organizacji non-profit zajmującej się opracowywaniem kwantyfikowalnych modeli ryzyka w AI. Jego doświadczenie obejmuje zarówno techniczne, jak i regulacyjne aspekty AI - pracował nad adversarial ML, użyciem mocy obliczeniowej jako narzędzia na rzecz bezpieczeństwa AI, a także polityką ochrony sygnalistów w AI. Wcześniej ukończył doktorat z fizyki cząstek elementarnych na Uniwersytecie Durham w Wielkiej Brytanii.

Patryk Wielopolski, PhD:

Patryk jest Research Managerem w MATS – amerykańskiej organizacji non-profit działającej na rzecz rozwoju ekosystemu badań nad bezpieczeństwem AI. Współorganizuje także AI Safety Poland, inicjatywę społecznościową której celem jest budowanie lokalnego ruchu na rzecz bezpieczeństwa AI w Polsce. Przed objęciem tych ról spędził sześć lat w firmie DataWalk oraz uzyskał stopień doktora w dziedzinie sztucznej inteligencji na Politechnice Wrocławskiej.

Abstrakty:

Jakub KryÅ›, PhD: "Moc obliczeniowa w AI - technika i geopolityka"

Moc obliczeniowa jest jednym z kluczowych czynników w skalowaniu współczesnych systemów AI. W tej prezentacji opowiem jak skoncentrowany łańcuch dostaw GPU jest wykorzystywany jako narzędzie na rzecz bezpieczeństwa AI, ale także do osiągania celów geopolitycznych. Przedstawię również postępy algorytmiczne w treningu 'decentralizowanym', które mogą podważyć ten paradygmat.

Patryk Wielopolski, PhD: "Wprowadzenie do AI Safety."

Wystąpienie stanowi wprowadzenie do bezpieczeństwa sztucznej inteligencji (ang. AI Safety) dla osób, które chcą zrozumieć, czym jest ta dziedzina, dlaczego ma znaczenie i jak można się w nią zaangażować. Omówione zostają trzy główne kategorie ryzyka: nadużycia (ang. misuse; phishing wspomagany przez AI, cyberataki oraz proliferacja zagrożeń CBRN); ryzyka systemowe (deepfake'i podważające zaufanie społeczne, psychologiczne skutki współpracy człowieka z AI oraz trudne do przewidzenia, lecz potencjalnie ogromne zakłócenia na rynku pracy); a także brak spójności (ang. misalignment; wyzwanie polegające na zapewnieniu, że zaawansowane systemy AI realizują cele zgodne z wartościami i potrzebami człowieka, zilustrowane rzeczywistymi badaniami dotyczącymi hakowania funkcji nagrody, fałszowania spójności oraz zachowań intryganckich). Wystąpienie omawia również główne podejścia do przeciwdziałania tym zagrożeniom oraz sposoby aktywnego włączenia się w rozwój tej dziedziny.

Uczestnik, dokonując zgłoszenia na wydarzenie, wyraża zgodę na nieodpłatne utrwalanie swojego wizerunku podczas jego trwania oraz na wykorzystanie tych materiałów w celach promocyjnych organizatora tj. WAIT - Wrocław AI Team, w tym na publikację zdjęć na portalach społecznościowych.