Aktualności
Seminarium POB2: Bezpieczeństwo systemów sztucznej inteligencji
Podczas seminarium uczestnicy będą mieli okazję wysłuchać wykładu dra Adriana Kapczyńskiego z Wydziału Matematyki Stosowanej Politechniki Śląskiej, który wygłosi prezentację pt. "Bezpieczeństwo systemów sztucznej inteligencji".
Początek spotkania zaplanowany jest na godzinę 15:00.
Autor:
Adrian Kapczyński (Katedra Zastosowań Matematyki i Metod Sztucznej Inteligencji, Wydział Matematyki Stosowanej Politechniki Śląskiej)
Tytuł:
Bezpieczeństwo systemów sztucznej inteligencji
Opis:
Sztuczna inteligencja odgrywa obecnie strategiczną rolę w każdej organizacji, której działalność jest oparta na danych, stąd jej zabezpieczenie ma kluczowe znaczenie. Systemy sztucznej inteligencji należy rozpatrywać pod kątem bezpieczeństwa podobnie jak każdy inny system, ale warto zauważyć że systemy te posiadają swój własny, unikalny zestaw zagrożeń i metod ochrony. Jednym z najczęstszych ataków na systemy sztucznej inteligencji jest dostarczanie do systemu złośliwych danych wejściowych. Matryca bezpieczeństwa jest znacznie bardziej złożona i podczas prezentacji dokonamy dokładnej eksploracji przedmiotowego zagadnienia. Przyjrzymy się MITRE ATLAS, który jest bazą wiedzy o taktykach i technikach ataków systemów sztucznej inteligencji, powstałej na podstawie obserwacji świata rzeczywistego. Omowiemy m.in. o wstępnym dostępie, unikaniu obrony oraz eksfiltracji. Przestawione zostaną demonstracje oraz studia przypadków związane z bezpieczeństwem systemów sztucznej inteligencji.
Link do spotkania:
Więcej aktualności
