1. AI Act - założenia i otoczenie prawne

• Wprowadzenie do AI Act - cele regulacji oraz przesłanki jej ustanowienia.
• Zakres zastosowania przepisów - podmioty, produkty i usługi objęte regulacją.
• Kategorie systemów AI według poziomu ryzyka:
  • systemy zakazane,
  • systemy wysokiego ryzyka,
  • systemy o ograniczonym ryzyku,
  • systemy o minimalnym ryzyku.
• Znaczenie unijnych kodeksów postępowania i dobrych praktyk w obszarze AI.
• Samoregulacja organizacji, standardy branżowe i zasady etycznego wykorzystania sztucznej inteligencji.

2. Compliance AI w organizacji

• Role i obowiązki dostawców, wdrażających, importerów oraz użytkowników systemów AI.
• Wymogi dotyczące przejrzystości działania systemów oraz nadzoru człowieka.
• Dokumentacja techniczna, rejestry oraz proces oceny zgodności.
• Audyty, kontrole i bieżący monitoring zgodności systemów AI.
• Opracowywanie wewnętrznych polityk i procedur korzystania z narzędzi AI.
• Praktyczne przykłady budowy systemu compliance AI w przedsiębiorstwach i instytucjach.

3. AI Act, RODO i ochrona danych

• Relacje pomiędzy AI Act a przepisami dotyczącymi ochrony danych osobowych.
• Przetwarzanie danych przez systemy AI w świetle zasad RODO.
• Profilowanie oraz zautomatyzowane podejmowanie decyzji - wymagania i ograniczenia prawne.
• Ocena skutków dla ochrony danych (DPIA) dla rozwiązań wykorzystujących AI.
• Bezpieczne zarządzanie danymi wprowadzanymi do systemów AI oraz treściami generowanymi przez modele.
• Ochrona przed wyciekami danych, cyberhigiena oraz polityki bezpieczeństwa informacji.
• Analiza przypadków naruszeń przepisów o ochronie danych związanych z wykorzystaniem AI.

4. AI Act i cyberbezpieczeństwo

• Sztuczna inteligencja jako źródło nowych ryzyk cyberbezpieczeństwa.
• Wymagania AI Act dotyczące bezpieczeństwa technicznego systemów AI.
• Mechanizmy kontroli i walidacji danych wejściowych oraz wyników generowanych przez AI.
• Zapewnienie odporności systemów na manipulacje, nadużycia i ataki typu adversarial.

5. Etyka, transparentność i odpowiedzialność

• Etyczne wyzwania związane z wykorzystaniem sztucznej inteligencji.
• Zapobieganie dyskryminacji i zapewnianie sprawiedliwego działania systemów AI.
• Źródła powstawania uprzedzeń (bias) w modelach AI.
• Przykłady błędów i nierównego traktowania wynikających z działania algorytmów.
• Metody identyfikacji, ograniczania i monitorowania biasu.
• Odpowiedzialność prawna i organizacyjna za decyzje wspierane przez AI.
• Wyjaśnialność (explainability) oraz transparentność funkcjonowania systemów AI.

6. Zarządzanie ryzykiem związanym z AI

• Identyfikacja, analiza i ocena ryzyk związanych z wykorzystaniem sztucznej inteligencji.
• Ramy AI Governance oraz modele zarządzania AI w organizacji.
• Procesy monitorowania, kontroli i audytowania systemów AI.
• Ryzyka wynikające z wykorzystania deepfake'ów oraz technologii manipulacji informacją.

7. Zastosowanie AI w wybranych sektorach

• Wpływ AI Act na rozwój innowacji i nowych technologii.
• Wykorzystanie AI w procesach HR i rekrutacji - ograniczenia oraz obowiązki wynikające z regulacji.
• Sztuczna inteligencja w sektorze finansowym - zgodność z wymaganiami regulacyjnymi, w tym AML.
• AI w ochronie zdrowia - zastosowania, ryzyka oraz wymagania prawne i organizacyjne.

8. Technologiczne aspekty regulacji AI

• Normy, standardy i certyfikacja systemów sztucznej inteligencji.
• Znaczenie AI Act dla rozwoju modeli open source oraz dużych modeli językowych (LLM).
• Data Governance - zarządzanie jakością, dostępnością i bezpieczeństwem danych.
• Wymagania dotyczące odporności, bezpieczeństwa i integralności systemów AI.
• Własność intelektualna i prawa autorskie w kontekście treści generowanych przez sztuczną inteligencję.