1. Wprowadzenie do cyberbezpieczeństwa AI

• czym jest generatywna AI i jak zmienia sposób pracy organizacji,
• najczęściej wykorzystywane narzędzia AI w środowisku biznesowym,
• różnice między publicznymi modelami AI, narzędziami firmowymi i rozwiązaniami lokalnymi,
• dlaczego AI staje się nowym obszarem ryzyka dla organizacji,
• kluczowe pojęcia: model AI, prompt, dane wejściowe i wyjściowe, halucynacje, modele publiczne i prywatne, integracje oraz agenci AI,
• najważniejsze kategorie ryzyka: cyberbezpieczeństwo, poufność danych, własność intelektualna, zgodność regulacyjna, reputacja i błędne decyzje biznesowe.

2. Zagrożenia wynikające z wykorzystania generatywnej AI

• najczęstsze zagrożenia związane z wykorzystaniem AI w pracy zawodowej,
• ryzyko przekazywania danych poufnych, osobowych, finansowych i biznesowych do narzędzi AI,
• nieświadome ujawnienie informacji objętych tajemnicą przedsiębiorstwa,
• halucynacje AI i błędne rekomendacje jako źródło ryzyka operacyjnego,
• deepfake, phishing, fałszywe dokumenty i instrukcje generowane przez AI,
• automatyczne tworzenie złośliwego kodu, wiadomości phishingowych i treści manipulacyjnych,
• sposoby wykorzystywania AI przez cyberprzestępców,
• ryzyko korzystania z niezweryfikowanych chatbotów, aplikacji, rozszerzeń i integracji AI,
• przykłady incydentów oraz scenariusze zagrożeń w organizacji.

3. Nowe wektory ataków związane z AI

• prompt injection - czym jest i dlaczego stanowi zagrożenie,
• jailbreak modeli AI i obchodzenie mechanizmów bezpieczeństwa,
• ataki na chatboty, agentów AI i systemy zintegrowane z danymi firmowymi,
• manipulowanie modelami poprzez odpowiednio przygotowane dane wejściowe,
• data poisoning i inne formy manipulacji danymi,
• wycieki informacji poprzez integracje AI z pocztą, dokumentami, CRM, ERP i bazami wiedzy,
• fałszywe polecenia, dokumenty i strony internetowe jako źródło zagrożeń,
• ryzyko automatycznego wykonywania działań przez agentów AI bez odpowiedniego nadzoru,
• AI w phishingu, social engineeringu i atakach na użytkowników końcowych,
• rozpoznawanie podejrzanych działań i nietypowych odpowiedzi systemów AI.

4. Ochrona danych i informacji poufnych podczas pracy z AI

• jakie dane nie powinny być przekazywane do publicznych narzędzi AI,
• dane osobowe, dane klientów, informacje finansowe, dokumentacja wewnętrzna, hasła, tokeny, kody źródłowe i umowy,
• klasyfikacja informacji przed wykorzystaniem narzędzia AI,
• anonimizacja i pseudonimizacja danych,
• bezpieczne przygotowanie materiałów do analizy przez AI,
• bezpieczna praca z dokumentami i załącznikami,
• ryzyko kopiowania treści z poczty, komunikatorów i systemów wewnętrznych,
• zasady korzystania z AI podczas pracy z danymi klientów i kontrahentów,
• odpowiedzialność użytkownika za dane przekazywane do modelu,
• praktyczna ocena: czy dane, które chcę przekazać AI, mogą zostać wykorzystane?

5. Higiena cyberbezpieczeństwa podczas korzystania z AI

• dobre praktyki codziennego korzystania z narzędzi AI,
• zasada ograniczonego zaufania do wyników generowanych przez AI,
• weryfikowanie odpowiedzi, źródeł, obliczeń, rekomendacji i podsumowań,
• kiedy AI może wspierać pracę, a kiedy decyzję powinien podjąć człowiek,
• bezpieczne logowanie, konta firmowe, dostęp do narzędzi i kontrola uprawnień,
• korzystanie z zatwierdzonych narzędzi AI zamiast przypadkowych aplikacji,
• ryzyko wykorzystywania prywatnych kont do celów służbowych,
• model "człowiek nadzoruje - AI wspiera",
• ograniczanie danych wejściowych do niezbędnego minimum,
• dokumentowanie wykorzystania AI w zadaniach biznesowych.

6. Bezpieczne tworzenie i wykorzystywanie promptów

• czym jest prompt i jaki ma wpływ na jakość oraz bezpieczeństwo odpowiedzi,
• elementy bezpiecznego promptu: cel, kontekst, ograniczenia, format odpowiedzi i wyłączenia,
• tworzenie promptów bez ujawniania danych wrażliwych i poufnych,
• zastępowanie danych rzeczywistych przykładami i danymi fikcyjnymi,
• wykorzystywanie ról, procedur i zasad bezpieczeństwa w promptach,
• analiza dokumentów bez przekazywania do AI większej ilości informacji niż jest to konieczne,
• ograniczanie ryzyka wygenerowania nieprawdziwych, niezgodnych lub ryzykownych treści,
• przykłady bezpiecznych i niebezpiecznych promptów,
• ćwiczenie: poprawianie ryzykownych promptów i tworzenie ich bezpiecznych wersji.

7. Identyfikacja i ocena ryzyka AI

• jak ocenić ryzyko przed wykorzystaniem AI w konkretnym zadaniu,
• matryca ryzyka: rodzaj danych, cel przetwarzania, narzędzie, użytkownik i potencjalne skutki,
• ryzyka dotyczące danych osobowych i zgodności z RODO,
• ryzyka dla tajemnicy przedsiębiorstwa i przewagi konkurencyjnej,
• ryzyka dla bezpieczeństwa systemów IT,
• ryzyka reputacyjne i prawne,
• zagrożenia związane z automatyzacją decyzji i rekomendacji,
• kiedy należy skonsultować wykorzystanie AI z IT, bezpieczeństwem, DPO lub działem prawnym,
• ćwiczenie: ocena przykładowych przypadków użycia AI pod kątem ryzyka.

8. AI Act, RODO i wymagania regulacyjne

• najważniejsze założenia AI Act,
• podejście oparte na ryzyku: systemy zakazane, wysokiego ryzyka, ograniczonego ryzyka i minimalnego ryzyka,
• rola organizacji jako użytkownika, dostawcy lub podmiotu wdrażającego rozwiązania AI,
• obowiązki związane z wykorzystaniem systemów AI,
• AI literacy - znaczenie kompetencji i świadomości AI w organizacji,
• wpływ regulacji na IT, compliance, HR, bezpieczeństwo i zarządzanie danymi,
• przejrzystość wykorzystania AI i informowanie użytkowników o interakcji z systemami AI,
• dokumentowanie zastosowań AI, oceny ryzyka i nadzoru człowieka,
• relacja AI Act do RODO, cyberbezpieczeństwa, ochrony danych i polityk wewnętrznych,
• praktyczne konsekwencje regulacji dla codziennego korzystania z AI.

9. Budowanie bezpiecznej kultury AI w organizacji

• czym jest odpowiedzialna kultura korzystania z AI,
• rola pracowników, menedżerów, IT, bezpieczeństwa, HR i compliance,
• tworzenie zasad bezpiecznego korzystania z narzędzi AI,
• polityka AI: co powinna regulować i jak ją komunikować,
• standardy zatwierdzania narzędzi AI i integracji z systemami firmowymi,
• zasady korzystania z AI w komunikacji, analizie danych, tworzeniu treści i automatyzacji,
• rozwój kompetencji AI i cyberbezpieczeństwa w organizacji,
• budowanie świadomości zagrożeń i dobrych praktyk,
• zgłaszanie i obsługa incydentów związanych z AI,
• jak wspierać innowacyjność bez obniżania poziomu bezpieczeństwa.

10. Analiza przypadków, checklisty i rekomendacje

• analiza dobrych i nieprawidłowych praktyk wykorzystania AI,
• scenariusze incydentów związanych z wyciekiem danych, phishingiem i prompt injection,
• przykłady zagrożeń w HR, marketingu, IT, finansach i administracji,
• identyfikowanie błędów użytkowników i słabych punktów procesów,
• praktyczna ocena bezpieczeństwa przykładowych przypadków użycia AI,
• checklisty bezpiecznego korzystania z narzędzi AI,
• najważniejsze zasady ochrony danych i informacji,
• rekomendowany plan dalszych działań dla organizacji,
• sesja pytań i odpowiedzi.

🛡️ Szkolenie Cyberbezpieczeństwo AI | Cognity Sp. z o.o.

Cognity Sp. z o.o. "To Know How!"

📍 Al. Jerozolimskie 49, 00-696 Warszawa
📞 Telefon: 577 136 633
📧 E-mail: [email protected]

📌 Wizytówka Google (lokalizacja w Warszawie):
👉 https://maps.app.goo.gl/caZyuks7PaFZuS6V6

👉 Szkolenie Cyberbezpieczeństwo AI - online oraz stacjonarnie dla firm z całej Polski

Cognity Sp. z o.o. prowadzi praktyczne szkolenia z zakresu cyberbezpieczeństwa, sztucznej inteligencji, automatyzacji oraz nowoczesnych technologii biznesowych. Szkolenia mogą być realizowane online lub jako warsztaty zamknięte dopasowane do specyfiki organizacji.

Podczas szkolenia uczestnicy poznają zagrożenia związane z wykorzystaniem narzędzi takich jak ChatGPT, Microsoft Copilot oraz inne rozwiązania generatywnej AI, a przede wszystkim uczą się, jak korzystać z nich bezpiecznie, świadomie i odpowiedzialnie.

⚙️ W ramach szkolenia pracujemy m.in. nad:

• bezpiecznym wykorzystaniem ChatGPT, Copilot i innych narzędzi GenAI,
• ochroną danych poufnych i informacji biznesowych,
• rozpoznawaniem phishingu, deepfake'ów i treści generowanych przez AI,
• prompt injection, jailbreakami i innymi nowymi wektorami ataków,
• bezpiecznym tworzeniem promptów,
• oceną ryzyka przed przekazaniem danych do modelu AI,
• zasadami bezpiecznej pracy z dokumentami i załącznikami,
• ograniczaniem ryzyka związanego z tzw. shadow AI,
• weryfikacją odpowiedzi i rekomendacji generowanych przez AI,
• tworzeniem zasad i polityki bezpiecznego korzystania z AI w organizacji,
• przygotowaniem pracowników do odpowiedzialnego korzystania z nowych technologii.

🧠 Baza wiedzy - AI, cyberbezpieczeństwo i automatyzacja

Na blogu Cognity publikujemy materiały dotyczące praktycznego wykorzystania sztucznej inteligencji, automatyzacji, cyberbezpieczeństwa i nowoczesnych narzędzi wykorzystywanych w biznesie.

👉 Blog Cognity: https://www.cognity.pl/blog

⭐ Dlaczego szkolenie Cyberbezpieczeństwo AI w Cognity?

✅ praktyczne szkolenie prowadzone przez firmę szkoleniową IT,
✅ możliwość realizacji online lub stacjonarnie,
✅ warsztaty dopasowane do potrzeb konkretnej organizacji,
✅ program oparty na rzeczywistych scenariuszach i zagrożeniach.