Lekcja 5.4
Prywatność i bezpieczeństwo
Co dzieje się z tym, co wpisujesz do AI? I jak chronić siebie i innych?
5.4Prywatność i bezpieczeństwo
Wiesz już, że AI uczy się na danych — także na danych o ludziach. Teraz spojrzymy z drugiej strony: co dzieje się z tym, co sam wpisujesz do AI? I jak korzystać z niej tak, żeby nie narazić siebie ani innych?
Każdy rozdział zaczyna się prosto. Chcesz więcej? Otwórz Zaawansowany, a w nim Ekspert.
Gdzie trafia Twoja wiadomość
To, co wpisujesz do czatu z AI, zwykle trafia na serwery firmy, która go prowadzi. Może tam zostać zapisane, przejrzane przez pracowników, a czasem użyte do uczenia kolejnych wersji programu.
Dlatego dobra zasada brzmi: pisz do AI tylko to, co mógłbyś pokazać obcej osobie.
Wyobraź to sobie tak
„Czat z AI jest jak rozmowa w kawiarni przy otwartym oknie: zwykle nikt nie słucha, ale nie mówisz tam niczego, czego nie powinien usłyszeć obcy.”
Rozmowy z chatbotami są zwykle przechowywane przez dostawcę, mogą być przeglądane w celach bezpieczeństwa i — zależnie od ustawień — używane do trenowania. Wersje firmowe i edukacyjne często mają inne, bezpieczniejsze warunki, na przykład zakaz używania danych do treningu.
Głośny przykład: w 2023 roku inżynierowie Samsunga wkleili do chatbota poufny kod firmy, po czym firma ograniczyła korzystanie z takich narzędzi.
Częsty błąd
Moja rozmowa z AI jest prywatna jak notatka w zeszycie.
Jak jest naprawdę
Rozmowy zwykle trafiają na serwery dostawcy, mogą być przeglądane i używane do trenowania — zależnie od ustawień i wersji usługi.
RODO obowiązuje także dane w promptach: wymaga podstawy prawnej, minimalizacji danych i realizacji praw osób. Włoski urząd ochrony danych czasowo zablokował ChatGPT w 2023 roku, a w grudniu 2024 roku nałożył na OpenAI 15 mln euro kary, m.in. za brak podstawy prawnej przetwarzania danych do trenowania.
Dla szkół kluczowe jest rozróżnienie: konsumencka usługa z kontem prywatnym a narzędzie zamówione przez szkołę z umową powierzenia przetwarzania danych.
AI zgaduje więcej, niż mówisz
Nawet gdy nie podasz swojego adresu czy wieku, AI potrafi je odgadnąć ze szczegółów: nazwy szkoły, ulubionego sklepu, sposobu pisania.
A modele czasem zapamiętują fragmenty tekstów, na których się uczyły — i mogą je potem powtórzyć.
To zjawisko nazywa się wnioskowaniem: model łączy pozornie niewinne szczegóły w wiedzę o osobie — miejsce zamieszkania, wiek, zawód. Im więcej drobiazgów, tym dokładniejszy obraz.
Drugie ryzyko to zapamiętywanie: modele mogą odtworzyć fragmenty danych treningowych, w tym dane osobowe, które w nich były. Dlatego firmy filtrują dane przed treningiem i blokują takie odpowiedzi.
Staab i in. (2023, ICLR 2024) pokazali, że GPT-4 wnioskował z wpisów na Reddicie m.in. lokalizację, wiek i dochód autorów z dokładnością top-1 około 85%. Carlini i in. (2021, 2023) wykazali, że modele językowe i dyfuzyjne mogą odtwarzać fragmenty danych treningowych (training data extraction).
Ochrona techniczna obejmuje prywatność różnicową, uczenie federacyjne, modele uruchamiane lokalnie oraz filtrowanie danych osobowych przed treningiem.
Zapis formalny
Pr[M(D) ∈ S] ≤ e^ε · Pr[M(D′) ∈ S]
Tarcza na co dzień
Nie wpisuj do AI haseł, adresu, numeru PESEL, numeru karty ani prywatnych spraw innych osób. Jeśli chcesz poradzić się w sprawie kolegi, zmień imię i szczegóły.
Sprawdź w ustawieniach, czy możesz wyłączyć zapisywanie historii i używanie rozmów do uczenia programu. Przećwiczysz, co wolno wpisać, w widgecie z tej lekcji.
Dla nauczycieli szczególnie ważne: nie wklejaj danych uczniów (imion, ocen, opinii) do darmowych, konsumenckich wersji chatbotów. Zamiast „Jan Kowalski z 7B ma problem z…” napisz „uczeń szkoły podstawowej ma problem z…”.
Korzystaj z narzędzi zatwierdzonych przez szkołę i usuwaj rozmowy, których nie potrzebujesz.
- 1Zanim wkleisz: czy to dane osobowe?
- 2Zanonimizuj imiona i szczegóły
- 3Sprawdź ustawienia historii i trenowania
- 4Używaj narzędzi zatwierdzonych przez szkołę
- 5Usuwaj niepotrzebne rozmowy
AI Act zakazuje od 2 lutego 2025 roku m.in. nieukierunkowanego pozyskiwania wizerunków twarzy z internetu lub nagrań monitoringu w celu tworzenia baz do rozpoznawania twarzy, a także rozpoznawania emocji w miejscach pracy i placówkach edukacyjnych (z wąskimi wyjątkami medycznymi i bezpieczeństwa).
Ocena skutków dla ochrony danych (DPIA) z RODO jest wymagana przy przetwarzaniu wysokiego ryzyka — wdrożenie AI analizującej dane uczniów zwykle się do niego kwalifikuje.
Zapamiętaj
- Nie wpisuj danych osobowych — swoich i cudzych.
- Sprawdź ustawienia prywatności i historię rozmów.
- AI nie zastąpi zaufanego człowieka. W kryzysie: 116 111.
Wpisać czy nie?
0/8 trafnie
Ciekawostka
W 2023 roku włoski urząd ochrony danych na kilka tygodni tymczasowo zablokował ChatGPT we Włoszech, m.in. z powodu braku weryfikacji wieku użytkowników.
W liczbach
116 111
bezpłatny telefon zaufania dla dzieci i młodzieży
Źródło: Fundacja Dajemy Dzieciom Siłę
Ewaluacja · 3 pytania
Sprawdź się
Które informacje możesz bezpiecznie wpisać do chatbota?
Dokąd dalej
Następny przystanek: AI Act, praca i planeta
To, co wpisujesz do AI, może zostać zapisane i użyte, a AI potrafi wywnioskować więcej, niż mówisz. Chroni Cię minimalizowanie danych, anonimizacja i świadome ustawienia.
Prywatność chroni też prawo. W ostatniej lekcji wyprawy zobaczysz, jak Europa reguluje AI w AI Act, co AI zmienia w świecie pracy i ile kosztuje planetę.