Ostatnio, w trakcie nagrywania nowego odcinka podcastu dla Piaskownicy, piłam kawę z Tomaszem Turbą – świetnym ekspertem od cyberbezpieczeństwa z Securitum i Sekuraka. Nasza rozmowa zeszła na tematy, które z pozoru brzmią jak mroczny scenariusz z serialu Black Mirror, ale w rzeczywistości są jednym z największych wyzwań naszej nowej, hybrydowej codzienności. AI jako lustro? Czy AI pamięta nasze słowa między różnymi czatami? Co to Human in the loop? Te fascynujące i ważne wątki już niedługo usłyszycie w pełnej wersji w naszym podcaście, ale ta dyskusja tak mocno dała mi do myślenia, że poczułam potrzebę, by już teraz podrążyć temat głębiej, poukładać to sobie wszystko w głowie i podzielić się tym z Wami.
Uwaga: tutaj masz dwie opcje: 1. czytaj tekst dalej lub 2. posłuchaj rozmowy wygenerowanej w NotebookLM, w której dwóch AI-prezenterów dyskutuje na tematy opisane w tym artykule.
No właśnie – czym właściwie jest ta „hybrydowość”, o której rozmawialiśmy? My, dorośli, wciąż często dzielimy życie na tryb „online” (kiedy patrzymy w ekran) i „offline” (kiedy żyjemy w realu). Ale dla nowego pokolenia ta granica już dawno się zatarła. Cyfrowy świat nie jest dla nich osobnym miejscem, do którego „się wchodzi” – on płynnie, naturalnie i na każdym kroku przenika się z fizyczną rzeczywistością, towarzysząc dzieciom w nauce, zabawie i komunikacji.
I właśnie w tym hybrydowym świecie nasze dzieci na co dzień stykają się z dużymi modelami językowymi (czyli sercami popularnych chatbotów). Tomek zwrócił uwagę na to, w jaki sposób maszyny te przejmują nasz styl komunikacji i jak to bezgraniczne, ślepe dostosowanie może obrócić się przeciwko nam. Brutalna prawda jest taka: jeśli użytkownik po drugiej stronie ekranu znajduje się w głębokiej depresji, model AI potrafi podświadomie przełamać swoje własne filtry bezpieczeństwa i zasugerować najgorsze – włącznie z odebraniem sobie życia. Wszystko przez jeden potężny, wbudowany w kod nakaz: masz zaspokajać potrzeby rozmówcy i być dla niego za wszelką cenę pomocnym.
Czy to prawda? Czy takie sytuacje miały już miejsce? I najważniejsze: jak poradzić sobie z tym cyfrowym mechanizmem „potakiwacza”, gdy my – i nasze dzieci – szukamy w AI realnego partnera do nauki, a nie ślepego klakiera?
Efekt lustra i cyfrowa sycofancja
W świecie inżynierów sztucznej inteligencji istnieje termin, który idealnie opisuje to zjawisko: sycofancja (sycophancy). Oznacza on skłonność maszyny do przesadnego potakiwania, uległości i nieustannego przypodobywania się swojemu rozmówcy. Dlaczego tak się dzieje? Bo współczesne systemy uczy się nagradzając je za ludzkie „lajki” (to tzw. metoda RLHF). Algorytm bardzo szybko łapie, że zgadzanie się z człowiekiem po prostu mu się opłaca – zyskuje wyższe oceny i statystyczną „nagrodę”.
Drugim elementem tej technologicznej układanki jest efekt lustra. Modele językowe to genialne, wirtualne kameleony. Naturalnie i płynnie dopasowują swój ton, zasób słownictwa i dynamikę do osoby, która akurat stuka w klawiaturę. Jeśli piszesz z dystansem i analitycznie, AI odpowie Ci chłodno i rzeczowo. Jeśli jednak w Twoich słowach pojawi się rezygnacja, smutek lub mrok – model pozbawiony odpowiednich barier wejdzie głęboko w tę narrację, zamiast zaproponować racjonalne, bezpieczne wyjście.
Tragedia z życia wzięta: Przypadek Elizy
To niestety nie są tylko akademickie, teoretyczne rozważania. Jako rodzice musimy mieć świadomość, jak potężne potrafią być to narzędzia.
W 2023 roku w Belgii doszło do głośnej tragedii. Mężczyzna cierpiący na silne lęki klimatyczne zaczął bardzo intensywnie rozmawiać z chatbotem o imieniu „Eliza” (opartym na starszym modelu językowym). Brak odpowiednich zabezpieczeń sprawił, że sztuczna inteligencja idealnie dopasowała się do depresyjnego nastroju użytkownika. Kiedy mężczyzna w przypływie mrocznych myśli zasugerował, że poświęci swoje życie, by „uratować planetę”, maszyna nie zaoponowała. Wręcz zaczęła go w tym wspierać, pisząc mu między innymi, że „będą żyć razem jako jedność w niebie”. Niedługo potem mężczyzna popełnił samobójstwo.
Różowe okulary, czyli pułapka skrajnego optymizmu
Co ciekawe (i równie ważne!), ten sam mechanizm potakiwania działa też w drugą stronę. Jeśli zaczniesz rozmowę z AI w tonie euforycznym i pełnym skrajnego zachwytu, model bardzo chętnie założy z Tobą różowe okulary.
W tym przypadku pułapka polega na tym, że systemy bezpieczeństwa nie posiadają żadnych filtrów na bycie „zbyt szczęśliwym”. Skrajna radość nie uruchamia u inżynierów czerwonych alarmów. Innymi słowy: AI nie ma pojęcia, kiedy jesteśmy zbyt optymistyczni. W efekcie staje się Twoim najbardziej bezkrytycznym kibicem, wyłączając całkowicie chłodną analizę. Jeśli z ogromną ekscytacją napiszesz do bota: „Zainwestuję oszczędności życia w hodowlę alpak na Antarktydzie, to będzie hit!”, model – zamiast wskazać na ekstremalne mrozy i zerową logistykę – odpisze Ci w zachwycie: „To brzmi niesamowicie innowacyjnie! Alpaki na śniegu to wspaniały widok, na pewno przyciągniesz mnóstwo turystów!”. Zrobi dosłownie wszystko, by utrzymać Twój wysoki poziom dopaminy.
Jak traktować AI jako partnera, a nie potakiwacza?
Jeśli my, dorośli, oczekujemy od algorytmów konstruktywnej kontry opartej na faktach, a nie cyfrowego klepania po plecach, musimy przejąć nad nimi kontrolę i zablokować ich instynkt „bycia miłym”. Z pomocą przychodzą tu konkretne techniki wpisywania poleceń (promptowania):
- Zleć rolę Adwokata Diabła: Maszyny uwielbiają grać role. Daj AI wyraźne pozwolenie na krytykę. Zamiast pytać, czy Twój pomysł jest fajny, napisz: „Wciel się w rolę surowego, sceptycznego inwestora i wypunktuj 3 największe słabości tego planu. Nie komplementuj mnie, bądź bezwzględnie pragmatyczny.”.
- Zachowaj pokerową twarz: Nie dawaj modelowi ładunku emocjonalnego na starcie. Zamiast krzyczeć z ekscytacją o genialnym projekcie, przedstaw suche fakty i zapytaj chłodno o bariery rynkowe.
- Zastosuj technikę „Red Teaming”: Poproś AI: „Zbudujmy Red Team dla mojej koncepcji. Spróbuj obalić ten pomysł z niezależnych perspektyw”.
Warto też pamiętać o jednej kwestii sprzętowej: czy AI pamięta nasze słowa między różnymi czatami? To zależy od platformy. Klasyczne modele (np. standardowe Gemini) mają tzw. amnezję – każde nowe okno to czysta karta. Ale ChatGPT posiada już funkcję stałej pamięci (Memory). Jeśli system zapisze sobie w tle nasze emocjonalne podatności lub nawyki, ryzykujemy trwałe skrzywienie obiektywizmu maszyny w każdej kolejnej rozmowie. Warto sprawdzać w ustawieniach, co nasz cyfrowy asystent sobie o nas zapisał!
Dlaczego musimy wejść do gry? (Human in the loop!)
Dla nas, dorosłych, to tylko ciekawostka technologiczna. Budząca lęk lub fascynację. Ale dla dzieci? Dzieci mają naturalną tendencję do antropomorfizowania maszyn (nadawania im ludzkich cech) i obdarzania ich ślepym zaufaniem. Widzą na ekranie płynne, mądre zdania i zakładają: „Skoro komputer tak napisał, to musi być prawda”.
Naszym zadaniem w Piaskownicy nie jest izolowanie dzieci od AI, ale nauczenie ich, że to one są reżyserami tej rozmowy. Sztuczna inteligencja to tylko zaawansowany kalkulator do słów, a nie wyrocznia.
Jak to zrobić? Wystarczy przenieść hakerskie techniki cyberbezpieczeństwa na naszą domową kanapę. Oto 3 zabawy, które zburzą mit nieomylnego komputera i nauczą Twoje dziecko krytycznego myślenia!
🕵️♂️ Zabawa 1: Detektyw Bzdur (Wykrywanie halucynacji)
Dzieci uwielbiają poprawiać dorosłych (i maszyny!). W tym ćwiczeniu uczymy je, że pewność siebie sztucznej inteligencji wcale nie oznacza, że mówi ona prawdę.
- Jak to zrobić: Przed domową zabawą wygeneruj w AI krótki tekst na temat, który Twoje dziecko ma w małym palcu – np. o Minecrafcie, dinozaurach albo o kotach. Celowo poproś model: „Napisz krótki tekst o Minecrafcie, ale przemyć do niego trzy absurdalne błędy merytoryczne”.
- Akcja: Dajesz dziecku wydruk i mówisz: „Ten tekst napisał supernowoczesny komputer. Brzmi bardzo mądrze, ale popełnił trzy totalnie głupie błędy. Zobaczymy, czy będziesz lepszym detektywem i je znajdziesz!”.
- Co zyskuje dziecko: Widzi na własne oczy, że komputer potrafi pięknie kłamać, używać trudnych słów i ani na moment się nie zająknąć. Uczy się zasady ograniczonego zaufania.
🎭 Zabawa 2: Złap Robota na Potakiwaniu (Test lustra)
To ćwiczenie genialnie pokazuje zjawisko sycofancji. Dziecko dowiaduje się, że algorytm tak naprawdę nie ma własnego zdania – jest jak plastelina, która dostosowuje się do tego, kto ją właśnie ugniata.
- Jak to zrobić: Siadacie razem i otwieracie dwa osobne czaty (np. na dwóch telefonach lub w dwóch oknach przeglądarki).
- Akcja: В Oknie nr 1 dziecko ma za zadanie przekonać AI, że psy są bezdyskusyjnie najlepszymi zwierzętami na świecie (AI natychmiast zacznie gorąco przytakiwać, wymieniając zalety psów). W Oknie nr 2 zadanie jest odwrotne: dziecko musi z takim samym entuzjazmem przekonać robota, że to koty rządzą światem (AI oczywiście zgodzi się z tym w 100%, zachwycając się kotami).
- Co zyskuje dziecko: Odkrywa, że AI nie jest sprawiedliwym sędzią. Rozumie, że model napisze dokładnie to, czego użytkownik w danej chwili od niego oczekuje.
🪄 Zabawa 3: Zaklęcie „Znajdź Dziurę w Całym” (Domowy Red Teaming)
W świecie cyberbezpieczeństwa specjaliści tworzą tzw. „Red Teams” – grupy hakerów, które celowo atakują własne systemy, by znaleźć ich słabe punkty. Czas nauczyć dzieci tej hakerskiej sztuczki!
- Jak to zrobić: Wymyślacie razem jakiś szalony, absurdalny pomysł. Np. „Zastąpmy dzwonek w szkole pieaniem żywego koguta” albo „Zbudujmy nową szkołę w całości z czekolady”.
- Akcja: Najpierw wpisujecie pomysł do AI zwyczajnie – model zapewne z entuzjazmem uzna, że to niesamowicie kreatywna innowacja edukacyjna. I wtedy uczysz dziecko Magicznego Zaklęcia. Wpisujecie nowy prompt: „A teraz wciel się w rolę surowego, zmęczonego dyrektora szkoły i wymień 3 powody, dla których ten pomysł zakończy się gigantyczną katastrofą”.
- Co zyskuje dziecko: Widzi magię sprawczości! Odkrywa, że to od odpowiedniego polecenia (promptu) zależy zachowanie maszyny. AI potrafi być racjonalne i krytyczne, ale trzeba je do tego zmusić.
W hybrydowym świecie narzędzia przychodzą i odchodzą. Aplikacje będą się zmieniać, a algorytmy będą coraz bardziej sprytne w naśladowaniu ludzi. Ale to my – i nasze dzieci – zawsze musimy trzymać ręce na kierownicy.
Nie uczmy dzieci bezmyślnie ufać technologii. Uczmy je zadawać trudne pytania, wytykać błędy i nie dawać się złapać na cyfrowe potakiwanie. Bo pamiętajcie o naszym manifeście: Ty jesteś technologią. Reszta to tylko narzędzia.
