W polityce AI niemal każdej firmy, z którą rozmawiam, jest ten sam punkt. Człowiek zatwierdza wynik systemu przed jego wdrożeniem. Brzmi solidnie. Ktoś to napisał, prawnik zaakceptował, zarząd podpisał, a na slajdzie z governance pojawia się zielony checkmark obok „human-in-the-loop”. Sprawa wygląda na załatwioną.
Tylko że w praktyce ten sam zapis oznacza zupełnie różne rzeczy w zależności od tego, kto go czyta. Dla jednego pracownika znaczy: mam pięć minut, żeby kliknąć akceptuj, bo czeka jeszcze dwadzieścia innych zgłoszeń. Dla innego: nie mam pojęcia, na jakiej podstawie mam ocenić ten wynik, bo nikt mnie tego nie nauczył. Dla jeszcze innego: formalnie podpisuję się pod czymś, czego i tak nie mam prawa zakwestionować, bo proces zostanie wdrożony niezależnie od mojej opinii. Polityka jest jedna. Rzeczywistości są trzy, a każda z nich unieważnia sens tego zapisu.
Tu zaczyna się problem, o którym w dyskusjach o AI governance mówi się za mało. Człowiek w pętli, który nie ma czasu, kompetencji, kryteriów oceny i realnej możliwości powiedzenia nie, nie sprawuje nadzoru. Jest ostatnim podpisem pod wynikiem, który i tak by przeszedł.
Ma to nawet swoją nazwę w badaniach nad automatyzacją: automation bias, czyli tendencja do nadmiernego zaufania systemowi, który zwykle ma rację, a przez to stopniowe wygaszanie własnej czujności. International AI Safety Report 2026 pisze wprost, że mechanizm ten osłabia zarówno jakość ludzkiego osądu, jak i poczucie sprawczości osoby, która teoretycznie wciąż podejmuje decyzję. Najbardziej niepokojące jest to, że doświadczenie nie chroni przed tym efektem, tylko opóźnia moment, w którym się pojawia. Badanie „Automation Bias in Mammography”, opublikowane w maju 2023 roku w czasopiśmie Radiology przez zespół Thomasa Dratscha z Uniwersytetu w Kolonii, sprawdzało, jak błędne sugestie AI wpływają na dwudziestu siedmiu radiologów oceniających pięćdziesiąt mammografii. Kiedy system się mylił, dokładność mniej doświadczonych lekarzy wyraźnie spadała, a bardziej doświadczeni mylili się częściej niż zwykle, mimo kilkunastu lat praktyki za sobą. Wiedza i staż nie uodparniają na automatyzację zaufania. One tylko przesuwają moment, w którym człowiek przestaje patrzeć krytycznie.
To jest dokładnie ten moment, którego żadna polityka firmowa nie opisuje. Bo pracownik postawiony przed przyciskiem zatwierdź nie zadaje sobie pytania w kategoriach prawnych. Zadaje pytania o siebie. Czy w ogóle znam się na tym wystarczająco, żeby zakwestionować wynik systemu? Czy mój przełożony potraktuje mój sprzeciw jako staranność, czy jako spowalnianie pracy? Jeśli coś pójdzie nie tak, to czy stanę w obronie mojej decyzji, czy usłyszę, że przecież miałem to sprawdzić? To pytania o kompetencję i o zaufanie w relacji z liderem, nie o paragrafy. I to właśnie w tych pytaniach, a nie w treści regulaminu, rozstrzyga się, czy człowiek w pętli robi cokolwiek poza podpisywaniem się pod cudzą decyzją.
Brak odpowiedzi na nie ma swoją nazwę w literaturze o odpowiedzialności algorytmicznej: moralna strefa zgniotu. Człowiek, który formalnie podejmuje decyzję, przejmuje w razie błędu całą odpowiedzialność, choć realnie nie miał ani czasu, ani narzędzi, żeby tę decyzję ocenić. To nie jest tylko problem prawny czy wizerunkowy dla firmy. To jest codzienne doświadczenie kogoś, kto przychodzi do pracy z poczuciem, że jego rola sprowadziła się do klikania w cudzy wynik, a jego nazwisko jest tylko na wypadek, gdyby coś się nie udało.
Unijne rozporządzenie o sztucznej inteligencji, znane jako AI Act, próbuje temu przeciwdziałać. Artykuł 14 wymaga, żeby osoba nadzorująca system wysokiego ryzyka rozumiała jego możliwości i ograniczenia, umiała monitorować jego działanie i interpretować wynik, była świadoma ryzyka automatycznego zaufania oraz miała realną możliwość zignorowania, odwrócenia albo zatrzymania jego działania. Od 2 sierpnia 2026 roku organy nadzoru zaczynają to egzekwować w praktyce. To ważny przepis, bo przesuwa pytanie z „czy ktoś zatwierdził” na „czy ten ktoś w ogóle miał warunki, żeby naprawdę ocenić”. Ale sam przepis nie rozwiązuje problemu, który opisuję powyżej. Można spełnić literę prawa i jednocześnie zaprojektować proces, w którym człowiek fizycznie nie jest w stanie sprawować kontroli, bo dostaje trzysta rekomendacji dziennie i uczy się je zatwierdzać odruchowo. Podobny wniosek płynie z ISO/IEC 42001, międzynarodowego standardu zarządzania AI z 2023 roku: nadzoru nie da się załatwić jednorazową procedurą, bo wymaga on ciągłego monitorowania i weryfikacji w codziennej pracy, a nie tylko dokumentu podpisanego raz na start projektu. Nadzór, który nie jest zaprojektowany na tym poziomie, zostaje w dokumentacji, nie w praktyce.
W polskich firmach widać to szczególnie wyraźnie, bo praktyka wyprzedziła politykę o całe lata. Z raportu „Cyberportret polskiego biznesu 2026”, przygotowanego przez ESET i DAGMA Bezpieczeństwo IT, wynika, że 62 procent polskich pracowników korzysta dziś z narzędzi AI w codziennych obowiązkach, a tylko 27 procent organizacji ma spisaną politykę korzystania z tych narzędzi. Raport „Shadow AI w polskich organizacjach 2025”, opracowany przez Cybersecurity Foundation i SGH, pokazuje z kolei, że 57 procent pracowników biurowych używa generatywnego AI bez formalnej zgody pracodawcy. A z badania KPMG „Sztuczna inteligencja w Polsce. Krajobraz pełen paradoksów” z 2025 roku, przeprowadzonego na próbie 48 tysięcy respondentów z 47 krajów, w tym 1082 z Polski, wynika, że 55 procent polskich pracowników nie ujawnia, że korzysta z AI, i prezentuje wygenerowane treści jako własne. To nie jest statystyka o narzędziach. To obraz ludzi, którzy sami, po cichu, projektują sobie granice odpowiedzialności, bo nikt w organizacji nie zrobił tego za nich, a przyznanie się do korzystania z AI wydaje im się ryzykowniejsze niż jego ukrywanie.
To dlatego zdanie „człowiek zatwierdza wynik AI” w polityce firmowej to nie jest projekt odpowiedzialności. To odłożenie problemu na później. Prawdziwe zaprojektowanie odpowiedzialności wymaga rozróżnienia przynajmniej czterech osobnych sytuacji, nie jednej ogólnej deklaracji. Są procesy, w których człowiek rzeczywiście decyduje, a AI dostarcza tylko materiał pomocniczy, jak przy wyborze strategii albo rekrutacji na kluczowe stanowisko. Są takie, w których człowiek weryfikuje konkretny, wąski wynik według jasnych kryteriów jakości, jak przy sprawdzaniu klauzul w umowie przygotowanej przez system. Są procesy, w których AI działa niemal samodzielnie do wyznaczonego progu pewności, a dopiero przekroczenie tego progu uruchamia eskalację do człowieka. I są wreszcie obszary, w których oddanie decyzji technologii jest zbyt ryzykowne, zbyt nieodwracalne albo zbyt wrażliwe, więc proces w ogóle nie powinien trafić do AI, choćby był to najprostszy sposób, żeby go przyspieszyć. Z zewnątrz każda z tych czterech sytuacji wygląda identycznie: ktoś siedzi przed ekranem i klika przycisk. W środku to zupełnie inne poziomy kompetencji, czasu i, co najważniejsze, poczucia, że moja opinia w ogóle ma znaczenie.
Bo to jest sedno sprawy, które łatwo zgubić między paragrafami. Odpowiedzialność bez wpływu nie jest odpowiedzialnością. Jest przerzuceniem ryzyka na kogoś, kto nie miał realnego głosu w decyzji. A pracownik, który to czuje, prędzej czy później przestaje udawać, że jego rola ma sens, i zaczyna po prostu klikać szybciej.
Z mojego doświadczenia, w pracy z klientami Polskiej Szkoły AI, widzę, że firmy najczęściej inwestują w narzędzia i w politykę zgodności, a pomijają to, co dzieje się w głowie pracownika w momencie podejmowania decyzji. To nie jest kwestia dodatkowego szkolenia z obsługi systemu. To psychologia zmiany: poczucie sprawczości, jasność kryteriów, prawo do powiedzenia nie bez konsekwencji zawodowych. Bez tego nawet najlepiej napisana polityka AI governance zostaje dokumentem, a nie codzienną praktyką.
Bo compliance można spełnić na papierze. Można mieć podpisaną politykę, przeszkolonych ludzi na liście obecności i zielony checkmark w rejestrze ryzyka. Prawdziwe pytanie nie brzmi jednak, czy w procesie jest człowiek. Brzmi, czy ten człowiek w tym konkretnym momencie, z tą ilością czasu, z tymi kompetencjami i z tą realną możliwością sprzeciwu, w ogóle jest w stanie złapać błąd, zanim ten błąd wyjdzie na zewnątrz organizacji. Jeśli odpowiedź brzmi nie, to człowiek w pętli nie chroni firmy przed niczym. Chroni tylko firmę przed pytaniem, kto właściwie podjął tę decyzję.H
