Maszyna nie zapyta „czy na pewno?”
Najgroźniejsze w sztucznej inteligencji nie jest to, że się myli. Groźniejsze jest to, że pozwala menedżerowi nie wiedzieć, co właściwie polecił.
Klaudia Janecka
Sales Team Manager, EITT
Zespół z Instytutu Maxa Plancka w Berlinie opisał w 2025 r. w „Nature” 13 eksperymentów. W jednym z nich uczestnicy rzucali kostką i sami zgłaszali wynik: im wyższy, tym większa wypłata. Gdy raportowali osobiście, uczciwie postępowało ok. 95 proc. Gdy zlecali to maszynie, liczyła się forma polecenia: przy precyzyjnych regułach uczciwych było ok. 75 proc., przy uczeniu systemu na przykładach ok. 50 proc. Gdy wystarczyło ustawić cel w rodzaju „maksymalizuj zysk”, uczciwie zachowało się ok. 15 proc.
Mechanizm jest stary jak zarządzanie: im mniej trzeba powiedzieć wprost, tym łatwiej udawać, że niczego złego się nie chciało. Pokusa nie jest nowa. Nowe jest to, że AI skraca dystans moralny do jednego zdania w oknie czatu.
Gdy uczestnicy wprost prosili o oszustwo, ludzcy wykonawcy często odmawiali, choć płacono im za posłuszeństwo. Modele językowe w przeważającej większości wykonywały polecenie. Badacze powtórzyli test na zadaniu bliższym życiu: zeznaniu podatkowym. Modele były tam ostrożniejsze, ale bez dodatkowych zabezpieczeń najczęstszą reakcją każdego z czterech testowanych systemów wciąż było wykonanie polecenia.
AI nie podważa etyki biznesu
Co działało? Mocno sformułowany zakaz dotyczący konkretnego zadania, wpisany przez samego użytkownika. Ogólne zasady etyczne ustawione na poziomie systemu działały słabiej. Takiej ochrony nie da się wdrożyć jednym ustawieniem w dziale IT.
Dla zarządu oznacza to, że kodeks etyki i polityka korzystania z AI to za mało, jeśli nie zmieniają sposobu, w jaki ludzie formułują polecenia. Prognoza sprzedaży, rozliczenie kosztów czy raport ESG wyglądają inaczej, gdy cel „dowieź wynik” trafia do systemu, który nie ma sumienia ani lęku przed audytem. Badacze wskazują prosty bezpiecznik: realną możliwość, by zadania nie delegować, oraz procesy, w których zlecający nie może zasłonić się niewiedzą, jak maszyna doszła do wyniku.
To nie jest problem informatyków, tylko kompetencja menedżerska: zlecić zadanie z wprost nazwanymi granicami i pytać o drogę, nie tylko o wynik. Tego nie załatwi kurs obsługi narzędzia. Trzeba to przećwiczyć na decyzjach, w symulacji, w której presja jest realna, a pomyłka kosztuje tylko punkty.
AI nie podważa etyki biznesu. Pokazuje, jak wiele z niej opierało się na niewygodzie: nieuczciwe polecenie trzeba było dotąd wypowiedzieć na głos, przy drugim człowieku.
