Odpowiedź wygląda dobrze. Właśnie dlatego jest niebezpieczna.
Zespół przygotowuje rekomendację dla klienta. Do AI trafiają trzy oferty, notatki ze spotkań i tabela kosztów. Po kilkudziesięciu sekundach pojawia się porównanie: dostawca B ma być droższy, ale zapewnia dłuższą gwarancję i krótszy termin wdrożenia. Tabela wygląda świetnie. Kolumny się zgadzają. Wnioski są napisane pewnym językiem. Na końcu AI rekomenduje dostawcę B.
Ktoś jednak pamięta, że z gwarancją było chyba odwrotnie. Otwiera ofertę. Dwanaście miesięcy, nie dwadzieścia cztery. Pada zdanie: „Coś się tu nie zgadza.” I właśnie w tym momencie zaczyna się najważniejsza część pracy z AI. Nie wtedy, gdy wpisujemy prompt. Nie wtedy, gdy model odpowiada.
Wtedy, gdy człowiek zauważa różnicę pomiędzy odpowiedzią AI a tym, co wie o stanie rzeczy.
Błąd AI może wyglądać lepiej niż prawidłowa odpowiedź człowieka
Zwykły błąd często zostawia ślady. Brakuje liczby, coś się nie zgadza w tabeli, ktoś mówi „nie jestem pewien”. AI potrafi zrobić coś trudniejszego do zauważenia: zbudować odpowiedź, która jest spójna, uporządkowana i językowo przekonująca, mimo że jeden z jej elementów nie ma właściwej podstawy.
Na polskich forach użytkownicy zwracają uwagę właśnie na ten problem: ludzie wklejają odpowiedzi modeli do dyskusji albo wykorzystują AI przy zadaniach wymagających wiedzy specjalistycznej, mimo że odbiorca nie ma możliwości sprawdzenia, skąd dokładnie wziął się konkretny wniosek. W jednej z dyskusji dotyczących używania AI w pracy umysłowej problem został trafnie sprowadzony do trudności z odtworzeniem drogi prowadzącej do wyniku.
To zmienia charakter błędu. Nie mamy już tylko pytania: „Czy odpowiedź jest prawidłowa?” Pojawia się drugie:
„Czy zespół potrafi rozpoznać, że odpowiedź wymaga sprawdzenia?”
Pierwszy sygnał często jest bardzo mały
AI przygotowuje podsumowanie spotkania. Wszystko się zgadza poza jednym zdaniem: „Zespół zdecydował o przesunięciu wdrożenia na październik.” Nikt takiej decyzji nie podjął. Była rozmowa o możliwości przesunięcia terminu. Padły argumenty za i przeciw. AI zamieniła dyskusję o decyzji w decyzję. Jeżeli notatka zostanie rozesłana, kilka dni później może już funkcjonować jako źródło: „Przecież ustaliliśmy, że październik.” Błąd przestaje być wtedy pojedynczą błędną odpowiedzią AI.
Zaczyna produkować kolejną Wiedzę zespołu.
Jeszcze trudniejszy przypadek: odpowiedź jest prawdziwa, ale nie dla naszej sytuacji
Pracownik pyta AI o warunki rozwiązania umowy. Model podaje poprawnie brzmiącą procedurę, terminy i wyjątki. Tylko że opis dotyczy innego rodzaju umowy. Albo poprzedniego stanu prawnego. Albo sytuacji, w której nie występuje zapis zawarty w konkretnym kontrakcie firmy. To ważna różnica. AI nie musi „zmyślić” całej odpowiedzi.
Może użyć prawdziwych informacji w niewłaściwym kontekście. Dlatego samo znalezienie kilku poprawnych zdań nie wystarcza do uznania całego wniosku za prawidłowy. Na polskich forach pojawia się już prosty odruch: ktoś pyta o wynagrodzenie, potrącenia czy inną konkretną sprawę, a odpowiedzią bywa sugestia, żeby przekazać dokument AI i przyjąć jej interpretację. Dyskusje pokazują jednocześnie rosnącą świadomość, że wygoda otrzymania natychmiastowej odpowiedzi nie rozstrzyga o jej wiarygodności.
„Sprawdziłem w AI” nie jest źródłem
To zdanie będzie pojawiało się coraz częściej. „AI wyliczyła, że…” „AI znalazła przepis…” „AI przeanalizowała dane…” „AI powiedziała, że dostawca B jest najlepszy.” Każde z tych zdań ukrywa najważniejszą część informacji. Na jakiej podstawie? Jeżeli zespół nie potrafi odpowiedzieć, wynik AI zaczyna funkcjonować jak Wiedza, choć jego status poznawczy pozostaje niejasny. Tu właśnie zaczyna być potrzebne rozróżnienie, które stosujemy od początku tych map.
Wiedza: co właściwie wiemy i skąd to wiemy? Wartości: co próbujemy osiągnąć lub ochronić — szybkość, koszt, bezpieczeństwo, termin, zgodność? Relacje W/W: co dzieje się pomiędzy tymi porządkami; na przykład kiedy presja czasu powoduje, że odpowiedź AI dostaje większą wagę, niż pozwala na to jej podstawa. To jest najprostszy punkt wejścia do rozpoznania suwerenności poznawczej zespołu.
Suwerenność poznawcza ujawnia się przy pierwszym „nie zgadza mi się”
Zespół nie jest poznawczo suwerenny dlatego, że zatrudnia ekspertów albo ma procedurę „human in the loop”. Znacznie więcej mówi chwila, w której ktoś zauważa niezgodność. Co dzieje się dalej? „Sprawdźmy.” czy: „AI miała dostęp do wszystkich dokumentów, więc pewnie wie lepiej.” „Pokażmy źródło.” czy: „Nie mamy już czasu.” „Zatrzymajmy rekomendację.” czy: „Raport musi wyjść dzisiaj.”
Poziom suwerenności poznawczej zespołu widać właśnie tutaj: czy człowiek zachowuje realną możliwość zatrzymania drogi od odpowiedzi AI do decyzji. Nadzór człowieka nie polega na tym, że człowiek siedzi obok systemu. Polega na tym, że może powiedzieć:
„Stop. Pokażmy, na czym ten wniosek stoi.”
Nie zaczynaj od pytania, czy AI się pomyliła
Najpierw trzeba ustalić co dokładnie budzi wątpliwość. Liczba? Źródło? Data? Wniosek? Interpretacja dokumentu? Założenie, którego nikt nie podał? Dopiero takie rozbicie pozwala rozpocząć sprawdzanie.
„AI się myli” jest równie mało użyteczne jak „AI ma rację”.
Oddziel odpowiedź od jej podstawy
Jeżeli AI podaje: „Dostawca B ma 24 miesiące gwarancji” — szukamy miejsca w dokumencie, które to potwierdza.
Jeżeli podaje: „Dostawca B jest najlepszym wyborem” — sytuacja jest inna. To już nie jest pojedynczy fakt. Trzeba zobaczyć, jakie dane zostały użyte i jakie kryteria uzyskały największą wagę. Cena? Termin? Ryzyko? Gwarancja? Doświadczenie dostawcy?
Tutaj przechodzimy od Wiedzy do Wartości.
AI może przyspieszyć analizę. Nie może przejąć odpowiedzialności za kryterium.
Załóżmy, że dwóch dostawców spełnia wymagania. Pierwszy jest tańszy. Drugi bezpieczniejszy. AI może świetnie zestawić dane. Nie ma jednak „w danych” odpowiedzi na pytanie, czy w tej sytuacji ważniejsze jest ograniczenie kosztu czy ograniczenie ryzyka.
To jest wybór.
Jeżeli organizacja pozwoli, żeby został ukryty wewnątrz rekomendacji AI, Wartość zacznie udawać Wiedzę.
I właśnie dlatego rozróżnienie Wiedzy i Wartości jest tak ważne przed oceną Relacji W/W.
Najgroźniejszy błąd może powstać dopiero po odpowiedzi AI
AI podaje błędną informację. Pierwsza osoba kopiuje ją do prezentacji. Druga używa prezentacji jako źródła do raportu. Trzecia przekazuje raport kolejnemu systemowi AI. Po kilku krokach pierwotny błąd przestaje wyglądać jak odpowiedź modelu. Wygląda jak: „informacja, którą już mamy”.
To jest moment szczególnie ważny dla 3iM. AI może nie tylko popełniać własne błędy. Może również utrwalać błędy wejściowe, wzmacniać je i ponownie wprowadzać do Wiedzy zespołu w coraz bardziej wiarygodnej formie.
Dlatego ślad poznawczy jest ważniejszy niż etykieta „wygenerowane przez AI”
Nie wystarczy wiedzieć, że AI uczestniczyła w pracy. Potrzebujemy możliwości odtworzenia: jakie materiały dostała, co z nich wyprowadziła, co zostało sprawdzone przez człowieka, gdzie pojawiła się interpretacja i kto zdecydował, że wynik można wykorzystać.
Bez tego człowiek formalnie pozostaje w procesie, ale jego nadzór może być pozorny.
„Coś się nie zgadza” jest tutaj bezpiecznikiem
Nie jest dowodem, że AI popełniła błąd. Nie daje też osobie zgłaszającej wątpliwość automatycznego prawa weta. Jest sygnałem do sprawdzenia. I właśnie reakcja zespołu na ten sygnał mówi bardzo dużo o jego suwerenności poznawczej.
Czy wolno zakwestionować wynik AI?
Czy można zatrzymać decyzję? Czy istnieje dostęp do źródeł? Czy wiadomo, kto ma sprawdzić sporny element? Czy po sprawdzeniu można zmienić rekomendację?
Jeżeli odpowiedź na te pytania brzmi „nie”, problem może nie leżeć w jakości samego modelu.
Możemy mieć świetną AI i bardzo słaby system jej używania
To jest tu najważniejsza puenta. Bezpieczne wykorzystanie AI nie zaczyna się od pytania: „Jak dobry jest model?”
Zaczyna się wcześniej: czy zespół potrafi odróżnić Wiedzę od Wartości, rozpoznać Relacje W/W i zachować kontrolę nad drogą prowadzącą od odpowiedzi do decyzji.
To właśnie nazywamy suwerennością poznawczą.
AI może zwiększyć szybkość tej drogi wielokrotnie.
Dlatego jeszcze ważniejsze staje się to, kto potrafi ją zatrzymać, kiedy pojawia się proste zdanie: