GIGO na poziomie organizacji

Dlaczego AI może uporządkować chaos i nadać mu status rekomendacji

W informatyce od lat funkcjonuje prosta zasada: garbage in, garbage out. Jeżeli system otrzymuje złe dane wejściowe, zwraca złe wyniki. Nawet najlepszy algorytm nie zrobi dobrej odpowiedzi z błędnego, niepełnego albo źle przygotowanego materiału.

W epoce AI ta zasada wraca z nową siłą. Tyle że dziś nie dotyczy już wyłącznie danych w arkuszu, błędnych rekordów w bazie albo nieaktualnych dokumentów. Coraz częściej dotyczy całej organizacji.

Problem nie brzmi już tylko: czy AI dostała dobre dane?

Problem brzmi głębiej: czy organizacja ma dobrze rozpoznany sposób uznawania wiedzy, wartości i odpowiedzialności, który przekazuje AI do przetwarzania?

Bo sztuczna inteligencja nie pracuje w próżni. Wchodzi w istniejący język organizacji, jej dokumenty, procedury, ukryte założenia, hierarchie wpływu, sposoby formułowania problemów i nieformalne kryteria tego, co uznaje się za ważne.

Jeżeli w tym układzie panuje chaos, AI może ten chaos uporządkować. I właśnie to jest niebezpieczne.

Nie dlatego, że chaos znika.

Dlatego, że zaczyna wyglądać profesjonalnie.

AI nie tylko przetwarza dane

Najczęściej mówi się o AI tak, jakby jej głównym zadaniem było przetwarzanie danych: dokumentów, maili, raportów, tabel, prezentacji, baz wiedzy, notatek ze spotkań, procedur i wcześniejszych decyzji.

To prawda, ale tylko częściowa.

AI przetwarza także sposób, w jaki organizacja wcześniej uporządkowała rzeczywistość.

Jeżeli problem został źle nazwany, AI będzie pracować na źle nazwanym problemie. Jeżeli dokumenty zawierają stare założenia, AI może je odtworzyć jako aktualny kontekst. Jeżeli w organizacji istnieją nieformalne reguły wpływu, AI może nieświadomie wzmacniać ten sam sposób widzenia sytuacji, który już wcześniej dominował w decyzjach.

W efekcie system może wygenerować bardzo spójny raport, logiczną tabelę, elegancką rekomendację i przekonujące podsumowanie.

Ale to nie znaczy, że organizacja lepiej rozpoznała stan rzeczy.

To może znaczyć tylko tyle, że AI nadała formalny porządek wcześniejszej deformacji rozpoznania.

GIGO na sterydach

Klasyczne GIGO dotyczyło relacji między danymi wejściowymi a wynikiem. Złe dane dawały zły wynik.

Organizacyjne GIGO jest bardziej złożone.

Na wejściu nie ma wyłącznie danych. Na wejściu są również:

sposób nazwania problemu,
kryteria uznania informacji za ważną,
wartości faktycznie respektowane w decyzjach,
relacje wpływu, które decydują, czyja wiedza ma znaczenie,
nieformalne założenia, których nikt już nie kwestionuje,
lęki, interesy i wygodne interpretacje,
stare dokumenty, które nadal krążą w systemie,
procedury, które formalnie działają, ale praktycznie zasłaniają mechanizm błędu.

Jeżeli taki materiał trafia do AI, problemem nie jest tylko „zła dana”. Problemem jest cały układ, który podpowiada AI, co ma zostać uznane za kontekst.

Wtedy AI może stać się narzędziem organizacyjnego GIGO na sterydach: szybciej, szerzej i bardziej przekonująco odtwarza to, co organizacja już wcześniej źle rozpoznawała.

Pozorny rygor

Największe ryzyko nie polega na tym, że AI się pomyli w oczywisty sposób. Oczywisty błąd można zauważyć, poprawić albo odrzucić.

Większe ryzyko polega na tym, że AI wytworzy pozorny rygor.

Pozorny rygor pojawia się wtedy, gdy wynik wygląda profesjonalnie, ale jego podstawa poznawcza pozostaje niezweryfikowana. Raport ma strukturę. Rekomendacja ma argumenty. Tabela ma porządek. Wnioski brzmią racjonalnie. Wszystko wygląda tak, jakby organizacja przeszła od chaosu do jasności.

A jednak pod spodem może działać ten sam mechanizm, który wcześniej produkował błędne decyzje.

AI może uporządkować dokumenty, ale nie sprawdzi, czy organizacja wie, które źródła naprawdę obowiązują. Może streścić historię projektu, ale nie rozpozna, które decyzje były efektem presji, a które wynikały z wiedzy. Może zestawić argumenty, ale nie ujawni automatycznie, czy niektóre głosy były systemowo pomijane. Może przygotować rekomendację, ale nie odpowie za to, czy wartości wpisane w tę rekomendację są zgodne z tym, co organizacja deklaruje.

Dlatego porządek formalny nie jest jeszcze porządkiem poznawczym.

Co AI może sformalizować

AI może formalizować nie tylko wiedzę. Może formalizować także niejawny sposób myślenia organizacji.

Jeżeli organizacja ma zwyczaj traktować problem jako błąd człowieka, AI może pomóc szybciej znaleźć „czynnik ludzki”. Jeżeli organizacja premiuje szybkie domknięcie sprawy, AI może wygenerować rekomendację, która wygląda jak odpowiedzialna decyzja, choć pomija niewygodne dane. Jeżeli organizacja ceni spokój bardziej niż prawdę, AI może wyprodukować narrację, która wygładza konflikt, zamiast rozpoznać jego mechanizm.

Wtedy AI nie rozwiązuje problemu. Ona formalizuje dominującą interpretację.

Nadaje jej język. Nadaje jej strukturę. Nadaje jej pozór neutralności.

I w tym sensie rekomendacja AI może stać się czymś bardzo niebezpiecznym: profesjonalnie opakowaną kontynuacją wcześniejszego błędu.

Perspektywa 3iM

Z perspektywy 3iM problem organizacyjnego GIGO nie dotyczy wyłącznie danych. Dotyczy całej infrastruktury intelektualno-mentalnej zespołu.

3iM pyta:

co zespół uznaje za wiedzę,
jak odróżnia stan rzeczy od interpretacji,
jakie wartości naprawdę respektuje w decyzjach,
kto ma prawo nazwać problem,
czyja wiedza może zatrzymać decyzję,
jak działają relacje wpływu,
kto odpowiada za użycie rekomendacji,
czy AI wzmacnia rozpoznanie, czy tylko przyspiesza istniejący sposób myślenia.

To jest różnica między zwykłym pytaniem o jakość danych a pytaniem o jakość rozpoznania.

Dane mogą być poprawne technicznie, a decyzja nadal może być błędna, jeśli organizacja źle ustawiła problem. Raport może być spójny, a mimo to nie prowadzić do trafnego działania, jeśli pomija wartości i relacje wpływu. Rekomendacja może być logiczna, a jednocześnie nieodpowiedzialna, jeśli nikt nie sprawdził, jaki mechanizm organizacyjny ją poprzedza.

Przed wdrożeniem AI trzeba sprawdzić nie tylko dane

Wiele firm przed wdrożeniem AI pyta dziś o dane, bezpieczeństwo, architekturę, koszty, integracje, zgodność i kompetencje techniczne. To konieczne pytania.

Ale nie wystarczą.

Przed wdrożeniem AI trzeba zapytać również:

czy organizacja wie, jaki problem chce rozwiązać,
czy ten problem został opisany jako stan rzeczy, czy już jako interpretacja,
czy zespół rozumie, jakie wartości mają regulować decyzję,
czy wiadomo, kto odpowiada za rekomendację opartą na AI,
czy wiedza ekspertów ma realną drogę do decyzji,
czy istnieje możliwość zakwestionowania błędnej interpretacji,
czy AI nie zostanie użyta do przyspieszenia presji, pozornej zgody albo szukania winnych.

Dopiero wtedy można mówić o odpowiedzialnym wdrożeniu AI.

Bo AI może uporządkować treść. Ale nie powinna zastępować organizacji w rozpoznaniu tego, co uznaje za prawdę, wartość i odpowiedzialność.

Najkrócej

AI nie tylko przetwarza dane. AI formalizuje sposób myślenia organizacji.

Jeżeli organizacja ma uporządkowaną infrastrukturę intelektualno-mentalną, AI może wzmacniać rozpoznanie, przyspieszać analizę i wspierać odpowiedzialne decyzje.

Jeżeli jednak organizacja ma chaos w wiedzy, wartościach i relacjach wpływu, AI może ten chaos uporządkować, opisać i nadać mu status rekomendacji.

Wtedy problem nie polega na tym, że AI działa źle.

Problem polega na tym, że AI działa zbyt dobrze na materiale, którego organizacja wcześniej nie rozpoznała.

Puenta 3iM

Największym ryzykiem nie jest to, że AI nie zrozumie organizacji.

Największym ryzykiem jest to, że zrozumie ją zbyt wiernie.

I zacznie wzmacniać dokładnie ten sposób myślenia, który powinien zostać najpierw zdiagnozowany.