Sztuczna inteligencja w ciągu ostatnich miesięcy stała się jednym z najczęściej omawianych tematów na poziomie zarządów i rad nadzorczych.
Trudno się temu dziwić. AI obiecuje większą efektywność, automatyzację procesów, szybszy dostęp do informacji i możliwość podejmowania decyzji w oparciu o ogromne ilości danych. Wraz z tym entuzjazmem pojawiają się jednak pytania znacznie ważniejsze niż sama technologia.
Kto rzeczywiście odpowiada za decyzje podejmowane przy wykorzystaniu AI? Jak dokumentować proces decyzyjny?
Co dzieje się w sytuacji, gdy narzędzie popełnia błąd albo wygeneruje rekomendację prowadzącą do szkody?
Mimo że sztuczna inteligencja bywa przedstawiana jako technologiczna rewolucja, z perspektywy prawa i odpowiedzialności korporacyjnej mamy do czynienia z problemem dobrze znanym od lat. Organizacja może korzystać z nowego narzędzia, ale odpowiedzialność za skutki decyzji nadal ponoszą konkretni ludzie. Technologia może wspierać proces decyzyjny, przyspieszać analizę czy porządkować dane, nie przejmuje jednak odpowiedzialności za skutki podejmowanych działań. Ta zasada pozostaje niezmienna niezależnie od stopnia zaawansowania algorytmów.
W praktyce największe ryzyko bardzo rzadko wynika z samego narzędzia. Znacznie częściej problemem okazuje się brak podstawowych reguł organizacyjnych.
Kto może korzystać z AI?
W jakim celu?
Jakie dane mogą być przetwarzane?
Kto zatwierdza rezultaty wygenerowane przez system?
Kto odpowiada za ich weryfikację?
Jeżeli organizacja nie potrafi jasno odpowiedzieć na te pytania, problemem nie jest technologia. Problemem jest brak governance.
W biznesie zaufanie jest potrzebne, również wobec nowych technologii. Nie powinno jednak zastępować zdrowego rozsądku i elementarnych zasad nadzoru. Zaufanie do AI nie jest strategią. Strategią jest świadome zbudowanie zasad odpowiedzialności, kontroli, dokumentowania działań i zarządzania ryzykiem.
W pewnym sensie AI działa dziś jak papier lakmusowy dojrzałości organizacyjnej. Bardzo szybko pokazuje, czy firma rzeczywiście wie, kto podejmuje decyzje, kto odpowiada za ryzyko i czy istnieją realne mechanizmy kontroli. Organizacje z uporządkowanymi procesami mogą bezpiecznie wdrażać nowe narzędzia. Tam, gdzie odpowiedzialność jest rozmyta, a procedury istnieją tylko formalnie, AI nie tworzy nowych problemów jedynie ujawnia słabości i przyspiesza ich konsekwencje.
Od lat obserwuję, że większość poważnych problemów biznesowych nie wynika z braku kompetencji czy złej woli. Znacznie częściej źródłem kryzysu jest nieprecyzyjny podział odpowiedzialności, brak nadzoru albo przekonanie, że „to jakoś zadziała”. AI nie zmienia tej reguły. Powoduje jedynie, że skutki błędów mogą pojawić się szybciej, na większą skalę i przy znacznie większej trudności w odtworzeniu procesu decyzyjnego.
Dlatego przed pytaniem o to, jak wykorzystać AI w organizacji, warto najpierw odpowiedzieć sobie na inne: czy rzeczywiście wiemy, kto odpowiada za decyzje, które podejmujemy?
