Firma nie kupiła żadnego systemu AI. Nie przeprowadziła wdrożenia, nie podpisała umowy z dostawcą i nie wydała oficjalnej zgody na korzystanie z takich narzędzi.
Czy to oznacza, że pracownicy nie używają AI?
Raczej nie.
Ktoś streszcza dokument w ChatGPT. Developer wkleja fragment kodu do asystenta AI, żeby szybciej znaleźć błąd. Sprzedaż przygotowuje odpowiedź dla klienta. Marketing generuje treści, a HR poprawia ogłoszenie o pracę.
Każda z tych osób może działać w dobrej wierze. Chce szybciej wykonać zadanie, poprawić jakość pracy albo nadrobić zaległości.
Firma zyskuje kilka godzin. Jednocześnie może jednak stracić kontrolę nad tym, jakie dane trafiają do zewnętrznych narzędzi, na jakich zasadach są przetwarzane i kto odpowiada za wygenerowany wynik.
Tak właśnie powstaje Shadow AI.
Shadow AI to nowe Shadow IT
Przez lata organizacje zmagały się ze zjawiskiem Shadow IT. Pracownicy instalowali aplikacje bez zgody działu IT, przechowywali dokumenty na prywatnych dyskach i korzystali z narzędzi, które nigdy nie przeszły oceny bezpieczeństwa.
Shadow AI działa podobnie, ale pojawia się znacznie szybciej.
Nie trzeba niczego instalować ani prosić administratora o dostęp. Wystarczy otworzyć stronę internetową, założyć prywatne konto i wkleić treść zadania.
Shadow AI oznacza korzystanie z narzędzi AI poza wiedzą albo kontrolą organizacji. Firma nie wie wtedy:
- z jakich systemów korzystają pracownicy;
- do jakich celów są wykorzystywane;
- jakie dane trafiają do modeli;
- gdzie i jak długo są przechowywane;
- czy dostawca może wykorzystać je do ulepszania albo trenowania swoich rozwiązań;
- kto ma dostęp do historii promptów;
- kto odpowiada za wykorzystanie błędnego wyniku.
Problem nie polega więc wyłącznie na tym, że ktoś używa ChatGPT, Copilota albo innego narzędzia. Problem zaczyna się wtedy, gdy organizacja nie wie, jak AI jest używane i gdzie kończy się kontrola nad jej danymi.
Do modelu trafia więcej niż sam prompt
Prompt może wyglądać jak zwykłe polecenie. W praktyce często zawiera bardzo cenny kontekst.
Pracownik może wkleić do narzędzia:
- umowę z klientem;
- opis negocjacji;
- fragment kodu źródłowego;
- logi systemowe;
- treść reklamacji;
- dane pracownika albo kandydata;
- dokumentację produktu;
- informacje finansowe;
- strategię sprzedażową;
- dane objęte NDA albo tajemnicą przedsiębiorstwa.
Wtedy pytanie nie brzmi już tylko: „czy możemy korzystać z tego narzędzia?”.
Trzeba również zapytać: „jakie informacje wolno do niego wprowadzać?”.
To rozróżnienie ma duże znaczenie. Firma może dopuścić korzystanie z określonego narzędzia AI do redagowania neutralnych tekstów, burzy mózgów albo przygotowywania pustych szablonów. Nie musi jednak automatycznie zgadzać się na wklejanie dokumentów klientów, danych osobowych i kodu źródłowego.
Sama zgoda na używanie narzędzia nie jest zgodą na przetwarzanie w nim wszystkich firmowych informacji.
Prywatne konto i firmowe dane to kiepskie połączenie
Jednym z najczęstszych scenariuszy Shadow AI jest korzystanie z prywatnego konta do wykonywania firmowych zadań.
Pracownik nie chce czekać na oficjalne wdrożenie albo zakup licencji. Używa więc narzędzia, które już zna i za które czasami sam płaci.
Z jego perspektywy to niewielki skrót. Z perspektywy organizacji pojawia się kilka problemów.
Firma może nie znać warunków korzystania z usługi. Nie kontroluje ustawień konta, historii rozmów ani sposobu zabezpieczenia dostępu. Po odejściu pracownika nie może też łatwo sprawdzić, jakie dane zostały przesłane i czy nadal znajdują się na jego prywatnym koncie.
Jeżeli w promptach znalazły się dane osobowe, informacje klientów albo poufne dokumenty, problem przestaje być wyłącznie organizacyjny. Może dotyczyć również RODO, umów z klientami, cyberbezpieczeństwa i ochrony tajemnicy przedsiębiorstwa.
Dlatego pierwszą rozsądną zasadą jest oddzielenie prywatnego eksperymentowania z AI od firmowej pracy na danych i dokumentach.
Czy trzeba zakazać pracownikom korzystania z AI?
Całkowity zakaz wydaje się najprostszym rozwiązaniem. Firma może wysłać wiadomość: „Nie wolno korzystać z żadnych narzędzi AI” i uznać sprawę za zamkniętą.
Na papierze wygląda to dobrze. W praktyce pracownicy nadal mogą korzystać z AI, tylko przestaną o tym mówić.
Jeżeli narzędzie realnie skraca pracę z dwóch godzin do dwudziestu minut, sam zakaz nie usuwa tej potrzeby. Przenosi korzystanie z AI jeszcze głębiej do strefy cienia.
Lepszym rozwiązaniem jest ustawienie bezpiecznych torów:
- wskazanie zatwierdzonych narzędzi;
- opisanie dozwolonych zastosowań;
- ustalenie, jakich danych nie wolno wprowadzać;
- określenie sytuacji wymagających zgody;
- wskazanie, kiedy wynik musi zostać zweryfikowany przez człowieka;
- stworzenie prostego sposobu zgłaszania nowych narzędzi.
Zasady powinny być na tyle jasne, żeby pracownik potrafił zastosować je bez konsultowania każdego promptu z działem prawnym.
Wynik AI nadal musi ktoś sprawdzić
Ryzyko nie kończy się na danych wejściowych. Trzeba również pomyśleć o wyniku wygenerowanym przez AI.
Model może przygotować tekst brzmiący profesjonalnie i jednocześnie:
- podać nieprawdziwą informację;
- wymyślić źródło albo przepis;
- pominąć ważne ograniczenie;
- ujawnić fragment danych zawartych w kontekście;
- wygenerować kod zawierający błąd lub podatność;
- przygotować odpowiedź niezgodną z umową albo ofertą firmy;
- stworzyć treść naruszającą prawa osoby trzeciej.
Dlatego zasady korzystania z AI powinny wskazywać, kiedy wymagany jest human review.
Nie każdy rezultat wymaga takiej samej kontroli. Inaczej należy traktować propozycję tytułu do wewnętrznej prezentacji, a inaczej kod wdrażany na produkcji, odpowiedź na reklamację albo ocenę kandydata do pracy.
Firma powinna określić zastosowania, w których AI może przygotować jedynie szkic, a odpowiedzialność za ostateczną treść lub decyzję zawsze pozostaje po stronie człowieka.
Zdanie „to wygenerowało AI” nie jest procedurą kontroli jakości.
Software house ma podwójny problem
Software house albo firma rozwijająca produkt SaaS często występują w dwóch rolach jednocześnie.
Po pierwsze, zespół korzysta z AI wewnętrznie. Developerzy używają asystentów do kodowania, analizy błędów, przygotowywania dokumentacji oraz pracy z ticketami.
Po drugie, firma może dodawać funkcje AI do produktu tworzonego dla klienta albo oferowanego użytkownikom.
W pierwszym obszarze trzeba ustalić między innymi:
- czy kod klienta może trafiać do zewnętrznego modelu;
- czy umowa z klientem dopuszcza użycie takich narzędzi;
- czy AI może analizować logi zawierające dane osobowe;
- kto sprawdza wygenerowany kod;
- czy dostawca narzędzia wykorzystuje dane do trenowania;
- czy użycie AI jest rejestrowane i kontrolowane.
W drugim obszarze dochodzą pytania produktowe:
- kto jest dostawcą systemu AI;
- jakie dane użytkownika trafiają do modelu;
- czy funkcję AI trzeba opisać w umowie lub regulaminie;
- czy użytkownik powinien wiedzieć, że wchodzi w interakcję z AI;
- kto odpowiada za wygenerowany wynik;
- jak wygląda nadzór człowieka;
- jakie logi i dokumentację należy utrzymywać.
Firma może więc jednocześnie korzystać z AI jako narzędzia pracy i dostarczać klientom produkt oparty na AI. Oba obszary wymagają osobnej oceny.
Mapa narzędzi AI jako punkt wyjścia
Nie da się zarządzać narzędziami, o których istnieniu organizacja nie wie. Dlatego porządkowanie Shadow AI warto rozpocząć od krótkiej inwentaryzacji.
Nie musi to być od razu rozbudowany rejestr w drogim systemie compliance. Na początku wystarczy tabela zawierająca:
- nazwę narzędzia;
- dostawcę;
- cel używania;
- właściciela biznesowego;
- grupę użytkowników;
- rodzaje przetwarzanych danych;
- model licencji i rodzaj konta;
- informację o wykorzystywaniu danych do trenowania lub ulepszania usługi;
- status narzędzia: dozwolone, ograniczone, testowane albo zakazane;
- osobę odpowiedzialną za jego okresowy przegląd.
Warto zapytać pracowników o narzędzia, z których rzeczywiście korzystają. Jeżeli inwentaryzacja będzie przypominać przesłuchanie albo polowanie na winnych, Shadow AI po prostu pozostanie w cieniu.
Celem nie jest znalezienie osoby, która raz wkleiła tekst do modelu. Chodzi o poznanie realnych procesów i stworzenie bezpieczniejszej alternatywy.
Krótka AI usage policy zamiast dokumentu na 40 stron
Drugim krokiem może być przygotowanie zasad korzystania z AI.
Dobra AI usage policy nie musi mieć kilkudziesięciu stron i osobnego słownika pojęć dla każdego modelu. Powinna odpowiadać na praktyczne pytania pracownika:
- z jakich narzędzi mogę korzystać;
- do czego mogę ich używać;
- jakich danych nie wolno mi wprowadzać;
- kiedy muszę zanonimizować materiał;
- czy mogę wklejać dokumenty klientów albo kod źródłowy;
- kiedy wynik AI wymaga weryfikacji;
- czy muszę informować klienta o użyciu AI;
- jak zgłosić nowe narzędzie;
- co zrobić, jeśli przypadkowo wprowadziłem dane, których nie powinienem;
- kto odpowiada za ostateczny rezultat.
Polityka powinna być dostosowana do sposobu pracy firmy. Inne zasady będą potrzebne kancelarii, inne software house’owi, a jeszcze inne zespołowi marketingowemu.
Kopiowanie ogólnego wzoru z internetu może skończyć się dokumentem, który formalnie istnieje, ale nie odpowiada na żaden rzeczywisty problem zespołu.
Kto powinien odpowiadać za AI governance?
W wielu organizacjach AI znajduje się trochę wszędzie i trochę nigdzie.
IT patrzy na integracje oraz dostęp. Security ocenia ryzyka techniczne. Legal sprawdza umowy, AI Act, RODO i poufność. HR szkoli pracowników. Product dodaje funkcje AI, a biznes chce korzystać z nich jak najszybciej.
Każdy widzi swój fragment. Nikt nie ma całego obrazu.
Dlatego warto wskazać ownera AI governance. Nie musi to być osoba samodzielnie zatwierdzająca każdy system i każdy przypadek użycia. Powinna jednak koordynować proces:
- prowadzić mapę narzędzi;
- organizować ocenę nowych zastosowań;
- zbierać informacje od Legal, IT, Security, HR i biznesu;
- aktualizować zasady;
- pilnować szkoleń;
- koordynować reakcję na nieprawidłowe użycie albo incydent.
Bez takiego właściciela polityka AI bardzo łatwo staje się plikiem zapisanym na SharePoincie, którego nikt później nie aktualizuje.
AI literacy, czyli pracownik powinien rozumieć narzędzie
AI Act przewiduje obowiązek podejmowania działań wspierających odpowiedni poziom kompetencji osób korzystających z systemów AI w imieniu organizacji. Zakres tych działań powinien uwzględniać między innymi wiedzę pracowników, ich doświadczenie, kontekst użycia i grupy osób, na które system może wpływać.
Nie oznacza to, że każdy pracownik musi zostać inżynierem machine learning albo zdać państwowy egzamin z AI.
Powinien jednak rozumieć przynajmniej:
- że model może generować nieprawdziwe informacje;
- jakie dane może wprowadzać do narzędzia;
- kiedy rezultat wymaga sprawdzenia;
- jakie są ograniczenia konkretnego zastosowania;
- gdzie zgłosić błąd albo incydent;
- kto odpowiada za ostateczną decyzję.
Samo wysłanie polityki e-mailem może nie wystarczyć. Jeżeli zasady mają rzeczywiście działać, trzeba je omówić na przykładach odpowiadających codziennej pracy zespołu.
Developer powinien dostać inne przykłady niż HR, sprzedaż albo marketing.
Minimum AI governance na start
Nie każda firma potrzebuje od razu rozbudowanego komitetu, wielkiego systemu zarządzania ryzykiem i kilkunastu procedur.
Na początek warto wdrożyć:
- mapę używanych narzędzi AI;
- krótką AI usage policy;
- zasady dotyczące danych i promptów;
- listę zakazanych lub ograniczonych zastosowań;
- obowiązek human review w określonych procesach;
- prostą procedurę zgłaszania nowych narzędzi;
- przypisanie odpowiedzialności za AI governance;
- szkolenie dopasowane do sposobu korzystania z AI;
- zasady reagowania na przypadkowe ujawnienie danych;
- przegląd umów z dostawcami narzędzi oraz klientami.
Takie minimum nie rozwiązuje każdego problemu związanego z AI. Daje jednak firmie realny punkt kontroli i pozwala rozwijać zasady razem z kolejnymi zastosowaniami.
AI nie trzeba blokować. Trzeba wiedzieć, jak jest używane
Shadow AI nie powstaje dlatego, że pracownicy chcą zaszkodzić firmie. Najczęściej pojawia się dlatego, że narzędzia AI są łatwo dostępne, rzeczywiście przydatne i szybsze niż oficjalne procesy zakupowe.
Zakaz może zepchnąć ich używanie jeszcze głębiej do strefy cienia. Brak zasad oznacza natomiast, że każdy pracownik sam ustala granice dotyczące danych, poufności i odpowiedzialności.
Rozsądne AI governance powinno więc pozwalać korzystać z technologii, ale na jasno określonych zasadach.
Firma nie musi znać treści każdego promptu. Powinna jednak wiedzieć, z jakich narzędzi korzysta zespół, jakie informacje mogą do nich trafiać, gdzie potrzebna jest kontrola człowieka i kto reaguje, gdy coś pójdzie nie tak.
AI wdrożyło się w wielu organizacjach samo. Governance musi je teraz po prostu dogonić.
