Fenomen Shadow AI. Na potęgę oszukują firmy i liczą, że nie spotkają ich konsekwencje

Shadow AI to termin, który oznacza korzystanie z narzędzi AI do pracy bez wiedzy i zgody przełożonych. Niekoniecznie musi być procesem świadomym – osoby, które oddają newralgiczne dane algorytmom, mogą nie wiedzieć, że nie powinny tego robić lub nie zdają sobie sprawy z tego, jak istotnym zagrożeniem operacyjnym jest takie zachowanie.

Proceder może być spowodowany chęcią usprawnienia pracy, próbą poradzenia sobie z przeciążeniem, presją czasu lub rosnącymi oczekiwaniami dotyczącymi produktywności oraz zwykłym "eksperymentem". AI znacznie szybciej niż człowiek analizuje duże zbiory danych, może projektować atrakcyjne wnioski (często wystarczająco poprawne w profesjonalnych zastosowaniach) i dobrze sprawdza się w roli narzędzia percepcji i szeregowania danych.

Problem polega na tym, że często to, co AI "postrzega", nigdy nie powinno trafić do baz danych firmy stojącej za danym LLM-em. Jednocześnie w dobie AI Act firma może mieć kłopoty przy nieprawidłowym oznaczeniu treści wykonanych przez sztuczną inteligencję (to akurat ma znaczenie głównie w sektorze marketingowym). Czynniki ryzyka nie są więc "widzimisię", a mają poważne podstawy prawne zakorzenione m.in. w RODO. Poza tym kontekstem jest też wątek reputacji, narażenia klientów na ryzyka, a nawet utraty kontroli nad procesami w firmie. Jest też druga strona monety – sytuacji pracownika, któremu grozi zastąpienie przez AI, który często musi sprostać nowym oczekiwaniom rynkowym bez odpowiedniego przygotowania.

Każde zapytanie wprowadzone do chatbota AI może ujawnić wrażliwe informacje dotyczące firmy, kodu źródłowego projektowanych rozwiązań, danych klientów, strategii operacyjnych i w zasadzie wszystkich informacji, które pojawiają się w dokumentacji. W wielu przypadkach dane te mogą posłużyć do trenowania modeli, a informacje tam zawarte mogą zostać upublicznione.

W takiej sytuacji może dojść do naruszeń ochrony prywatności (w tym RODO), a co za tym idzie – do nałóżenia kar finansowych. Jednocześnie korzystanie z AI może prowadzić do utraty zaufania klientów i partnerów biznesowych, "wyciek" do modelu językowego może być traktowany na równi (albo nawet gorzej) jak podatność na cyberatak.

Problem może być jeszcze większy, gdy pracownik posługiwał się nie "niewinnym" LLM-em, lecz agentowym AI, które wykonywało samodzielne zadania. W takiej sytuacji system mógł znacznie szerzej ingerować w infrastrukturę firmy, a skutki jego działań mogą być trudne do określenia.

AI to nie Excel, ale firmy dostarczające chatboty chcą, byśmy tak myśleli. Wielokrotnie same reklamują swoje produkty jako "partnera w pracy", "asystenta", "doradcę", "wsparcie przy codziennych zadaniach". Sam pracownik może nawet nie rozpoznać, na którym etapie korzysta ze standardowych narzędzi, a w którym przekazuje dane zewnętrznemu podmiotowi.

Dalsza część artykułu poniżej.

Jednocześnie w dobie ryzyka masowych zwolnień (po części wynikających z popularyzacji narzędzi AI), epidemii wypalenia zawodowego i kultu wydajności, pracownicy mogą starać się korzystać ze sztucznej inteligencji do poprawy swoich rezultatów, mając świadomość, że przekraczają tym samym pewne granice wyznaczone przez firmę.

Korzystanie z AI może wydawać się atrakcyjną alternatywą dla standardowego wykonywania zadań. Dla pracownika, który jest przeciążony, delegowanie zadań do LLM-ów może być naturalnym mechanizmem obronnym.

By uniknąć nieporozumień na tym tle, firma powinna określić:

Jednocześnie sama ścisła polityka i deklaracje AI nie są rozwiązaniem wystarczająco szczelnym. Firmy muszą zacząć traktować zagrożenia związane ze sztuczną inteligencją jako ryzyko, które już tu jest i będzie z nimi przez kolejne lata (dopóki nie pojawi się coś podobnego, ale bardziej zaawansowanego). Dobrą praktyką powinno być rozwijanie kompetencji i świadomości w tym zakresie, ale też kierowanie się zasadą "ograniczonego zaufania" w przypadku kluczowych lub przynajmniej newralgicznych procesów.