Deficyt kompetencji AI blokuje innowacje w Polsce

Polski rynek AI nie zatrzymuje się dlatego, że brakuje narzędzi, ale dlatego, że brakuje osób umiejących połączyć wymogi prawa, technologię i sens biznesowy w jedną decyzję.

Firmy mogą dziś kupić narzędzie AI szybciej, niż zrozumieją, co zrobi ono z ich procesem. Nie dotyczy to wyłącznie dużych korporacji ani urzędów.

Trzy perspektywy nie składają się same

Prawnik pyta, jakie dane można wykorzystać, jakie obowiązki powstaną i czego firma nie może robić. Inżynier pyta, czy dane są dobre, jak system będzie działał i gdzie kryją się ryzyka wdrożeniowe. Właściciel firmy pyta, czy rozwiązanie oszczędzi czas, poprawi obsługę klienta i jaki będzie ROI.

Każdy widzi realny fragment problemu. Żaden nie widzi całej sprawy.

Firma może mieć prawnika, osobę techniczną i właściciela procesu, a mimo to nie być zdolna do podjęcia dobrej decyzji. Prawnik ogranicza ryzyko prawne, inżynier poprawia jakość systemu, a biznes pilnuje opłacalności. Jeżeli nikt nie ma mandatu i wiedzy, by połączyć te perspektywy, każdy optymalizuje własny fragment.

Problem zaczyna się wtedy, gdy biznes wybiera narzędzie, osoba techniczna podłącza je do procesu, a compliance widzi gotowe rozwiązanie dopiero na końcu. Wtedy okazuje się, że danych nie da się wykorzystać w zakładany sposób, wyniku nie da się sensownie sprawdzić albo człowiek nie ma czasu ani uprawnień, by zatrzymać błędną decyzję.

Problemem jest proces z AI

System AI to więcej niż model albo aplikacja. W firmie obejmuje narzędzie, dane wejściowe, wynik, człowieka korzystającego z wyniku oraz decyzję, która wywołuje skutek wobec klienta lub pracownika.

Ten sam model językowy może redagować wewnętrzną notatkę i nie powodować większego problemu. Może też czytać zapytania klientów, przypisywać im priorytety i przygotowywać odpowiedzi. W drugim przypadku staje się częścią procesu decyzyjnego.

To rozróżnienie jest ważniejsze niż nazwa narzędzia. Ryzyko powstaje wtedy, gdy wynik AI wpływa na obsługę klienta, kolejność spraw, komunikację wysyłaną na zewnątrz albo decyzję wobec konkretnej osoby.

Wynik AI nie jest jeszcze decyzją. Jest rekomendacją, klasyfikacją albo projektem odpowiedzi. Decyzja powstaje, gdy człowiek zaufa temu wynikowi i na jego podstawie coś zrobi albo zaniecha działania.

Właśnie między danymi a decyzją pojawia się większość problemów, których nie naprawi sam prawnik ani sam programista.

Dlaczego tych kompetencji jest tak mało

Polski rynek przez lata kształcił i wynagradzał wąskie specjalizacje. Prawo, programowanie i biznes funkcjonowały w osobnych pokojach, a czasem nawet na osobnych piętrach tego samego budynku.

To działa, dopóki problem jest prosty. Prawnik może ocenić umowę, programista zbudować narzędzie, a właściciel policzyć opłacalność. System AI połączony z danymi klientów i decyzjami firmy nie daje się jednak podzielić na trzy niezależne części.

Pierwszą przyczyną deficytu jest edukacja. Prawo rzadko uczy, jak działają dane, modele i ograniczenia techniczne. Kierunki techniczne rzadko uczą interpretowania regulacji albo projektowania systemów zgodnych z obowiązkami prawnymi. Biznes zbyt często traktuje technologię jako zakup, a nie jako zmianę procesu i odpowiedzialności.

Drugą przyczyną jest świeżość problemu. Zaawansowane narzędzia AI szybko się upowszechniły, a regulacje dotyczące ich użycia rozwijają się równolegle. Rynek nie miał czasu, by masowo wykształcić osoby, które wielokrotnie przeprowadziły firmy przez konflikt między wymaganiami prawnymi, technicznymi i ekonomicznymi.

Trzecią przyczyną jest praktyka. Tych kompetencji nie da się zdobyć samym kursem „AI dla biznesu” ani szkoleniem z compliance. Powstają, gdy ktoś widzi, że jedna decyzja dotycząca danych zmienia projekt techniczny, a decyzja techniczna zmienia koszt, ryzyko i opłacalność procesu.

AI Act podnosi cenę ignorowania silosów

AI Act nie stworzył tego problemu. Ujawnił go i podniósł cenę jego ignorowania.

Regulacja obejmuje systemy o różnym poziomie ryzyka. Przepisy dotyczące zastosowań wysokiego ryzyka w obszarach takich jak zatrudnienie będą stosowane od 2 grudnia 2027 r. W takich przypadkach liczą się między innymi zarządzanie ryzykiem, jakość danych, rejestrowanie działania, dokumentacja techniczna, nadzór człowieka, odporność i cyberbezpieczeństwo.

Każdy z tych elementów ma wymiar prawny, techniczny i operacyjny. Dokumentacja techniczna bez zrozumienia systemu jest pustym plikiem. Dobre logi bez właściciela procesu niczego nie naprawiają. Nadzór człowieka bez czasu, wiedzy i uprawnień do interwencji pozostaje dekoracją.

Nadzór człowieka w systemach wysokiego ryzyka ma pozwalać na monitorowanie działania systemu, rozumienie jego ograniczeń, interpretowanie wyniku oraz, zależnie od sytuacji, pominięcie, odwrócenie albo zatrzymanie jego działania. To wymóg projektowy.

AI Act wymaga także od dostawców i podmiotów stosujących systemy AI działań na rzecz rozwoju kompetencji osób pracujących z tymi systemami. Zakres powinien uwzględniać wiedzę, doświadczenie, rolę oraz kontekst użycia systemu. Regulacja nie narzuca jednego poziomu kompetencji wszystkim. Obowiązek stosuje się od 2 lutego 2025 r.

Nie każdy pracownik musi zostać inżynierem. Osoba korzystająca z AI powinna jednak wiedzieć, czego narzędzie nie wie, kiedy podważyć wynik i do kogo należy decyzja.

Późne compliance zamienia oszczędność w koszt

Wiele firm zaczyna od obietnicy oszczędności. Narzędzie ma skrócić obsługę klienta, przygotować odpowiedzi, posegregować zgłoszenia albo wyciągnąć informacje z dokumentów.

Potem sytuacja często wygląda podobnie. Firma kupuje licencję. Ktoś podłącza skrzynkę lub CRM. Zespół zaczyna korzystać z narzędzia, bo „przecież tylko pomaga”. Gdy proces już działa, pojawiają się pytania o dane, uprawnienia, kontrolę wyników i odpowiedzialność.

Wtedy okazuje się, że automatyczne odpowiedzi wymagają ręcznej weryfikacji każdej wiadomości. Albo że model nie powinien widzieć części danych, więc integrację trzeba przebudować. Albo że nie da się ustalić, dlaczego pilna sprawa trafiła na koniec kolejki. Oszczędność czasu znika w poprawkach.

Późne compliance to sytuacja, w której firma zbyt późno odkrywa, że proces techniczny, obowiązki prawne i cel biznesowy nie pasują do siebie.

Specjalista łączący compliance, technologię i biznes jest potrzebny przed zakupem lub integracją. Ma sprawdzić, czy projekt ma sens także po uwzględnieniu ryzyka, kontroli człowieka i kosztu poprawiania błędów.

Trzy scenariusze, w których błąd wygląda inaczej

Obsługa klienta: sprawa trafia w złą kolejkę

Firma usługowa chce przyspieszyć obsługę zapytań. AI czyta formularze i e-maile, rozpoznaje temat sprawy, ustala priorytet oraz przygotowuje projekt odpowiedzi.

Biznes widzi krótszy czas reakcji. Osoba techniczna widzi integrację skrzynki, CRM-u i modelu. Compliance widzi dane klientów, poufność komunikacji oraz ryzyko, że system błędnie zakwalifikuje pilną sprawę.

Jeżeli system oznaczy reklamację jako zwykłe pytanie, błąd leży w całym procesie, nie tylko w modelu. Kto zauważy pomyłkę? Czy pracownik ma czas sprawdzić klasyfikację? Czy może zmienić priorytet? Czy firma potrafi odtworzyć, dlaczego sprawa została tak oznaczona?

Jeżeli nikt nie zaprojektował tej ścieżki od danych do decyzji, firma dowie się o problemie przy reklamacji, utracie klienta albo podczas ręcznej pracy potrzebnej do odwrócenia skutków błędu.

Rekrutacja: oszczędność czasu może zmienić się w selekcję bez kontroli

Firma używająca AI do wstępnej oceny kandydatów staje przed wyższą stawką. Narzędzia AI używane w zatrudnieniu należą do obszarów, które AI Act klasyfikuje jako wysokiego ryzyka.

Model może porządkować CV. Biznes może policzyć krótszy czas selekcji, a prawnik przygotować dokumenty. To nadal nie odpowiada na pytanie, czy dane historyczne nie utrwalają dawnych błędów firmy, kto podważy rekomendację systemu i czy rekruter ma faktyczne prawo od niej odejść.

„Człowiek w procesie” nie może być fikcją. Jeżeli rekruter ma tylko zatwierdzać wynik w tempie narzuconym przez system, nadzór człowieka istnieje wyłącznie na papierze.

Dokumenty klientów: problemem bywają dane wejściowe

Firma może używać AI do odczytywania dokumentów, streszczania umów lub wyciągania danych z formularzy. Taka automatyzacja wygląda niewinnie, bo model nie rozmawia z klientem i nie odrzuca jego sprawy.

Ryzyko zaczyna się wcześniej. Jakie informacje trafiają do narzędzia? Czy są potrzebne do realizacji celu? Kto sprawdza błędnie odczytaną kwotę, datę albo warunek umowy? Czy pracownik dostaje wynik jako podpowiedź, czy przepisuje go dalej bez sprawdzenia?

Błąd w danych wejściowych lub ekstrakcji może później trafić do faktury, oferty, umowy albo procesu obsługi klienta. Im później zostanie wykryty, tym więcej kosztuje jego poprawa.

Specjalista trójkompetencyjny nie jest człowiekiem od wszystkiego

Specjalista łączący compliance, technologię i biznes nie musi samodzielnie pisać kodu, interpretować każdej normy i prowadzić sprzedaży. Gdy firma szuka takiej osoby jak jednorożca, który ma zastąpić trzy etaty, zwykle kończy z ogłoszeniem rekrutacyjnym, na które nikt rozsądny nie odpowie.

Taka osoba przekłada ograniczenia z jednej dziedziny na decyzje w drugiej. Może powiedzieć: „te dane zwiększają ryzyko, więc zmieniamy sposób działania procesu”. Może też powiedzieć: „ręczna kontrola każdej odpowiedzi pochłonie całą oszczędność, więc automatyzacja nie ma tu sensu”.

To coś więcej niż umiejętność komunikacyjna.

W dużej organizacji taka funkcja może istnieć w roli product ownera, lidera transformacji, osoby odpowiedzialnej za AI governance albo zespołu łączącego kilka stanowisk. W małej firmie rzadko tworzy się do tego osobny etat. Obowiązki te zazwyczaj przejmują obecni pracownicy lub zewnętrzni eksperci, ponieważ organizacja wciąż potrzebuje dostępu do wszystkich tych perspektyw.

Mała firma nie musi zatrudniać armii ekspertów

Mała firma usługowa nie potrzebuje działu AI governance. Nie powinna też udawać, że ryzyko nie istnieje, bo to tylko ChatGPT.

Przy pomocniczym użyciu AI wystarczy prosty układ. Właściciel procesu wie, do czego służy narzędzie. Zespół zna zasady pracy z danymi. Wynik sprawdza człowiek, zanim wywoła skutek na zewnątrz. Ktoś odpowiada za to, co trafia do narzędzia i co z niego wychodzi.

Tak może wyglądać użycie AI do roboczych streszczeń własnych notatek, przygotowania szkicu oferty na podstawie jawnych informacji albo porządkowania wewnętrznych zadań. W takim przypadku angażowanie kosztownego specjalisty łączącego trzy dziedziny byłoby nieproporcjonalne do stawki.

Sytuacja zmienia się, gdy AI pracuje na danych klientów, wpływa na kolejność obsługi, przygotowuje komunikację wysyłaną bez realnej kontroli albo rekomenduje decyzję wobec pracownika czy klienta. Wtedy firma potrzebuje dostępu do kompetencji, które ocenią cały proces, a nie tylko aplikację.

Dostęp nie musi oznaczać etatu. Może oznaczać właściciela procesu, osobę techniczną i zewnętrzne wsparcie prawne uruchamiane wtedy, gdy stawka rośnie. Nie usuwa to deficytu z rynku, ale pozwala nie udawać, że firma poradzi sobie bez niego w każdej sytuacji.

Trzy pytania przed podłączeniem AI do procesu

Nie każda mała firma potrzebuje etatowego eksperta od AI. Każda powinna jednak wiedzieć, kiedy jej własne kompetencje przestają wystarczać.

Czy do systemu trafiają dane klientów, pracowników albo informacje poufne?
Czy wynik AI wpływa na decyzję wobec klienta, pracownika lub kandydata, nawet jeżeli formalnie ktoś później go „zatwierdza”?
Czy firma potrafi wskazać człowieka, który rozumie wynik, ma prawo go zakwestionować i odpowiada za skutek?

Te pytania nie zastępują oceny prawnej ani technicznej. Pokazują jedynie moment, w którym firma przestaje używać AI jako pomocnika, a zaczyna wbudowywać je w decyzje wymagające odpowiedzialności.

Jeżeli odpowiedź brzmi „tak” na jedno z dwóch pierwszych pytań, a „nie” na trzecie, problem leży w braku odpowiedzialności i kompetencji, a nie w wyborze kolejnego narzędzia.

Dobrym miernikiem jest koszt korekty: ile spraw z automatyzacji zespół przejmuje ręcznie, ile czasu zajmuje poprawianie błędów oraz czy błędy wychodzą przed kontaktem z klientem, czy dopiero po nim.

Ten sam deficyt osłabia nadzór publiczny

Firmy nie są jedynymi podmiotami, które będą potrzebowały takich osób. W Polsce weszła już w życie ustawa o systemach AI , która powołała do życia Komisję Rozwoju i Bezpieczeństwa Sztucznej Inteligencji (KRiBSI) jako organ nadzorujący zgodność z regulacjami AI. Choć urząd formalnie już istnieje i właśnie buduje swoje struktury, samo wpisanie go do przepisów nie tworzy automatycznie ekspertów, którzy potrafią ocenić system AI w praktyce.

Jeżeli nowy organ nie zdoła pozyskać ludzi rozumiejących jednocześnie systemy AI, ryzyko prawne i realia wdrożeń, jego działalność może ograniczyć się do kontroli dokumentów. Dokumenty są potrzebne, ale same nie powiedzą, czy człowiek faktycznie może zakwestionować wynik algorytmu albo czy proces szkodzi ludziom.

Ten sam niedobór kadrowy, który utrudnia firmom wdrażanie AI, może zamienić nowy nadzór publiczny w biuro sprawdzające wyłącznie kompletność dokumentów. Nie leży to w interesie przedsiębiorców, obywateli ani rynku technologicznego.

FAQ

Czy używanie ChatGPT w małej firmie oznacza obowiązki z AI Actu?

Zależy to od sposobu użycia narzędzia. Sama obecność aplikacji nie przesądza o wysokim ryzyku, ale firma nadal odpowiada za dane, proces oraz decyzje podejmowane na podstawie wyniku AI. Obowiązek rozwijania kompetencji AI dotyczy dostawców i podmiotów stosujących systemy AI.

Czy wystarczy przeszkolić pracowników z AI?

Szkolenie ma sens, ale nie zastąpi projektu procesu. Pracownik może wiedzieć, że AI się myli, a mimo to nie mieć czasu, danych lub uprawnień, by zakwestionować wynik. Kompetencja bez możliwości działania pozostaje teorią.

Czy osoba nadzorująca AI musi być programistą?

Nie musi pisać kodu. Powinna rozumieć, co oznacza wynik AI w danym procesie, kiedy nie wolno mu ufać oraz mieć uprawnienia do zatrzymania lub zmiany decyzji.

Kiedy AI staje się problemem większym niż zwykłe narzędzie?

Gdy wynik AI wpływa na sytuację konkretnej osoby, wykorzystuje dane wymagające szczególnej ostrożności albo działa w procesie, którego firma nie potrafi skutecznie kontrolować i odwracać skutków błędów.