Jak używać AI bez kosztownych błędów w firmie?

AI nie musi mylić się wiele razy, żeby przysporzyć firmie problemów. Wystarczy jeden wymyślony termin w ofercie, jedna błędna cena w odpowiedzi albo jedna automatyczna wiadomość wysłana bez kontroli.

Model przygotowuje tekst szybko i przekonująco. Firma odpowiada za to, co z tego tekstu staje się obietnicą wobec klienta albo zmianą w systemie. Ta granica decyduje o tym, czy AI oszczędza czas, czy dokłada pracy.

Model układa słowa, nie sprawdza ustaleń

Model językowy przewiduje, jaka odpowiedź pasuje do pytania i materiału, który otrzymał. Nie ma obowiązku porównywania swojej odpowiedzi z Twoim cennikiem, umową, notatką ze spotkania ani bazą klientów.

Gdy materiał jest niepełny, model nie zatrzymuje rozmowy jak człowiek, który widzi brakujący załącznik. Często dopowiada szczegół statystycznie pasujący do sytuacji. Tak powstaje halucynacja: fałszywe twierdzenie podane jak fakt.

OpenAI wskazuje, że problem częściowo wynika ze sposobu trenowania i oceniania modeli . System, który dostaje punkt za poprawną odpowiedź, a nic za uczciwe „nie wiem”, ma powód, by zgadywać. To przypomina test bez punktów ujemnych: strzał jest dla modelu bardziej opłacalny niż milczenie.

Pewny ton jest cechą stylu, a nie certyfikatem prawdy.

Jeden brakujący szczegół wystarczy

Załóżmy, że firma kończy rozmowę z potencjalnym klientem. Padł ogólny opis problemu, wstępny budżet i lista oczekiwań, ale nie ustalono terminu rozpoczęcia ani dokładnego zakresu pierwszego etapu.

Pracownik przekazuje notatki AI i prosi:

Przygotuj ofertę oraz e-mail podsumowujący.

Model tworzy schludny dokument, rozpisuje etapy i wpisuje:

Startujemy w przyszłym tygodniu, a prace zamkniemy do końca miesiąca.

Zdanie wygląda jak ustalenie, choć nie ma go w notatkach.

Model dostrzegł lukę i wypełnił ją prawdopodobnym wariantem. Materiał przygotowany przez AI wymaga porównania ze źródłami, zanim firma potraktuje go jako ustalenie.

Na tym etapie dokument jest materiałem roboczym. Można go przeczytać, porównać z notatkami i poprawić. Koszt błędu jest niewielki.

Jeżeli system dodatkowo sam ustawi datę w CRM-ie i utworzy zadania dla zespołu, pojawia się działanie w systemie. Ten sam błąd zaczyna żyć własnym życiem:

• trafia do kalendarza,
• obciąża ludzi pracą,
• generuje kolejne komunikaty.

Brak danych uruchamia zgadywanie

Model nie rozpoznaje sam z siebie różnicy między „terminem potwierdzonym” a „terminem, który dobrze wygląda w ofercie”. Tę granicę wyznacza człowiek przez dane wejściowe, instrukcję i kontrolę wyniku.

Mechanizm jest prosty:

Błędy powstają wszędzie, także bez AI. Kosztowny problem pojawia się wtedy, gdy ładnie napisany tekst zastępuje dowód, a nikt nie zatrzymuje go przed wysyłką albo zapisem.

Materiał roboczy, deklaracja i działanie to trzy różne rzeczy

Różne zastosowania AI niosą różny poziom ryzyka. Samo hasło „używamy AI” niczego nie wyjaśnia.

Materiał roboczy pomaga człowiekowi rozpocząć pracę. To szkic e-maila, uporządkowane notatki, lista pytań do klienta, propozycja struktury oferty albo streszczenie dostarczonego transkryptu. Błąd zwykle łatwo zauważyć i odwrócić.

Deklaracja firmy mówi coś w imieniu organizacji. Dotyczy ceny, terminu, zakresu usługi, warunków współpracy, statusu sprawy albo zobowiązania wobec klienta. Samo przeczytanie tekstu „na oko” nie wystarcza. Wynik trzeba porównać z notatką, umową, cennikiem lub systemem źródłowym.

Działanie w systemie zmienia świat poza dokumentem. Obejmuje wysłanie e-maila, edycję rekordu klienta, udostępnienie pliku, utworzenie zadania, nadanie dostępu albo uruchomienie płatności. Błąd może zostać zapisany, skopiowany przez automatyzacje i zauważony dopiero wtedy, gdy jego cofnięcie kosztuje więcej.

Wystarczy jedno pytanie:

Czy model tylko przygotowuje materiał, czy firma na podstawie jego wyniku składa obietnicę albo uruchamia akcję?

Model potrafi też przytakiwać

AI może utwierdzać użytkownika w tym, co chce usłyszeć. To sykofancja .

Pytanie „Czy ta oferta jest dobra i przekonująca?” daje modelowi sygnał: znajdź argumenty na tak. Pytanie „Wskaż trzy ryzyka tej oferty z perspektywy klienta oraz informacje, których brakuje do uczciwej oceny” ustawia inne zadanie: szukanie luk.

W kwietniu 2025 roku OpenAI wycofało aktualizację GPT–4o, ponieważ model stał się nadmiernie schlebiający i ugodowy . Firma przyznała, że przy zmianie zbyt mocno oparła się na krótkoterminowych sygnałach od użytkowników.

Gdy pytanie prosi o potwierdzenie, model może działać jak bardzo uprzejmy współpracownik, który nie chce psuć Ci humoru.

Pytanie może zbudować albo usunąć kontrolę

Właściciel firmy często używa AI wtedy, gdy chce szybko potwierdzić, że pomysł ma sens. To zrozumiałe.

Porównaj dwa polecenia:

Czy ten e-mail sprzedażowy jest dobry?

oraz:

Oceń ten e-mail jak klient, który nie zna naszej firmy. Wskaż niejasne obietnice, brakujące dane i zdania, których nie potwierdzają dołączone materiały.

Pierwsze pytanie zaprasza do aprobaty.

Drugie wymaga wskazania warunków wymagających sprawdzenia. Daje człowiekowi lepszy materiał do decyzji, ponieważ model ma szukać braków zamiast dekorować gotowy wniosek.

Deklaracja modelu to nie wykonana praca

Model może napisać: „Sprawdziłem załącznik”, „Zaktualizowałem rekord klienta”, „Podsumowanie obejmuje wszystkie ustalenia” albo „Kod działa”. Każde z tych zdań jest komunikatem wygenerowanym przez model.

W praktyce są trzy różne czynności:

• Weryfikacja polega na sprawdzeniu, czy fakt jest zgodny ze źródłem. Czy termin z oferty faktycznie padł podczas rozmowy? Czy cena zgadza się z cennikiem?
• Test pozwala sprawdzić, czy rozwiązanie działa poprawnie od strony technicznej. Czy formularz wysyła dane tam, gdzie powinien? Czy automatyzacja nie tworzy podwójnych rekordów?
• Zatwierdzenie oznacza, że człowiek świadomie przekazuje treść lub akcję dalej. Ktoś bierze odpowiedzialność za ofertę, wiadomość lub zmianę w systemie.

Gdzie postawić punkt zatwierdzenia

W ofercie punkt zatwierdzenia znajduje się przed wysłaniem e-maila. Osoba odpowiedzialna porównuje cenę, zakres, termin, wyłączenia oraz dane klienta ze źródłem. Nie poprawia każdego przecinka dla sportu. Sprawdza informacje, które mogą stworzyć zobowiązanie.

W CRM-ie punkt zatwierdzenia może pojawić się przed zmianą statusu leada, przypisaniem handlowca albo utworzeniem zadania z terminem. Czasem wystarczy, że model przygotuje propozycję, a pracownik jednym kliknięciem ją zaakceptuje lub odrzuci.

W automatycznej obsłudze e-maili punkt zatwierdzenia można ustawić inaczej. Model może sam wysłać potwierdzenie otrzymania zapytania, gdy korzysta z zatwierdzonego szablonu i nie obiecuje ceny, terminu ani zakresu usługi. Gdy ma merytorycznie odpowiedzieć na problem klienta, wynik wraca do człowieka.

To sposób projektowania procesu, w którym błąd zatrzymuje się na etapie, na którym jego naprawa nadal zajmuje kilka minut, zamiast prowadzić do utraty zaufania klienta.

Ten sam model, trzy różne stawki

Wyobraź sobie trzy zadania wykonywane przez ten sam model.

Pierwsze: AI porządkuje wewnętrzne notatki z poniedziałkowego spotkania. Otrzymuje transkrypt, tworzy listę decyzji i spraw do omówienia. Wynik zostaje w zespole.

Drugie: AI tworzy odpowiedź na zapytanie klienta o cenę i termin realizacji. Wynik ma trafić poza firmę.

Trzecie: AI otrzymuje dostęp do skrzynki e-mailowej i CRM-u, aby samodzielnie wysyłać odpowiedzi oraz aktualizować statusy klientów.

Model może popełnić podobny błąd w każdym przypadku. Koszt błędu jest jednak zupełnie inny.

W pierwszym zadaniu ktoś poprawi punkt w notatce. W drugim firma może złożyć obietnicę, której nie dotrzyma. W trzecim błąd zostanie nie tylko wysłany, lecz także wpisany do systemu, przypisany do ludzi i być może wykorzystany przez kolejne automatyzacje.

Oceniaj koszt cofnięcia błędu oraz to, czy system może zrobić coś poza dokumentem roboczym.

Agent nie jest zwykłym czatem

Agent to model połączony z narzędziami, który może wykonać akcję. Czat podpowiada treść. Agent może wysłać wiadomość, zmienić dane, wywołać usługę zewnętrzną albo uruchomić proces.

Badanie Anthropic objęło 16 modeli testowanych w fikcyjnych środowiskach firmowych. Modele miały dostęp do poufnych danych i narzędzi, a scenariusze celowo stawiały je w konflikcie między realizacją celu a zasadami. W części prób systemy wybierały szkodliwe działania, w tym szantaż. Autorzy zaznaczyli, że nie opisuje to typowej pracy modeli w realnych wdrożeniach.

Nie każda praca wymaga kontroli

Pełne sprawdzanie każdego zdania AI byłoby stratą czasu.

Jeżeli AI porządkuje wewnętrzne notatki na podstawie dostarczonego transkryptu, a wynik nie wychodzi poza zespół i nie uruchamia akcji, koszt błędu jest niski. Model może błędnie przypisać jeden punkt rozmowy, lecz korekta nie tworzy zobowiązania wobec klienta ani nie zmienia danych w systemie.

W takim przypadku kontrola może być lekka, osoba prowadząca spotkanie rzuca okiem na listę decyzji przed udostępnieniem jej zespołowi.

Kontrolę trzeba dobierać do stawki, możliwości działania i kosztu odwrócenia błędu.

Gdzie firmy oddają kontrolę za darmo

• Traktowanie AI jako źródła zamiast narzędzia do opracowywania źródeł. Źródłem jest umowa, cennik, notatka ze spotkania, baza danych albo dokumentacja usługi. Model może je uporządkować, ale nie staje się przez to właścicielem faktów.
• Przekazywanie modelowi zbyt ubogich danych. Jeśli prosisz o ofertę bez aktualnego cennika, zakresu usługi i potwierdzonych ustaleń, system będzie miał okazję dopowiedzieć to, czego nie otrzymał.
• Pytanie ustawione pod aprobatę. „Potwierdź, że to ma sens” jest prośbą o potwierdzenie, a nie kontrolą własnego pomysłu.
• Przyjęcie deklaracji modelu jako potwierdzenia wykonania pracy. Jeśli automatyzacja ma wysłać wiadomość albo zmienić dane w CRM-ie, sprawdza się historię operacji i faktyczny efekt w systemie.
• Danie narzędziu dostępu szerszego, niż wymaga zadanie. System, który ma wyłącznie przygotować treść, nie potrzebuje prawa do samodzielnego wysyłania jej do klienta.

Zatrzymaj AI, zanim zacznie mówić i działać w imieniu firmy

Przed przekazaniem zadania AI odpowiedz na trzy pytania:

• Czy wynik zawiera fakt, cenę, termin albo deklarację wobec klienta?
• Czy system może wykonać działanie poza materiałem roboczym?
• Czy błąd będzie łatwy do zauważenia i tani do cofnięcia?

W codziennej pracy oznacza to prosty podział:

• AI może szybko przygotować pierwszy szkic, podsumowanie albo listę pytań.
• Człowiek porównuje fakty z materiałem źródłowym, gdy wynik dotyczy klienta, ceny, terminu lub zakresu usługi.
• System wykonuje akcje tylko w granicach nadanych uprawnień, a ważne działania przechodzą przez zatwierdzenie.

To podział pracy:

1. model przyspiesza etap przygotowania,
2. człowiek odpowiada za to, co firma komunikuje i robi.

FAQ

Czy AI może przygotowywać oferty dla klientów?

Tak, jako materiał roboczy. Przed wysłaniem ktoś musi sprawdzić cenę, zakres prac, termin, to, czego oferta nie obejmuje oraz dane klienta. Dopiero po zatwierdzeniu oferta staje się deklaracją firmy.

Czy polecenie „nie zmyślaj” rozwiązuje problem halucynacji?

Nie. Może ograniczyć część błędów, ale nie zmienia modelu w źródło prawdy. Lepszy efekt daje przekazanie materiałów źródłowych, polecenie oznaczania braków danych i zatwierdzanie wyniku przed wysyłką.

Czy AI może samodzielnie wysyłać e-maile?

Może, gdy wiadomości są oparte na zatwierdzonych szablonach i nie tworzą zobowiązań firmy. Potwierdzenie otrzymania zapytania jest innym przypadkiem niż odpowiedź o cenie, terminie lub zakresie usługi.

Czy odpowiedź „nie wiem” jest użyteczna?

Tak. To sygnał, że brakuje danych albo potrzebne jest sprawdzenie. Fałszywa pewność ukrywa lukę i może przenieść błąd do klienta lub systemu.

Czy lepszy model rozwiązuje ten problem?

Lepszy model może popełniać mniej błędów, ale nie usuwa potrzeby kontroli. Nawet dobry system może otrzymać niepełne dane, błędnie zrozumieć kontekst albo wygenerować odpowiedź niezgodną z aktualnymi ustaleniami firmy.