Czy agent AI może sam wykonać zadanie w firmie

To poradnik z własnego podwórka — opisujemy, gdzie sami wpuszczamy agenta, a gdzie nie. Nie zastąpi testów na Waszych procesach.

Słowo „agent” bywa używane do wszystkiego, więc zacznijmy od różnicy technicznej. Czat dostaje pytanie i zwraca tekst. Agent dostaje cel, zestaw narzędzi — wyszukiwanie, zapis do bazy, wysłanie wiadomości — i działa w pętli: wybiera narzędzie, wykonuje, patrzy na wynik, decyduje o kolejnym kroku. Anthropic w opisie budowania takich systemów oddziela je od prostszych rozwiązań ze stałą kolejnością kroków i zaznacza, że elastyczność kosztuje: przewidywalność.

AIAttēls ģenerēts ar AI.

Co się zmienia, gdy model dostaje narzędzia

Zmienia się rodzaj błędu. Czat, który się pomyli, napisze nieprawdę — ktoś to przeczyta i poprawi. Agent, który się pomyli, wykona czynność: wyśle wiadomość, zmieni pole w systemie, zamknie zgłoszenie. Dlatego pierwsze pytanie przy takim wdrożeniu nie brzmi „czy sobie poradzi”, tylko „co się stanie, gdy się pomyli, i czy da się to cofnąć”. Zadania odwracalne — przygotowanie wersji roboczej, nadanie etykiety, wpisanie propozycji do pola — nadają się na start. Zadania nieodwracalne — wysyłka do klienta, przelew, skasowanie czegokolwiek — nie nadają się nigdy bez potwierdzenia człowieka.

Od strony technicznej połączenie modelu z systemami firmy stało się prostsze, niż było. Powstał do tego otwarty protokół — Model Context Protocol — który opisuje, jak wystawić modelowi narzędzia i dane w jednolity sposób; podobne mechanizmy opisuje poradnik OpenAI o budowaniu agentów. To dobra wiadomość dla integracji i zła dla ostrożności: wpięcie agenta w firmowe systemy jest dziś kwestią godzin, więc łatwo zrobić to, zanim ktokolwiek pomyślał o uprawnieniach.

Trzy zabezpieczenia, które robią różnicę

Osobne konto z minimalnymi uprawnieniami. Agent ma widzieć dokładnie te dane, których potrzebuje do zadania, i nic ponadto — nie konto administratora „na czas testów”, bo testy się przeciągają. Zapis każdego kroku. Bez dziennika wywołań nie da się ustalić, dlaczego coś się stało, a przy pętli decyzyjnej to pytanie pada prędzej czy później. Twardy limit kroków i kosztu. Agent, który wpadnie w pętlę, potrafi wykonać kilkaset wywołań, zanim ktokolwiek zauważy — i to jest jedyny znany nam sposób, żeby błąd kosztował złotówki, a nie tysiące.

AIAttēls ģenerēts ar AI.

Osobna sprawa to treści, które agent czyta po drodze. Jeśli przetwarza pocztę przychodzącą, zgłoszenia od klientów albo strony internetowe, trafi w końcu na tekst napisany po to, żeby wydać mu polecenie. Zasada jest prosta i nie ma od niej wyjątku: polecenia pochodzą od Was, wszystko, co agent przeczyta w trakcie, jest danymi. Jeśli treść z zewnątrz może uruchomić działanie, macie lukę niezależnie od tego, jak dobry jest model.

Kiedy agent NIE jest potrzebny

Gdy kolejność kroków jest znana z góry. Proces „odbierz plik, wyciągnij pięć pól, zapisz do systemu, wyślij potwierdzenie” nie potrzebuje niczego, co samo decyduje o kolejności — potrzebuje zwykłej automatyzacji z modelem w jednym kroku. Będzie tańszy, szybszy i przewidywalny. Agent zarabia na siebie dopiero tam, gdzie liczba kroków zależy od tego, co znajdzie po drodze.

AIAttēls ģenerēts ar AI.

Jak wpinamy takie rozwiązania w firmowe systemy i gdzie stawiamy granicę uprawnień, opisujemy przy agentach AI i bezpiecznej piaskownicy. Koszty są na stronie o cenach wdrożeń AI.