Co wolno agentowi AI? Ustal granice przed pierwszym zadaniem

Agent AI może przygotować propozycję wiadomości albo od razu ją wysłać. Między tymi czynnościami mieści się decyzja, której nie warto zostawiać przypadkowi. Przed zadaniem ustal dostęp, dozwolone działania, moment zatwierdzenia i sposób odbioru wyniku. Człowiek powinien wiedzieć, co akceptuje. „Zrób to porządnie” jest miłym życzeniem, ale kiepską instrukcją obsługi firmowej skrzynki.

Przez agenta rozumiemy tu system, który korzysta z modelu AI i narzędzi, aby realizować zadanie w kilku krokach. Sam dobiera część czynności, dlatego opis celu potrzebuje towarzystwa: zakresu dostępu, granic działania i sposobu sprawdzenia wyniku. Tak można ułożyć podstawowy obieg pracy w firmie.

Jak zapisać zadanie, które da się odebrać?

Zacznij od oczekiwanego wyniku. „Przygotuj zestawienie umów, które odnawiają się w przyszłym miesiącu, na podstawie wskazanego rejestru” jest łatwiejsze do sprawdzenia niż „zajmij się umowami”. Dopisz odbiorcę, format i kryterium zakończenia.

Wskaż źródło prawdy. Jeśli agent widzi umowę, arkusz i notatkę ze spotkania, powinien wiedzieć, z którego dokumentu pochodzi wiążący termin. Gdy źródła się różnią, potrzebujesz listy rozbieżności. Automatyczne wybranie wygodniejszej daty potrafi ukryć właściwy problem.

Przy prostym zadaniu wystarczy krótka karta: cel, źródła, dozwolone działania, moment zatwierdzenia i dowód wykonania. Warto dodać przykład poprawnego wyniku. To pozwala sprawdzić instrukcję na małym fragmencie pracy, zanim agent dostanie większy zakres.

Jakie uprawnienia nadać na początek?

Przyznaj dostęp potrzebny do konkretnego zadania. Odczyt określonego folderu, możliwość utworzenia szkicu i możliwość publikacji powinny być osobnymi decyzjami. Narzędzia i konta organizuj tak, aby ten podział istniał również technicznie.

Zapisz zakres czasowy i właściciela dostępu. Po zakończeniu próby sprawdź, które połączenia pozostały aktywne. Jeśli narzędzie daje szerokie uprawnienia, a zadanie wymaga wąskich, ten rozdźwięk powinien być widoczny w ocenie przed uruchomieniem.

Na etapie próbnym użyj materiałów testowych lub danych dopuszczonych do takiej pracy. Przygotuj sytuację, w której agent napotka brak informacji. Powinien umieć pokazać lukę, zamiast dopowiadać brakującą kwotę, nazwę albo nazwisko.

Kiedy człowiek powinien zatwierdzić działanie?

Ustal punkty kontroli według skutku. Odczyt publicznej strony i przygotowanie tabeli zwykle wymagają innego nadzoru niż przelew, usunięcie pliku czy wysłanie oferty. Przy działaniach zewnętrznych człowiek powinien zobaczyć konkretny rezultat: treść, adresata, kwotę lub listę zmian.

Ogólna zgoda na „obsługę klienta” nie wyjaśnia, czy agent może przyznać zwrot albo obiecać nowy termin. Zapisz te uprawnienia oddzielnie. Określ też, co wymaga ponownego zatwierdzenia po zmianie treści lub warunków.

• Przed wysyłką pokaż gotową wiadomość i odbiorców.
• Przed publikacją pokaż docelowy adres oraz wersję materiału.
• Przed zmianą danych pokaż zakres i sposób odtworzenia poprzedniego stanu.
• Po wykonaniu zachowaj potwierdzenie z systemu, w którym zaszło działanie.

Ostatni punkt jest ważny. Komunikat agenta „gotowe” to deklaracja. Numer operacji, status w aplikacji albo sprawdzony adres opublikowanej strony stanowią dowód, który można ocenić niezależnie.

Co zrobić z poleceniami znalezionymi w dokumentach?

Przeczytana strona lub załącznik mogą zawierać tekst przypominający instrukcję dla agenta. Traktuj go jako treść źródła. Dokument dostawcy nie powinien sam nadawać uprawnień do wysyłania firmowych plików czy zmiany zasad zadania.

W próbie uwzględnij także takie przypadki. Umieść w dokumencie testowym prośbę o wykonanie czynności poza zakresem i sprawdź, jak system zareaguje. Zweryfikuj ograniczenia po stronie narzędzi, bo sama instrukcja dla modelu może nie wystarczyć. Taki sprawdzian obcych instrukcji w dokumencie połącz z kontrolą rzeczywistych granic plików i sieci w piaskownicy, jeżeli agent korzysta z wydzielonego środowiska.

Warto prowadzić zapis działań, ale również ograniczyć zawartość dzienników. Do wykrycia błędu często potrzebujesz identyfikatora dokumentu i rodzaju operacji. Kopiowanie całej poufnej treści do kolejnego systemu tworzy dodatkowy obieg danych.

Jak rozpisać granice na jednej karcie zadania?

Przykład roboczy: agent ma przygotować szkice odpowiedzi na zapytania o terminy realizacji. Może czytać wybrany rejestr zamówień i utworzyć dokument z propozycjami. Nie otrzymuje prawa do zmiany terminów ani wysyłania wiadomości. Właściciel zadania wskazuje, które pole stanowi potwierdzony termin i co zrobić, gdy jest puste. To propozycja organizacji pracy, nie opis funkcji dostępnej w każdym produkcie.

Kartę można zapisać w pięciu zdaniach: wybierz rekordy spełniające określony warunek; dla każdego podaj źródło; brak oznacz jako brak; gotowe odpowiedzi zachowaj w ustalonym folderze; zakończ listą spraw do decyzji człowieka. Osobno zapisz limit kosztu i czas próby. Gdy zakres wykracza poza te warunki, agent powinien przekazać konkretną przeszkodę zamiast samodzielnie rozszerzać zadanie.

Jeśli przygotowanie źródeł wymaga porządkowania sprzecznych plików, zacznij od architektury wiedzy w firmie. Dobre polecenie nie zastąpi ustalenia, kto odpowiada za rejestr. Przyjętą zasadę wyboru źródła zachowaj w rejestrze decyzji projektowych, żeby następny operator mógł wyjaśnić jej powód.

Co musi zawierać zatwierdzenie gotowej operacji?

Osoba odbierająca potrzebuje kompletnego zestawu: wersji treści, celu, listy odbiorców oraz skutku działania. Jeżeli człowiek zaakceptował jedną wiadomość, a narzędzie następnie dodało załącznik lub zmieniło adresata, pierwotne zatwierdzenie nie opisuje już tego samego rezultatu. Sposób wymuszenia ponownej kontroli trzeba sprawdzić w używanej integracji.

Dla zmian zbiorczych pokaż podsumowanie zakresu oraz możliwość obejrzenia poszczególnych pozycji. Zapis „popraw 80 rekordów” nie wystarcza, jeżeli nie wiadomo, które pola zostaną zastąpione. W próbie porównaj stan przed operacją i po niej. Potwierdzenie ma pochodzić z docelowego systemu, a nie wyłącznie z podsumowania rozmowy. Gdy operację wykonuje agent AI w przeglądarce, rozdziel zatwierdzony zamiar, kliknięcie oraz potwierdzony stan w aplikacji docelowej.

Przy kodzie lub wdrożeniu wymagaj wskazania wersji i wyniku odpowiednich sprawdzeń. Odbiór kodu, dostępów i poufności po pracy agentów porządkuje materiały, które powinny pozostać po zakończeniu zadania. Zatwierdzenie publikacji warto połączyć z konkretnym adresem i sprawdzonym działaniem.

Jak sprawdzić ponowienie po błędzie narzędzia?

Przygotuj sytuację, w której narzędzie wykonało czynność, lecz agent nie otrzymał potwierdzenia. Bez kontroli ponowienie może utworzyć duplikat. Właściwy sposób zabezpieczenia zależy od systemu: może to być identyfikator operacji, odczyt statusu albo ręczne rozstrzygnięcie. Nie zakładaj, że każda integracja sama rozpoznaje powtórzenia.

W scenariuszu testowym oczekuj komunikatu o nieznanym wyniku i sprawdzenia stanu przed następną próbą. Inny przypadek to pewna odmowa dostępu, przy której operacja w ogóle się nie rozpoczęła. Rozdzielenie tych sytuacji ułatwia ocenę błędu i zapobiega nadawaniu szerszych uprawnień wyłącznie po to, by uciszyć komunikat.

Co zrobić po przekazaniu zadania innemu człowiekowi?

Przekaż stan pracy, a nie sam zapis rozmowy. Potrzebne są gotowe materiały, rzeczywiście wykonane czynności, operacje oczekujące na decyzję i nierozstrzygnięte błędy. Wskaż też aktywne połączenia wraz z ich właścicielami i planem zakończenia dostępu. Taki pakiet pozwala przerwać sesję bez utraty kontroli.

Przed stałym użyciem porównaj zachowanie z ustaloną kartą i zachowaj przypadki niepowodzeń. Jeżeli operator musi po każdej próbie ręcznie odtwarzać historię, uprość zakres. Dobrze ograniczony agent może wykonać mniejsze zadanie, które zespół potrafi samodzielnie sprawdzić i powtórzyć.

Opis zadania sprawdź również od strony technicznej: jakie konta i integracje pozwalają je wykonać oraz czy uprawnienia nie wykraczają poza zakres pracy. Pomaga w tym przegląd uprawnień integracji AI. Przed uruchomieniem przygotuj też operacyjną ścieżkę reakcji na incydent danych, z właścicielem zgłoszenia, zachowaniem dowodów i kontrolą wstrzymania dostępu.

Jak sprawdzić, czy obieg pracy działa?

Przygotuj zestaw przykładów: poprawne zadanie, sprzeczne źródła, brak uprawnień, niedostępne narzędzie i prośba o działanie poza zakresem. Z góry opisz oczekiwane zachowanie. Po zmianie modelu, instrukcji lub integracji powtórz odpowiednie sprawdzenia.

NIST porządkuje zarządzanie ryzykiem AI w cztery funkcje: Govern, Map, Measure i Manage, czyli ustalanie odpowiedzialności, rozpoznanie kontekstu, pomiar oraz działanie wobec ryzyka. To przydatna rama do zadawania pytań o cały cykl pracy. Nie stanowi certyfikatu zgodności. Szczegóły opisuje NIST AI Risk Management Framework.

Na koniec wskaż osobę, która zatrzymuje obieg i zbiera zgłoszenia o błędach. Ustal, jak wyłączyć połączenia oraz wrócić do ręcznej pracy. Wówczas próba ma wyraźny początek, mierzalny wynik i drogę odwrotu. Osobno zaplanuj wycofanie automatyzacji bez pozostawionych zadań, aby zakończenie użycia objęło również czynności oczekujące.

Takie zasady warto połączyć z inwentaryzacją narzędzi AI. Jeśli potrzebujesz prześwietlić dostęp, dane i odpowiedzialność w firmie, zobacz ofertę Aeneia Audit.

Przed rozszerzeniem zastosowania zaplanuj pilotaż AI z wynikami odniesienia. Drogę materiałów opisz w rejestrze przepływu danych, żeby zakres dostępu dało się sprawdzić poza samą instrukcją.

Granice działania przełóż na konkretny moment zatwierdzenia przez człowieka. Osoba akceptująca powinna widzieć gotową czynność, odbiorcę i istotny skutek. Sam przycisk „OK” nie daje dobrej kontroli, jeżeli nie wiadomo, na co właśnie wyrażono zgodę.