Model dojrzałości agentów AI w firmie: od pilotażu do produkcji
Model dojrzałości agentów AI w firmie ocenia zakres działań bez człowieka i dowody, że firma ten zakres kontroluje. Propozycja bez walidacji: cztery poziomy z kryteriami przejścia dla każdego agenta.
Dla: CTO, architekci, szefowie IT i bezpieczeństwa, właściciele procesów z agentami AI · Stan na 02.11.2026 · Autor: Karol Krawczyk
Ile firm ma dojrzały nadzór nad agentami AI?
Deloitte w raporcie State of AI in the Enterprise ze stycznia 2026 i w artykule z 24 kwietnia 2026 podaje, że dojrzały model nadzoru nad agentami AI ma tylko 21% badanych firm. Próba to 3235 liderów IT i biznesu z 24 krajów, zaangażowanych w programy AI swoich firm, a ankietę przeprowadzono w sierpniu i wrześniu 2025. Nowsza edycja badania, z maja i czerwca 2026, ma inną próbę: 3500 liderów od poziomu dyrektora do zarządu z 25 krajów. W raporcie i komunikacie z 29 października 2026 Deloitte podaje, że 40% wszystkich badanych firm pozwala AI wykonywać decyzje bez akceptacji człowieka co najmniej w umiarkowanym stopniu, a 23% uznaje odpowiedzialność za negatywny skutek za niejasną. Tych odsetków nie wolno czytać razem z 21%, bo pochodzą z innej edycji badania.
LangChain, producent narzędzi do budowy agentów, zebrał 1340 odpowiedzi na przełomie listopada i grudnia 2025. W tej grupie 57,3% ma agenty w produkcji, a blisko 89% jakąś formę observability, czyli podglądu tego, co agent robi krok po kroku. Evals, czyli testy jakości, wypadają słabiej: offline, na stałym zbiorze zadań, prowadzi je 52,4% badanych, online, na ruchu produkcyjnym, 37,3%. Wśród firm z agentami w produkcji ten drugi odsetek rośnie do 44,8%. Najczęściej wskazywana bariera to jakość (32%). Ankieta była publiczna, 63% odpowiadających pracuje w technologii, a 49% w firmach poniżej 100 osób, więc dużej polskiej organizacji tych proporcji nie da się przypisać wprost.
Wniosek tego tekstu, nie wynik żadnego z badań: agenta da się uruchomić i podejrzeć, a znacznie trudniej powiedzieć, czy po zmianie działa równie dobrze i kto odpowiada za jego błąd.
Cztery poziomy uprawnień agenta AI
Model czterech poziomów uprawnień agenta to propozycja tego tekstu, nie standard branżowy, i nie przeszedł walidacji w żadnym badaniu. Microsoft publikuje własny Agentic AI maturity model z poziomami od 100 do 500, który ocenia organizację: nadzór, bezpieczeństwo, operacje. Tutaj oceniany jest pojedynczy agent w konkretnym zakresie zadań, bo, w przykładzie ilustracyjnym, jedna firma może mieć asystenta do notatek na poziomie 4 i agenta księgowego na poziomie 2. Microsoft też zauważa, że poziom zależy od krytyczności agenta.
Podział opiera się na jednym pytaniu: co się stanie, jeśli agent się pomyli i nikt tego nie zauważy na czas.
- Poziom 1, piaskownica: dane testowe lub publiczne, brak dostępu do systemów produkcyjnych. Błąd kosztuje czas zespołu.
- Poziom 2, odczyt: agent czyta prawdziwe dane i przygotowuje propozycję, a zmianę w systemie wykonuje człowiek. Błąd to zła rekomendacja albo wyciek, jeśli zakres danych jest za szeroki.
- Poziom 3, zapis z akceptacją: agent uruchamia narzędzia zapisujące, ale każde działanie o skutku poza agentem zatwierdza człowiek. Błąd zatrzymuje się na osobie zatwierdzającej, o ile ta faktycznie czyta.
- Poziom 4, autonomia w wąskim zakresie: agent działa bez akceptacji kroków, w limicie kwot, rekordów i kosztów, a ludzie przeglądają próbkę i wyjątki. Błąd trafia do systemu i wychodzi przy przeglądzie.
Kryteria przejścia między poziomami dojrzałości
W proponowanym modelu z poziomu 1 (piaskownica) na poziom 2 (odczyt) agent AI przechodzi, gdy ma właściciela z imienia i nazwiska, wpis w rejestrze, opisany zakres danych i tożsamość, po której da się przypisać mu działania. Microsoft w Cloud Adoption Framework traktuje rejestr i odrębną tożsamość agenta jako wymóg bazowy, a przy małej skali dopuszcza rejestr prowadzony ręcznie. Do tego dochodzi pierwszy zestaw testów. Anthropic pisze, że 20 do 50 prostych zadań z prawdziwych porażek to dobry start. Ta propozycja przyjmuje tę samą miarę także dla firmy bez zespołu ML.
Przejście z 2 na 3 wymaga w tym modelu najwięcej, bo agent dostaje zapis. Potrzeba pięciu rzeczy: evals regresyjnych uruchamianych przy każdej zmianie promptu, narzędzia lub modelu; śladu każdego wywołania narzędzia z identyfikatorem sesji; narzędzi zapisujących o wąskich uprawnieniach; limitu kroków i kosztu na zadanie; testu ataków przed wdrożeniem. Microsoft zaleca testy adversarialne, w tym prompt injection, przed każdym wydaniem produkcyjnym i po istotnych zmianach. Anthropic rozróżnia evals sprawdzające nowe umiejętności od regresyjnych i dla tych drugich oczekuje wyniku bliskiego 100%. Limit kroków też ma źródło: Anthropic opisuje warunki stopu, na przykład maksymalną liczbę iteracji, jako typowy sposób utrzymania kontroli.
Na poziom 4 agent przechodzi na podstawie danych z poziomu 3. Potrzebny jest zapis, jak często ludzie poprawiali jego decyzje, online evals na żywym ruchu, alerty na koszt i błędy, przećwiczone wyłączenie agenta oraz plan odwracania skutków. Microsoft radzi rozstrzygnąć z wyprzedzeniem, jak szybko wyłączyć agenta, i zachować logi do analizy. Ten tekst celowo nie podaje progu liczbowego. Przykład ilustracyjny, bez danych z badania: u hipotetycznego agenta od zwrotów 2% poprawek mogłoby być do przyjęcia, a u hipotetycznego agenta księgującego faktury już nie. Próg ustala właściciel procesu przed startem pomiaru, nie po obejrzeniu wyników.
Kiedy cofnąć agenta AI o poziom, a kiedy go nie wdrażać
W proponowanym modelu poziom dojrzałości agenta nie jest nadawany na zawsze: zmiana modelu, nowe narzędzie, szersze dane albo incydent cofają agenta o jeden poziom do czasu ponownego przejścia testów. Dostawcy aktualizują modele sami: Microsoft zapowiada regularne zmiany modeli w Copilocie i zapewnia tylko, że nie ruszają one ustawień bezpieczeństwa, prywatności ani zgodności. O stałej jakości odpowiedzi ta deklaracja nie mówi.
Poziom 3 bywa fikcją. Przykład ilustracyjny, liczba nie pochodzi z badania: gdy hipotetyczna osoba zatwierdza czterysta działań dziennie, akceptacja staje się kliknięciem i agent faktycznie pracuje na poziomie 4 bez jego zabezpieczeń. Dlatego do kryteriów poziomu 3 warto dopisać liczbę działań, jaką człowiek jest w stanie przeczytać w ciągu dnia.
Części projektów nie trzeba w ogóle zaczynać. Anthropic radzi szukać najprostszego rozwiązania, co może oznaczać rezygnację z agenta, a do dobrze zdefiniowanych zadań bardziej przewidywalny jest workflow. Microsoft domyślnie zaleca jednego agenta, a wielu dopiero przy granicach bezpieczeństwa, kilku zespołach lub zaplanowanym wzroście, bo każde przekazanie zadania dokłada opóźnienie, koszt i powierzchnię ataku. Procesowi, którego reguły da się zapisać w kodzie, wystarczy zwykła automatyzacja.
Jak ocenić dojrzałość agentów AI w całej firmie?
Dojrzałość organizacji w proponowanym modelu czterech poziomów to najwyższy poziom, dla którego wszystkie jej agenty spełniają kryteria. Ten sposób liczenia jest celowo surowy: jeden agent na poziomie 4 z pominiętymi kontrolami obniża wynik całej firmy, bo to on może stać się źródłem incydentu.
Zacząć trzeba od spisu. Microsoft wymienia brak inwentarza i właścicieli jako problem możliwy na każdym poziomie dojrzałości, obok zasad, które są tylko zaleceniem i nie mają technicznego wymuszenia. To drugie łatwo sprawdzić: dla każdego kryterium wskaż mechanizm, który blokuje naruszenie. Jeśli zostaje tylko dokument, kryterium nie jest spełnione. Microsoft ostrzega też przed nadzorem na pokaz, czyli procedurami, które dodają pracy, a ryzyka nie zmniejszają.
Model opisuje uprawnienia i kontrolę, a pomija wartość biznesową, więc agent spełniający wszystkie kryteria może nadal się nie opłacać. Pomija też obowiązki prawne, które dla systemów wysokiego ryzyka trzeba ocenić osobno. Przy małej skali, kilku agentach do użytku wewnętrznego, Microsoft dopuszcza rejestr prowadzony ręcznie, a przegląd raz na kwartał to propozycja tego tekstu.
Co zrobić w firmie
- Spisz wszystkie agenty w jednym rejestrze: właściciel, cel, platforma, dane, tożsamość, obecny poziom
- Przypisz każdemu agentowi poziom od 1 do 4 według faktycznych uprawnień, nie według deklaracji zespołu
- Zbierz 20 do 50 zadań z prawdziwych błędów i uruchamiaj je przy każdej zmianie promptu, narzędzia lub modelu
- Dla każdego kryterium wskaż mechanizm techniczny, który je wymusza, a brakujące wpisz do planu
- Ustal z właścicielem procesu próg poprawek dla poziomu 4, zanim zaczniesz mierzyć
- Przećwicz wyłączenie jednego agenta i zapisz, ile trwało i kto o nim zdecydował
Powiązane materiały
Źródła
- Deloitte Insights: AI agents scaling faster (wyniki State of AI in the Enterprise 2026)
- Deloitte: State of AI in the Enterprise
- LangChain: State of Agent Engineering
- Microsoft Learn: Agentic AI maturity model, AI governance and security
- Microsoft Learn: Govern and secure AI agents across the organization (Cloud Adoption Framework)
- Microsoft Learn: Choosing between a single-agent or multi-agent system (Cloud Adoption Framework)
- Microsoft Learn: Data, Privacy, and Security for Microsoft Copilot
- Anthropic: Building effective agents
- Anthropic: Demystifying evals for AI agents
- Deloitte: komunikat State of AI in the Enterprise (styczeń 2026, próba 3235)
- Deloitte: Enterprise AI Enters an ROI Reckoning (29 października 2026, próba 3500)
- Deloitte: State of AI in the Enterprise 2026 (PDF, styczeń 2026, N=3235)
- Deloitte: The State of AI in the Enterprise (PDF, październik 2026, N=3500)
Chcesz przełożyć to na swój zespół?
Szkolimy zespoły z pracy z Copilotem, Claude Code i Codexem na ich własnych zadaniach.