Generatywna AI przestała być eksperymentem — kolejnym etapem są agenci AI, którzy nie tylko tworzą treści, ale samodzielnie działają w systemach firmy. Great Gu, globalny CISO GenScript, wyjaśnia na łamach Financier Worldwide, dlaczego dotychczasowe modele nadzoru nad AI przestają wystarczać.
Wdrażasz agentów AI? Odpowiedz na 4 pytania:
Wstęp
W sierpniowym wydaniu Financier Worldwide (Issue 284) Great Gu, globalny Chief Information Security Officer firmy biotechnologicznej GenScript, publikuje analizę, która powinna trafić na biurko każdego menedżera odpowiedzialnego za wdrożenia AI. Jej teza jest prosta: generatywna sztuczna inteligencja przeszła z fazy eksperymentów do głównego nurtu biznesu, a następny etap ewolucji — agenci AI — fundamentalnie zmienia krajobraz ryzyka organizacyjnego.
Publikacja podkreśla, że AI nie ogranicza się już do redagowania e-maili czy streszczania dokumentów. Jest osadzona w obsłudze klienta, rozwoju oprogramowania, przeglądach regulacyjnych, operacjach cyberbezpieczeństwa i automatyzacji procesów. Dla audytorów i menedżerów systemów zarządzania oznacza to konieczność przemyślenia na nowo, czym właściwie jest nadzór nad technologią, która zaczyna działać, a nie tylko odpowiadać.
Główna tematyka artykułu źródłowego
Od generowania treści do działania: nowa klasa ryzyka
Autor wskazuje kluczową różnicę: klasyczne narzędzia genAI produkują treść, natomiast agenci AI pobierają informacje, obsługują aplikacje, wykonują całe workflow i podejmują decyzje w zadanych granicach. W praktyce zaczynają funkcjonować jak „cyfrowi pracownicy” działający obok ludzi.
Gdy organizacje wdrażały pierwsze narzędzia generatywne, obawy koncentrowały się na wycieku danych, niedokładnych odpowiedziach i nadużyciach pracowników. Te ryzyka pozostają aktualne — argumentuje autor — ale autonomiczni agenci otwierają zupełnie nowy zestaw pytań: do jakich systemów agent ma dostęp, jakie działania może wykonać, ile autonomii powinien otrzymać i kto ponosi odpowiedzialność, gdy działanie AI wywoła niezamierzone skutki. Te pytania wykraczają daleko poza cyberbezpieczeństwo — sytuują się na przecięciu governance, prywatności, compliance, ryzyka prawnego i odporności operacyjnej.
Widoczność jako pierwszy warunek nadzoru
Publikacja diagnozuje fundamentalny problem: mimo rosnących inwestycji w AI governance wiele organizacji nie wie, gdzie AI jest w ogóle używana. Pracownicy sięgają po publiczne narzędzia, działy biznesowe kupują platformy SaaS z wbudowaną AI, zespoły deweloperskie integrują modele językowe z aplikacjami, a dostawcy dokładają funkcje AI do istniejących produktów. Zjawisko shadow AI sprawia, że technologia rozprzestrzenia się szybciej, niż procesy nadzoru są w stanie nadążyć.
Odpowiedzią, według źródła, jest firmowy inwentarz AI: gdzie AI działa, kto jest właścicielem rozwiązania, jakie dane przetwarza, z jakimi systemami się łączy i jak jego wyniki wpływają na decyzje biznesowe. Widoczność nie jest ćwiczeniem administracyjnym — jest warunkiem wstępnym skutecznego governance.
Nie każde AI wymaga tych samych kontroli
Jednym z najczęstszych błędów — wskazuje artykuł — jest traktowanie wszystkich systemów AI tak, jakby niosły identyczne ryzyko. Asystent pisarski wspierający komunikację wewnętrzną ma zupełnie inny profil ryzyka niż autonomiczny agent aktualizujący rekordy klientów, inicjujący transakcje finansowe czy wpływający na decyzje kliniczne.
Autor postuluje podejście risk-based, oparte na pięciu wymiarach oceny: wrażliwości danych, poziomie autonomii, wpływie biznesowym, ekspozycji regulacyjnej i zależności od dostawców zewnętrznych. Z chwilą, gdy system może podejmować działania, a nie tylko formułować rekomendacje, oczekiwania wobec nadzoru muszą ewoluować.
Agenci jako cyfrowi pracownicy: tożsamość, dostęp, nadzór człowieka
Publikacja proponuje zmianę perspektywy: agentów AI należy traktować nie jak aplikacje, lecz jak cyfrowych pracowników — z przypisanymi obowiązkami, właścicielem, zatwierdzonym zakresem działania i udokumentowanymi uprawnieniami. Każdy agent powinien mieć unikalną tożsamość, kontrolowane poświadczenia i uprawnienia oparte na rolach. Autor ostrzega, że agent z szerokim dostępem do systemów staje się de facto uprzywilejowanym użytkownikiem cyfrowym, którego ekspozycja może przekraczać ryzyko wielu kont ludzkich — a nadmierne uprawnienia dostępowe bywają w praktyce większym zagrożeniem niż samo zachowanie modelu.
Równolegle źródło akcentuje audytowalność i nadzór człowieka: rejestrowanie instrukcji, systemów, działań, zgód i rezultatów oraz rozróżnienie systemów rekomendujących od wykonujących. Działania wysokiego wpływu — zobowiązania prawne, transakcje finansowe, dane osobowe, skutki dla klientów — powinny pozostać pod ludzką kontrolą. Dojrzały governance zakłada też, że awarie nastąpią: limity transakcyjne, progi akceptacji, procedury eskalacji, rollback i awaryjne wyłączenie. Celem nie jest eliminacja autonomii, lecz zapewnienie jej kontrolowalności.
Perspektywa norm ISO
ISO/IEC 42001:2023 — od zasad do audytowalnego systemu
Co istotne, źródło samo wskazuje drogę operacjonalizacji: obok NIST AI RMF przywołuje wprost ISO/IEC 42001 jako ramę, której wartość polega na przekładaniu abstrakcyjnych zasad governance na mierzalne kontrole, zdefiniowane odpowiedzialności i audytowalne procesy. Autor konkluduje: „AI governance is becoming a core business capability rather than a voluntary exercise.”
Postulaty artykułu znajdują bezpośrednie odzwierciedlenie w wymaganiach normy — pierwszego certyfikowalnego standardu systemu zarządzania AI. Podejście risk-based operacjonalizują klauzule 6.1.2 (ocena ryzyka AI) i 6.1.4 (ocena wpływu systemu AI na jednostki i społeczeństwa), a klauzule 8.2 i 8.4 wymagają powtarzania tych ocen w planowanych odstępach i przy istotnych zmianach — co odpowiada postulatowi ciągłej kontrolowalności autonomii. Pytanie autora „kto jest odpowiedzialny” adresuje kontrola A.3 (role i odpowiedzialności), inwentarz AI — kontrole cyklu życia A.6, a zależność od dostawców — A.10 (relacje z trzecimi stronami). Tło regulacyjne wzmacnia unijny AI Act, który — jak zauważa publikacja — nakłada obowiązki nie tylko na dostawców, ale i na organizacje wdrażające systemy AI. Certyfikowany system zarządzania AI staje się dla deployera naturalnym dowodem należytej staranności.
ISO/IEC 23894:2023 — metodyka oceny ryzyka AI
Pięć wymiarów oceny ryzyka postulowanych przez autora to w istocie metodyka, którą systematyzuje ISO/IEC 23894 — wytyczne zarządzania ryzykiem AI rozszerzające klasyczną ramę ISO 31000 o specyfikę systemów uczących się. Sama norma ISO 42001 odsyła do 23894 jako wytycznych implementacyjnych dla procesu oceny ryzyka, co tworzy spójny łańcuch: artykuł diagnozuje potrzebę różnicowania kontroli, 23894 dostarcza metodyki, a 42001 osadza ją w certyfikowalnym systemie.
ISO/IEC 27001:2022 — tożsamość i dostęp agentów
Postulat traktowania agentów jako non-human identities ma gotowe oprzyrządowanie w Annex A normy ISO/IEC 27001: kontrole 5.15 i 5.18 (kontrola dostępu i zarządzanie prawami dostępu według zasady least privilege), 8.2 (uprzywilejowane prawa dostępu — wprost odpowiadająca ostrzeżeniu autora o agencie jako „privileged digital user”) oraz 8.15 i 8.16 (logowanie i monitorowanie), które operacjonalizują wymóg rejestrowania działań agentów. Organizacje z wdrożonym systemem bezpieczeństwa informacji mają więc fundament, na którym governance agentów można nadbudować.
Praktyczne implikacje
Synteza tez źródła i wymagań normatywnych układa się w wykonalną sekwencję działań:
- Zbuduj inwentarz AI — zmapuj wszystkie systemy AI (także shadow AI): właściciel, dane, integracje, wpływ na decyzje (ISO 42001: A.6).
- Sklasyfikuj systemy według ryzyka — zastosuj pięć wymiarów oceny z artykułu w procesie zgodnym z klauzulą 6.1.2 i metodyką ISO 23894; oddziel systemy rekomendujące od wykonujących.
- Nadaj agentom tożsamość — unikalne konta, właściciel, uprawnienia role-based, zakaz współdzielonych poświadczeń (ISO 27001: 5.15, 5.18, 8.2).
- Zapewnij audytowalność — loguj instrukcje, dostępy, działania i zgody (ISO 27001: 8.15–8.16); działania wysokiego wpływu obejmij human review.
- Zaprojektuj mechanizmy awaryjne — limity, progi akceptacji, rollback, awaryjne wyłączenie; testuj je jak mechanizmy ciągłości działania.
- Przeglądaj cyklicznie — oceny ryzyka i wpływu w planowanych odstępach oraz przy każdej istotnej zmianie zakresu autonomii agenta (ISO 42001: 8.2, 8.4).
Podsumowanie
Analiza Great Gu przekonuje, że o kolejnej fazie enterprise AI nie zadecyduje liczba wdrożonych modeli ani agentów, lecz zdolność organizacji do odpowiedzialnego, przejrzystego i trwałego zarządzania tymi możliwościami. Słabe governance prowadzi albo do paraliżu ostrożnościowego, albo do niezarządzanej ekspozycji — dojrzałe pozwala podejmować decyzje szybciej i pewniej. W tej perspektywie certyfikowany system zarządzania AI według ISO/IEC 42001 przestaje być formalnością, a staje się tym, co autor nazywa kluczowym czynnikiem sukcesu: infrastrukturą zaufania. Jeśli Twoja organizacja wdraża agentów AI, porozmawiajmy o audycie i certyfikacji.
FAQ: Agenci Ai w organizacji
Klasyczne narzędzia genAI generują treść — teksty, streszczenia, kod — na polecenie człowieka. Agenci AI idą dalej: pobierają informacje, obsługują aplikacje, wykonują całe workflow i podejmują decyzje w zadanych granicach. W praktyce funkcjonują jak cyfrowi pracownicy działający w systemach organizacji, co fundamentalnie zmienia profil ryzyka i wymagania wobec nadzoru.
Shadow AI to wykorzystanie narzędzi sztucznej inteligencji poza wiedzą i kontrolą organizacji — pracownicy sięgają po publiczne narzędzia, działy kupują oprogramowanie SaaS z wbudowaną AI, a dostawcy dokładają funkcje AI do istniejących produktów. Skutkiem może być przetwarzanie wrażliwych danych w niezatwierdzonych narzędziach i uzależnienie decyzji biznesowych od modeli trzecich stron bez formalnego przeglądu. Pierwszym krokiem zaradczym jest firmowy inwentarz AI.
ISO/IEC 42001:2023 to pierwszy certyfikowalny standard systemu zarządzania AI. Wymaga m.in. procesu oceny ryzyka AI (klauzula 6.1.2), oceny wpływu systemu AI na ludzi i społeczeństwa (6.1.4), powtarzania tych ocen przy istotnych zmianach (8.2, 8.4) oraz przypisania ról i odpowiedzialności (kontrola A.3). Dzięki temu abstrakcyjne zasady governance zamieniają się w mierzalne kontrole i audytowalne procesy.
Tak. AI Act nakłada obowiązki nie tylko na dostawców systemów AI, ale również na deployerów — organizacje wdrażające systemy AI we własnych operacjach biznesowych. Dla przedsiębiorstw międzynarodowych oznacza to konieczność uporządkowania nadzoru nad usługami AI, platformami stron trzecich i transgranicznymi przepływami danych. Certyfikowany system zarządzania AI ułatwia wykazanie należytej staranności.
Dojrzały governance zakłada, że awarie nastąpią. Praktyczne zabezpieczenia obejmują: limity transakcyjne, progi akceptacji, procedury eskalacji, możliwość wycofania zmian (rollback) oraz mechanizm awaryjnego wyłączenia. Celem nie jest eliminacja autonomii agenta, lecz zapewnienie, że pozostaje ona kontrolowalna — organizacja musi móc interweniować, gdy zachowanie systemu odbiega od oczekiwań.
Bibliografia:
- Great Gu. „From generative AI to agents: why enterprise AI governance must evolve”. Financier Worldwide, Issue 284, August 2026, s. 95–98. www.financierworldwide.com
- ISO/IEC 42001:2023. Information technology — Artificial intelligence — Management system. iso.org/standard/81230.html
- ISO/IEC 23894:2023. Information technology — Artificial intelligence — Guidance on risk management. iso.org/standard/77304.html
- ISO/IEC 27001:2022. Information security, cybersecurity and privacy protection — Information security management systems — Requirements. iso.org/standard/27001
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 (Akt w sprawie sztucznej inteligencji). eur-lex.europa.eu
Ekspert w zakresie systemów zarządzania ISO, cyberbezpieczeństwa, compliance i AI governance. Audytor, konsultant, trener.