...

Bezpieczna współpraca z dostawcami AI

Picture of Dariusz Rycek

Dariusz Rycek

CEO, MBA, Lead Auditor ISMS, BCMS (CoC PECB), Ekspert w zakresie certyfikacji systemów zarządzania, QSCert Lead Auditor - ISO/IEC 27001, ISO 22301, i innych standardów.

Sztuczna inteligencja przyspiesza innowacje, ale jednocześnie wprowadza nowe ryzyka operacyjne i regulacyjne. Zobacz, jak bezpiecznie współpracować z dostawcami AI, wykorzystując podejście zero trust oraz normy ISO/IEC 27001, 22301 i 42001.

Bezpieczna współpraca z dostawcami AI

Dlaczego dostawcy AI stają się nowym krytycznym ryzykiem biznesowym

Organizacje stoją dziś przed podwójnym wyzwaniem: z jednej strony presja innowacyjności wymusza szybkie wdrażanie narzędzi opartych na AI, z drugiej – rośnie skala ryzyk wynikających z zależności od zewnętrznych dostawców technologii. AI, szczególnie w modelu SaaS, realnie poszerza granice systemów zarządzania i bezpieczeństwa.

Historia incydentów bezpieczeństwa pokazuje jasno: ryzyko dostawcy bardzo szybko staje się ryzykiem organizacji. W przypadku rozwiązań AI problem jest jeszcze bardziej złożony – obejmuje bowiem nie tylko infrastrukturę IT, ale również dane treningowe, modele, interfejsy API i decyzje algorytmiczne.

AI a rozszerzona powierzchnia ataku organizacji

Narzędzia AI nie są klasycznym oprogramowaniem. Przetwarzają dane, uczą się na ich podstawie, często korzystają z infrastruktury wielochmurowej i komunikują się przez API. Każdy z tych elementów generuje nowe ryzyka:

  • niekontrolowane wykorzystanie danych,

  • brak separacji środowisk klientów,

  • niewystarczające mechanizmy kontroli dostępu,

  • niejasne zasady retencji i ponownego wykorzystania informacji.

To właśnie dlatego coraz więcej organizacji zaczyna traktować dostawców AI jak element krytycznej infrastruktury, a nie zwykłe narzędzie produktywności.

Ramy oceny i nadzoru nad dostawcami AI

1. Tożsamość i kontrola dostępu

Podstawą jest weryfikacja, czy dostawca AI oferuje:

  • integrację SSO,

  • MFA,

  • role i uprawnienia zgodne z zasadą najmniejszych uprawnień,

  • szybkie odbieranie dostępów (offboarding).

Brak tych mechanizmów to jedno z najczęstszych „czerwonych świateł” w ocenie dostawców AI.

2. Praktyki bezpieczeństwa i certyfikacje

Dojrzały dostawca AI powinien wykazać:

  • udokumentowany system zarządzania bezpieczeństwem informacji,

  • testy penetracyjne i skanowanie podatności,

  • procedury reagowania na incydenty,

  • przejrzystość w zakresie architektury i przetwarzania danych.

Certyfikacje takie jak ISO/IEC 27001 czy raporty SOC 2 nie eliminują ryzyka, ale znacząco podnoszą poziom zaufania i audytowalności.

Cyberrisk, ISO 27001, ISO 42001

Zero Trust jako fundament relacji z dostawcami AI

Podejście zero trust w relacjach z dostawcami AI oznacza jedno: brak domyślnego zaufania. Każde połączenie, każde zapytanie API i każdy dostęp do danych powinny być:

  • uwierzytelnione,

  • autoryzowane,

  • monitorowane.

Dodatkowo relacja z dostawcą AI nie może kończyć się na etapie wdrożenia. Niezbędne są:

  • okresowe przeglądy bezpieczeństwa,

  • monitorowanie zmian w profilu ryzyka dostawcy,

  • jasno zdefiniowane procedury zakończenia współpracy.

 

Powiązanie z normami ISO i systemami zarządzania

Opisane podejście naturalnie wpisuje się w wymagania:

Dostawcy AI powinni być traktowani jako istotne strony zainteresowane oraz źródło ryzyk, które podlegają identyfikacji, ocenie i nadzorowi w ramach ZSZ.

ISO 27001, ISO 42001

Rola ISO/IEC 42001 w zarządzaniu dostawcami AI

Ai Innowacja, Safety AI

ISO/IEC 42001 jako brakujące ogniwo w nadzorze nad dostawcami AI

W kontekście współpracy z zewnętrznymi dostawcami AI szczególnego znaczenia nabiera norma ISO/IEC 42001:2023 – Artificial Intelligence Management System (AIMS). Standard ten wprowadza systemowe podejście do zarządzania AI w całym jej cyklu życia – od projektowania i pozyskania, przez eksploatację, aż po wycofanie.

ISO/IEC 42001 nie zastępuje ISO/IEC 27001 ani ISO 22301, lecz rozszerza je o perspektywę specyficznych ryzyk AI, takich jak:

  • niezamierzone skutki działania modeli,
  • brak przejrzystości algorytmów,
  • zależność od danych dostarczanych przez podmioty trzecie,
  • ryzyko nadużyć, błędów decyzyjnych i naruszeń praw interesariuszy.

W praktyce oznacza to, że dostawca AI staje się elementem systemu zarządzania AI organizacji, a nie jedynie podmiotem zewnętrznym.

Dostawcy AI jako strony zainteresowane w AIMS

ISO/IEC 42001 kładzie silny nacisk na:

  • kontekst organizacji,
  • identyfikację stron zainteresowanych,
  • określenie ról, odpowiedzialności i nadzoru nad AI.

Dostawcy AI – zwłaszcza oferujący modele, platformy lub usługi przetwarzające dane organizacji – powinni być jednoznacznie ujęci jako:

  • zewnętrzne źródła ryzyka AI,
  • podmioty wpływające na realizację celów AIMS,
  • element łańcucha odpowiedzialności za decyzje wspierane przez AI.

To podejście wzmacnia wcześniej opisane praktyki third party risk management i nadaje im ramy zarządcze zgodne z międzynarodowym standardem.

ISO/IEC 42001 a zero trust i ciągły nadzór nad AI

Jednym z kluczowych założeń ISO/IEC 42001 jest ciągłe monitorowanie i doskonalenie systemu zarządzania AI. W relacji z dostawcami oznacza to:

  • cykliczną ocenę ryzyk związanych z usługą AI,
  • monitorowanie zmian w modelach, danych i architekturze,
  • jasno określone kryteria akceptowalnego ryzyka AI,
  • gotowość do ograniczenia lub zakończenia współpracy.

W tym sensie ISO/IEC 42001 naturalnie wspiera podejście zero trust wobec AI, przenosząc je z poziomu technicznego na poziom zarządczy i decyzyjny.

Spójność ISO/IEC 42001 z ISO/IEC 27001 i ISO 22301

W dojrzałym systemie zarządzania normy te powinny działać łącznie:

  • ISO/IEC 27001 – chroni informacje i dostęp,
  • ISO 22301 – zapewnia odporność operacyjną,
  • ISO/IEC 42001 – zarządza ryzykiem, wpływem i odpowiedzialnością AI.

Dzięki temu organizacja nie tylko „zabezpiecza AI”, ale świadomie nią zarządza, również wtedy, gdy AI pochodzi od zewnętrznych partnerów.

ISO 42001, Dostawcy AI, ISO 27001, ISO 22301

Podsumowanie: innowacja tak – naiwność nie

AI może być ogromnym katalizatorem rozwoju, ale tylko wtedy, gdy towarzyszy mu dojrzałe zarządzanie ryzykiem dostawców. Organizacje, które wdrażają AI bez oceny bezpieczeństwa partnerów, powtarzają błędy sprzed lat – tylko w nowej, bardziej złożonej skali.

Bezpieczna współpraca z dostawcami AI to dziś nie przewaga – to warunek odpowiedzialnego zarządzania.

FAQ: Bezpieczna współpraca z dostawcami AI

Nie, ale każdy dostawca AI generuje ryzyko, które powinno zostać świadomie ocenione i zarządzane.

Nie. Certyfikat jest ważnym sygnałem dojrzałości, ale nie zastępuje analizy kontekstu i zakresu usługi.

Jeżeli przetwarza dane wrażliwe lub wspiera procesy kluczowe – zdecydowanie tak.

Minimum raz w roku lub po każdej istotnej zmianie usługi, architektury lub modelu biznesowego.

Tak – poprzez segmentację, kontrolę API, monitoring i zasadę najmniejszych uprawnień.

Bibliografia:

  1. Risk & Compliance Magazine. Securing AI Vendor Partnerships Without Compromising Operational Security 

  2. ISO/IEC. ISO/IEC 42001:2023 — Information technology — Artificial intelligence — Management system (AIMS). https://www.iso.org/standard/42001 

  3. ISO. ISO/IEC 27001:2022 — Information security management systems (opis standardu na ISO.org). ISO

  4. ISO. ISO 22301:2019 — Business continuity management systems (opis standardu na ISO.org). ISO

  5. NIST. Artificial Intelligence Risk Management Framework (AI RMF 1.0) (PDF). NIST Publications

  6. NIST. AI Risk Management Framework – strona programu / kontekst wdrożeniowy.

Przewijanie do góry