Skip to content 
Kolejna dobra książka
Tym razem coś do czytania z zakresu nowych technologii i to jeszcze pod kątem bezpieczeństwa. Przy tym nawale ciekawych publikacji książka przeszła by niezauważona, bo wydana już prawie pół roku temu, gdyby nie nasz mentor z zakresu AI z firmy Cycommsec. A jak on coś poleci, to musi to być na odpowiednim poziomie.
Książka „Generative AI Security: Theories and Practices” (pol. „Bezpieczeństwo Sztucznej Inteligencji Generatywnej: Teorie i Praktyki”) jest kompleksowym przewodnikiem dotyczącym bezpieczeństwa technologii generatywnej sztucznej inteligencji (GenAI). Omawia zagrożenia i wyzwania związane z tą nową dziedziną, a także oferuje teoretyczne i praktyczne rozwiązania dotyczące ochrony systemów opartych na sztucznej inteligencji generatywnej.
O czym jest książka?
Książka składa się z trzech głównych części. Pierwsza część opisuje fundamenty generatywnej sztucznej inteligencji, jej rozwój oraz najnowsze innowacje technologiczne, takie jak architektury transformerów czy modele dyfuzyjne. Druga część skupia się na strategiach zabezpieczeń, politykach regulacyjnych oraz najlepszych praktykach w zakresie ochrony danych, modeli oraz aplikacji związanych z GenAI. Trzecia część obejmuje operacjonalizację bezpieczeństwa GenAI, w tym narzędzia i procesy związane z LLMOps (zarządzaniem dużymi modelami językowymi), inżynierią promptów oraz technologiami zwiększającymi poziom zabezpieczeń cybernetycznych.
Dlaczego warto ją przeczytać?
- Praktyczne porady: Książka oferuje konkretne wskazówki, jak bezpiecznie wdrażać systemy GenAI, minimalizując ryzyko związane z cyberatakami, takimi jak ataki na modele czy manipulacje danymi treningowymi.
- Nowatorskie rozwiązania: Przedstawia najnowsze techniki bezpieczeństwa, takie jak kryptografia kwantowa, blockchain w ochronie modeli oraz reinforcement learning z ludzką opinią.
- Globalna perspektywa: Omawia regulacje dotyczące sztucznej inteligencji na całym świecie, w tym działania UE, USA, Chin i innych krajów, co pozwala zrozumieć, jakie są międzynarodowe wymagania w zakresie bezpieczeństwa AI.
- Zarządzanie ryzykiem: Publikacja stanowi wsparcie dla liderów biznesowych i specjalistów ds. bezpieczeństwa w budowaniu skutecznych programów zabezpieczających systemy GenAI, zapewniając odporność na ataki i zgodność z przepisami.
- Innowacyjne narzędzia: Opisuje narzędzia i platformy, które mogą wspomóc w zabezpieczaniu systemów GenAI, takie jak MLFlow, Skyflow czy Microsoft Security Copilot.
Dzięki tym elementom książka jest niezastąpionym źródłem wiedzy dla osób zajmujących się sztuczną inteligencją, bezpieczeństwem oraz wdrażaniem technologii przyszłości w sposób odpowiedzialny i bezpieczny. Tak więc czy to dla tych którzy zgłębiają ISO/IEC 42001, czy też tych którzy na uwadze mają ISO/IEC 27001.
Zapraszamy do współpracy
Zespół Centre of Excellence & QSCert
Bibliografia:
- Generative AI Security: Theories and Practices (Future of Business and Finance) by Ken Huang (Editor), Yang Wang (Editor), Ben Goertzel (Editor), Yale Li (Editor), Sean Wright (Editor), & 1 more Format: Kindle Edition, ASIN : B0CTLJ9BD4, Publisher : Springer (5 April 2024), link