Deepfake i zatrute modele AI: banki pod coraz większą presją

Fot. pixabay.comFot. pixabay.com
Źródło zdjęć: © Licencjodawca

Już 83 proc. banków ma trudności z dostosowaniem mechanizmów bezpieczeństwa do tempa wdrażania technologii takich jak generatywna sztuczna inteligencja – wynika z badań Accenture. Jednocześnie 58 proc. konsumentów obawia się sposobu, w jaki banki chronią ich dane osobowe i finansowe. W branży, której działalność bazuje na zaufaniu, danych i ciągłości procesów, sztuczna inteligencja staje się więc nie tylko narzędziem rozwoju, lecz także nowym obszarem odpowiedzialności.

Wiadomo, że banki, firmy ubezpieczeniowe i inne instytucje finansowe od dawna wykorzystują cyfrowe algorytmy do analizy ryzyka, wykrywania nadużyć czy wspierania decyzji inwestycyjnych. Zakres możliwych zastosowań – od przyspieszenia prac programistycznych, przez automatyzację obsługi klienta, po tworzenie spersonalizowanych usług – znacząco rozszerzyła generatywna sztuczna inteligencja.

Jednocześnie jednak wiele podmiotów zmaga się ze zjawiskiem określanym jako shadow AI, czyli wykorzystywaniem narzędzi bazujących na AI poza formalnym nadzorem i obowiązującymi procedurami bezpieczeństwa.

Joanna Chmielak, Enterprise Sales Manager, Fortinet:

W sektorze finansowym wyzwanie to ma szczególny wymiar. Instytucje muszą wiedzieć, kto korzysta z narzędzi AI, jakie dane są do nich przekazywane oraz czy wykorzystywane modele spełniają wymagania dotyczące bezpieczeństwa, ochrony danych i zgodności z regulacjami.

Dodatkowo są zobowiązane do uwzględniania wymagań wynikających m.in. z DORA, AI Act, NIS2 i RODO, w zakresie, w jakim regulacje te mają zastosowanie. Zwiększa to znaczenie odporności operacyjnej, ochrony przetwarzanych informacji oraz zarządzania ryzykiem technologicznym.

Wymogi nadzoru

Do niedawna bezpieczeństwo sztucznej inteligencji kojarzyło się przede wszystkim z ochroną danych wprowadzanych do modeli. Obecnie zakres odpowiedzialności firm jest znacznie szerszy i obejmuje cały cykl życia rozwiązań AI – od identyfikowania miejsc ich wykorzystania, przez monitorowanie ruchu oraz komunikacji z modelami i interfejsami API, po kontrolę dostawców poszczególnych rozwiązań i egzekwowanie jednolitych zasad przetwarzania danych.

Kluczowe staje się więc ustalenie, gdzie i w jaki sposób AI jest wykorzystywana, jakie dane są przez nią przetwarzane oraz z jakimi systemami i usługami nawiązuje kontakt. Bez tej wiedzy trudno skutecznie zarządzać ryzykiem i spełniać wymagania regulacyjne.

– Jeszcze dwa lata temu większość rozmów o sztucznej inteligencji koncentrowała się na produktywności i możliwościach wykorzystania nowych narzędzi. Teraz chodzi przede wszystkim o kwestie operacyjne: jak uzyskać pełną widoczność jej wykorzystywania, chronić dane przetwarzane przez modele, zabezpieczać środowiska, w których działają obciążenia AI oraz jak pogodzić rozwój nowych usług z wymaganiami dotyczącymi odporności operacyjnej i suwerenności danych – dodaje Joanna Chmielak.

Bezpieczeństwo sztucznej inteligencji

Jednym z najczęstszych błędów jest traktowanie sztucznej inteligencji jako odrębnego rozwiązania, które można zabezpieczyć niezależnie od reszty środowiska IT. Tymczasem modele AI korzystają z tych samych systemów tożsamości, sieci, danych i aplikacji biznesowych, które odpowiadają za funkcjonowanie całej firmy.

Jeżeli polityka bezpieczeństwa, kontrola dostępu czy monitorowanie ruchu pozostają rozproszone pomiędzy różnymi narzędziami, AI jedynie uwidacznia istniejące słabości architektury. Dlatego bezpieczeństwo sztucznej inteligencji powinno być projektowane jako integralna część całego środowiska, a nie kolejny, odizolowany komponent.

Pod presją cyberprzestępców

Wraz z upowszechnianiem się sztucznej inteligencji znacząco rośnie powierzchnia potencjalnego ataku. Administratorzy muszą kontrolować nie tylko użytkowników i urządzenia, ale również modele AI, aplikacje korzystające z dużych modeli językowych, interfejsy API oraz dane przekazywane pomiędzy poszczególnymi komponentami.

Bez bieżącego monitorowania tych procesów trudno wykrywać nieautoryzowane wykorzystanie AI, egzekwować polityki bezpieczeństwa czy skutecznie chronić informacje przed wyciekiem.

Niestety, nowe możliwości biznesowe idą w parze z nowymi metodami działania cyberprzestępców. Coraz większego znaczenia nabierają próby zatruwania modeli (AI model poisoning), ataki wykorzystujące generatywną AI do przygotowywania wiarygodnych kampanii phishingowych czy oszustwa bazujące na technologii deepfake.

A ich skala szybko rośnie - według raportu Pindrop, liczba prób manipulacji z użyciem fałszywych nagrań audio i wideo wzrosła w 2024 roku o 1300 proc. Inne badanie przeprowadzone przez Anthropic, UK AI Security Institute i Alan Turing Institute pokazało z kolei, że już 250 złośliwie przygotowanych dokumentów może wystarczyć do skutecznego zatrucia danych treningowych i wprowadzenia podatności typu backdoor do dużego modelu językowego.

Dlatego bezpieczeństwo AI powinno obejmować zarówno ochronę danych wejściowych, jak i kontrolę jakości informacji wykorzystywanych przez modele.

Od eksperymentów do odporności

Rosnące ryzyko nie oznacza jednak, że AI jest wyłącznie źródłem nowych zagrożeń. Coraz więcej instytucji wykorzystuje ją do automatyzacji analizy zdarzeń, wykrywania anomalii czy reagowania na incydenty. Jednocześnie wraz z adopcją AI rośnie liczba zewnętrznych usług i dostawców, od których zależy środowisko technologiczne banku.

I ma to duże znaczenie w sektorze, w którym, według raportu SecurityScorecard, 96 proc. spośród 100 największych instytucji finansowych w Europie odnotowało naruszenie bezpieczeństwa w swoim ekosystemie zewnętrznych dostawców.

Wybrane dla Ciebie