Claude, Fable i ryzyko dostawców AI. Czy Twoja firma wie, od kogo naprawdę zależy?

Jeszcze niedawno rozmowa o AI w firmach koncentrowała się głównie na możliwościach.

• Jak przyspieszyć pracę?
• Jak pisać lepsze treści?
• Jak automatyzować zadania?
• Jak analizować dokumenty szybciej niż dotychczas?
• Jak zwiększyć produktywność zespołów?

Dziś coraz wyraźniej widać, że do tej rozmowy trzeba dodać jeszcze jedno pytanie:

co się stanie, jeśli narzędzie AI, od którego zaczyna zależeć nasza praca, nagle zostanie ograniczone, zablokowane albo objęte sporem regulacyjnym?

To nie jest abstrakcyjny scenariusz. W ostatnich miesiącach rynek AI coraz częściej pokazuje, że największe modele nie funkcjonują w próżni. Są częścią świata regulacji, bezpieczeństwa, napięć geopolitycznych, praw własności intelektualnej, polityki eksportowej i sporów między największymi graczami technologicznymi.

Dobrym przykładem są doniesienia wokół Anthropic, modeli Claude oraz modeli Fable i Mythos.

AI jako narzędzie biznesowe i element bezpieczeństwa

Według doniesień medialnych administracja USA prowadziła rozmowy z Anthropic po napięciach dotyczących dostępu do wybranych modeli. W tle pojawiały się kwestie bezpieczeństwa, potencjalnego wykorzystania zaawansowanych modeli oraz ograniczeń dostępu.

Równolegle Reuters opisał zarzuty Anthropic wobec Alibaby, dotyczące nieuprawnionego pozyskiwania możliwości modelu Claude poprzez masową interakcję z systemem i tzw. distillation, czyli próbę odtworzenia zdolności modelu na podstawie jego odpowiedzi.

Niezależnie od szczegółów tych konkretnych spraw, dla biznesu płynie z nich ważny wniosek: AI przestała być wyłącznie wygodnym narzędziem do pracy biurowej. Najbardziej zaawansowane modele stały się infrastrukturą o znaczeniu strategicznym.

A skoro tak, to firmy korzystające z AI muszą zacząć myśleć nie tylko o tym, co dane narzędzie potrafi, ale również o tym, od kogo pochodzi, na jakich zasadach działa i jakie ryzyka wiążą się z jego użyciem.

Dostawca AI to nie tylko pozycja na fakturze

W wielu firmach wybór narzędzia AI odbywa się bardzo prosto: ktoś testuje rozwiązanie, narzędzie działa dobrze, zespół zaczyna z niego korzystać, a po czasie firma dopiero orientuje się, że stało się ono częścią codziennych procesów.

To zrozumiałe. AI jest łatwa do uruchomienia, często dostępna w modelu subskrypcyjnym i nie wymaga klasycznego wdrożenia IT. Właśnie dlatego tak szybko trafia do organizacji.

Problem polega na tym, że dostawca AI nie jest zwykłym dostawcą aplikacji do notatek czy edycji tekstu.

Narzędzie AI może przetwarzać treści klientów, dokumenty, dane pracowników, informacje poufne, kod, strategie, oferty, umowy, nagrania, transkrypcje, raporty i dane operacyjne. Może wspierać decyzje, wpływać na komunikację z klientem, tworzyć materiały sprzedażowe, analizować dokumentację albo podpowiadać działania pracownikom.

W praktyce dostawca AI może stać się częścią łańcucha odpowiedzialności firmy.

I właśnie dlatego powinien być oceniany świadomie.

Ryzyko nie kończy się na błędnej odpowiedzi modelu

Kiedy firmy myślą o ryzyku AI, najczęściej myślą o halucynacjach, błędnych odpowiedziach albo ujawnieniu danych. To ważne, ale niepełne spojrzenie.

Ryzyko dostawcy AI jest szersze.

Może dotyczyć tego, gdzie przetwarzane są dane, czy dostawca wykorzystuje dane klientów do trenowania modeli, jakie są ustawienia prywatności, jak wygląda bezpieczeństwo dostępu, czy firma ma możliwość audytu, jak dokumentowane są zmiany w modelu i co dzieje się w przypadku incydentu.

Może dotyczyć również stabilności dostępu. Jeśli narzędzie zostanie ograniczone, zmieni warunki korzystania, wycofa funkcję, podniesie ceny, zablokuje model albo zostanie objęte restrykcjami, firma może nagle stracić element procesu, z którego pracownicy realnie korzystali każdego dnia.

To szczególnie istotne wtedy, gdy organizacja nie ma alternatywy, nie ma rejestru narzędzi i nawet nie wie, w których procesach dane rozwiązanie jest używane.

Wtedy problem dostawcy szybko staje się problemem firmy.

Vendor risk w AI: pytania, których firmy długo nie zadawały

Przy klasycznych systemach IT firmy od dawna pytają o bezpieczeństwo, SLA, lokalizację danych, zgodność z RODO, kopie zapasowe, ciągłość działania i odpowiedzialność dostawcy.

Przy AI te pytania często zniknęły.

Narzędzia weszły do firm szybciej niż procedury zakupowe. Część pojawiła się oddolnie, przez indywidualne konta pracowników. Część została dodana jako nowa funkcja do systemów, które firma już posiadała. Część testowano bez formalnej decyzji, bo „to tylko pilotaż".

Tyle że pilotaż bardzo łatwo staje się standardem pracy.

Dlatego firmy powinny zacząć traktować dostawców AI tak samo poważnie jak innych kluczowych dostawców technologii.

Nie chodzi o blokowanie innowacji. Chodzi o podstawową kontrolę: czy wiemy, z czego korzystamy, kto jest dostawcą, jakie dane trafiają do narzędzia, jakie obowiązują zasady i co zrobimy, jeśli dostęp do rozwiązania zostanie ograniczony.

AI Act a odpowiedzialność w łańcuchu wartości

AI Act wprowadza różne role i obowiązki dla podmiotów w łańcuchu wartości AI. Inne obowiązki mogą mieć dostawcy systemów AI, inne importerzy, dystrybutorzy, podmioty wdrażające, a inne dostawcy modeli ogólnego przeznaczenia.

Dla wielu firm najważniejsza będzie rola użytkownika profesjonalnego, czyli organizacji, która korzysta z systemów AI w swojej działalności.

To oznacza, że firma nie może automatycznie przerzucić całej odpowiedzialności na dostawcę.

Dostawca powinien dostarczyć odpowiednie informacje, dokumentację, warunki użycia, zabezpieczenia i wsparcie. Ale organizacja nadal odpowiada za to, jak używa narzędzia, w jakim procesie, na jakich danych i z jakim wpływem na ludzi.

Dlatego wybór dostawcy AI nie powinien być wyłącznie decyzją zakupową. Powinien być częścią zarządzania ryzykiem.

Rejestr narzędzi AI jako punkt wyjścia

Nie da się ocenić ryzyka dostawców AI, jeśli firma nie wie, z jakich narzędzi korzysta.

To brzmi banalnie, ale w praktyce jest jednym z największych problemów.

W wielu organizacjach oficjalna lista narzędzi AI jest krótsza niż rzeczywista lista używanych rozwiązań. Pracownicy korzystają z darmowych kont, testowych wersji, rozszerzeń, generatorów, asystentów wbudowanych w aplikacje i narzędzi, które nie przeszły żadnej oceny.

Dlatego pierwszym krokiem powinien być rejestr AI.

Nie jako biurokratyczna tabela dla samej tabeli, ale jako mapa zależności: jakie narzędzie, jaki dostawca, jaki dział, jaki cel, jakie dane, jaki poziom ryzyka, kto odpowiada i jaka jest decyzja organizacji.

Dopiero wtedy można rozmawiać o polityce AI, szkoleniach, akceptacjach, zasadach korzystania i ocenie dostawców.

Bez rejestru firma nie zarządza AI. Ona tylko zakłada, że wszystko jest pod kontrolą.

Co powinno interesować firmę przy wyborze narzędzia AI?

Przy ocenie dostawcy AI warto wyjść poza pytanie, czy narzędzie jest wygodne i skuteczne.

Firma powinna rozumieć, co dzieje się z danymi, czy dostawca wykorzystuje je do trenowania modeli, gdzie są przetwarzane, jakie są ustawienia prywatności, jak wygląda możliwość usunięcia danych, jakie zabezpieczenia stosuje dostawca i czy narzędzie nadaje się do konkretnego procesu.

Ważne są też ograniczenia. Nie każde narzędzie AI powinno być używane do pracy z dokumentami klientów, danymi osobowymi, procesami HR, analizą prawną, informacjami finansowymi czy treściami wymagającymi szczególnej dokładności.

Firma powinna też wiedzieć, co stanie się w przypadku zmiany warunków usługi, awarii, ograniczenia modelu, sporu prawnego, zmiany polityki dostawcy albo nagłego wycofania funkcji.

Dla organizacji, która używa AI wyłącznie pomocniczo, może to być niedogodność. Dla organizacji, która oparła na AI część procesu, może to być realne ryzyko operacyjne.

Lekcja z Anthropic: zaawansowane AI to rynek wysokiego napięcia

Sprawy wokół Anthropic, Claude, Fable, Mythos czy zarzutów dotyczących Alibaby pokazują jedną rzecz: rynek AI nie jest spokojnym rynkiem oprogramowania biurowego.

To przestrzeń, w której spotykają się interesy biznesowe, bezpieczeństwo państw, kontrola eksportu, własność intelektualna, ryzyko cyberbezpieczeństwa i ogromna konkurencja technologiczna.

Firmy korzystające z AI nie muszą śledzić każdego sporu między gigantami technologicznymi. Powinny jednak zrozumieć trend.

Im bardziej AI wchodzi do procesów biznesowych, tym ważniejsze staje się pytanie o dostawców, ciągłość działania i kontrolę nad danymi.

To nie jest temat wyłącznie dla działu IT. To temat dla zarządu, compliance, działu prawnego, HR, sprzedaży, marketingu i każdego obszaru, który korzysta z AI w pracy z danymi lub decyzjami.

Gdzie pomaga AI TrustCERT?

AI TrustCERT pomaga uporządkować ten problem od podstaw.

Zamiast zaczynać od abstrakcyjnej debaty o ryzyku AI, pozwala firmie zadać konkretne pytania: z jakich narzędzi korzystamy, kto ich używa, w jakich procesach, jakie dane są przetwarzane, czy pracownicy znają zasady i czy mamy dowody, że organizacja zajęła się tym tematem.

To ważne, bo ocena dostawców AI nie ma sensu, jeśli firma nie zna własnego wykorzystania AI.

AI TrustCERT wspiera budowę podstawowej gotowości: rejestru narzędzi, zasad korzystania, szkoleń, akceptacji, identyfikacji ryzyk i raportu gotowości.

Dzięki temu organizacja może przejść od przypadkowego korzystania z AI do świadomego zarządzania narzędziami i dostawcami.

Nie chodzi o to, żeby bać się każdego rozwiązania AI.

Chodzi o to, żeby wiedzieć, od czego firma naprawdę zaczyna zależeć.

Podsumowanie

AI w firmie to nie tylko funkcjonalność. To również dostawca, dane, bezpieczeństwo, ciągłość działania i odpowiedzialność.

Głośne sprawy wokół największych modeli pokazują, że dostęp do AI może być przedmiotem sporów, ograniczeń i decyzji podejmowanych daleko poza firmą, która po prostu chciała usprawnić codzienną pracę.

Dlatego organizacje powinny zacząć od podstaw: sprawdzić, z jakich narzędzi AI korzystają, kto je dostarcza, jakie dane do nich trafiają i co stanie się, jeśli narzędzie przestanie być dostępne.

Największe ryzyko nie zawsze polega na tym, że AI się pomyli.

Czasem polega na tym, że firma nie wie, jak bardzo już od niej zależy.