Umowa na wdrożenie AI w firmie. Co musi zawierać, żeby Cię chronić?

Sztuczna inteligencja przestała być ciekawostką technologiczną a stała się narzędziem wdrażanym w działach HR, obsłudze klienta, finansach i logistyce. Firmy coraz częściej zlecają integrację systemów AI zewnętrznym dostawcom lub kupują gotowe rozwiązania SaaS z komponentem AI. I tu pojawia się problem, który widzimy w kancelarii coraz częściej: umowy na wdrożenie AI są albo zbyt ogólne, albo wprost kopiowane z klasycznych umów wdrożeniowych oprogramowania – bez uwzględnienia tego, co w AI jest zupełnie inne.

A różnic jest wiele.

Dlaczego klasyczna umowa wdrożeniowa nie wystarczy?

Tradycyjna umowa na wdrożenie systemu IT zakłada, że dostarczany produkt działa deterministycznie tj. ten sam input daje ten sam output. W przypadku systemów AI, szczególnie tych opartych na modelach uczenia maszynowego lub dużych modelach językowych (LLM), tak nie jest. System może zachowywać się inaczej po każdym dostarczeniu danych treningowych, po aktualizacji modelu bazowego przez dostawcę, albo po zmianie kontekstu użycia.

To fundamentalna zmiana, która musi znaleźć odzwierciedlenie w umowie.

Kluczowe elementy umowy na wdrożenie AI

1. Precyzyjny opis systemu AI i jego komponentów

Umowa powinna jednoznacznie określać, co jest wdrażane. Czy chodzi o gotowy model (np. oparty na API zewnętrznego dostawcy jak OpenAI, Google, Anthropic), o model fine-tunowany na danych klienta, czy o własne rozwiązanie wykonawcy? Jest kwestia prawna, nie techniczna. Od odpowiedzi na to pytanie zależy kto jest twórcą systemu, kto odpowiada za jego zachowanie i komu przysługują prawa do modelu.

2. Prawa własności intelektualnej – trzy warstwy

W systemach AI własność intelektualna jest złożona i składa się z co najmniej trzech warstw:

1. model bazowy – najczęściej należy do zewnętrznego dostawcy (np. OpenAI, Mistral, Anthropic) i jest licencjonowany, nie przenoszony;
2. fine-tuning i dostosowania – jeśli wykonawca trenował model na danych klienta lub tworzył warstwy promptów, te elementy mogą być przedmiotem odrębnej własności;
3. dane treningowe – dane dostarczone przez klienta powinny pozostać jego własnością, a umowa musi wyraźnie zabraniać ich wykorzystywania do trenowania innych modeli.

Klasyczne zapisy o „przeniesieniu autorskich praw majątkowych do oprogramowania” mogą być niewystarczające lub wręcz niemożliwe do zastosowania w kontekście modeli AI.

3. Parametry jakości i miary wydajności (KPI dla AI)

Jedna z kluczowych kwestii związanych z prawidłowością wykonania umowy.Jak ocenić, czy system AI działa poprawnie? W umowie warto zdefiniować mierzalne wskaźniki, np.:

• dokładność (accuracy) na zdefiniowanym zbiorze testowym;
• wskaźnik fałszywych trafień (false positive rate) akceptowalny dla danego przypadku użycia;
• czas odpowiedzi systemu;
• zakres tematyczny, w którym system ma działać, i zachowanie poza tym zakresem.

Brak takich parametrów oznacza, że klient nie ma podstaw do reklamacji, gdy system działa „gorzej niż oczekiwano”, ponieważ nie zostało określone, co oznacza „oczekiwane działanie”.

4. Zasady aktualizacji modelu

Jeśli system AI opiera się na modelu bazowym zewnętrznego dostawcy, ten dostawca może aktualizować model bez ostrzeżenia. Zmiana parametrów modelu może diametralnie zmienić zachowanie wdrożonego systemu. Umowa powinna regulować:

• kto i kiedy może aktualizować model;
• jak wykonawca jest zobowiązany informować klienta o planowanych aktualizacjach;
• jakie są procedury testowania po aktualizacji;
• czy klient ma prawo zablokować aktualizację do czasu przeprowadzenia testów.

5. Odpowiedzialność za błędy i decyzje AI

To jeden z najtrudniejszych obszarów. System AI może podjąć błędną decyzję np. odrzucić wniosek kredytowy osoby, która powinna go dostać, błędnie sklasyfikować produkt, wygenerować nieprawidłową odpowiedź w systemie obsługi klienta. Umowa powinna precyzować odpowiedzialność wykonawcy za błędy modelu wynikające z jego działania (nie z błędu użytkownika); odpowiedzialność klienta jako operatora systemu AI w rozumieniu AI Act, a także jak przebiega proces zgłaszania i weryfikacji błędów oraz jakie mechanizmy human-in-the-loop są wbudowane w system.

W kontekście AI Act (rozporządzenia UE 2024/1689) warto pamiętać, że systemy AI stosowane w procesach kadrowych, kredytowych czy zarządzaniu infrastrukturą krytyczną mogą być klasyfikowane jako systemy wysokiego ryzyka, co nakłada na operatora (czyli firmę wdrażającą) dodatkowe obowiązki dokumentacyjne i proceduralne.

6. Ochrona danych osobowych i RODO

Systemy AI często przetwarzają dane osobowe – czy to w procesie trenowania, czy podczas działania. Umowa musi zawierać standardową umowę powierzenia przetwarzania danych osobowych (jeśli wykonawca przetwarza dane klienta), ale powinna też regulować kwestie specyficzne dla AI np.:

• czy dane treningowe zawierają dane osobowe i jak są anonimizowane;
• kto jest administratorem danych przetwarzanych przez system AI;
• jak przebiega realizacja praw podmiotów danych (np. prawo do wyjaśnienia decyzji podjętej przez AI).

7. Klauzula dotycząca biased outputs (dyskryminacja algorytmiczna)

Szczególnie ważna w systemach podejmujących decyzje dotyczące ludzi. Wykonawca powinien zadeklarować przeprowadzenie audytu pod kątem dyskryminacji algorytmicznej i zapewnić mechanizmy monitorowania biased outputs po wdrożeniu.

Czego najczęściej brakuje w umowach na AI, które trafiają do nas na analizę?

Z praktyki kancelarii wynika, że najczęstsze luki to:

• brak definicji „systemu AI” – strony nie wiedzą, co dokładnie jest przedmiotem umowy;
• klasyczne zapisy o gwarancji nieadekwatne do niedeterministycznej natury AI;
• brak regulacji co do dalszego korzystania przez wykonawcę z danych klienta po zakończeniu umowy;
• brak procedury postępowania w przypadku tzw. „halucynacji” modelu i jego nieprawidłowych odpowiedzi;
• brak regulacji dotyczącej audytu i monitorowania systemu.

 

Praktyczne wskazówki przed podpisaniem umowy

Przed wdrożeniem:

• Sprawdź, czy system AI kwalifikuje się jako system wysokiego ryzyka według AI Act i jakie obowiązki nakłada to na Twoją firmę;
• Upewnij się, że umowa z dostawcą modelu bazowego (np. OpenAI, Google) pozwala na zamierzone przez Ciebie zastosowanie;
• Zdefiniuj własność danych treningowych i zadbaj o wyraźny zakaz ich dalszego wykorzystywania przez wykonawcę.

W trakcie wdrożenia:

• Dokumentuj wszystkie etapy wdrożenia i testowania – ta dokumentacja może być wymagana przez AI Act.
• Zachowaj próbki danych testowych, na których weryfikowałeś działanie systemu.

Po wdrożeniu:

• Zapewnij mechanizm monitorowania i raportowania błędów.
• Regularnie weryfikuj, czy aktualizacje modelu nie zmieniają zachowania systemu w sposób istotny dla Twojego biznesu.

 

Podsumowanie

Wdrożenie systemu AI to przedsięwzięcie, które wymaga przemyślanej umowy uwzględniającej specyfikę technologii. Klasyczne umowy wdrożeniowe nie nadążają za tym, co wyróżnia AI: niedeterminizmem, zależnością od danych, dynamiczną ewolucją modeli i nowym reżimem odpowiedzialności wynikającym z AI Act.

Jeśli planujesz wdrożenie systemu AI lub właśnie otrzymałeś od dostawcy projekt umowy – zapraszamy do kontaktu. W LawIT przeanalizujemy umowę pod kątem ryzyk specyficznych dla AI i pomożemy wynegocjować warunki, które rzeczywiście Cię chronią.

A jeśli chcesz zakupić gotowy dokument, sledź nasz profil, bo wkrótce opublikujemy gotowe wzory umowy wdrożeniowej AI jak i załączników do niej do pobrania.