Informacja prawna
Treść tego artykułu służy wyłącznie ogólnym celom informacyjnym i nie stanowi porady prawnej. Mimo że przygotowujemy informacje z najwyższą starannością, nie gwarantujemy ich poprawności, kompletności ani aktualności. W celu uzyskania wiążącej porady dotyczącej Twojej konkretnej sytuacji skontaktuj się z wykwalifikowanym prawnikiem.
Najważniejsze pytanie: wysokie ryzyko czy nie?
Przy wdrażaniu systemu AI w firmie jedno pytanie jest kluczowe: czy system należy do kategorii „wysokiego ryzyka”? Odpowiedź na to pytanie decyduje o nakładach, kosztach i Twoim ryzyku prawnym. System wysokiego ryzyka podlega niezwykle surowym i kosztownym wymogom. System o ograniczonym ryzyku ma natomiast jedynie niewielkie obowiązki w zakresie przejrzystości.
Proste asystenty czatowe i głosowe, których głównym celem jest odpowiadanie na pytania klientów, z reguły nie należą do obszarów wysokiego ryzyka z Załącznika III EU AI Act. Na pierwszym planie jest dla nich obowiązek przejrzystości z art. 50. To, czy dotyczy to Twojego zastosowania, zależy od tego, jak używasz systemu.
Komplikacje zaczynają się jednak, gdy w grę wchodzą bardziej zaawansowane funkcje. Czy analiza nastrojów lub automatyczne rozpoznawanie pilności mogłoby sprawić, że Twój asystent AI stanie się systemem wysokiego ryzyka?
Kiedy narzędzie komunikacyjne staje się systemem wysokiego ryzyka?
AI Act wymienia w swoim Załączniku III obszary, w których systemy AI mogą potencjalnie zostać uznane za systemy wysokiego ryzyka. Dla obsługi klienta istotne są przede wszystkim dwa punkty: systemy decydujące o dostępie do podstawowych usług lub systemy przeprowadzające profilowanie osób fizycznych.
Oto typowe obawy:
- Czy analiza nastrojów („dzwoniący brzmi na zdenerwowanego”) zostanie uznana za zakazane „rozpoznawanie emocji” lub ryzykowne „profilowanie”?
- Jeśli AI rozpoznaje pilność („pilna sprawa”), to czy decyduje o dostępie do podstawowej usługi?
Te obawy są zrozumiałe. To, czy się potwierdzają, zależy od konkretnego zastosowania.
Klucz: czy AI jest tylko asystentem dla człowieka?
AI Act przewiduje celowe wyjątki, kiedy system pomimo potencjalnego umieszczenia w Załączniku III nie jest uznawany za system wysokiego ryzyka. Dwa z tych wyjątków mają kluczowe znaczenie dla obsługi klienta:
- AI służy do poprawy wyniku wcześniej zakończonej działalności ludzkiej.
- AI wykonuje zadanie przygotowawcze do oceny, która ostatecznie jest dokonywana przez człowieka.
Właśnie tu tkwi klucz. Asystent, który jedynie przygotowuje informacje i przedstawia je człowiekowi do podjęcia decyzji, może podlegać tym wyjątkom. Analiza nastrojów nie podejmuje wtedy autonomicznej decyzji. Wykonuje zadanie przygotowawcze, dostarczając ludzkiemu pracownikowi dodatkowy punkt danych (np. „dzwoniący wydaje się zdenerwowany”). Pracownik może wykorzystać tę informację, aby lepiej poprowadzić rozmowę. Wyjątek nie obowiązuje jednak, jeśli system przeprowadza profilowanie osób fizycznych. To Ty sprawdzasz, czy Twoje zastosowanie podlega wyjątkowi.
Ta zasada „Human-in-the-Loop-Augmentation” może odgrywać rolę przy klasyfikacji. Nie zastępuje ona oceny Twojego konkretnego zastosowania. Klasa ryzyka zależy od tego, jak używasz systemu.
Oceń własne zastosowanie
Wniosek dla Ciebie jako przedsiębiorcy: klasa ryzyka zależy od tego, jak używasz systemu, a własne zastosowanie oceniasz samodzielnie.
Asystent AI, taki jak na przykład Safina, przygotowuje informacje i przedstawia je człowiekowi do podjęcia decyzji. Na początku każdej rozmowy informuj dzwoniących, że rozmawiają z AI. To część obowiązku przejrzystości z art. 50 AI Act. Safina nie twierdzi, do jakiej klasy ryzyka należy Twoje zastosowanie. Sprawdź swój przypadek i w razie wątpliwości skorzystaj z porady prawnej.
