Avis juridique
Le contenu de cet article est fourni à titre purement informatif et ne constitue pas un conseil juridique. Bien que nous rédigions ces informations avec le plus grand soin, nous ne garantissons pas leur exactitude, leur exhaustivité ni leur actualité. Pour un conseil juridique adapté à ta situation spécifique, adresse-toi à un avocat qualifié.
La question cruciale : haut risque ou pas ?
Lors de l’introduction d’un système d’IA en entreprise, une question est plus déterminante que toutes les autres : le système entre-t-il dans la catégorie « haut risque » ? La réponse à cette question détermine l’ampleur des efforts, les coûts et ton risque juridique. Un système à haut risque est soumis à des exigences extrêmement strictes et coûteuses. Un système à risque limité, en revanche, n’a que des obligations de transparence modérées.
Les assistants de chat et vocaux simples, dont la fonction principale est de répondre aux questions des clients, ne relèvent en général pas des domaines à haut risque de l’annexe III de l’EU AI Act. Pour eux, l’obligation de transparence de l’art. 50 est au premier plan. Que cela vaille pour ton usage dépend de la façon dont tu utilises le système.
La complexité commence toutefois lorsque des fonctionnalités plus avancées entrent en jeu. Une analyse de sentiment ou une détection automatique de l’urgence pourraient-elles faire de ton assistant IA un système à haut risque ?
Quand un outil de communication devient-il un système à haut risque ?
L’AI Act énumère dans son annexe III les domaines dans lesquels les systèmes d’IA sont potentiellement considérés comme à haut risque. Pour le service client, deux points sont particulièrement pertinents : les systèmes qui décident de l’accès à des services essentiels, ou les systèmes qui effectuent un profilage de personnes physiques.
C’est là que naissent les inquiétudes typiques :
- Une analyse de sentiment (« l’appelant semble en colère ») est-elle considérée comme une « reconnaissance d’émotions » interdite ou un « profilage » risqué ?
- Si l’IA détecte une urgence (« demande urgente »), décide-t-elle alors de l’accès à un service essentiel ?
Ces craintes sont compréhensibles. Leur pertinence dépend de ton usage concret.
La clé : l’IA n’est-elle qu’un assistant pour l’humain ?
L’AI Act prévoit des exceptions ciblées pour lesquelles un système, malgré une inscription potentielle à l’annexe III, n’est pas considéré comme à haut risque. Deux de ces exceptions sont déterminantes pour le service client :
- L’IA sert à améliorer le résultat d’une activité humaine préalablement réalisée.
- L’IA effectue une tâche préparatoire pour une évaluation qui sera finalement réalisée par un humain.
C’est précisément là que réside la clé. Un assistant qui se contente de préparer des informations et de les soumettre à la décision d’un humain peut relever de ces exceptions. L’analyse de sentiment, par exemple, ne prend alors pas de décision autonome. Elle effectue une tâche préparatoire en fournissant un point de données supplémentaire à un collaborateur humain (par ex. « l’appelant semble en colère »). Le collaborateur peut utiliser cette information pour mieux conduire la conversation. L’exception ne s’applique toutefois pas si le système effectue un profilage de personnes physiques. Il t’appartient de vérifier si ton usage relève d’une exception.
Ce principe de « Human-in-the-Loop Augmentation » peut jouer un rôle dans la classification. Il ne remplace pas l’examen de ton usage concret. La classe de risque dépend de la façon dont tu utilises le système.
Évaluer ton propre usage
La conclusion pour toi en tant qu’entrepreneur : la classe de risque dépend de la façon dont tu utilises le système, et tu évalues toi-même ton propre usage.
Un assistant IA comme Safina par exemple prépare les informations et les soumet à la décision humaine. Informe les appelants, au début de chaque appel, qu’ils parlent avec une IA. Cela fait partie de l’obligation de transparence de l’art. 50 de l’AI Act. Safina ne dit rien sur la classe de risque dans laquelle ton usage entre. Vérifie ton cas d’usage et demande un conseil juridique en cas de doute.
