LMi-MAG23 Sept - Flipbook - Page 28
RETOUR D’EXPÉRIENCE
Conformité
Patagonia épinglé
pour l’exploitation
des données clients
La marque de vêtements Patagonia est accusée d’avoir récolté, conservé et traité
des données clients avec une GenAI. Une affaire qui souligne le casse-tête légal que les DSI
doivent résoudre en la matière. Pas question de faire l’autruche pour autant.
Evan Schuman, IDG NS (adapté par Emmanuelle Delsol)
e concepteur et distributeur de vêtements de plein air Patagonia est
poursuivi pour avoir enfreint la loi
californienne sur la protection de la
vie privée. L’entreprise exploiterait
en effet l’IA générative de l’éditeur
Talkdesk pour intercepter, enregistrer et analyser les conversations
avec des clients sans leur permission. La plainte, déposée le 15 juillet, spécifie que l’éditeur redirige et stocke
en temps réel tous les échanges avec des clients et des
partenaires commerciaux vers ses propres serveurs
et, après leur transcription, « utilise ses modèles d’IA
pour analyser les mots des appelants afin de déterminer de quoi ils parlent et comment ils se sentent durant
l’échange ». Une demande de requalification en class
action a également été déposée.
L
L’action en justice fait référence à l’un des produits d’IA de
Talkdesk, Copilot, qu’il décrit lui-même comme un « assistant GenAI qui écoute, guide et assiste les agents du call
center lors des interactions avec les clients. Par exemple,
Copilot suggérera automatiquement des réponses pertinentes aux agents dans les chats, les e-mails, les appels et
les SMS en fonction du contenu des échanges. Talkdesk
enregistre toutes ces informations dans le cloud et crée
un historique des interactions, ce qui permet aux entreprises de garder la trace des conversations précédentes
des clients, même si elles ont eu lieu sur un support différent. Toutes ces données sont stockées sur les serveurs
28 / septembre / octobre / novembre 2024
de Talkdesk. » De son côté, Patagonia affiche dans sa politique de confidentialité une description générique du type
de partage de données qu’il exerce en général, mais elle ne
précise absolument pas ce que fait Talkdesk.
Le litige implique ainsi trois acteurs distincts : l’entreprise, en l’occurrence Patagonia ; un tiers, en l’espèce
Talkdesk, fournisseur de solutions SaaS de call center
à base d’IA ; les outils d’IA utilisés par l’un ou l’autre.
L’action en justice vise ainsi directement Patagonia et
Talkdesk, mais elle met aussi très clairement en cause la
façon dont les IA exploitent les données récoltées.
Migraines en vue pour les DSI
Un des problèmes soulevés réside dans un paradoxe lié
à l’exploitation de l’IA générative. Les DSI d’une entreprise sont en effet tenus d’identifier précisément toutes
les données que le SI collecte et la manière dont elles
sont utilisées. Reste qu’avec la GenAI, ils n’en ont tout
simplement aucune idée ! De quoi rendre les DSI, mais
aussi les services juridiques très nerveux.
Mark Rasch, avocat spécialisé dans les questions de
technologie et de confidentialité, imagine plusieurs
scénarios dans une telle situation. Que se passerait-il,
par exemple, si un consommateur appelait un retailer
et se lançait dans une discussion animée au sujet d’un
éventuel remboursement de produit ? Même une fois
le problème résolu, l’analyse des émotions par la GenAI
pourrait néanmoins étiqueter le client comme difficile
