L’intelligence artificielle apporte évidemment son lot d’avantages pour le consommateur. Mais cette technologie n’est cependant pas sans risque. Et le droit canadien manque cruellement de mordant sur le sujet…
Vous y avez peut-être même recours sans le savoir. Certaines applications que vous utilisez au quotidien vous permettent d’obtenir un service plus personnalisé, alors que d’autres vont même jusqu’à vous prodiguer des conseils (les robots-conseillers, à titre d’exemple). L’intelligence artificielle (IA) peut vous informer du meilleur moment pour acheter un billet d’avion. Elle compare différents forfaits de téléphonie mobile en un tour de main, épaulant ainsi le consommateur dans sa recherche du meilleur rapport qualité/prix. De son côté, Apple utilise l’IA pour améliorer la qualité des photos prises avec ses appareils. Mais attention ! Derrière tous ces bienfaits se cachent des risques liés à la vie privée.
« Quand on parle d’intelligence artificielle, plusieurs s’imaginent un scénario de film du futur, comme dans La Matrice, mais la vérité, c’est qu’elle s’immisce actuellement dans plusieurs domaines », explique d’entrée de jeu Alexandre Plourde, avocat et analyste pour Option consommateurs. L’organisme lève d’ailleurs le voile, dans son plus récent rapport intitulé Intelligence artificielle et protection de la vie privée : la perspective des consommateurs, sur des enjeux d’importance liés à cette technologie.
1. L’intrusion dans la vie privée
Pour alimenter leurs algorithmes, les entreprises accumulent massivement des données par l’entremise de leurs propres plateformes, de sites web tiers, d’applications mobiles et d’objets connectés. Il s’agit donc d’une fenêtre ouverte sur votre intimité. Et cette collecte de données personnelles multiplie les risques de bris de sécurité : les bases de données ne sont pas à l’abri d’intentions malveillantes.
2. Le recours à la persuasion invasive
L’IA pourrait accorder aux entreprises un avantage économique exagéré face aux consommateurs. Des commerçants peuvent maintenant identifier les biais et les vulnérabilités spécifiques d’un consommateur. Ils pourraient ensuite s’en servir, en temps réel, pour mettre en place des stratégies de marketing très ciblées auprès d’un auditoire qui y sera hautement réceptif.
3. La personnalisation des prix en ligne
Un préjudice économique réside aussi dans la possibilité, pour un commerçant, d’implanter la tarification dynamique. La technologie peut lui permettre de faire varier le prix demandé d’un moment à l’autre, en fonction du profil du consommateur ou en fonction de l’offre et la demande. Un peu de vigilance s’impose, surtout en cette période de joyeux magasinage.
4. L’entrave à la libre concurrence
L’IA pourrait-elle fausser le marché libre et entraîner la collusion entre les entreprises pour fixer les prix ? Dans leur boutique en ligne, les commerçants peuvent ajuster instantanément les prix qu’ils annoncent. « L’IA pourrait leur permettre de surveiller en continu les prix annoncés par leurs concurrents, privant ainsi les consommateurs de leur pouvoir de magasiner les meilleurs soldes. C’est une préoccupation », confirme Alexandre Plourde.
5. La discrimination
La capacité des algorithmes de prendre des décisions éclairées est directement associée à la qualité des données qu’ils utilisent. L’IA n’est donc pas immunisée contre les biais et les préjugés, ce qui se traduit parfois pour le consommateur par l’exclusion ou l’accès inégal à des biens ou des services, par l’obtention de modalités moins avantageuses.
Les possibilités de l’IA semblent effectivement illimitées. Une étude récente produite pour le Partenariat mondial sur l’IA (GPAI) souligne d’ailleurs le potentiel de l’intelligence artificielle pour alimenter l’action et la stratégie climatique. Mais si le consommateur peut faire valoir ses valeurs environnementales dans sa démarche d’achat, il se retrouve bien seul lorsqu’il est confronté au phénomène de l’IA.
« Le consommateur n’a pas un énorme pouvoir individuel en la matière. En fait, confronté à une collecte des données qu’il juge disproportionnée, il n’a qu’une possibilité. Il peut alors refuser d’utiliser le service ou le réseau social en question ». – Alexandre Plourde, avocat et analyste chez Option consommateurs.
https://ocmagazine.org/wp-content/uploads/2019/08/photo-dans-article-alexandre-plourde.jpg
Sur le plan juridique, l’IA soulève de multiples enjeux qui ébranlent le droit canadien. Les entreprises qui collectent et analysent les données personnelles doivent se conformer aux obligations de la Loi sur la protection des renseignements personnels et les documents électroniques. Mais cette dernière n’offre qu’un droit restreint aux consommateurs pour s’élever contre les écueils de l’IA.
« L’autoréglementation et l’adhésion à des principes éthiques par les entreprises sont déjà en cours, mais elles ne sont malheureusement assujetties à aucun mécanisme de surveillance ni à aucune mesure contraignante », constate Alexandre Plourde. Option consommateurs sonne donc l’alarme et émet plusieurs recommandations dans son rapport, dont la nécessité de poursuivre la recherche sur l’emploi de l’IA dans un contexte commercial et ses répercussions en ce qui concerne la population.
Pour le moment, ne comptez pas sur vos assistants personnels propulsés par l’IA que sont Siri, Alexa ou Cortana afin de démêler d’un coup de baguette magique ce charabia juridique !
