L’intelligence artificielle (IA) occupe une place grandissante dans la vie des consommateurs canadiens. L’IA peut notamment contribuer à personnaliser l’expérience-utilisateur, prédire les comportements des consommateurs, donner accès à l’information, interagir avec la clientèle ou prendre des décisions automatisées quant à l’accès à un service.

Les entreprises en ligne recueillent une quantité phénoménale de données sur les consommateurs, mais n e donnent que de l’information parcellaire quant au traitement de ces données par leurs systèmes d’IA. Quelques entreprises affirment avoir adopté des principes encadrant leur utilisation de l’IA, mais ce cadre reste fondé sur l’autoréglementation. Par ailleurs, le contrôle qu’elles offrent aux consommateurs sur leurs renseignements personnels reste limité.

L’IA comporte des avantages pour les consommateurs, mais elle pose aussi des risques d’atteinte à la vie privée, d’exclusion de groupes vulnérables, d’exploitation économique des consommateurs ou simplement de faux positifs. De plus, l’IA exacerbe l’asymétrie d’information entre les consommateurs et les commerçants, en raison de l’opacité du traitement de données qu’elle effectue.

L’emploi de l’IA dans un contexte commercial expose la désuétude des lois canadiennes sur la protection des renseignements personnels. En guise de solutions, Option consommateurs propose notamment de bonifier les droits individuels des consommateurs pour leur permettre d’obtenir une explication quant au résultat d’un traitement de données et d’en demander la révision, d’interdire expressément les utilisations de renseignements personnels ayant pour effet de causer une discrimination illicite ou une exploitation économique des consommateurs, et de renforcer les pouvoirs des autorités d’application de la loi.