Ethique et assistants conversationnels

Ces dernières années, la confiance et la prise en compte des règles éthiques sont devenues des éléments essentiels du paysage de l’IA. Les premiers abus ont conduit certains législateurs à réglementer l’industrie après coup. Cet article aborde les questions de l’éthique des assistants conversationnels à la lumière de ces nouvelles réglementations.

Photo by Tingey Injury Law Firm on Unsplash

Le 28 septembre 2018, le gouverneur de Californie approuve le chapitre 6 ordonnant que les Bots doivent indiquer clairement qu’ils sont un simple logiciel.

Le 7 septembre 2020, la CNIL (Commission Nationale de l’Informatique et des Libertés) publie un livre blanc sur les assistants vocaux et aborde notamment l’aspect éthique.

Le 20 octobre de la même année, le parlement Européen adopte une résolution portant sur le cadre des aspects éthiques de l’intelligence artificielle, de la robotique et des technologies y afférentes.

Dans la continuité de cette résolution et autres travaux, ce même parlement et le conseil de l’Europe déposent le 21 avril 2021, une proposition de règlement établissant des règles harmonisées concernant l’intelligence artificielle et modifiant certains actes législatifs de l’union.

Le 15 septembre 2021, le CNPEN (Comité National Pilote d’Ethique du Numérique) adopte un avis sur l’enjeux éthique des agents conversationnels et fixe 13 préconisations de conception.

Que nous enseignent ces récentes publications ?

L’éthique

L’éthique est une branche de la philosophie s’intéressant aux fondements de la moralité et notamment à la conduite des individus en société. L’éthique traite ainsi de morale et étudie ce qui est bien ou mal, ce qui est juste ou injuste.

Même si les assistants conversationnels sont majoritairement de simples programmes informatiques, les récentes avancées des technologies et la banalisation des chatbots interrogent notamment sur leur rôle dans la société et l’influence qu’ils peuvent avoir sur les humains.

Les publications

La Californie est le premier état des Etats-Unis à légiférer sur ce qu’on pourrait appeler l’éthique des “Bots” (“non humains” qui réalisent des actions ou postent des messages). Le “Gouverneur” considère comme illégal le fait de masquer l’identité artificielle d’un Bot, de ne pas indiquer clairement qu’il est un simple logiciel et non une personne donnant des conseils ou des informations. La mention de cette virtualité doit être claire, évidente et raisonnablement conçue [1].

Même si cette loi est une conséquence indirecte de la propagation des “fake news” durant la campagne électorale de 2016 aux Etats-Unis, et qu’elle est notamment restrictive (plateforme de plus de 10 millions de visiteurs, incitation à l’achat, influence de votes lors d’une élection), elle est maintenant ancrée dans le paysage et peut s’appliquer de facto aux assistants conversationnels. Cette loi nous donne un premier enseignement sur le fait qu’il ne faut pas tromper le public en attribuant une dimension strictement humaine à un assistant conversationnel.

Le 7 septembre 2020, la CNIL publie un livre blanc de 88 pages sur l’exploration des enjeux éthiques, techniques et juridiques des assistants vocaux [2]. Ce rapport pointe du doigt les dispositifs d’assistance vocale proposant un changement de paradigme majeur en changeant notre approche aux outils numériques. Le rapport cite d’une part, l’opacité apportée par la conception de ces terminaux, par l’absence d’écran et donc l’impossibilité de pouvoir visualiser les activités passées, et d’autre part le fait que ces équipements ne fournissent généralement qu’une seule réponse, ce qui pose le problème de la fiabilité et de la neutralité du choix. A la question, “quel est le meilleur plombier ?”, le système pourrait très bien donner l’adresse de celui qui a payé le plus cher pour être positionné en premier, sans que le Bot ne le dise.

Au-delà de la question des enjeux de la protection de la vie privée et des données (que le rapport détaille plus largement que la partie éthique), c’est bien la question de l’anthropomorphisme qui pose débat avec une personnification de l’assistant parfois poussée par les concepteurs afin que l’engagement soit plus important. Le rapport parle du “syndrome Ikea” lorsqu‘il est prévu la possibilité de personnaliser l’assistant, ce qui entraîne pour l’utilisateur un attachement plus fort à l’objet, lui donne plus de valeur puisqu’il a contribué à le construire [3]. Cet attachement apparaît même si le paramétrage consiste tout simplement à choisir la voix de l’assistant. Par cette simple action, le robot devient un assistant personnel, un être qu’il a aidé à construire.

L’avis N°3 sur les agents conversationnels du CNPEN va plus loin dans le domaine de l’éthique [4]. En premier, celui-ci reprend le principe de ne pas tromper les utilisateurs. L’avis recommande ensuite d’opter pour un principe d’équité dans le choix du genre de l’agent. Etonnamment, l’avis préconise de pouvoir personnaliser l’assistant, induisant ainsi le “syndrome Ikea” pour l’utilisateur.

…un chatbot ne devrait en aucun cas être perçu par l’utilisateur comme une personne responsable, même par projection. Sur le plan général, il ne s’agit ni de laisser libre cours à l’anthropomorphisation, ni de vouloir l’éliminer à tout prix, mais d’en définir des limites dans des cas concrets.

Le rapport traite également des insultes proférées à l’encontre des assistants, indiquant qu’il n’y a rien d’immoral puisqu’ils ne sont que des programmes informatiques, tant en considérant que ce comportement est dégradant pour celui qui les formule. Finalement, le CNPEN recommande de prévoir le traitement de ces comportements en permettant de répondre aux insultes mais en préconisant de ne pas chercher l’escalade. Cependant, ils conseillent de ne pas inclure de telles phrases du corpus d’apprentissage, ce qui bizarrement antinomique avec la notion de détection…

A la question “est-ce que les assistants peuvent mentir intentionnellement ?”, il y est répondu que “non” (à ce jour). Les assistants n’ont pas de jugement moral, d’intention maléfique et la responsabilité incombe donc au fabricant. Et je rajouterai que cette responsabilité est également du côté de ceux qui ont entraîné le Bot.

Aujourd’hui, l’utilité des assistants est une évidence et notamment pour les personnes vulnérables (= “un mineur ou à une personne qui n’est pas en mesure de se protéger en raison de son âge, d’une maladie, d’une infirmité, d’une déficience physique ou psychique ou d’un état de grossesse” — Code pénal français, art. 434–3). Cette utilité est notamment liée aux capacités de résilience de ces systèmes, l’absence de jugement sur ce qui est dit, leur disponibilité à tout instant. Par conception, il est néanmoins nécessaire de prévenir les confusions de responsabilité et notamment celles qui pourraient y avoir, par exemple, entre l’assistant et un membre du corps médical. Le dernier point à surveiller est la possible dépendance entre l’utilisateur et son Bot.

Les “Deadbots”

En 2017, Microsoft a déposé un brevet expliquant comment ils comptent dupliquer les données de personnalité d’un individu pour en faire un robot conversationnel [5]. Le système utilise des données personnelles (e.g. images, données vocales, messages sur les médias sociaux, messages électroniques, lettres écrites, etc.) pour créer ou modifier un “index” qui permet d’entraîner un Bot.

L’usage le plus troublant est la capacité de ce système à permettre la réalisation de ce qui appelé un “Deadbot”, c’est à dire la simulation d’un individu décédé aussi bien dans son image que dans sa capacité à converser. Cette prolongation de présence de l’être disparu interroge “d’abord sur la démarche elle-même” comme l’indique le rapport CNPEN. Ils concluent en indiquant qu’il convient, avant tout, d’effectuer une réflexion sociétale sur l’existence même de ces assistants.

Le cadre éthique Européen

Le cadre des aspects éthiques de l’intelligence artificielle, de la robotique et des technologies y afférente et la proposition de règlement du parlement européen et du conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’union regroupe un ensemble d’articles couvrant le vaste domaine de l’IA. Son application sur les assistants conversationnels (dialogueurs) nous donne les obligations suivantes :

• La supervision humaine doit être complète à tout moment.
• Un devoir d’information de l’interaction avec un système IA. Il est à noter que la proposition indique que “cette obligation ne s’applique pas aux systèmes d’IA dont la loi autorise l’utilisation à des fins de prévention et de détection des infractions pénales, d’enquêtes et de poursuites en la matière”.
• La possibilité de désactiver temporairement certaines fonctionnalités pour ne conserver que les plus sûres.
• Une démarche de lutte contre les biais et la discrimination.
• Dans le cas de l’utilisation d’un système de reconnaissance des émotions, le texte propose une obligation d’information sur le fonctionnement du système pour les utilisateurs.

Synthèse

En résumé, les principes éthiques de conception à retenir pour les créateurs d’assistants sont donc les suivants :

• Ne pas tromper l’utilisateur en indiquant qu’il s’agit d’un programme informatique. Il y a une obligation d’être clair dès le début des interactions et de répéter cet état régulièrement.
• Penser éthique dès la phase de conception des algorithmes ou de création des dialogues, afin d’éviter les biais ou les possibles discriminations.
• Décrire la finalité de l’assistant à l’utilisateur, ces objectifs. Informer des opérations qui sont réalisées sur les dialogues passés notamment si des principes de personnification sont appliqués pour améliorer les dialogues futurs. Présenter les capacités et limites du système en termes de traitement des langues. Le cas échéant, expliquer comment sont traitées les émotions et comment le système réagira en conséquence.
• Conserver les dialogues le temps nécessaire à leur traitement et pouvoir expliquer, a posteriori et le cas échéant, le comportement qu’a eu le Bot lors d’un dialogue.
• Adapter la personnalité du Bot à la culture de l’utilisateur.

Il est utopique d’écarter toute forme d’anthropomorphisme lorsqu’on s’adresse à un assistant conversationnel du fait de l’utilisation du langage comme vecteur d’échange. Il est donc du devoir des concepteurs de limiter ces travers avec la mise en œuvre de ces règles de conception, permettant ainsi de diminuer les risques de tromperie et de dépendance, et pour finir, permettant de donner confiance dans ces systèmes.

Références

[1] [Anglais] Senate Bill №1001 — CHAPTER 6. Bots — https://leginfo.legislature.ca.gov/faces/billTextClient.xhtml?bill_id=201720180SB1001

[2] Livre blanc sur les assistants vocaux de la CNIL — Exploration des enjeux éthiques, techniques et juridiques des assistants vocaux — https://www.cnil.fr/sites/default/files/atoms/files/cnil_livre-blanc-assistants-vocaux.pdf

[3] La voix de synthèse : de la communication de masse à l’interaction homme-machine. Dialogue avec le monde — https://www.cairn.info/revue-communication-et-langages1-2017-3-page-63.htm

[4] Avis n°3 agents conversationnels enjeux d’éthique—https://www.ccne-ethique.fr/sites/default/files/2022-02/Avis%20n%C2%B03%20agents%20conversationnels%20enjeux%20d%27%C3%A9thique.pdf

[5][Anglais] Creating a conversational chat bot of a specific person — https://patents.google.com/patent/US10853717B2/en?oq=us10853717b2

[6] Proposition de règlement du parlement européen et du conseil établissant des règles harmonisées concernant l’intelligence artificielle (législation sur l’intelligence artificielle) et modifiant certains actes législatifs de l’union — https://eur-lex.europa.eu/resource.html?uri=cellar:e0649735-a372-11eb-9585-01aa75ed71a1.0020.02/DOC_1&format=PDF

Merci de votre lecture ! Si vous souhaitez en savoir plus sur les Chatbots, le TAL et l’IA, suivez-moi sur Medium, LinkedIn et Twitter.

Autres articles liés aux assistants conversationnels

[embed]IA Conversationnelle : tendances et prédictions pour 2022 La transition numérique est en forte accélération du fait des nouveaux modes de vie personnels et professionnels…pemey.medium.com

[embed]Votre chatbot est-il sensible ? Les solutions d’assistance conversationnelle incluent de plus en plus une fonctionnalité d’analyse des sentiments…pemey.medium.com

[embed]Votre chatbot est-il accessible ? 12 millions de Français sont touchés par un handicap. Il parait nécessaire de leur faciliter l’accès à l’information…pemey.medium.com

[embed]14 critères pour (bien) choisir une solution de chatbots Quels sont les premiers critères à considérer lors de la sélection d’une solution d’assistance conversationnelle en…pemey.medium.com

[embed]Un aperçu du marché mondial des solutions de chatbots en 2020 Issu de ma veille sur le marché des assistants conversationnels, je vous livre quelques statistiques et informations…pemey.medium.com

[embed]*L’IA conversationnelle pour les dialogueurs : l’échelle des 4 niveaux de complexité* Lorsque vous voulez construire une solution d’IA conversationnelle, il est important de comprendre que les dialogues…*pemey.medium.com