Droit, entreprise et citoyen
Publié le 10 avril 2019 | Par Ivan Tchotourian
Les robots et le droit – 1re partie
Les robots et l’intelligence artificielle font beaucoup parler d’eux dans les domaines de l’emploi, de la santé, de l’enseignement. Mais qu’en est-il du domaine du droit?
Dans un précédent billet, j’avais touché à la question par ricochet. Celui-ci traitait des nouvelles technologiques et de l’intelligence artificielle (IA) appliquées à la finance, les «FinTech»1. Cette dynamique constituant une véritable révolution entraîne assurément de nouvelles possibilités: augmentation de la concurrence, amélioration des services et diminution des coûts, inclusion financière. Mais, elle est porteuse de risques (cybersécurité, vie privée, discrimination, responsabilité…) mettant en jeu la stabilité financière elle-même2.
Relativement à cette nouvelle technologie, le droit est en construction3. Comme je l’expliquais, les débats sont vifs sur la réglementation qu’il conviendrait de mettre en place4.
Le futur est maintenant!
Récemment, le Parlement européen a fait savoir qu’il convenait d’envisager avec précaution toute loi ou réglementation globale de l’IA, car «[…] la réglementation sectorielle peut prévoir des politiques suffisamment générales mais également affinées jusqu’à un niveau significatif pour le secteur industriel5.»
Le Parlement européen a aussi demandé à la Commission européenne de présenter une proposition d’instrument législatif sur les aspects juridiques du développement et de l’utilisation de la robotique et de l’intelligence artificielle (IA) dans un horizon de 10 ou 15 ans, combinée à des instruments non législatifs, tels que des lignes directrices et des codes de conduite6. Autrement dit, l’IA «n’est pas de la science-fiction», comme le clame une communication de la Commission européenne intitulée Artificial Intelligence for Europe7 !
L’IA, c’est quoi?
L’IA peut être définie comme la théorie et le développement des systèmes informatiques qui peuvent exécuter des tâches pour lesquelles l’intelligence humaine était traditionnellement requise8. Pour les auteurs de la Déclaration de Montréal, un système d’IA désigne tout système informatique utilisant des algorithmes d’intelligence artificielle, que ce soit un logiciel, un objet connecté ou un robot9.
Conséquemment, l’exploitation de l’IA amène l’apparition de nouveaux risques10 et pose de délicats problèmes éthiques11. Sur le terrain du droit, l’IA représente aussi un défi de taille. Elle soulève énormément de questions pour les juristes, questions desquelles ils ne doivent pas se détourner puisqu’elles sont inévitables. Les efforts de réglementation des IA et des robots doivent augmenter dans la même mesure que l’influence de ces derniers sur les humains augmente12!
Du fantasme à la réalité du robot humanoïde
Quelle est la position des juristes sur les robots (que certains appellent aussi «agents autonomes13»)? Comment traitent-ils de ce thème très en vogue et comment évaluent-ils les dommages que les robots pourraient causer à autrui14?
Tout d’abord, qu’est-ce qu’un robot? Le terme «robot» a été employé pour la première fois en 1920 dans une pièce de théâtre de l’écrivain tchèque Karel Čapek: Rossum’s Universal Robots15. Cela dit, c’est plus récemment que le phénomène «robot» a envahi tous les domaines de la vie quotidienne, cette conquête faisant la manchette des journaux du monde entier.
Or, malgré son omniprésence, le terme robot résiste encore à toute forme de systématisation. Ses définitions sont peut-être trop nombreuses. Mark A. Lemley et Bryan Casey écrivent d’ailleurs que leur multitude rendent compte du défi que cela représente de nommer cette réalité16.
Parmi toutes les définitions qui circulent, je privilégie celle proposée par Neil M. Richards et William D. Smart, pour qui un robot est un système construit qui affiche des formes d’activités physiques et mentales, mais qui n’est pas vivant au sens biologique du terme17.
Les robots peuvent néanmoins faire l’objet d’une approche fonctionnelle, laquelle permet de dégager plusieurs caractéristiques fondamentales et peut-être plus révélatrices de leur ADN. Pour Mark A. Lemley et Bryan Casey, les robots répondent à six critères18:
• «agenda» (dotés d’un programme),
• «automaticity» (automaticité),
• «autonomy» (autonomie),
• «agency» (pouvoir d’agir),
• «ability» (habiletés et compétences),
• «anthropomorphization» (anthropomorphisme).
Dans le même sens, Ryan Calo renvoie au paradigme «sense, think, act» et attribue trois qualités au robot19:
– Il peut capter les détails de son environnement;
– Il a la capacité de décoder cette information;
– Il est conçu pour agir directement sur son environnement.
Pour sa part, dans sa résolution du 16 février 2017, le Parlement européen cite les caractéristiques suivantes à propos des robots20:
• Acquisition d’autonomie grâce à des capteurs et/ou à l’échange de données avec l’environnement (interconnectivité) et à l’échange et à l’analyse de ces données;
• Capacité d’autoapprentissage à travers l’expérience et les interactions (critère facultatif), existence d’une enveloppe physique, même réduite;
• Capacité d’adapter son comportement et ses actes à son environnement;
• Non vivant au sens biologique du terme .
Des robots de plus en plus autonomes
Les machines dotées d’IA sont entraînées pour prendre des décisions, faire des choix, agir21. Même s’il est envisagé pour le moment d’utiliser des systèmes d’IA en complémentarité avec l’humain (c’est-à-dire en faisant des recommandations qui devraient nécessairement être confirmées par des humains)22, il est possible d’envisager que, dans l’avenir, l’on se fiera de plus en plus sur les décisions prises uniquement par les machines.
L’IA a déjà développé en ce sens l’«apprentissage machine» ou «machine learning», qui consiste à programmer un algorithme à apprendre par lui-même afin de donner au robot de plus en plus d’autonomie. Ainis, il devient capable de prendre des décisions sans intervention humaine.
Quelles seront les conséquences de cette technologie alors que le robot peut échapper au contrôle d’un tiers? Qui sera responsable d’un dommage à autrui causé par un robot dans le cadre d’un projet? L’ingénieur? Le programmateur? Le gouvernement? Le propriétaire du robot? Ou le robot lui-même?
C’est à ces délicates questions que tentera de répondre mon prochain billet.
1 Thierry Bonneau, Régulation bancaire et financière européenne et internationale, Bruxelles, Bruylant, 2018, à la p. 779, au par. 474. ↩
2 Ryan Calo, «Artificial Intelligence Policy. A Primer and Roadmap», University of California Davis Law Review, 2017, vol. 51, p. 399. ↩
3 Pour une critique de la position canadienne actuelle: Agnese Smith, «La véritable menace de l’IA provient de l’absence d’un cadre juridique pour les technologies émergentes», CBA/ABC National, automne 2015. ↩
4 Alexandra Bensamoun, «Quelle régulation pour l’intelligence artificielle?», Dossier Intelligence artificielle et cybersécurité, Revue Telecom ParisTech, septembre 2018, n° 190, p. 50; Anne Shirley LeBel, Ivan Tchotourian et Marc Lacoursière, «Défi de l’encadrement juridique de l’intelligence artificielle dans l’industrie bancaire et des valeurs mobilières: l’exemple des services de paiement et des conseillers-robots», Les Cahiers de propriété intellectuelle, 2018, vol. 30, no 3, p. 1005; Sylvie Bourdeau, Nicolas Faucher et Charles Alexandre Brosseau, «Les FinTechs: quels sont les enjeux juridiques?», dans Service de la formation continue du Barreau du Québec, Développements récents en droit bancaire (2017), Montréal, Éditions Yvon Blais, 2017, EYB2017DEV2463. ↩
5 Résolution du Parlement européen du 12 février 2019 sur une politique industrielle européenne globale sur l’intelligence artificielle et la robotique, 2018/2088(INI), au par. 116. ↩
6 Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique, 2015/2103(INL), au considérant 51. ↩
7 COM/2018/237 final, 25 avril 2018. ↩
8 Financial Stability Board, Artificial Intelligence and Machine Learning in Financial Services, 1er novembre 2017, à la p. 35. ↩
9 Déclaration de Montréal pour le développement responsable de l’IA, Rapport de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, 2018, à la p. 20. ↩
10 Pour les risques associés aux nouvelles technologies liées à l’IA, voir: Herbert Zech, Liability for Autonomous Systems: Tackling Specific Risks of Modern IT, document de travail, SSRN, 2018, aux p. 4 et s. ↩
11 Jocelyn Maclure et Marie-Noëlle Saint-Pierre, «Le nouvel âge de l’intelligence artificielle: une synthèse des enjeux éthiques», Les Cahiers de propriété intellectuelle, 2018, vol. 30, no 3, p. 741. ↩
12 Mark A. Lemley et Bryan Casey, You Might Be a Robot, document de travail, SSRN, 2019, à la p. 55. ↩
13 L’expression est empruntée à un de mes collègues: Nicolas Vermeys, «La responsabilité civile du fait des agents autonomes», Les Cahiers de propriété intellectuelle, 2018, vol. 30, no 3, p. 851. ↩
14 Pour des ouvrages récents montrant l’intérêt des juristes: Alexandra Bensamoun (dir.), Les robots – Objets scientifiques, objets de droits, coll. «Collection des Presses universitaires de Sceaux», Paris, Mare et Martin, 2016; Alain Bensoussan et Jérémy Bensoussan, Droit des robots, Bruxelles, Larcier, 2015. ↩
15 Christopher Intagliata, The Origin of the Word ‘Robot’, Science Friday (science diction), 22 avril 2011. ↩
16 «In fact, history teaches that our efforts to define “robot” follow a familiar trajectory. Definitions appear. They date. They disappear. Some small number survive this churn. But their longevity is born of tradeoffs. They endure by relying on vagaries or generalities that render them under- or over-determined and, therefore, unilluminating. In other words, they don’t capture what it is that makes us want to regulate a particular technology in a particular way.» Mark A. Lemley et Bryan Casey, You Might Be a Robot, document de travail, SSRN, 2019, à la p. 20. ↩
17 «A robot is something manufactured that moves about the world, seems to make rational decisions about what to do, and is a machine.» Neil M. Richards et William D. Smart, «How Should the Law Think About Robots?», dans R. Calo, A. M. Froomkin et I. Kerr (dir.), Robot Law, Cheltenham, Edward Elgar Pub, 2016, p. 3, à la p. 6. ↩
18 Mark A. Lemley et Bryan Casey, You Might Be a Robot, document de travail, SSRN, 2019, aux p. 41 et s. ↩
19 Ryan Calo, «Robots in American Law», Legal Studies Research Paper n° 2016-04, SSRN, 2016, aux p. 6 et s.; Ryan Calo, «Robotics and the Lessons of Cyberlaw», California Law Review, 2015, vol. 103, p. 513, aux p. 529 et s. ↩
20 Résolution du Parlement européen du 16 février 2017 contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique, 2015/2103(INL), au par. 1. ↩
21 Jocelyn Maclure et Marie-Noëlle Saint-Pierre, «Le nouvel âge de l’intelligence artificielle: une synthèse des enjeux éthiques», Les Cahiers de propriété intellectuelle, 2018, vol. 30, no 3, p. 741, à la p. 753. ↩
22 Pour certains, une machine ne devrait jamais prendre de décision seule si cela a des conséquences sérieuses pour les personnes: Commission nationale de l’informatique et des libertés, Comment permettre à l’homme de garder la main? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle, décembre 2017, à la p. 45. ↩
Publié le 3 juin 2020 | Par Ivan Tchotourian
Publié le 20 mai 2020 | Par moustapha sonko
Publié le 20 mai 2020 | Par moustapha sonko
Publié le 12 avril 2019 | Par Ivan Tchotourian
Publié le 11 avril 2019 | Par Pierre R Chantelois
Pierre R Chantelois
Montréal
Note : Les commentaires doivent être apportés dans le respect d'autrui et rester en lien avec le sujet traité. Les administrateurs du site de Contact agissent comme modérateurs et la publication des commentaires reste à leur discrétion.
commentez ce billet