ENTRETIEN. Robot, algorithme, IA… Me Alain Bensoussan, avocat spécialiste des technologies du futur, explique ce que le droit doit encore inventer.
Il a inventé la « personne robot » et la « raison d’être » du robot dont Buddy, le dernier-né de Blue Frog Robotics, est doté. Il plaide pour que les voitures autonomes, qui « réduisent considérablement le risque d’accident », se voient attribuer un « permis de conduire ». L’avocat Alain Bensoussan, spécialiste des technologies avancées, était l’un des invités du Paris Legal Makers qui s’est tenu le 6 décembre à Paris. Entretien.
Le Point : Vous étiez l’un des intervenants de la table ronde : « Le droit face aux géants du Net : rien ne va plus ? » Que peuvent nos systèmes juridiques face à la puissance des Gafa ?
Alain Bensoussan : Une chose est sûre : les Gafa ne se sont pas trompés sur les besoins de la planète. Qui aurait pu prédire que Facebook attirerait un jour 2,4 milliards de personnes ? Mark Zuckerberg devrait recevoir le prix Nobel de la paix ! Il a répondu à un vrai besoin de l’humanité en réussissant à fusionner numériquement la planète avec des services fondamentaux pour l’être humain. Nous sommes dans un monde dans lequel tous les systèmes politiques sociaux et économiques convergent dans ce désir de se retrouver sur Facebook.
Par ailleurs, le réseau social, avec sa « cour suprême », préfigure l’ère de la « société nation », autrement dit de l’entreprise qui édicte ses propres règles du jeu à vocation humaniste et universelle. Ces « sociétés nations », par les valeurs qu’elles défendent, vont remodeler le monde numérique tout autant que les autorités nationales et supranationales agissent sur le monde physique.
Quel est le contrepoids de ces nouvelles « sociétés nations » ?
Ce contrepoids réside dans la nécessaire maîtrise de l’individu sur ses données. La loi Axelle Lemaire pour une République numérique du 7 octobre 2016 a ouvert la voie en la matière, et un certain nombre de pays (États-Unis, Allemagne, Grande-Bretagne) s’inscrivent dans cette trajectoire.
On s’oriente en outre clairement vers un droit de propriété des données personnelles et une monétarisation de celles-ci grâce au développement des services de micro-paiement. Cela est essentiel pour que les États et leurs citoyens gardent leurs souverainetés sur les datas.
« Les algorithmes devront donc respecter les valeurs de l’UE. »
D’autant que les plateformes, avec les algorithmes dont certains « font la loi » (« code is law »), ont tendance à s’approprier une certaine souveraineté algorithmique…
La souveraineté algorithmique est un vrai enjeu de gouvernance ; elle est d’ailleurs au cœur du projet de règlement européen sur les systèmes d’IA du 21 avril 2021. Ce texte est piloté par les valeurs, et précise à cet égard que les systèmes d’intelligence artificielle (IA) doivent respecter la charte des droits fondamentaux, en particulier son article premier sur le respect de la dignité. Ainsi, c’est au nom du respect de la dignité que certaines pratiques d’AI sont interdites : par exemple, ne pas trahir les gens en étant en dessous de leur seuil de conscience, ou encore, ne pas utiliser la biométrie de reconnaissance faciale dans les espaces publics en temps réel sauf, notamment, en cas d’infractions graves ou pour des raisons de lutte contre le terrorisme.
Les algorithmes devront donc respecter les valeurs de l’UE. Prenons l’exemple de Parcoursup : le comité éthique et scientifique de la plateforme Parcoursup présidé par Isabelle Falque-Pierrotin est l’une des clés de régulation éthique de cet algorithme : cette démarche illustre une des applications du droit souple visant à réguler l’innovation de façon politiquement et socialement structurante.
Pour revenir aux Gafa, les géants du Web veulent certes détenir le monopole algorithmique, mais nous ne sommes qu’au tout début de la pente de l’innovation, et l’argent ne fait pas tout. Prenons l’exemple des vaccins Moderna ou Pfizer : ce sont deux chercheurs qui ont révolutionné la vaccination. Personne n’est a priori dominant à long terme dans un monde piloté par les technologies avancées où les innovations se succèdent de manière exponentielle.
Et puis, le législateur conserve sa part de souveraineté en ce domaine. Pour preuve, une centaine de lois dans le monde organisent déjà l’IA et la robotique de manière sectorielle : drones, agents intelligents, voitures autonomes, navires autonomes, systèmes de contrôle automatisé, logiciels judiciaires déjà utilisés par plus de 30 États américains…
Sur ce point, le projet de règlement européen prévoit que « pour faire face aux risques de biais, d’erreurs et d’opacité, il convient de classer comme étant à haut risque les systèmes d’IA destinés à aider les autorités judiciaires à rechercher et à interpréter les faits et la loi »…
La force des systèmes d’IA réside dans la précision de leurs résultats. Aux États-Unis, on s’est aperçu que le recours à l’IA conduisait à une diminution de la récidive. En revanche, on a relevé des biais, notamment liés à la couleur de peau. Dans le projet de règlement européen, un article est dédié aux systèmes à hauts risques : c’est l’article 10, intitulé « données et gouvernance des données », qui a pour objet notamment de lutter contre les biais.
Comment concevoir la responsabilité dans un monde gouverné par les algorithmes ? Des accidents vont survenir avec des voitures autonomes, imputables aux pilotes automatiques…
Le fait de déléguer la conduite automobile aux robots et d’abandonner une part de la décision humaine à celle de l’algorithme entraîne de forts enjeux en matière de libertés fondamentales. Cela doit nous inviter à penser autrement.
Lorsqu’une erreur du robot ou de l’algorithme sera à l’origine d’un accident de la route ou encore d’une erreur chirurgicale, on devra indemniser la victime et répartir socialement le coût sur les assureurs. On va donc passer d’un schéma de responsabilité pour faute à une responsabilité pour dommages lorsque les systèmes d’IA auront été mis sur le marché de manière conforme à la réglementation.
Ainsi, tous les opérateurs qui mettent sur le marché des robots seront tenus responsables si le système d’IA n’est pas conforme, transparent et loyal. Les utilisateurs bénéficieront aussi d’un droit de contestation de l’algorithme de façon à s’opposer à d’éventuels biais devant des commissions de régulation ou les tribunaux. Si, en revanche, le robot remplit l’ensemble des critères préalablement posés par la réglementation, le fabricant sera exonéré au profit d’une responsabilité sans faute.
« Tous les robots devraient être dotés d’une nationalité »
Le robot inventeur sera-t-il reconnu comme tel ? Vous qui êtes à l’origine du concept juridique de « personne-robot », que pensez-vous du robot compositeur ou du robot peintre ?
Il faudra tirer les conséquences juridiques de la créativité des robots et de leurs performances, et reconnaître la valeur artistique des créations de robots (dans l’art, la musique, etc.). Pour s’assurer que l’invention provient bien du robot, on appliquera la règle posée par Alan Turing : si l’on ne peut pas faire la différence entre l’œuvre d’un humain et celle d’un robot, alors cette dernière devra être reconnue en tant que telle lorsqu’elle satisfera à toutes les contraintes légales concernant les œuvres d’origine humaine.
Il faudra donc créer un droit spécifique au robot et lui imposer des principes de transparence et de compréhension, permettre la contestation de son fonctionnement, mais aussi limiter ses actions par un bouton rouge indispensable. Ce bouton rouge est inscrit dans l’article 14 du projet de règlement européen sur l’IA. Il précise que l’humain doit toujours garder la main sur les systèmes d’IA. Prenez cet ancêtre du robot qu’est le Golem. Lorsqu’on a lui ôté la lettre « e », transformant le « Emet » (vérité) en Met (mort), on l’a neutralisé…
Buddy est le premier robot à être doté d’une « raison d’être ». Comment inculquer des valeurs morales ou éthiques – et lesquelles ? – aux robots ?
Un robot doit bien sûr incarner des valeurs et déclarer dans sa charte d’utilisation ou notice les règles éthiques qui gouvernent son comportement. Chaque entreprise qui conçoit ou utilise un robot doit poser les règles du jeu expliquant comment le robot s’inscrit dans la société en relation avec les humains. Comme un médicament, le robot doit avoir en quelque sorte sa posologie, et aussi ses valeurs, par exemple, frapper à la porte avant d’entrer, ou encore ne pas trahir l’utilisateur en envoyant ses données personnelles quelque part sans autorisation préalable. Il faudra aussi écrire un abécédaire de la vie en commun entre les humains et les robots. Le monde de demain est celui d’une coopération, voire d’une complicité émotionnelle, entre les êtres humains et les robots.
À côté de ces valeurs fondamentales, tous les robots devraient être dotés d’une nationalité comme le robot Sophia doté de la nationalité saoudienne. Un robot français incarnera les valeurs fondamentales de la nation française, comme un robot chinois exprimera les valeurs de la civilisation chinoise.