Réseaux sociaux JSS
Réseaux sociaux JSS
Réseaux sociaux JSS
Réseaux sociaux JSS
Réseaux sociaux JSS
Journal Spécial des Sociétés
Révolution des robots : quel cadre juridique pour l’intelligence artificielle ?
Publié le 11/06/2018

Les robots nous battent aux jeux, les robots peuvent créer des œuvres d’art, les robots surpassent dans leur diagnostic les plus éminents médecins... Devenues supérieures à l’être humain, les machines intelligentes vont prendre une place de plus en plus importante dans la société. Plutôt que d’en avoir peur et de s’en tenir aux scénarios de science-fiction, la deuxième table-ronde du colloque dédié à la personnalité juridique a proposé de s’emparer de la question du cadre juridique à accorder à cette intelligence artificielle, qui impactera inévitablement notre société tout entière. Quelle responsabilité en cas d’accident ? Quelle évolution pour le droit du travail, ou encore la Sécurité sociale ? Les prospectives sont nombreuses ; le débat était ouvert le 16 mai dernier, à la maison du barreau de Paris, à l’occasion du quatrième anniversaire à la Grande Bibliothèque du Droit.


Il y a les personnes physiques, il y a les personnes morales, mais pourquoi les personnes robots n’auraient-elles pas droit à l’existence ? Un tantinet théâtral, volontairement provocateur, Alain Bensoussan a lancé les hostilités, avant de se dire favorable à cette possibilité. « Un robot est libre et indépendant. Libre car il est capable de lire, d’écrire, de penser, d’apprendre, d’évoluer. Indépendant, car il voit mieux, il entend mieux,
il agit mieux qu’auparavant. S’il est libre, alors il a nécessairement des droits et des obligations, comme les personnes physiques, comme les personnes morales.
"Personne-robot", ce n’est qu’une expression, il ne s’agit pas vraiment de dire qu’il s’agit d’une vraie personne, mais d’un vecteur de personnalité juridique pour le doter de droits et d’obligations », a plaidé l’avocat devant l’amphithéâtre comble de la Maison du Barreau, ce 16 mai. Un obstacle demeure : d’utiliser les cadres juridiques tels qu’ils sont aujourd’hui. « Pensez-vous que le Code civil des objets malheureux, sans capacité de penser, puisse être une solution pour les robots d’aujourd’hui et de demain ? La réponse est manifestement non (...). Aujourd’hui, les humains n’ont aucune chance : partout, ils sont battus par l’intelligence artificielle. Au jeu d’échecs, au jeu de go, au jeu Jeopardy, même au poker : ils ont perdu. Le robot n’est pas un humain, il n’est pas un animal ; c’est une nouvelle espèce, et qui dit nouvelle espèce, dit nouvelle catégorie juridique », a-t-il estimé.


Les députés européens, en faveur d’une « personnalité juridique spécifique »


Les députés européens, notamment, se sont eux aussi penchés sur la question et ont préconisé, dans un rapport adopté en février 2017, d’attribuer une « personnalité juridique spécifique » aux robots. Il s’agissait plus exactement d’un cadre juridique sur la responsabilité des robots, certains se voyant attribuer des devoirs, comme celui de « réparer tout dommage causé à un tiers ». « Au Parlement, nous avions concentré nos discussions sur le fait de savoir si le droit en vigueur permettait d’indemniser la victime d’un accident provoqué par un robot. Dans notre rapport, nous sommes parvenus à la conclusion que non, a relaté sa rapporteure, l’eurodéputée luxembourgeoise Mady Delvaux, présente au colloque. La Commission prétend que la directive du fait des produits défectueux de 1985 protège suffisamment les individus, puisque la responsabilité incombe au producteur, et qu’il suffit de prouver l’existence d’un dommage et d’un lien de causalité. Or, nous avons soulevé un tas d’obstacles : la multiplication d’intervenants dans les circuits d’IA va rendre difficile l’identification des producteurs, le degré d’autonomie atteint par un robot auto-apprenant va rendre difficile pour la victime d’apporter du lien de causalité entre le produit défectueux et le dommage subi », a argué Mady Delvaux. Par ailleurs, dans le cadre de cette directive de 1985, le producteur peut se soustraire à sa responsabilité s’il plaide faute utilisateur. Mais, selon l’eurodéputée, cela amène son lot de questions : quel est alors l’usage raisonnable d’un robot ? Est-ce que, par exemple, une mise à jour, est un « usage raisonnable » – si on ne la fait pas, est-on fautif ? Autant de questions qui, selon l’eurodéputée, doivent être clarifiées. En attendant, le rapport a laissé ouvertes deux options : soit le principe de responsabilité objective, mais cela nécessite de revoir la directive de 1985, soit la gestion du risque, où l’on ne se concentre pas sur la personne qui a agi de façon négligente, mais sur la personne la mieux capable de réduire le risque. « Nous avons également plaidé pour la mise en place d’un régime d’assurance obligatoire, par exemple pour la voiture, mais cela implique une classification des robots », a expliqué l’eurodéputée.


« Le rapport défend l’idée que les robots les plus sophistiqués puissent être considérés comme des personnes électroniques responsables. Mais les critiques ont fusé de toutes parts », a-t-elle relevé. Ainsi, l’association Europe For Family a notamment estimé qu’était « risqué » tout «  mécanisme de responsabilité humanisant le robot  », car cela « atténue la distinction entre l’homme et la machine dans une vision idéologique transhumaniste ». « Nous avons pourtant rappelé – car certaines personnes l’oublient trop souvent – qu’un robot n’est pas une personne et qu’il n’en sera jamais une. Il peut se comporter comme tel, il peut en avoir la voix, mais il n’a pas de sentiments. Peut-être qu’il y a des hommes qui peuvent tomber amoureux d’un robot – il y en a bien qui le sont de leur voiture ! – mais les robots, eux, ne tombent pas amoureux », a insisté l’eurodéputée, qui n’a pas manqué d’affirmer son inquiétude : « J’aimerais que les choses avancent au niveau européen, car j’ai peur que si chaque État membre prend des initiatives législatives en matière de robotique, par la suite, on ait beaucoup de mal à tout harmoniser ».



Robots vs droit du travail


Au-delà d’une potentielle personnalité juridique, Mady Delvaux l’a souligné : le développement de l’IA impose de s’interroger sur la transformation de la société. « Tous les métiers et aspects de la vie vont être et sont déjà concernés par l’intelligence artificielle. Il faudra imaginer une distribution plus équitable des richesses, réfléchir à un nouveau système éducatif : des métiers vont disparaître, de nouveaux métiers vont être créés », a-t-elle indiqué. Sur le travail, Laurent Gamet, avocat associé chez Flichy Grangé Avocats, l’a rappelé : les robots sont déjà des travailleurs dans l’industrie depuis les années 80, mais quantité de métiers vont être gagnés par la robotisation. « Il est fort probable que d’ici 10 ans, ce soit une forme d’IA qui vous accordera votre prêt à la banque », a-t-il parié.


Mais alors, d’un point de vue du droit du travail, faudra-t-il appliquer le droit du travail aux robots ? « La question est intéressante pour se rendre compte combien le droit du travail protège les corps et les esprits, la personne humaine, la personne physique, faite de chair et d’os, et que cela n’aurait aucun sens d’appliquer le droit de la durée du travail – vu que le robot peut travailler 24h/24, d’appliquer les règles repos dominical, d’appliquer les règles en matière d’hygiène et de sécurité – car il ne risque pas grand chose même à des températures très élevées ou inversement, ou d’appliquer les règles sur le harcèlement sexuel – caresser un bout de tôle n’étant pas caractéristique d’un harcèlement sexuel à mon sens ! », a considéré l’avocat.
La question d’appliquer le droit du travail au robot n’aurait donc pas de sens, mais ne pourrait-on pas concevoir un droit du robot travailleur ? Pour Laurent Gamet, « Il ne semble pas qu’il y ait besoin d’un droit en la matière, car une protection d’un robot ne mènerait à rien. Cependant, envisageons l’inverse : ne faudrait-il pas protéger les êtres humains, personnes physiques, des robots – et notamment les travailleurs ? ».


Par ailleurs, avec le remplacement progressif de l’humain par des robots pour certaines tâches, comment va-t-on
organiser la société ? « Tout pourrait être dans le meilleur des mondes, si les robots prenaient notre place, qu’ils préparaient – pour nous, avocats – nos conclusions et nos dossiers, et que notre vie soit faite de promenades, cela serait merveilleux, mais on se heurte à un problème : on a besoin de travailler pour vivre, et sans cet argent du travail, comment va-t-on organiser la société ? », s’est encore interrogé l’avocat. Cela pose en effet la question de l’ampleur des hommes remplacés par des robots. Or, en dépit du nombre de rapports rendus sur la question, preuve est de constater que, pour le moment, notre société mesure assez mal cette ampleur. Face à cela, certains spécialistes s’affichent très pessimistes, d’autres, plus optimistes. « Les plus optimistes considèrent qu’il y aura des plus et des moins à tirer de cette situation. Sauf qu’à mon sens,
les plus et moins ne sont pas les mêmes. Les emplois qui vont être supprimés seront peu qualifiés, tandis que les emplois qui seront créés seront, eux, très qualifiés »
, a alerté Laurent Gamet. Gérer la question de la disparition du travail apparaît donc comme un sujet porteur de risques pour la démocratie,
un sujet qu’il faut « regarder avec attention, même s’il ne s’agit pas d’exagérer le phénomène, mais au contraire se donner le temps de le regarder avec sérénité et sang-froid ». Parler de travail amène nécessairement à se questionner autour de la protection sociale. Car dans nos sociétés européennes, en France notamment, le financement de notre système de protection sociale est basé sur l’activité professionnelle. « En 1945, on a conçu la Sécurité sociale ainsi. Finalement, il faut être travailleur, salarié, indépendant ou ayant droit des travailleurs, pour bénéficier de la Sécurité sociale. Si disparition du travail il y a, si quantité de gens sont renvoyés dans les sphères de l’inactivité, faudra-t-il revoir choses ? », a analysé Laurent Gamet.
Ce dernier a donc étudié une première voie : celle de créer une taxe sur les robots, pour faire payer au propriétaire du robot ce que le travailleur à sa place aurait payé en cotisations sociales. « Mais on a là un frein à l’innovation technologique : pourquoi taxer le robot et pas, par exemple, un logiciel traitement de texte ? Tout ceci ne conduit-il pas à revoir le système de la Sécurité sociale ? ». Cette dernière pourrait donc être détachée de l’activité, a proposé l’avocat : « elle serait ainsi liée au fait qu’on est un être humain, sujet à des problèmes de santé et aux accidents de la vie, et pourrait être financée par l’impôt ou ses dérivés ».



« Des robots qui surpassent les cerveaux humains »


Si toutes ces questions se posent aujourd’hui un peu plus qu’auparavant, c’est parce que les robots sont passés, a souligné Alain Bensoussan, d’une intelligence faible d’une supériorité sur une fonction dans un contexte à une intelligence moyenne d’une supériorité à de multiples stades. Des robots qui, dans une situation de cerveau artificiel, réfléchissent, sont capables d’une stratégie et surpassent les cerveaux humains.


Comment une personne atteinte d’une maladie grave peut-elle préférer le diagnostic d’un humain à celui d’un robot, lorsqu’on sait que Watson, le programme informatique d’intelligence artificielle conçu par IBM, ne se trompe en la matière qu’une fois sur dix, là où les plus grands professeurs se trompent une fois sur deux ? a interrogé Alain Bensoussan, qui a encore martelé : « Que veut dire à ce moment-là l’erreur humaine, la responsabilité, la directive, lorsque la machine est capable de sauver des vies, alors que les humains ne le sont pas ? Qui est responsable, l’humain face à sa défaillance biologique, ou le robot, par sa supériorité artificielle ? »


Si Watson est capable de trouver une solution en traitant en l’espace de quelques minutes la totalité des publications médicales dans l’ensemble du monde, des chercheurs américains ont mis au point en juin 2017?une intelligence artificielle capable de produire des créations artistiques ; capacité qui semblait jusque-là être réservée à l’humain. Les Creative Adversarial Networks, appelés CAN, sont en effet équipés d’un double algorithme, l’un destiné à produire des images, l’autre à les juger, et les expériences menées ont pu démontrer que le public n’arrivait pas à distinguer si les tableaux qu’ils regardaient avaient été faits par un homme ou un robot. Alors, pourquoi les droits d’auteur ne permettraient-ils pas d’accueillir les créations des robots, bien meilleurs que les humains ?, a soulevé Alain Bensoussan.


Poursuivant le débat, l’avocat s’est également posé la question de savoir qui devait trancher en dernier ressort. Lorsqu’un humain et un robot pilotent un avion, qui doit décider en contexte de drame ? L’humain, ou le robot ? Pour Alain Bensoussan, cela ne fait aucun doute : « Je pense que ce sont les robots, car ils sont supérieurs à l’homme, et cette intelligence supérieure doit nous guider. Car le monde de demain n’est pas seulement celui de la liberté, c’est aussi celui de la dignité. Or nous avons besoin des robots pour continuer l’évolution dans ce sens ».



Les robots vont-ils nous remplacer ?


« Ne sommes-nous pas en train de faire la courte-échelle à la nouvelle espèce qui va nous remplacer lors d’une septième extinction ? Autant lorsqu’on étudie la question de protéger les animaux par la personnalité juridique, on se dit qu’ils ne nous remplaceront pas, mais là, protéger, aider, encourager les robots, n’est-ce pas un peu suicidaire ? Ne faudrait-il pas se méfier de l’IA ? », a lancé Philippe Dupichot ce qui n’a pas manqué de faire réagir ses invités. « Je pense qu’il y a beaucoup de fantasmes autour des robots, et ce mythe que l’humain sera remplacé par un superhumain. Je n’aime pas trop la science-fiction, et pour moi, cela ne sert à rien de vouloir stopper la technologie : il ne faut pas exagérément en avoir peur ni s’en servir pour faire peur », a estimé Mady Delvaux, qui s’est par ailleurs dite « contente » que le débat soit lancé, mais que ce dernier devrait prendre plus de place, afin de pouvoir fixer ce que la société veut obtenir de par la technologie, et ce à quoi elle se refuse. « Il faut surtout se poser des questions sur la manière dont on va interagir avec ces instruments, qui sont trop fantastiques pour s’en priver », a encore affirmé l’eurodéputée.


Mais trop se reposer sur ces instruments, justement, ne serait-il pas un vecteur pour que l’humain perde progressivement sa mémoire, sa concentration ? « La taille de nos cerveaux pourrait diminuer, car on va de moins en moins apprendre, de plus en plus s’appuyer sur les machines, et ce, à leur profit ! », a fait remarquer Philippe Dupichot. À cela, Mady Delvaux a rétorqué qu’il s’agirait alors de compétences dont nous n’aurons plus besoin : « Regardez, aujourd’hui, nous n’avons pas les mêmes compétences que les hommes des cavernes. Celles-ci vont encore évoluer, mais faut-il nécessairement le condamner ? »


Pour Alain Bessoussan, une seule  certitude : il y a eu un monde avant et  un monde après 2015. « Je mets la césure en 2015, car avant cela, l’homme a toujours utilisé des "prothèses" qui lui prolongeaient le bras. Jusqu’à maintenant, on était en situation proportionnelle. On donnait de plus en plus de force à cette prothèse, mais l’humain était en situation de domination. Or, en passant d’une prothèse intelligente à une prothèse supérieure au cerveau, on a changé de paradigme », a-t-il analysé.


Paradigme dont il faut poser les jalons, en lien avec deux enjeux majeurs du XXIe siècle : le sauvetage de la vie, et, d’autre part, l’apparition d’un nouveau monde artificiel, a jugé, en écho, le professeur Didier Guével. Et d’ajouter : « Dans un monde où les humains se robotisent par l’ajout de multiples implants artificiels, où l’on peut créer des avatars en réalité virtuelle, où l’on est capable techniquement de cloner des individus (biologiquement et par les sociétés unipersonnelles), où l’ingénierie génétique et le Crispr Cas 9 permettent très facilement d’insérer des gènes d’animaux ou de plantes dans l’être humain qui les transmettra à sa descendance, où les matériaux conçus en 4D vont être animés (grâce à la chimie supramoléculaire), où la notion de personne morale risque d’exploser avec les smart grids et les blockchains, où un seul citoyen peut avoir deux patrimoines (par le procédé de l’EIRL), le concept de personne – notamment humaine – tend à l’obsolescence ».

 


Bérengère Margaritelli


 


0 commentaire
5 + 2 =

Journal Spécial des Sociétés - 8 rue Saint Augustin - 75002 Paris - Tél 01 47 03 10 10