Les robots nous battent aux jeux, les robots
peuvent créer des œuvres d’art, les robots surpassent dans leur diagnostic les
plus éminents médecins... Devenues supérieures à l’être humain, les machines
intelligentes vont prendre une place de plus en plus importante dans la
société. Plutôt que d’en avoir peur et de s’en tenir aux scénarios de
science-fiction, la deuxième table-ronde du colloque dédié à la
personnalité juridique a proposé de s’emparer de la question du cadre juridique
à accorder à cette intelligence artificielle, qui impactera inévitablement
notre société tout entière. Quelle responsabilité en cas d’accident ?
Quelle évolution pour le droit du travail, ou encore la Sécurité sociale ?
Les prospectives sont nombreuses ; le débat était ouvert le 16 mai dernier,
à la maison du barreau de Paris, à l’occasion du quatrième anniversaire à la
Grande Bibliothèque du Droit.
Il y a les personnes physiques, il y a les personnes morales, mais
pourquoi les personnes robots n’auraient-elles pas droit à l’existence ?
Un tantinet théâtral, volontairement provocateur, Alain Bensoussan a lancé les
hostilités, avant de se dire favorable à cette possibilité. « Un robot
est libre et indépendant. Libre car il est capable de lire, d’écrire, de
penser, d’apprendre, d’évoluer. Indépendant, car il voit mieux, il entend
mieux,
il agit mieux qu’auparavant. S’il est libre, alors il a nécessairement des
droits et des obligations, comme les personnes physiques, comme les personnes
morales. "Personne-robot", ce n’est qu’une expression, il ne
s’agit pas vraiment de dire qu’il s’agit d’une vraie personne, mais d’un
vecteur de personnalité juridique pour le doter de droits et
d’obligations », a plaidé l’avocat devant l’amphithéâtre comble de la
Maison du Barreau, ce 16 mai. Un obstacle demeure : d’utiliser les cadres
juridiques tels qu’ils sont aujourd’hui. « Pensez-vous que le Code
civil des objets malheureux, sans capacité de penser, puisse être une solution
pour les robots d’aujourd’hui et de demain ? La réponse est manifestement
non (...). Aujourd’hui, les humains n’ont aucune chance : partout, ils
sont battus par l’intelligence artificielle. Au jeu d’échecs, au jeu de go, au
jeu Jeopardy, même au poker : ils ont perdu. Le robot n’est pas un humain,
il n’est pas un animal ; c’est une nouvelle espèce, et qui dit nouvelle
espèce, dit nouvelle catégorie juridique », a-t-il estimé.
Les députés européens, en faveur
d’une « personnalité juridique spécifique »
Les députés européens, notamment, se sont eux aussi
penchés sur la question et ont préconisé, dans un rapport adopté en
février 2017, d’attribuer une « personnalité juridique spécifique »
aux robots. Il s’agissait plus exactement d’un cadre juridique sur la
responsabilité des robots, certains se voyant attribuer des devoirs, comme
celui de « réparer tout dommage causé à un tiers ». « Au
Parlement, nous avions concentré nos discussions sur le fait de savoir si le
droit en vigueur permettait d’indemniser la victime d’un accident provoqué par
un robot. Dans notre rapport, nous sommes parvenus à la conclusion que non,
a relaté sa rapporteure, l’eurodéputée luxembourgeoise Mady Delvaux, présente
au colloque. La Commission prétend que la directive du fait des produits
défectueux de 1985 protège suffisamment les individus, puisque la responsabilité incombe au
producteur, et qu’il suffit de prouver l’existence d’un dommage et d’un lien de
causalité. Or, nous avons soulevé un tas d’obstacles : la multiplication
d’intervenants dans les circuits d’IA va rendre difficile l’identification des
producteurs, le degré d’autonomie atteint par un robot auto-apprenant va rendre
difficile pour la victime d’apporter du lien de causalité entre le produit
défectueux et le dommage subi », a argué Mady
Delvaux. Par ailleurs, dans le cadre de cette directive de 1985, le producteur
peut se soustraire à sa responsabilité s’il plaide faute utilisateur. Mais,
selon l’eurodéputée, cela amène son lot de questions : quel est alors
l’usage raisonnable d’un robot ? Est-ce que, par exemple, une mise à jour,
est un « usage raisonnable » – si on ne la fait pas,
est-on fautif ? Autant de questions qui, selon l’eurodéputée, doivent être
clarifiées. En attendant, le rapport a laissé ouvertes deux options :
soit le principe de responsabilité objective, mais cela nécessite de revoir la
directive de 1985, soit la gestion du risque, où l’on ne se concentre pas sur
la personne qui a agi de façon négligente, mais sur la personne la mieux
capable de réduire le risque. « Nous avons également plaidé pour la
mise en place d’un régime d’assurance obligatoire, par exemple pour la voiture,
mais cela implique une classification des robots », a expliqué
l’eurodéputée.
« Le rapport défend l’idée que les robots les
plus sophistiqués puissent être considérés comme des personnes électroniques
responsables. Mais les critiques ont fusé de toutes parts », a-t-elle
relevé. Ainsi, l’association Europe For Family a notamment estimé
qu’était « risqué » tout « mécanisme
de responsabilité humanisant le robot », car cela « atténue la distinction entre l’homme et la
machine dans une vision idéologique transhumaniste ». « Nous
avons pourtant rappelé – car certaines personnes l’oublient trop souvent –
qu’un robot n’est pas une personne et qu’il n’en sera jamais une. Il peut se
comporter comme tel, il peut en avoir la voix, mais il n’a pas de sentiments.
Peut-être qu’il y a des hommes qui peuvent tomber amoureux d’un robot – il y en
a bien qui le sont de leur voiture ! – mais les robots, eux, ne tombent
pas amoureux », a insisté l’eurodéputée, qui n’a pas manqué d’affirmer
son inquiétude : « J’aimerais que les choses avancent au niveau
européen, car j’ai peur que si chaque État membre prend des initiatives
législatives en matière de robotique, par la suite, on ait beaucoup de mal à
tout harmoniser ».
Robots vs droit du travail
Au-delà d’une potentielle personnalité juridique,
Mady Delvaux l’a souligné : le développement de l’IA impose de
s’interroger sur la transformation de la société. « Tous les métiers et
aspects de la vie vont être et sont déjà concernés par l’intelligence
artificielle. Il faudra imaginer une distribution plus équitable des richesses,
réfléchir à un nouveau système éducatif : des métiers vont disparaître, de
nouveaux métiers vont être créés », a-t-elle indiqué. Sur le travail,
Laurent Gamet, avocat associé chez Flichy Grangé Avocats, l’a rappelé :
les robots sont déjà des travailleurs dans l’industrie depuis les
années 80, mais quantité de métiers vont être gagnés par la robotisation.
« Il est fort probable que d’ici 10 ans, ce soit une forme d’IA
qui vous accordera votre prêt à la banque », a-t-il parié.
Mais alors, d’un point de vue du droit du travail,
faudra-t-il appliquer le droit du travail aux robots ? « La
question est intéressante pour se rendre compte combien le droit du travail
protège les corps et les esprits, la personne humaine, la personne physique,
faite de chair et d’os, et que cela n’aurait aucun sens d’appliquer le droit de
la durée du travail – vu que le robot peut travailler 24h/24, d’appliquer les
règles repos dominical, d’appliquer les règles en matière d’hygiène et de
sécurité – car il ne risque pas grand chose même à des températures très
élevées ou inversement, ou d’appliquer les règles sur le harcèlement sexuel –
caresser un bout de tôle n’étant pas caractéristique d’un harcèlement sexuel à
mon sens ! », a considéré l’avocat.
La question d’appliquer le droit du travail au robot n’aurait donc pas de sens,
mais ne pourrait-on pas concevoir un droit du robot travailleur ? Pour
Laurent Gamet, « Il ne semble pas qu’il y ait besoin d’un droit en la
matière, car une protection d’un robot ne mènerait à rien. Cependant,
envisageons l’inverse : ne faudrait-il pas protéger les êtres humains,
personnes physiques, des robots – et notamment les travailleurs ? ».
Par ailleurs, avec le remplacement progressif de
l’humain par des robots pour certaines tâches, comment va-t-on
organiser la société ? « Tout pourrait être dans le meilleur des
mondes, si les robots prenaient notre place, qu’ils préparaient – pour nous,
avocats – nos conclusions et nos dossiers, et que notre vie soit faite de
promenades, cela serait merveilleux, mais on se heurte à un problème : on
a besoin de travailler pour vivre, et sans cet argent du travail, comment
va-t-on organiser la société ? », s’est encore interrogé
l’avocat. Cela pose en effet la question de l’ampleur des hommes remplacés par
des robots. Or, en dépit du nombre de rapports rendus sur la question, preuve
est de constater que, pour le moment, notre société mesure assez mal cette
ampleur. Face à cela, certains spécialistes s’affichent très pessimistes,
d’autres, plus optimistes. « Les plus optimistes considèrent qu’il y
aura des plus et des moins à tirer de cette situation. Sauf qu’à mon sens,
les plus et moins ne sont pas les mêmes. Les emplois qui vont être supprimés
seront peu qualifiés, tandis que les emplois qui seront créés seront, eux, très
qualifiés », a alerté Laurent Gamet. Gérer la question de la
disparition du travail apparaît donc comme un sujet porteur de risques pour la
démocratie,
un sujet qu’il faut « regarder avec attention, même s’il ne s’agit pas
d’exagérer le phénomène, mais au contraire se donner le temps de le regarder
avec sérénité et sang-froid ». Parler de travail amène nécessairement
à se questionner autour de la protection sociale. Car dans nos sociétés
européennes, en France notamment, le financement de notre système de protection
sociale est basé sur l’activité professionnelle. « En 1945, on a conçu
la Sécurité sociale ainsi. Finalement, il faut être travailleur, salarié,
indépendant ou ayant droit des travailleurs, pour bénéficier de la Sécurité
sociale. Si disparition du travail il y a, si quantité de gens sont renvoyés
dans les sphères de l’inactivité, faudra-t-il revoir choses ? »,
a analysé Laurent Gamet.
Ce dernier a donc étudié une première voie : celle de créer une taxe
sur les robots, pour faire payer au propriétaire du robot ce que le travailleur
à sa place aurait payé en cotisations sociales. « Mais on a là un frein
à l’innovation technologique : pourquoi taxer le robot et pas, par
exemple, un logiciel traitement de texte ? Tout ceci ne conduit-il pas à
revoir le système de la Sécurité sociale ? ». Cette dernière
pourrait donc être détachée de l’activité, a proposé l’avocat : « elle
serait ainsi liée au fait qu’on est un être humain, sujet à des problèmes de
santé et aux accidents de la vie, et pourrait être financée par l’impôt ou ses
dérivés ».
« Des robots qui
surpassent les cerveaux humains »
Si toutes ces questions se posent aujourd’hui un peu
plus qu’auparavant, c’est parce que les robots sont passés, a souligné Alain
Bensoussan, d’une intelligence faible – d’une supériorité sur une
fonction dans un contexte – à une intelligence moyenne – d’une
supériorité à de multiples stades. Des robots qui, dans une situation de
cerveau artificiel, réfléchissent, sont capables d’une stratégie et surpassent
les cerveaux humains.
Comment une personne atteinte d’une maladie grave
peut-elle préférer le diagnostic d’un humain à celui d’un robot, lorsqu’on sait
que Watson, le programme informatique d’intelligence artificielle conçu par
IBM, ne se trompe en la matière qu’une fois sur dix, là où les plus grands
professeurs se trompent une fois sur deux ? a interrogé Alain Bensoussan,
qui a encore martelé : « Que veut dire à ce moment-là l’erreur
humaine, la responsabilité, la directive, lorsque la machine est capable de
sauver des vies, alors que les humains ne le sont pas ? Qui est
responsable, l’humain face à sa défaillance biologique, ou le robot, par sa
supériorité artificielle ? »
Si Watson est capable de trouver une solution en
traitant en l’espace de quelques minutes la totalité des publications médicales
dans l’ensemble du monde, des chercheurs américains ont mis au point en
juin 2017?une
intelligence artificielle capable de produire des créations artistiques ;
capacité qui semblait jusque-là être réservée à l’humain. Les Creative
Adversarial Networks, appelés CAN, sont en effet équipés d’un double
algorithme, l’un destiné à produire des images, l’autre à les juger, et les
expériences menées ont pu démontrer que le public n’arrivait pas à distinguer
si les tableaux qu’ils regardaient avaient été faits par un homme ou un robot.
Alors, pourquoi les droits d’auteur ne permettraient-ils pas d’accueillir les
créations des robots, bien meilleurs que les humains ?, a soulevé Alain
Bensoussan.
Poursuivant le débat, l’avocat s’est également posé
la question de savoir qui devait trancher en dernier ressort. Lorsqu’un humain
et un robot pilotent un avion, qui doit décider en contexte de drame ?
L’humain, ou le robot ? Pour Alain Bensoussan, cela ne fait aucun
doute : « Je pense que ce sont les robots, car ils sont supérieurs
à l’homme, et cette intelligence supérieure doit nous guider. Car le monde de
demain n’est pas seulement celui de la liberté, c’est aussi celui de la
dignité. Or nous avons besoin des robots pour continuer l’évolution dans ce
sens ».
Les robots vont-ils nous
remplacer ?
« Ne sommes-nous pas en train de faire la
courte-échelle à la nouvelle espèce qui va nous remplacer lors d’une
septième extinction ? Autant lorsqu’on étudie la question de protéger
les animaux par la personnalité juridique, on se dit qu’ils ne nous
remplaceront pas, mais là, protéger, aider, encourager les robots, n’est-ce pas
un peu suicidaire ? Ne faudrait-il pas se méfier de l’IA ? »,
a lancé Philippe Dupichot – ce qui n’a pas manqué de faire réagir ses
invités. « Je pense qu’il y a beaucoup de fantasmes autour des robots,
et ce mythe que l’humain sera remplacé par un superhumain. Je n’aime pas trop
la science-fiction, et pour moi, cela ne sert à rien de vouloir stopper la
technologie : il ne faut pas exagérément en avoir peur ni s’en servir pour
faire peur », a estimé Mady Delvaux, qui s’est par ailleurs dite
« contente » que le débat soit lancé, mais que ce dernier
devrait prendre plus de place, afin de pouvoir fixer ce que la société veut
obtenir de par la technologie, et ce à quoi elle se refuse. « Il faut
surtout se poser des questions sur la manière dont on va interagir avec ces
instruments, qui sont trop fantastiques pour s’en priver », a encore
affirmé l’eurodéputée.
Mais trop se reposer sur ces instruments, justement,
ne serait-il pas un vecteur pour que l’humain perde progressivement sa mémoire,
sa concentration ? « La taille de nos cerveaux pourrait diminuer,
car on va de moins en moins apprendre, de plus en plus s’appuyer sur les
machines, et ce, à leur profit ! », a fait remarquer Philippe
Dupichot. À cela, Mady Delvaux a rétorqué qu’il s’agirait alors de compétences
dont nous n’aurons plus besoin : « Regardez, aujourd’hui, nous
n’avons pas les mêmes compétences que les hommes des cavernes. Celles-ci vont
encore évoluer, mais faut-il nécessairement le condamner ? »
Pour Alain Bessoussan, une seule certitude : il y a eu un monde avant et un monde après 2015. « Je mets la
césure en 2015, car avant cela, l’homme a toujours utilisé des "prothèses"
qui lui prolongeaient le bras. Jusqu’à maintenant, on était en situation
proportionnelle. On donnait de plus en plus de force à cette prothèse, mais
l’humain était en situation de domination. Or, en passant d’une prothèse intelligente
à une prothèse supérieure au cerveau, on a changé de paradigme »,
a-t-il analysé.
Paradigme dont il faut poser les jalons, en lien avec
deux enjeux majeurs du XXIe siècle : le
sauvetage de la vie, et, d’autre part, l’apparition d’un nouveau monde
artificiel, a jugé, en écho, le professeur Didier Guével. Et
d’ajouter : « Dans un monde où les humains se robotisent par
l’ajout de multiples implants artificiels, où l’on peut créer des avatars en
réalité virtuelle, où l’on est capable techniquement de cloner des individus
(biologiquement et par les sociétés unipersonnelles), où l’ingénierie génétique
et le Crispr Cas 9 permettent
très facilement d’insérer des gènes d’animaux ou de plantes dans l’être humain
qui les transmettra à sa descendance, où les matériaux conçus en 4D vont être
animés (grâce à la chimie supramoléculaire), où la notion de personne morale
risque d’exploser avec les smart grids et les blockchains, où un seul citoyen
peut avoir deux patrimoines (par le procédé de l’EIRL), le concept de
personne – notamment humaine – tend à l’obsolescence ».
Bérengère
Margaritelli