Google respectera-t-il les Trois Lois de la robotique ?

Publié le 4 février 2014 à 17:11 par Julien Cadot | 1

English version Lire la version allégée

Il est encore difficile d’accepter que le robot n’est plus un futur lointain, imaginé par les auteurs de science-fiction. S’il semble que la robotique ait été loin des attentes des grands auteurs du genre, plusieurs faits récents conduisent à penser que cette science va progresser très vite pour faire coïncider petit à petit l’imaginaire et le réel. Il s’agira alors pour l’homme de faire des choix éthiques et techniques déterminants et quand Google est au cœur de l’équation, bien malin qui pourrait prédire si les bonnes cartes seront jouées.

3376639_300

Colosse.

« Deux choses remplissent le cœur d’une admiration et d’une vénération, toujours nouvelles et toujours croissantes, à mesure que la réflexion s’y attache et s’y applique : le ciel étoilé au-dessus de moi et la loi morale en moi. » Par cette longue sentence d’Emmanuel Kant, il est possible d’approcher les enjeux à venir de la science, teintée de futurologie, dans les deux domaines phares du développement de la technique que sont l’exploration spatiale et la robotique. Le premier envisage à l’horizon un désir d’exploration humain trop humain, qui finira bien pas faire sortir l’espèce de sa Terre natale – que cela soit nécessaire ou non à sa survie. Et l’exploration à cela de particulier qu’elle porte en elle l’inconnu et l’inquiétant, tout autant que le désirable : nous irons, mais là où nous irons, nous ne savons pas encore comment l’humanité s’adaptera, ni si nos lois, nos coutumes et nos habitudes survivront au voyage.

La robotique, elle, est bien plus incarnée et bien plus terrienne, presque plus actuelle pour l’observateur avisé de son époque. Le perfectionnement des machines est tant entré dans les mœurs qu’il est difficile de s’émerveiller quand l’Escalator de la station Mairie de Montrouge accélère une fois que l’on pose le pied sur lui, ou que les nouvelles portes transparentes des bornes Navigo s’ouvrent dans un élégant silence que la science-fiction peinait à imaginer, préférant souvent le brouhaha spectaculaire de la mécanique qui se met en branle. Le mobilier urbain n’est pas le seul exploit technique ignoré au quotidien : la communication est immédiate, omnisciente et instantanée, les kilomètres ont perdu leur pouvoir de rupture affective. Des ordres vocaux peuvent être donnés à un smartphone qui les accomplira de manière plus ou moins efficace. Il y a fort longtemps également que nous avons oublié à quel point la cuisine s’est automatisée, par le micro-ondes ou les différents robots s’occupant sans mal des recettes qu’ils sont programmés pour préparer.

Trois Lois fondamentales

Ces avancées techniques qui auraient bouleversé l’humain d’il y a un siècle débarquant par hasard en 2014 sont familières et presque invisibles à l’œil qui les côtoie tous les jours sans se poser de question sur leur fonctionnement. Bien plus critique pourtant est ce même œil à l’égard de la robotique fantasmée : celle qui construit à la chaîne des appareils électroniques, celle qui se déplace de manière autonome sur des terrains accidentés, celle qui tue depuis le ciel, celle qui prend une forme humanoïde pour assister l’homme à l’endroit où il montre ses limites ; celle enfin, qui ose porter le nom d’intelligence artificielle.

« La Première de ces lois indique qu’un robot « ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ». »

Et pourtant, les proto-robots du quotidien, autocuiseur, iPhone, Escalators et poinçonneur automatique ne sont pas moins robotiques que les spécimens à venir. C’est bien pour cela, au fond, que les questions éthiques sont posées avec urgence par ceux des chercheurs et des philosophes qui ont compris que le robot n’était pas un futur, mais un présent. Pour cela aussi qu’il peut être judicieux de comprendre comment l’avenir de cette science est en train de se jouer dans l’ombre des OPA et des marchés financiers.

Quand la robopsychologue Susan Calvin, héroïne d’un grand nombre de nouvelles d’Isaac Asimov est interrogée sur la dangerosité des robots, sa réponse est presque tout le temps la même : un robot ne peut pas être dangereux. Il ne le peut pas, parce que la couche fondamentale de son cerveau, le cœur même de sa pensée, est programmé pour obéir aux Trois Lois de la Robotique, essentielles pour fonder un rapport sain entre le robot et l’homme. La Première de ces lois indique qu’un robot « ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ». La Deuxième loi affirme qu’un robot « doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi ». La Troisième loi enfin veut qu’un robot « protège son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi ».

Dans la nouvelle intitulée « La preuve », Calvin rejoint Kant en poussant plus loin la définition des Trois Lois, ou tout du moins, en donnant une assise humaine à ces principes. « Les Trois Lois constituent les principes directeurs essentiels d’une grande partie des systèmes moraux », dit-elle. « Évidemment, chaque être humain possède en principe, l’instinct de conservation. […] De même, chacun des bons êtres humains, possédant une conscience sociale et le sens de la responsabilité, doit obéir aux autorités établies, écouter son docteur, son patron, son gouvernement, son psychiatre, son semblable, même quand ceux-ci troublent son confort ou sa sécurité. » Voilà les deux premières lois couvertes par les principes moraux les plus élémentaires – et le docteur Calvin de conclure : « Tout bon humain doit aussi aimer son prochain comme lui-même, risquer sa vie pour sauver celle d’un autre. » Si quelqu’un se comporte ainsi, « il se peut que ce soit un robot, mais aussi que ce soit un très brave homme ».

robots-asimov-1

Les Robots, par Isaac Asimov.

Ce très court passage dans l’œuvre d’Asimov revêt une importance particulière si l’on considère que l’auteur a cerné admirablement les enjeux réels de la robotique présente et à venir. Non seulement la tirade de Susan Calvin suppose qu’il est nécessaire que la robotique se fonde sur des principes moraux, mais en plus, elle implique en creux que ce sont des hommes bons qui ont décidé comment la robotique allait s’intégrer dans le futur de l’humanité. Il suffit de faire un pas de côté et de regarder une saga comme Star Wars, une série comme Doctor Who ou un univers comme celui de Terminator pour s’apercevoir que le robot n’est pas systématiquement un être porté par les valeurs universelles du bien.

Skynet a dépassé son créateur et souhaite le détruire ; les droïdes de la Fédération du Commerce obéissent aux ordres de tuer les Jedi et tout ce qui se trouve sur leur chemin. N’évoquons qu’à peine les Cybermen qui n’ont pour toute philosophie que l’assimilation totale de l’humanité dans leur grand empire robotique.

Dans le domaine militaire, la question de la responsabilité du drone se pose déjà : les comités d’éthique se battent pour que la décision d’ouvrir le feu reste humaine alors que l’automatisation la plus totale de la guerre attire parfois les représentants des états-majors et les entreprises d’armement. Mais ce cas limite qui est un extrême permettant de problématiser l’éthique du robot face à l’ordre de donner la mort ne s’exprime que dans la guerre, où, par définition tragique, les règles de la société civile sont bafouées. Ne s’intéresser qu’à ce cas limite serait minimiser l’importance de la robotique dans le développement de la technique civile et considérer que les réflexions qui s’appliquent aux drones militaires ne peuvent pas s’élargir à un champ plus large, qui concerne l’humanité entière.

« Deux choses remplissent le cœur d’une admiration et d’une vénération, toujours nouvelles et toujours croissantes, à mesure que la réflexion s’y attache et s’y applique : le ciel étoilé au-dessus de moi et la loi morale en moi. »

- Critique de la raison pratique, E. Kant

La séquence Google

Qu’est-ce que la singularité ?

En août 1992, Thinking Machine Corporation a tenu un atelier pour enquêter sur la question « Comment construire une machine qui pense ». Comme vous pouvez le deviner à partir de l’intitulé, les participants n’étaient pas spécialement des soutiens des arguments contre la machine intelligente. En fait, il y avait un accord général selon lequel les esprits peuvent exister sur des substrats non-biologiques et aussi selon lequel les algorithmes sont d’une importance extrême pour l’existence des esprits.

Malgré cela, le débat était plus animé concernant la puissance brute de la matière qui est présente dans le cerveau. Une minorité a estimé que les ordinateurs les plus performants de 1992 étaient environ à trois ordres de grandeur de la puissance du cerveau humain. La majorité des participants était d’accord avec l’estimation de Moravec selon laquelle dix à quarante années nous sépareraient de la parité matérielle. Il y avait aussi une autre minorité qui soulignait et faisait remarquer que le modèle informatique des neurones uniques pourrait être bien plus puissant que ce qu’on ne pourrait croire.

Mais si la technologie nécessaire à la Singularité peut être atteinte, elle le sera. Même si tous les gouvernements du monde devaient comprendre « la menace » et en être morts de peur, le progrès continuerait. Dans la fiction, on a vu passer des histoires de lois qui interdiraient la construction « d’une machine dont le mode de fonctionnement ressemblerait à l’esprit humain ». En fait, l’avantage compétitif — économique, militaire, même artistique — de chaque avancée dans l’automatisation, est si contraignant qu’il dépasse les lois qui interdiraient de tels procédés car il y a la menace que d’autres puissent s’en accaparer.

Extrait de l’article « Qu’est-ce que la Singularité ? » par Vernor Vinge.

Si donc la robotique fondamentale doit être une discipline morale en même temps qu’une science d’après Asimov, il faut que ceux qui la portent aient en eux une volonté désintéressée d’accompagner l’humain dans son labeur et de rendre son existence meilleure. Récemment, une séquence dans l’histoire des nouvelles technologies n’a pas manqué d’étonner. En quelques semaines, un géant des technologies grand public dont l’altruisme reste à prouver s’est pris d’amour pour les robots et l’intelligence artificielle. Son nom ? Google.

iris

Iris, le robot réalisateur de Bot & Dolly.

En six mois, la firme de Mountain View a joué ses cartes en douce, sans faire de vague, jusqu’à faire passer complètement sous silence l’augmentation de sa collection d’entreprises spécialisées dans la conception de robots. Et pour cause, les entreprises achetées par Google semblaient inoffensives. Bot & Dolly fabrique des bras motorisés utilisés dans les tournages publicitaires ou les films, pour saisir des scènes qu’aucun mouvement de caméra humain ne pourrait suivre. Ses deux principaux modèles, Iris et Scout, ont tout de l’objet que l’on ne considèrerait pas a priori comme faisant partie du vaste domaine de la robotique. Ce sont ces robots qui, par exemple, ont filmé des scènes de Gravity. Autofuss s’inscrit dans la même veine : l’entreprise utilise un système complexe de robots géants pour mettre en scène des publicités. Aux bras réalisateurs s’ajoutent les bras de l’ouvrier : Industrial Perception s’est spécialisée dans les robots déménageurs, passionnés par l’empilage de cartons. Ces appareils peuvent ranger des entrepôts ou décharger des camions. La promesse de l’entreprise tient en une phrase qui résume tout son champ d’action : « Offrir les robots avec les compétences dont ils auront besoin pour s’inscrire dans l’économie de demain. »

Holomni et Redwood Robotics sont deux compagnies qui se complètent bien : la première prétend avoir réinventé la roue, la seconde crée des bras robotisés, au sens humanoïde du terme. Autrement dit, la première s’occupe des jambes des robots à venir en proposant des roues précises et multidirectionnelles, la seconde est à l’avant-garde des bras à taille humaine. Son fondateur, Aaron Edsinger, a affirmé qu’il voulait être à la robotique ce que l’Apple II a été à l’informatique, c’est-à-dire le moment ou un produit technique complexe et coûteux peut devenir abordable pour les foyers. Que manque-t-il au robot humanoïde ? Une tête, bien entendu, et c’est Mekabot qui devrait s’en charger. Ce spécialiste de la reproduction faciale, déjà membre de la joint ventures que constituait Redwood Robotics, est devenu célèbre grâce à un petit robot censé être capable de matérialiser sur son visage, et notamment par ses yeux, des signes émotionnels. Pour articuler tous ces membres, il sera nécessaire de générer des forces motrices et de penser des systèmes de levier permettant aux robots d’interagir avec le réel. C’est la société SCHAFT Inc. et son puissant robot Schaft, ajoutés également à la collection de Google, qui pourront remplir cet objectif.

Boston Dynamics : le déclencheur

Deux groupes semblaient se dessiner dans ces différents rachats : le premier, constitué de bras robotisés pour accomplir des tâches automatiques, industrielles ou artistiques ; le second, comprenant plusieurs firmes ayant travaillé sur différentes parties de l’androïde de demain et qui, unies, pourraient créer un véritable robot au sens auquel a pensé la science-fiction depuis de nombreuses années maintenant. Et puis, à la fin de l’année 2013, Google a confirmé avoir racheté Boston Dynamics : c’est à ce moment précis que la presse a commencé à regarder ce qui se tramait du côté de Mountain View et que les mouvements du géant dans le domaine de la robotique ne seraient plus jamais aussi libres et aussi cachés.

ROBOT-articleLarge

BigDog, le célèbre chien robot de Boston Dynamics.

Et pour cause, si l’on ne connaît pas Boston Dynamics, il suffit simplement d’aller sur le site de l’entreprise pour comprendre pourquoi elle dérange : la page de garde affiche parmi ses clients la DARPA et l’US Army. Ce sentiment peu rassurant de voir une firme traitant avec l’armée américaine se confirme quand on jette un premier coup d’œil aux robots de la compagnie. Loin des Wall-E et autres R2D2, les engins de Boston Dynamics inquiètent, à la croisée d’une ménagerie d’automates et de monstres d’acier que l’on n’imaginerait pas issus d’une usine terrienne. Il suffit pourtant de rationaliser un instant cette crainte pour comprendre pourquoi ces robots font peur : ils ne sont jamais passés par le département design d’une entreprise grand public. Quand le client est la DARPA, il faut présenter des modèles fonctionnels, répondant à un cahier des charges précis et non un gadget dont le design doit plaire au grand public.

« Fondée en 1992 par Marc Raibert, un ancien professeur du MIT, elle a gagné en popularité par ses contrats avec le Pentagone et peut affirmer aujourd’hui être l’entreprise la plus avancée au monde en matière de robotique. »

BigDog, Cheetah, Wildcat ou SandFlea sont aussi des robots qui doivent servir à assister les soldats en temps de guerre et de paix. La logique n’est pas la même que celle du drone : ici, les robots jouent le rôle de secours ou d’avant-garde. BigDog a plus du baudet que du chien, puisqu’il parcourt des terrains accidentés chargé de matériel sans jamais perdre l’équilibre sur ses quatre fines pattes motorisées. SandFlea est un petit robot à quatre roues qui peut sauter jusqu’à neuf mètres de haut et partir en reconnaissance dans un environnement urbain. Tous les appareils de Boston Dynamics répondent à des besoins précis et ont été conçus pour une efficacité maximale. Libre à l’armée ou à tout autre client, par la suite, de décorer les engins comme il le souhaite, camouflage ou métal chromé.

On constate également que la presse amatrice de sensation forte n’a pas, cette fois, été précédée par les spécialistes qui n’avaient pas véritablement anticipé ce mouvement. Quand d’un côté des médias, on s’émerveille ou s’effraie devant la future ménagerie de Google, de l’autre, l’étonnement résonne aussi, mais pour des raisons différentes. Et pour cause, Boston Dynamics, n’est pas, pour ainsi dire, une petite entreprise. Fondée en 1992 par Marc Raibert, un ancien professeur du MIT, elle a gagné en popularité par ses contrats avec le Pentagone et peut affirmer aujourd’hui être l’entreprise la plus avancée au monde en matière de robotique. On pourrait donc facilement la comparer avec SpaceX, l’entreprise partie à la conquête de l’espace, fondée et financée par Elon Musk : de la recherche privée, une technologie de pointe en avance sur la concurrence, des contrats avec des agences du gouvernement américain et une volonté très nette de mettre un coup d’accélérateur vers le futur.

battlestar-galactica-banquet-ragemag

Distinguer le robot de l’homme, bien difficile dans Battlestar Galactica.

L’intention précède l’action

Avec les fonds quasi-illimités de Google, il ne serait d’ailleurs pas surprenant que ces huit entreprises progressent désormais bien plus vite que ces dix dernières années. Mais la passion du géant pour les robots ne s’est pas arrêtée en si bon chemin. Après Boston Dynamics, Google a ajouté à sa collection privée deux entreprises très intéressantes. Nest d’abord, l’une des entreprises leader aux États-Unis dans la domotique de luxe, ou la robotique de maison, c’est-à-dire les équipements qui permettent d’automatiser certaines fonctions d’une habitation comme la température, la lumière ou la position des volets. Pour 3,2 milliards de dollars, Google s’est payé en fin de compte une entrée dans les foyers au-delà des appareils traditionnels de l’électronique que sont les smartphones, tablettes, ordinateurs et autres télévisions.

« La question de la vie privée et des données fournies par les utilisateurs à Nest a évidemment été la première qui a été posée au fondateur de l’entreprise, Tony Fadell, lors du rachat. »

La question de la vie privée et des données fournies par les utilisateurs à Nest a évidemment été la première qui a été posée au fondateur de l’entreprise, Tony Fadell, lors du rachat. Celui-ci a affirmé qu’il ferait tout ce qui est en son pouvoir pour pour « laisser éloignées » les données de Nest des centres de collecte de Google. Or, son pouvoir est directement subordonné à celui de Larry Smith, comme il l’a confirmé lors d’une interview donnée à The Verge : « Je prends mes ordres de Larry Page et Matt Rogers [le co-fondateur de Nest, NDLR] les prend de moi. »

Ces données sont bien la clef du problème : il n’est pas nécessaire de rappeler que Google est une agence de publicité et que chaque information sur ses produits – c’est-à-dire les utilisateurs vendus aux publicitaires – est d’une valeur inestimable. Aujourd’hui, Google a réussi à mettre un smartphone dans des centaines de millions de poches et est devenu capable de comprendre les habitudes des humains en déplacement, dans le réel, quand son champ d’action était avant limité aux terres virtuelles du web, grâce à Gmail, Google Search ou encore, Youtube. Nest tombe donc à point nommé pour enrichir les profils des produits à vendre aux agences dans un domaine qui était autrefois inaccessible : celui de la maison, où les informations données par un smartphone ne sont que de peu d’utilité.

nest

Le thermostat et la domotique, par Nest.

Nest propose aujourd’hui deux produits plutôt onéreux : un thermostat censé réguler intelligemment la température de la maison et un détecteur de fumée et de monoxyde de carbone, coûtant respectivement 249 et 129 dollars. Comme le rappelle Ars Technica, Nest est aujourd’hui dans une politique d’expansion et cherche à passer des contrats avec des prestataires d’énergie électrique pour s’installer dans un nombre plus élevé de foyers, touchant dès lors les familles et individus moins aisés. Ces recherches, initiées avant le rachat de l’entreprise par Google, permettent à ce dernier de court-circuiter des démarches que les fournisseurs d’électricités auraient pu voir d’un mauvais œil. En d’autres termes, Nest permet aussi à Google de déployer un tentacule sur le secteur de l’énergie en envoyant au combat l’un de ses associés, qui n’a pas du tout la même réputation a priori.

La dernière compagnie rachetée clôt très naturellement ce cycle : DeepMind Technologies n’est rien d’autre qu’une entreprise travaillant sur l’intelligence artificielle. Après une transaction de 400 millions de dollars, la firme de Moutain View a complété sa division par la plus importante des pièces, la pierre de touche : celle qui pourrait s’occuper, à terme, du cerveau animant les corps robotisés. DeepMind reste pourtant une énigme : ses créations ne sont pas véritablement connues du grand public, ni des spécialistes. Ce que l’on sait en revanche, c’est que les chercheurs qui ont fondé cette start-up veulent pousser ce que l’on appelle en anglais le deep learning, ou l’apprentissage en profondeur.

La technique correspond parfaitement à l’ADN de Google, que l’on sait adorateur d’algorithmes quand il s’agit de référencer le web ou de proposer des publicités ciblées : le deep learning est une technique d’apprentissage qui rend les machines autonomes face aux données à apprendre. L’humain n’intervient que pour confirmer ou infirmer le choix de la machine. En prenant en compte ces informations, la machine peut donc savoir, petit à petit, ce qu’elle doit apprendre et comment elle doit l’apprendre. Il n’y a donc pas d’apprentissage progressif d’un langage ou d’outils pour saisir le réel : des données brutes sont envoyées à la machine qui doit, en fait, apprendre à savoir ce qu’elle doit apprendre. Bien entendu, ces techniques demandent une puissance de calcul colossale pour être efficaces.

Et comme il y a rarement de la fumée sans feu, DeepMind n’est pas dupe sur Google et a imposé qu’un comité d’éthique soit créé dès le moment du rachat. Reste à savoir comment Google compte utiliser cette dernière compagnie : elle pourrait être utile aussi bien pour le moteur de recherche, comme cela a été relevé plusieurs fois dans la presse, que pour le perfectionnement des robots, l’actuel primordial souci de Mountain View.

machine-metropolis

Metropolis par Fritz Lang.

Le robot ou la Machine

Si l’on fait maintenant un pas en arrière et que l’on regarde en un même tableau de maître les différentes acquisitions faites par Google ces derniers mois, on peut estimer sans trop s’avancer que la robotique est entrée, en ce début d’année 2014, dans une nouvelle ère. Mais si l’on creuse encore et que l’on se réfère une fois de plus au fabuleux potentiel de réflexion que l’on trouve dans la science-fiction, on pourrait dire qu’un pas vient d’être fait, en fin de comptes, vers la première Machine. Dans sa nouvelle « Conflit évitable », Asimov a pensé une humanité divisée en zones d’influence, pacifiées par la précision neutralisante des cerveaux géants que sont les Machines.

Ces appareils contrôlent tous les aspects de l’organisation d’une société : de l’emploi à l’économie, en passant par la géopolitique, l’industrialisation, les grands projets ou encore, l’agriculture. Comme elles ont été conçues par l’homme et fondées sur les Trois Lois de la robotique, elles agissent par défaut pour le bien du plus grand nombre, prévoyant l’offre quand la demande sera plus importante, ajustant la concurrence pour que le chômage ne soit que de courte durée, déjouant les complots politiques et scrutant les flux financiers afin d’assurer une stabilité globale qui ne peut pas nuire à l’humanité dans son ensemble.

« . Google possède désormais en substance tous les attributs qui pourraient lui permettre de devenir la première Machine »

Cela dit, quoi que l’on puisse penser de cette forme d’administration de la société, privée d’humain, les Machines d’Asimov ont été créées par l’homme et pour l’homme, dans un moment de crise et ce afin d’éviter les guerres et d’éradiquer d’un coup d’un seul pauvreté, chômage et famine. Google possède désormais en substance tous les attributs qui pourraient lui permettre de devenir la première Machine : la firme contrôle une grande part de l’accès au web qui est le réceptacle moderne de la culture ; elle possède des millions de capteurs dans le monde, que ce soit par AndroidW, son système d’exploitation mobile, Nest, sa récente acquisition, ou des services comme Youtube, Google + ou Chrome ; elle s’immisce dans le jeu des fournisseurs d’accès à internet avec son offre de fibre optique, contrôlant ainsi l’infrastructure du réseau ; elle projette de rendre l’accès à internet mondialisé avec ses fameux dirigeables Wi-Fi ; elle ouvre un œil sur le monde grâce à la caméra de ses Google Glass ; elle s’immisce discrètement dans les problématiques liées à l’énergie ; elle a un impact non négligeable sur l’accès à l’information et à la presse ; elle possède enfin le fleuron de la robotique mondiale, capable, peut-être, de lui fournir une main d’œuvre exploitable à moyen terme.

Ce qui pourrait effrayer aujourd’hui, quand on connaît l’évolution de l’entreprise et que l’on sait que le Don’t Be Evil des débuts n’est clairement pas l’équivalent d’un Be Gentle, ce sont les intentions de la firme. Bien avisé qui pourra déterminer comment vont évoluer les engagements éthiques de la société : il est tout juste possible aujourd’hui de considérer qu’elle n’est pas une entreprise humaniste et philanthrope, mais une entreprise multinationale ayant pour fonds de commerce la publicité et pour produit ses utilisateurs.

asimov-couleur-ragemag

Isaac Asimov, penseur et écrivain.

En cela, elle échappe à la fois aux Lois d’Asimov et à l’impératif catégorique de la rigoureuse morale kantienne. « Agis de telle sorte que tu traites l’humanité toujours en même temps comme une fin, jamais seulement comme un moyen », écrit ainsi le philosophe dans sa Fondation de la métaphysique des mœurs. Fondamentalement, Google n’est pas une entreprise qui a été conçue pour mettre un terme aux maux de l’humanité – et ce n’est après tout pas le but premier d’une entreprise dont la création répond à un besoin exprimé par le marché et non à la quête de la concrétisation du Bien sur Terre.

Ce qui dérange est alors de l’ordre de la disproportion entre la nature de Google – une entreprise – et son pouvoir sur le réel. Rarement dans l’histoire une compagnie a été aussi puissante que celle de Larry Page et Sergueï Brin et jamais une compagnie n’a eu d’influence sur autant de personnes à la fois. Google apparaît de plus en plus comme un super-État, qu’il serve ou non les intérêts des États-Unis. Un super-État fondé non pas sur un contrat social né du libre choix de femmes et d’hommes d’échanger une part de liberté individuelle contre une plus grande liberté collective, mais un super-État fondé sur l’humanité comprise à la fois comme client et comme produit. Les intérêts ne sont alors plus politiques et sociaux, mais strictement économiques. Cette incompatibilité de principe entre le potentiel de Google et son essence pose de manière toujours plus urgente la question de l’exigence de transparence d’une entreprise monolithique et tentaculaire sur laquelle semble reposer en partie, qu’on le veuille ou non, l’histoire à venir de l’humanité.

Car ce qui sépare en fait les Machines bienveillantes d’Asimov du Skynet destructeur dans le Terminator de James Cameron, ce n’est ni plus ni moins que le degré de morale dans l’intention au moment où il crée le robot et l’intelligence artificielle. Asimov souhaitait se défaire du complexe de Frankenstein qui ferait des créatures robotiques, à plus ou moins long terme, des ennemis de l’humanité : au contraire, le robot de l’écrivain, pensé par l’homme et contraint de fait par les Lois de la Robotique inspirées par des principes d’un Bien universel est un auxiliaire désirable, sinon essentiel à l’humanité.

« En s’opposant au pan de la science-fiction qui le précédait, Asimov a imaginé un futur dans lequel le robot ne serait pas un antagoniste, par le fait même de sa création : il est un produit de l’esprit humain, animé par un instinct de conservation. »

En s’opposant au pan de la science-fiction qui le précédait, Asimov a imaginé un futur dans lequel le robot ne serait pas un antagoniste, par le fait même de sa création : il est un produit de l’esprit humain, animé par un instinct de conservation, qui sait que la prudence est mère de sûreté. Les seules modulations qu’acceptent les Trois Lois sont à l’origine de dysfonctionnements des robots et non de dommages pour l’humanité. Souvent, dans l’œuvre d’Asimov, les cerveaux positroniques grillent à cause de contradictions quand la possibilité de violer une des lois est évoquée. Ce garde-fou intégré au cœur de l’intelligence artificielle est pour l’écrivain une nécessité absolue, qu’il aurait souhaitée mise en pratique à la création des premiers laboratoires de robotique.

L’idée brillante du penseur est aujourd’hui confrontée à un réel qu’il n’avait pas pu prendre en compte : la robotique par Google n’est pas une expertise en elle-même, mais un champ parmi d’autres d’une multinationale qui n’a pas pour fonds de commerce la production de robots, mais la diffusion de contenus publicitaires. Bien entendu, après l’acquisition de ces nouvelles responsabilités qui seront à n’en pas douter mises à l’épreuve par la critique, dans la recherche ou dans la presse, un nouveau virage de Google pour retrouver le chemin de l’éthique n’est pas exclu dans l’esprit de l’optimiste ; mais le pessimiste ne pourra que remarquer que de trop nombreuses lignes rouges, qu’on les appelle Prism, Glass, publicité ciblée ou produit humain ont été franchies en 2013 – et que ces blessures ont conduit les peuples à une méfiance légitime. Difficile d’oublier que dans l’œuvre d’Asimov, l’impopularité des robots, même soumis aux Trois Lois, les a bannis de la surface de la Terre pendant plusieurs décennies.

glados-and-chell8jpg

Portal : Chell et GladOS.

Boîte noire

Mots-clés : , , , , , , , , , , , , , , , , , ,


À propos de l'auteur

Julien Cadot

Julien CadotRédacteur en chef, responsable de la rubrique Science, technologie et futur. Techno-critique consciencieux, préfère élever la réflexion plutôt que la voix.



Une réponse à Google respectera-t-il les Trois Lois de la robotique ?

  1. Styx

    Article extrêmement intéressant !
    Merci de nous renseigner sur ces OPA d’actualités qui bien que parfaitement légales nous permettent de repenser les limites “morales” d’une multinationale.
    Je trouve que Google est en effet parmi les mieux placée pour développer les bases d’une IA efficace et autonome avec toute l’expérience qu’elle a des programmes de recherche pertinente, individualisée et se remettant à jour tout seul; bref les bases du “deep learning”. Rien que qu’avec ses acquisitions sur la recherche “software” et sa plateforme mondiale qu’est Android, je pense que Google va vouloir prochainement conquérir les écoles devenant la plateforme d’accès première au numérique tout en soutenant sa recherche sur l’apprentissage numérique (entendez par là l’homme apprenant de la machine mais aussi la machine apprenant de l’homme).
    Avec les fonds de Google j’imagine un développement ultra-rapide des recherches fondamentales et pratique de la robotique.
    Mais je craints que la place de fournisseur de produit ET de pub ajouté à cet œil quasi omniprésent ne place la multinationale à la limite défendable de notre morale actuelle. En effet la seule et unique barrière séparant Google l’entreprise quasi-omnipotente, de Google l’entreprise au delà des états et gouvernant le monde serait le simple choix de sa direction. Le choix d’utiliser cette quasi omnipotence pour développer la science comme jamais et faire quelques bénéfices conséquent dans le même temps ou le choix d’utiliser cette puissance pour prendre encore plus de pouvoir (je pense au pouvoir politique bien sur mais d’autres lui sont accessibles).

    Ci joint un article qui explique “peut être” pourquoi Google s’intéresse aussi aux réseaux à fibre optique :
    http://www.economist.com/news/science-and-technology/21592597-how-fibre-optic-cables-can-work-microphones-ear-underground

Laisser un commentaire

Retournez en haut ↑

Ragemag