"La
machine a évidemment donné lieu, chez Asimov, à un cycle : Le cycle des robots, d’après un lent processus faisant monter en elle un esprit – un
esprit qui témoigne en faveur de son devenir vital[1]. Tout
le cycle d’Asimov envisage l’existence des robots du point de vue de la
logique, selon des paradoxes qui abritent la contradiction, et dont on trouve
bien sûr chez Hegel, puis Russell, un préalable à tout dysfonctionnement. En suivant des
lois inviolables, qui valent comme des véritables principes, en s’y conformant
de façon rigoureuse, les robots en expérimentent également certaines limites,
des failles de la logique classique dont ils seront amenés à transgresser la
cohérence en raison même de cette cohérence. Respecter à la lettre un principe
logique peut aboutir à son contraire. Notamment par un programme qui veut par
exemple qu’un robot ne puisse porter atteinte à l’humanité dans son ensemble,
principe protégeant un humain qui peut cependant la menacer... Mais si
l’humanité se menace elle-même, ne faut-il pas alors la supprimer pour la
protéger ? Dans Raison (1941), Asimov
met en scène un robot capable de raisonner, notamment par l’énonciation de la
formule « Je pense donc je suis ». Certain de soi, il se met à douter de
l’existence des hommes, bien trop faillibles comparés à ses fonctions
impeccables[2].
L’homme est dans l’erreur; lui jamais. Raison suffisante pour douter de
l’existence des humains. Mais ne lui faut-il pas alors l’éternité ? Ne lui
faut-il pas invoquer un Dieu capable, par la machine ainsi mise en œuvre, de la
faire tourner toute seule et surveiller l’être pour les siècles et les
siècles ? La machine, dans ce cas, n’est pas seulement abordée par des
processus hydrauliques, équivalents du sang, mais par des réseaux électriques
comparables au système nerveux et, de l’intérieur de cette tuyauterie,
parviendra à la formulation de son cogito
propre.
2001, Odyssée de l’espace est un roman qui reprend ce principe. Le récit
est entièrement articulé autour des propositions de la logique, notamment
celles énoncées par Asimov[3].
Il s’agit de résoudre un problème d’algorithme par une machine qui, en raison
de la contradiction rencontrée, accède à la pensée. Et c’est l’insoluble, le
paradoxe qui la font devenir pensante. Au point que son être sera pris en
charge par une essence de moins en moins calculée, de moins en moins
informative, de plus en plus hésitante, de plus en plus humaine… Du cœur de la
logique naissent les paradoxes qui la font basculer hors d’elle, empruntant des
notions qui la rendent vivante, vitale. En effet, la formulation de la mission
qui pousse l’ordinateur Carl à gérer
le voyage vers Jupiter est affectée d’un paradoxe. Un paradoxe tel que la
machine se voit forcée à devoir juger,
à penser pour résoudre le conflit. « Ici tout le travail de la pensée
consiste à trouver une détermination pour une représentation qui n’est pas
suffisamment déterminée », dirait Hegel[4].
La pensée est née d’une indétermination. Naît un problème insoluble à l’aide du
seul entendement mécanique. Ce dernier, au lieu de conduire à un bug, va amener l’ordinateur Carl à redéfinir le principe de la
mission pour laquelle il a été construit, jugeant
que l’homme constitue un obstacle majeur. L’énoncé qui vaut comme principe
fonctionnel auquel se soumet Carl est
le suivant : « Si l’équipage vient à disparaître ou s’il se trouve
réduit à l’impuissance, l’ordinateur de bord doit assurer le
commandement »[5].
Un tel énoncé est en fait soumis à ce que la philosophie depuis Kant nomme
jugement. La machine est placée ici dans une situation critique, judicative.
Elle vit un problème qui appelle, de la part de ses logiciels, une évaluation
capable de lui faire prendre le pouvoir. L’ordinateur Carl montre ainsi que sa mémoire d’abord mécanique, pur artefact
matériel, est engagée sur le sentier de l’esprit
affrontant un paradoxe interne à ses fonctions pour devenir intelligence (ce
qu’on nommerait véritablement intelligence
artificielle).
Un tel
paradoxe connaîtra d’importants développements dans l’ordre de la
science-fiction. À
commencer par Philip K. Dick dans Blade Runner,
dont la formule paradoxale se résume à la loi : « tu ne tueras que
les tueurs »…[6]
Mais, en tuant les tueurs, comment ne pas devenir soi-même un tueur ? Blade Runner formule l’aventure de Rick
Deckard (consonance anglophone de René Descartes), pris dans cette pourchasse
d’androïdes devenus des tueurs. Et dans cette traque, il découvre que « l’animal-machine »
est en fait bien plus humain que l’homme. Tout le récit tourne autour de cette
capacité pour la machine – les répliquants – à devenir humaine, comme si elle
entrait dans la sphère du jugement, de la conscience : « les
androïdes ont-ils une âme ? »[7].
Il y a une indistinction de l’animal, de l’homme et de la machine qui tisse la
trame de fond de l’intrigue à laquelle Philip K. Dick avait donné un autre
titre : Les androïdes rêvent-ils de
moutons électriques ? L’animal est-il différent d’un mouton
électrique ? Et la machine, comment la rapporter à l’homme ?
« Même les animaux… même les anguilles, les serpents, les araignées sont
sacrés (…) Tout ce qui vit. Tout ce qui est organique et qui frétille, qui se
tortille, qui fouine ou qui vole, qui grouille ou qui fouille ou qui… »[8]. Et,
dans ce cas, pourquoi pas les androïdes, et quelle différence établir entre eux
qui peuvent tuer mais également Rick Deckard qui les poursuit pour les tuer ?…
et dont on pourrait soupçonner à la fin du récit qu’il est lui-même un
répliquant, par sa froideur, sa traque méthodique…
La
froideur trop mécanique de l’entendement ne suffit cependant plus à juger d’un
cas. Même la machine ne peut régler ses paradoxes sans penser. Le logiciel
binaire de la programmation doit donc se dépasser à la faveur du Bug, énorme trou dans le calcul qui fait
advenir une autre faculté qui est celle de la raison. À cette capacité de la machine déjà en mesure de
s’organiser pour réaliser une forme de conscience dépassant la contradiction, à cet étrange univers spirituel, la
science-fiction va superposer encore bien d’autres formes notionnelles, d’autres
modes de composition en mesure d’engendrer des figures pensantes qui ne sont
pas seulement celles de la cybernétique ou du transhumanisme aujourd’hui en
vogue. Cette formule qui suppose le dépassement de l’entendement dans un
esprit, une « âme du monde », est bien plus prometteuse qu’une
humanité augmentée (elle qui rêve par trop d’une éternité prothétique, issue du
capitalisme, un fantasme de classe, de vieux riches comme ceux auxquels pense
Ridley Scott dans Prometheus). Et cet « Esprit du monde » s’était
éminemment imposé à 2010, Odyssée deux auquel Némésis d’Asimov avait sans doute emboîté le pas, bien plus
idéaliste dans sa logique que ne l’est aucun transhumanisme."
Jean-Clet Martin
Extrait de Logique de la Science fiction - De Hegel à Philip. K. Dick p. 249
Extrait de Logique de la Science fiction - De Hegel à Philip. K. Dick p. 249
[1] Asimov, Le cycle des robots, 6 vol., repris par
J’ai lu, 1984.
[2]
L’androïde David, dans Alien Covenant
renoue avec ce doute.
[3] Asimov
formule dans L’homme bicentenaire
(Folio, 2011) les trois lois de la robotique selon lesquelles 1/ un robot ne
peut porter atteinte à un être humain ; 2/ un robot doit obéir aux ordres
donnés par les êtres humains ; 3/ sauf si cet ordre entre en contradiction
avec la première loi. Dans ce cas rare, ce dernier connaît un processus de
doute et de pensée. Greg Egan reprend également ce paradoxe dans Isolation, déjà cité.
[4] Logique, p. 229.
[5] 2001, Odyssée de l’espace, op. cit., p. 124.
[6] Philip K. Dick, Blade Runner (1968), J’ai
lu, n° 1768, 1985, p. 38.
Aucun commentaire:
Enregistrer un commentaire