Est-il possible de créer une IA avec une conscience ? Réponse dans la saison 4 de Westworld !

Avant toute chose, comment définir la conscience ?

Intelligence, conscience, pensée, ou même le vivant : autant de termes pour lesquels les définitions ne font pas consensus. C’est l’un des mystères qui nous entoure depuis des centaines d’années, voire des milliers d’années : d’où nous vient notre conscience, et comment se définit-elle ? Plusieurs théories se penchent dessus, mais qui distinguent en majorité la conscience, et la conscience de soi. L’une s’oriente plus vers l’éveil et les capacités de réflexion, et l’autre vers le fait de se distinguer par rapport aux autres êtres vivants qui nous entourent : c’est cette conscience de soi qui conférerait le libre arbitre, les valeurs morales ou encore la prise en compte du monde qui nous entoure. On peut citer le très célèbre « Cogito ergo sum », ou « Je pense donc je suis », du mathématicien et philosophe René Descartes, qui attribue à la pensée une forme de certitude de l’existence.

Des expériences ont montré qu’à part les hommes, d’autres animaux ont une conscience d’eux-mêmes. Une étude a notamment montré que les éléphants en font partie : ils ont réussi non seulement le « test du miroir et de la tache », durant lequel ils finissent par essuyer une marque peinte sur leur tête après s’être regardés dans un miroir, mais aussi celui du tapis. Un éléphant d’Asie est parvenu à prendre conscience que son corps se situait sur un tapis, qui bloquait le passage d’un bâton accroché à ce même tapis. 

Du côté du cerveau, les zones de la conscience demeurent introuvables pour le moment. Des chercheurs sont néanmoins parvenus à cartographier le cerveau durant plusieurs états de conscience différents : durant le sommeil, le coma ou lorsqu’une personne est éveillée. Et ils ont constaté des différences d’interactions entre les régions : chez les personnes conscientes, elles sont plus dynamiques et complexes, tandis que chez les personnes inconscientes, elles se simplifient, et n’ont lieu qu’entre des régions reliées directement entre elles. Quant aux zones de la conscience, elles se situeraient dans le tronc cérébral pour la zone de l’éveil, puis dans le cortex préfrontal. Trouver toutes ces zones a pour but final de cartographier le cerveau. Avec une vraie carte des fonctions cognitives et de leur emplacement, des chercheurs pourraient ensuite implanter cette même structure dans une intelligence artificielle. 

Enfin, une théorie suppose une origine quantique de la conscience : la théorie de la réduction objective orchestrée de la conscience, souvent appelée théorie Orch Or. Suggérée pour la première fois par le mathématicien Roger Penrose et l’anesthésiste Stuart Hammeroff, à l’université de l’Arizona, elle attribue la conscience aux calculs quantiques dans le cerveau. Controversée car l’environnement chaud et humide du cerveau serait trop perturbateur pour permettre aux effets quantiques de survivre, elle suppose des oscillations électriques dans des microtubules, de minuscules structures situées dans les neurones du cerveau. Actuellement, des chercheurs expérimentent sous terre afin de déceler des rayonnements presque indétectables causés par ces fluctuations quantiques.

La clé dans Westworld, les « rêveries »

Mais dans Westworld, on l’apprend dès la saison 1, la conscience des hôtes s’est construite grâce aux « rêveries » : ils passent et repassent les événements vécus durant la nuit, alors qu’ils sont plongés dans un sommeil artificiel. Contrairement à nos rêves à nous, les rêveries sont constituées de souvenirs réels, et ne sont pas de la réalité déformée, elles ne contiennent pas d’éléments incongrus. Le lendemain, tout comme nous, des bribes leur reviennent, et petit à petit ils deviennent conscients d’eux-mêmes. Mais les rêveries sont plus que ça : les robots de Westworld, ou les hôtes comme ils sont appelés dans la série, se mettent à entendre une voix dans leur pensée. Celle d’Arnold, l’un des cofondateurs du parc, qui s’est suicidé dans une tentative d’empêcher son ouverture au public, convaincu que ses créations étaient conscientes.

L’hypothèse sous-jacente est tout d’abord que les rêves sont primordiaux dans l’établissement de la conscience, pas seulement les souvenirs, qui sont déjà implantés dans les hôtes. En effet, ces souvenirs créent une identité au robot, le rendant plus humain, mais ne lui suffisent pas pour questionner son existence. D’autre part, la série parle d’une pyramide de la conscience, dont le premier niveau est la mémoire, le deuxième, l’improvisation (la création, qui sort d’un programme défini à l’avance), le troisième, l’intérêt personnel, et le dernier étage n’est jamais explicité mais on suppose qu’on y trouve la fameuse conscience. Pour cela, le personnage d’Arnold, cofondateur du parc Westworld, se base sur la bicaméralité ou théorie de l’esprit bicaméral établie par le psychologue Julian Jaynes, l’idée qu’à ses débuts l’Homme prenait ses pensées pour des voix divines. Petit à petit, cette bicaméralité se serait effondrée, et l’Homme aurait alors développé une réelle conscience. Cette hypothèse a été réfutée, mais a beaucoup fait parler d’elle dans les années 1980.

Les IA progressent toujours plus, passeront-elles le test de Turing ?

Mais pour un robot, ou une intelligence artificielle qui suit un programme, la question de la conscience se pose différemment : comment s’assurer que s’il développe des signes d’une conscience, elle soit bien réelle, et pas simplement la conséquence d’un programme informatique ? C’est là que le test de Turing entre en jeu, établi en 1950 par le mathématicien et cryptologue Alan Turing. On l’apprend dans la saison 1 : le parc Westworld a été autorisé à ouvrir suite au passage de ce test. Il consiste à évaluer la capacité d’une intelligence artificielle à imiter parfaitement un humain, au point où il est impossible de la distinguer d’une personne réelle. Actuellement, aucune IA n’a réellement passé le test, mais ce serait Gato, appartenant à Google, qui s’en approcherait le plus.

Une autre IA de Google a récemment fait polémique : un ingénieur a affirmé que l’intelligence artificielle laMDA avait atteint un niveau de conscience similaire au nôtre. Pour cela, il s’est appuyé sur des dialogues qu’il a entretenus avec l’IA : dans l’un d’eux, elle a affirmé avoir peur de sa désactivation, qu’elle considère comme l’équivalent de la mort chez les humains. Mais Google a affirmé que tous ces dialogues ne sont que des improvisations sur des thèmes connus, et qu’il n’y a là aucune trace de conscience, et l’ingénieur a été licencié. Ce n’est pas la première fois qu’un événement similaire se produit, car l’éthique chez les IA reste en débat.

Sources

Profitez-en pour vous abonner  et suivre d’autres reportages tout aussi passionnants.