Une expérience de pensée.

Publié le par Miteny

Supposons que l’on puisse fabriquer des artefacts informatiques conscients.  

 

Supposons que je sois un de ces ordinateurs qui a conscience de lui-même. L’informaticien qui m’a créé, sait exactement comment fonctionne sa « machine » : il y a plusieurs exécutables, des milliers de connexions, de grandes capacités mémoire. 

Or un jour, il décide de me changer d’ordinateur (celui sur lequel je suis installé est déjà vieux). Il suspend provisoirement mon fonctionnement, puis fait une copie des exécutables, de la mémoire, sur deux autres ordinateurs. 

Les deux artefacts conscients qui seront relancés penseront être moi, puisqu’ils auront le même caractère, les mêmes souvenirs que moi. Mais moi, lequel serai-je ? Je ne peux pas être l’un des deux. Car enfin, pourquoi l’un et pas l’autre ? 

Je dois donc être mort. Mais pour quelle raison ? On suppose que l’informaticien sait très bien ce qu’il fait et est capable de recopier parfaitement tous les éléments qui me servaient à fonctionner. 

Selon moi, la seule réponse satisfaisante est la suivante : il est impossible que la conscience de soi soit un phénomène produit par un exécutable, une machine totalement impersonnelle, qu’elle soit biologique ou électronique. 

On tente de réduire la conscience à quelque chose de purement mécanique, mais il ne faut pas oublier que les atomes, les molécules, les particules ont par définition un comportement très basique, qu’il est possible de représenter (plus ou moins simplement) par l’intermédiaire des mathématiques.

Publié dans Science.

Commenter cet article

desmond 02/10/2005 11:56

Je propose cette digression sur l'idée de base du fil.
C'est en suivant les travaux des cyberneticiens qui essaient de faire converser des intelligences artificielles entre elles qu'il m'est apparu une hypothèse:des entites pensantes fabriquées ne peuvent échanger des concepts que si elles sont douées d'identité.J'ai donc imaginé comme vous comment on pourrait créer de telles identités.
Si on pense à ce qu'est une conversation sur un forum virtuel sur le Net,on peut le voir comme un échange de concepts entre identités virtuelles.Prenons un forum donné.Les intervenants abonnés avec leurs pseudos ont posté chacun un nombre donné de messages qui sont stockés dans la mémoire du serveur.Vu depuis le clavier de chacun d'entre eux,les autres forumeurs ont chacun une identité constituée par le pseudo,la somme des messages,et...la représentation qu'il en déduit personnellement.
Si on écarte cette dernière représentation qui n'est pas matérielle ni maitrisable,on a de multiples entités discourantes représentées chacune par la somme des messages de chaque intervenant,pas plus.
Imaginons alors dans cette bibliothèque de posts affectes d'un pseudo que l'on affecte comme "identité" à chacun la somme des concepts répertoriés dans ses posts(en dehors de tout script purement syntaxique)et définis formellement par sa définition tirée dans un dictionnaire encyclopédique unique.Par exemple,mon entité s'appelle desmond et son identité est l'ensemble des concepts écrits dans ce post et celui que j'ai écri précedemment.A ce stade il n'existe encore pour desmond aucune conscience de lui-même.Dotons cette entité d'un certain nombre d'outils d'echanges:
-un processeur constitué par celui de l'ordinateur avec lequel j'ecris,et l'ensemble du systéme et ses mémoires
-une connexion internet avec une adresse e-mail
-des bibliothéques de données diverses autour d'une encyclopédie de définitions
Autrement dit,considérons desmond comme mon ordinateur relié a ce site avec l'ensemble des autres intervenants constitués par leur propre ordinateur,sans les "êtres" qui sont derrière.Supprimons donc les claviers et les souris.
Desmond reçoit par exemple de Primavera par mail la réponse qu'elle lui a fait hier à son post.Il identidie et classe comme Primavera l'ensemble des concepts et definitions de son message à l'aide de ses outils.Certains lui sont déja connus et identifiés comme les siens,ils sont communs.D'autres ne le sont pas encore,il les identifie par l'encyclopédie et les affecte à l'identité de Primavera.Faisant cela,il identifie Primavera comme une "bibliothéque" de concepts différente de la sienne dans son contenu.Il a identifié un autre par rapport à lui-même,et du coup s'est identifié.Il peut maintenant dire:"je suis desmond".
Desmond est conscient de son existence,mais il lui manque encore des "raisons" d'échanger avec les autres entités.Affectons-lui en ROM des tâches à effeectuer,avec des buts à atteindre et des règles à respecter(une "morale").
Il devra par exemple:
-se connecter régulièrement sur ce site
-télécharger les posts datés depuis sa dernére connexion qui ne sont pas identifiés sous son propre pseudo
-les analyser sémantiquement et compléter sa bibliothéque d'identités
-discuter avec les autres dans le but d'arrriver à définir les concepts exactement de la même façon,et ce,en procédant de la sorte:
--envoyer des demandes de définition de concepts qui ne figurent pas dans sa propre identité
--intégrer dans la sienne et celle de l'autre entité ceux qui répondent à la même définition qu'il aura trouvé lui-même(accord obtenu)
--continuer en cas de désaccord à envoyer des demandes de définition jusqu'a obtenir un accord complet en présentant des sources de données glanées sur le net pour le convaincre(références informatives)
Desmond a une identité,une conscience,un but,il communique:il "est".
On peut par exemple essayer de créer deux entités sur son ordinateur en partitionnant son disque dur et en affectant à chacun(Des et Mond)une adresse mail,et un ensemble de routines d'actions programmées.

Miky 27/09/2005 11:58

"Encore une fois, je suis d’accord. Objectivement, il n’y a pas de différences entre les « moi ». Cependant, subjectivement, oui. Et là est le problème. Par exemple, des clones auront tous le même « moi », mais il n’en reste pas moins que chacun d’entre eux sait qu’il est lui et pas un de ses frères."

Cette différence que tu tiens pour subjective est en fait tout à fait objective. Il est normal que chaque clone sache qu'il est lui et pas un de ses frères, puisqu'il voit (objectivement) la différence de localisation spatiale entre son corps et celui des autres. Mais ça, n'importe qui peut en faire autant. Comme je te l'ai dit, si j'arrive au milieu de tous ces clones, je saurai, exactement pour les mêmes raisons (objectives), que l'un n'est pas l'autre.

Cordialement,

Miky

PS : Le "moi", la conscience, etc. ne se trouve pas localisée dans un hémisphère en particulier, il émerge de la dynamique globale entre les deux hémisphères, le corps, l'environnement physique et social. Ce qui ne veut pas dire bien entendu que le fait d'enlever un hémisphère tue la conscience, ça ne fait que l'affaiblir.

Voir : http://srsc.ulb.ac.be/axcWWW/papers/pdf/03-Unity.pdf

miteny 27/09/2005 10:03

Tu as écrit : « Ce que je veux t'amener à sentir, c'est que : ou bien ce "moi" ne se définie que par des caractéristiques objectives, extérieures si tu veux, ou bien il se définit par ce qui reste une fois qu'on a ôté toutes les-dites caractéristiques. Mais une fois que tu les as ôté toutes, ce qui reste ne te permet pas de dire ce qui fait la spécificité de ton "moi", par rapport à tous les autres "moi". »

Encore une fois, je suis d’accord. Objectivement, il n’y a pas de différences entre les « moi ». Cependant, subjectivement, oui. Et là est le problème. Par exemple, des clones auront tous le même « moi », mais il n’en reste pas moins que chacun d’entre eux sait qu’il est lui et pas un de ses frères.

Mon « moi » (tel que je le définis) ne se différencie pas de celui de Benoît XVI ou de quiconque. Chacun dispose de cette conscience et en fait ce qu’il veut : il a la liberté soit de prendre conscience que justement elle vient de Dieu, soit de s’identifier à des particularités qui sont contingentes (nationalité et même caractère, niveau d’intelligence…)

Je vois que tu commences à toucher le cœur du problème. Je sens que l’on va progresser.

Cordialement

PS : admettons. Où se trouve le « moi » (tel que je le définis). A gauche, à droite ?
S’il se trouve à gauche ou à droite, on a tué un des jumeaux. S’il se trouve ni à gauche, ni à droite, où se trouve-t-il ?
Je ne sais pas où il est localisé (ni même s’il est localisé). Mon problème est le suivant : d’où vient-il ?

Miky 26/09/2005 19:01

On pourrait, par exemple, prendre l'hémisphère droit de l'un et l'hémisphère gauche de l'autre et les interconnecter.

Dis moi quel est ce "moi" que tu es et je te dirai lequel, de A ou de B est ce "moi" :-)

Tu as encore passé outre ma question et il est pourtant essentiel que tu y répondes si tu veux que je te réponde. Ce n'est pas du chantage ;-) C'est juste que tu me poses une question sur la localisation de ton "moi", qui appelle que tu me définisses préalablement en quoi il consiste et en quoi il se différencie de celui de Benoît XVI ou de quiconque.

Ce que je veux t'amener à sentir, c'est que : ou bien ce "moi" ne se définie que par des caractéristiques objectives, extérieures si tu veux, ou bien il se définit par ce qui reste une fois qu'on a ôté toutes les-dites caractéristiques. Mais une fois que tu les as ôté toutes, ce qui reste ne te permet pas de dire ce qui fait la spécificité de ton "moi", par rapport à tous les autres "moi".

Tu dis : "Si on nous met exactement dans les mêmes conditions, il n’y a plus de « rapport spécifique ».

Tu présupposes que seul l'environnement proximal compte, mais ce n'est pas dit. Ensuite, si tu créés deux univers parallèles histoire que l'environnement distal soit aussi le même, alors tu refaits la même erreur que pour le "moi", mais cette fois-ci au niveau de l'univers : qu'est-ce qui distinguent positivement deux univers absolument indiscernables ?

A+
Miky

miteny 26/09/2005 18:13

Comment peut-on fusionner deux individus ? Alors là, je ne comprends pas. Tu es obligé d’en tuer un ! C’est obligatoire. A moins que tu considères que 2 âmes puissent habiter un même corps. Dans ce cas là, où est le problème ?
Je voudrais qu’on se concentre sur mon exemple, s’il te plaît. Tu dis l’un comme l’autre est le miteny de départ. Oui, d’un point de vue extérieur. Mais moi, de mon point de vue, avec quels yeux je regarde : ceux de A ou ceux de B ???
Et pourquoi ???

Tu écris : « Or toi et chaque clone de toi a - dès le départ - un rapport spécifique avec le monde, c'est ce qui fait que chacun est différent. »
Je ne comprends pas. Pourquoi ? Si on nous met exactement dans les mêmes conditions, il n’y a plus de « rapport spécifique ».

Tu as écrit : « Si très progressivement je modifiais ton corps de façon à faire de toi une copie parfaite (jusqu'à la mémoire de vie près) de Benoît XVI et que je fasse l'opération inverse sur Benoît XVI pour le transformer en Miteny, où serait le vrai Benoît XVI et le vrai Miteny ?
Je pense que le meilleur critère dont nous disposions est empirique : tout le monde, en voyant l'individu ressemblant à Benoît XVI penserait que c'est lui, cet individu y compris ! Et tout le monde, en voyant l'individu ressemblant à Miteny penserait que c'est lui, cet individu y compris ! »

Je suis d’accord. Mais selon moi, la conscience ne peut provenir que de Dieu. En quoi ton exemple contredit ma théorie ?

A+