Une expérience de pensée.
Supposons que l’on puisse fabriquer des artefacts informatiques conscients.
Supposons que je sois un de ces ordinateurs qui a conscience de lui-même. L’informaticien qui m’a créé, sait exactement comment fonctionne sa « machine » : il y a plusieurs exécutables, des milliers de connexions, de grandes capacités mémoire.
Or un jour, il décide de me changer d’ordinateur (celui sur lequel je suis installé est déjà vieux). Il suspend provisoirement mon fonctionnement, puis fait une copie des exécutables, de la mémoire, sur deux autres ordinateurs.
Les deux artefacts conscients qui seront relancés penseront être moi, puisqu’ils auront le même caractère, les mêmes souvenirs que moi. Mais moi, lequel serai-je ? Je ne peux pas être l’un des deux. Car enfin, pourquoi l’un et pas l’autre ?
Je dois donc être mort. Mais pour quelle raison ? On suppose que l’informaticien sait très bien ce qu’il fait et est capable de recopier parfaitement tous les éléments qui me servaient à fonctionner.
Selon moi, la seule réponse satisfaisante est la suivante : il est impossible que la conscience de soi soit un phénomène produit par un exécutable, une machine totalement impersonnelle, qu’elle soit biologique ou électronique.
On tente de réduire la conscience à quelque chose de purement mécanique, mais il ne faut pas oublier que les atomes, les molécules, les particules ont par définition un comportement très basique, qu’il est possible de représenter (plus ou moins simplement) par l’intermédiaire des mathématiques.