C’est une question assez étrange, n’est-ce pas? Une caméra n’a pas autant d’intelligence – encore moins de conscience de soi – qu’un ver plat. Alors, à quoi bon poser une question comme celle-ci?

C’est parce qu’il y a une conclusion surprenante et profonde. Alors, suspendez votre perplexité un instant et restez avec moi pendant que je vous explique.

Je veux commencer par la question de savoir ce qui rend quelque chose sensible. Que signifie être sensible? Il me semble qu’il y a un éventail de définitions. Comme tout ce qui concerne la conscience, elle devient rapidement floue. Vous avez des praticiens de la séduction totale à un extrême et des physiciens qui soutiennent que la conscience est un effet quantique sur l’autre. Mais je n’ai pas besoin d’entrer là-dedans. Il est beaucoup plus facile pour moi de simplement définir ce que je veux dire par « sensible », c’est-à-dire qu’une entité est sensible si elle est consciente d’elle-même. Pourquoi est-ce important? Pensez-y: si vous pouvez être conscient de vous-même, cela signifie que vous êtes conscient de la distinction entre vous et le monde extérieur – tout ce qui n’est pas vous.

Un capteur de caméra voit le monde qui l’entoure. Sait-il qu’il fait ça? Pour savoir quelque chose, vous devez être sensible, ou vous n’êtes que du stockage.

Alors, qu’est-ce qui ne serait pas seulement une caméra, mais toute « machine » doit être pour qu’elle soit consciente de soi? Il y a des choses spécifiques.

Premièrement, pour susciter une prise de conscience, il faudrait connaître le monde. Il faudrait au moins quelques sens. Les caméras commencent bien. Une caméra a évidemment un œil. S’il a un microphone, alors il a des oreilles. Mais il ne serait pas très conscient de lui-même s’il ne regardait que la même scène, il faudrait donc qu’il bouge. Suffirait-il de l’attacher à un Land Rover ou à une moto? J’en doute car cela dépendrait totalement des caprices ou des inclinations du conducteur.

Il devrait donc être automoteur et en contrôle de ses mouvements. Cela nous amènerait probablement un long chemin. Mais parfois, « être là » au sens de « localisation » ne suffit pas. En fait, si c’est tout ce que vous avez pour comprendre votre place dans le monde, cela fait malheureusement défaut. Je pense qu’il faudrait donner plus de sens à notre appareil photo, comme le toucher, par exemple. Pas seulement un capteur de proximité ou de contact, mais un toucher approprié et flexible, du type qui vient avec des doigts attachés aux mains attachés aux bras et à un corps. Pourquoi? Parce qu’explorer le monde est une partie cruciale de notre capacité à le comprendre. Nous ne comprenons pas simplement le monde en le regardant ou en l’écoutant. Nous devons aussi toucher aux choses. Parfois, nous nous brûlons ou nous piquons. Mais même avec ces dangers, nous apprenons, tout le temps.

Théories de l’esprit

Une partie de cela se résume à nos théories sur l’esprit, ce qui est crucial pour la conscience de soi. Les enfants commencent probablement sans « théorie de l’esprit » lorsqu’ils se développent. Cela ne signifie pas qu’ils n’ont pas encore lu de livres de philosophie. Il s’agit de savoir si les jeunes inexpérimentés comprennent que les autres ont des esprits: que vous n’êtes pas le seul être vivant et intelligent dans l’univers et que ces objets rampants à la garderie qui ressemblent un peu à vous ont des pensées comme vous aussi. Il est raisonnable de penser que les enfants font ce saut d’imagination assez rapidement. Avoir les bras et les jambes et sentir le tapis repousser contre eux génère une impression puissante.

Il s’agit aussi de plus que de se déplacer, de voir, d’entendre et de toucher des choses. Vous devez également savoir ce que votre propre corps fait du monde. Personne ne s’attend à ce que lorsque nous serrons la main de quelqu’un, notre propre main passe à travers la leur. Nous savons tous à quoi ça ressemble lorsque nous croisons quelqu’un dans un endroit bondé (si vous venez du Royaume-Uni, vous direz automatiquement « désolé » même si c’était la faute de l’autre personne).

Savoir où se trouvent nos membres et notre corps par rapport au monde est en fait un sens en soi. C’est ce qu’on appelle la proprioception, et vous pouvez la voir à l’œuvre lorsque vous fermez les yeux et essayez de toucher vos deux index ensemble devant vous. C’est aussi comme ça que je peux jouer une neuvième en mi bémol majeur sur un clavier sans le regarder. Ma « mémoire musculaire » met mes doigts dans la bonne position les uns par rapport aux autres, mais c’est la proprioception qui met ma main au bon endroit sur le piano. Je suppose que les machines ont un bon sens de la proprioception car elles sont pleines de capteurs et – en fait – ne pourraient pas fonctionner du tout si elles ne suivaient pas à tout moment où se trouvaient leurs pièces mobiles.

Peut-être que la dernière partie de ce dont vous auriez besoin pour rendre une machine sensible est l’agence: la capacité de prendre des décisions. Je ne parle pas de décisions algorithmiques (« si le feu passe au vert, commencez à bouger ») mais de décisions créatives et de bon sens.

C’est difficile. On ne sait pas du tout quelle est la voie vers l’agence. Et si vous avez besoin de sensibilité pour atteindre l’agence, et non l’inverse.

En fin de compte, nous ne savons pas si les machines seront un jour sensibles. S’ils atteignent ce niveau de conscience, le saurons-nous même? Les nouvelles lois sur le bien-être des animaux rendent illégal le fait de faire bouillir des homards vivants parce que, bien sûr, cela devrait être le cas. Mais les lois parlent de homards sensibles. Comment pouvons-nous savoir comment une forme de vie aussi différente pourrait être consciente de soi? Peut-être par analogie. Nous observons leur comportement et concluons qu’ils ressentent de la douleur.

Et c’est peut-être tout ce que nous pouvons faire. Il est probable que la sentience sera une « propriété émergente ». Qu’il sortira de la complexité. Et quand c’est le cas, nous pourrions ne pas le reconnaître.

Tout cela m’amène à une conclusion curieuse: une caméra sensible n’est pas seulement un peu comme un robot, mais est la définition même d’une caméra.