Pourquoi l'implant cérébral Neuralink d'Elon Musk recadre notre idée de l'identité personnelle

Lorsque nous fusionnons l'esprit et la machine, les frontières traditionnelles du moi se dissipent, explique le philosophe Dvija Mehta.

En mars, un homme appelé Noland Arbaugh a démontré qu'il pouvait jouer aux échecs en utilisant uniquement son esprit. Après avoir vécu huit ans avec une paralysie, il avait acquis la capacité d'effectuer des tâches qui lui étaient auparavant inaccessibles, grâce à un implant cérébral conçu par Neuralink, une entreprise fondée par Elon Musk.

"Il est devenu intuitif pour moi d'imaginer le déplacement du curseur", a déclaré M. Arbaugh lors d'une retransmission en direct. "Il me suffisait de fixer l'écran quelque part et il se déplaçait là où je le souhaitais.

La description de M. Arbaugh fait allusion à un sentiment d'autonomie : il suggère qu'il est responsable du déplacement de la pièce d'échecs. Cependant, était-ce lui ou l'implant qui effectuait les actions ?

En tant que philosophe de l'esprit et éthicien de l'IA, je suis fasciné par cette question. Les technologies d'interface cerveau-ordinateur (BCI) telles que Neuralink symbolisent une nouvelle ère dans l'imbrication du cerveau humain et des machines, nous invitant à reconsidérer nos intuitions sur l'identité, le soi et la responsabilité personnelle. À court terme, la technologie promet de nombreux avantages pour des personnes comme M. Arbaugh, mais les applications pourraient aller plus loin. La vision à long terme de l'entreprise est de mettre ces implants à la disposition de la population générale afin d'augmenter et d'améliorer ses capacités. Si une machine peut accomplir des actes autrefois réservés à la matière cérébrale à l'intérieur de nos crânes, doit-elle être considérée comme une extension de l'esprit humain ou comme quelque chose de distinct ?

L'esprit élargi

Depuis des décennies, les philosophes débattent des frontières de la personne : où s'arrête notre esprit et où commence le monde extérieur ? À un niveau simple, on pourrait supposer que notre esprit repose dans notre cerveau et notre corps. Cependant, certains philosophes ont proposé que ce soit plus compliqué que cela.

En 1998, les philosophes David Chalmers et Andy Clarke ont présenté l'hypothèse de "l'esprit étendu", suggérant que la technologie pourrait faire partie de nous. En langage philosophique, le duo a proposé un externalisme actif, une vision selon laquelle les humains peuvent déléguer des facettes de leurs processus de pensée à des artefacts externes, intégrant ainsi ces artefacts dans l'esprit humain lui-même. C'était avant l'apparition du smartphone, mais cela préfigurait la manière dont nous nous déchargeons aujourd'hui des tâches cognitives sur nos appareils, de l'orientation à la mémoire.

" Si l'implant d'Arbaugh ne fait pas partie de son esprit, cela pose d'épineuses questions quant à savoir s'il est véritablement propriétaire de ses actes.

Dans le cadre d'une expérience de pensée, Chalmers et Clarke ont également imaginé un scénario "dans un futur cyberpunk" où une personne dotée d'un implant cérébral manipulerait des objets sur un écran, un peu comme Arbaugh vient de le faire.

Pour jouer aux échecs, Arbaugh imagine ce qu'il veut, comme déplacer un pion ou un fou. Son implant, en l'occurrence le N1 de Neuralink, capte les schémas neuronaux de son intention, avant de les décoder, de les traiter et d'exécuter les actions.

Alors, que devons-nous en penser d'un point de vue philosophique, maintenant que cela s'est réellement produit ? L'implant d'Arbaugh fait-il partie de son esprit, est-il lié à ses intentions ? Si ce n'est pas le cas, cela pose d'épineuses questions quant à la véritable propriété de ses actes.

Pour comprendre pourquoi, examinons une distinction conceptuelle : les événements et les actions. Les événements englobent l'ensemble de nos processus mentaux, tels que nos pensées, nos croyances, nos désirs, nos imaginations, nos contemplations et nos intentions. Les actions sont des événements sur lesquels nous agissons, comme les mouvements de doigts que vous effectuez en ce moment même pour faire défiler cet article.

En général, il n'y a pas d'écart entre les événements et les actions. Prenons par exemple le cas d'une femme hypothétique, Nora - qui n'est pas une personne intégrée à un BCI - jouant aux échecs. Elle peut former l'intention de déplacer le pion sur d3 en régulant ses événements, et elle le fait simplement en bougeant sa main. Dans le cas de Nora, l'intention et l'action sont inséparables ; elle peut s'attribuer l'action de déplacer le pion.

Pour Arbaugh, en revanche, il doit imaginer son intention, et c'est l'implant qui réalise l'action dans le monde extérieur. Ici, les événements et les actions sont distincts.

Cela soulève de sérieuses questions, notamment celle de savoir si une personne utilisant un implant cérébral pour augmenter ses capacités peut acquérir un contrôle exécutif sur ses actions intégrées à l'ICB. Alors que le cerveau et le corps humains produisent déjà de nombreuses actions involontaires, des éternuements à la maladresse en passant par la dilatation des pupilles, les actions contrôlées par l'implant pourraient-elles sembler étrangères ? L'implant pourrait-il apparaître comme un intrus parasite rongeant le caractère sacré de la volonté d'une personne ?

J'appelle ce problème l'énigme de la contemplation. Dans le cas d'Arbaugh, il saute des étapes cruciales de la chaîne causale, comme le mouvement de sa main qui instancie son coup d'échecs. Que se passe-t-il si Arbaugh pense d'abord à déplacer son pion en d3 mais que, dans une fraction de seconde, il change d'avis et se rend compte qu'il préférerait le déplacer en d4 ? Ou bien s'il est en train d'imaginer toutes sortes de possibilités et que l'implant interprète par erreur l'une d'entre elles comme une intention ?

Les enjeux sont faibles sur un échiquier, mais si ces implants devenaient plus courants, la question de la responsabilité personnelle deviendrait plus délicate. Que se passerait-il si, par exemple, un dommage corporel était causé à une autre personne par une action contrôlée par l'implant ?

Et ce n'est pas le seul problème éthique que ces technologies soulèvent. Une commercialisation superficielle sans résolution complète de l'énigme de la contemplation et d'autres questions pourrait ouvrir la voie à une dystopie rappelant les récits de science-fiction. Le roman Neuromancer de William Gibson, par exemple, a montré comment les implants pouvaient conduire à la perte d'identité, à la manipulation et à l'érosion de l'intimité de la pensée.

La question cruciale dans l'énigme de la contemplation est de savoir quand un "événement d'imagination" se transforme en "imagination intentionnelle pour agir". Lorsque j'applique mon imagination à la contemplation des mots à utiliser dans cette phrase, il s'agit en soi d'un processus intentionnel. L'imagination orientée vers l'action - taper les mots - est également intentionnelle.

En termes de neurosciences, il est presque impossible de faire la différence entre l'imagination et l'intention. Une étude menée en 2012 par un groupe de neuroscientifiques a conclu qu'il n'existe pas d'événements neuronaux pouvant être qualifiés d'"intentions d'agir". Sans la capacité de reconnaître les schémas neuronaux qui marquent cette transition chez quelqu'un comme Arbaugh, il pourrait être difficile de savoir quel scénario imaginé est la cause de l'effet dans le monde physique. Cela permet à l'implant d'assumer une partie de la responsabilité et de la propriété de l'action, et de se demander à nouveau si les actions sont vraiment les siennes et si elles font partie de sa personnalité.

Cependant, maintenant que l'expérience de pensée de l'esprit étendu de Chalmers et Clarke s'est manifestée dans la réalité, je propose de revoir leurs idées fondamentales comme une méthode pour combler le fossé entre les événements et les actions chez les personnes ayant des implants cérébraux. L'adoption de l'hypothèse de l'esprit étendu permettrait à une personne comme Arbaugh d'assumer la responsabilité de ses actes plutôt que de la partager avec l'implant. Ce point de vue cognitif suggère que pour faire l'expérience d'une chose comme s'il s'agissait d'une chose propre, il faut la considérer comme telle. En d'autres termes, ils doivent considérer l'implant comme faisant partie de leur identité personnelle et des limites de leur vie intérieure. Si c'est le cas, un sentiment d'agence, de propriété et de responsabilité peut s'ensuivre.

Les implants cérébraux comme celui d'Arbaugh ont sans aucun doute ouvert une nouvelle porte aux discussions philosophiques sur la frontière entre l'esprit et la machine. Le débat sur l'action et l'agence a traditionnellement tourné autour de la frontière de l'identité entre la peau et le crâne. Cependant, avec les implants cérébraux, cette frontière est devenue malléable, ce qui signifie que le moi peut s'étendre plus loin dans la technologie que jamais auparavant. Ou, comme l'ont fait remarquer Chalmers et Clarke : "Une fois que l'hégémonie de la peau et du crâne sera usurpée, nous pourrons peut-être nous considérer plus véritablement comme des créatures du monde".

*Dvija Mehta est chercheuse en éthique de l'IA et philosophe de l'esprit au Leverhulme Centre for the Future of Intelligence, à l'université de Cambridge.