Notes
-
[1]
‟Neuroethics, Mapping the fields” ; New York Times : https://dana.org/article/neuroethics-mapping-the-field/
-
[2]
L’Initiative NeuroRight : https://nri.ntc.columbia.edu/
- [3]
-
[4]
Nuffield Council of Bioethics : https://www.nuffieldbioethics.org/
-
[5]
Loi Bioéthique française révisée en 2020 : https://www.legifrance.gouv.fr/dossierlegislatif/JORFDOLE000038811571/
-
[6]
CISS/IDS/UNESCO (2016), Rapport mondial sur les sciences sociales 2016 ‒ Lutter contre les inégalités : pistes vers un monde juste, Paris, Éditions Unesco.
« L’éthique est le mouvement même de la liberté qui cherche une vie bonne, dans la sollicitude envers autrui et dans un juste usage des institutions sociales ».
Introduction
1L’intérêt suscité par les neurosciences et les neurotechnologies et les investissements qui y sont consacrés ont donné naissance à de nombreux projets de recherche européens et internationaux visant à faire progresser la connaissance du cerveau en combinant l’expertise de la recherche en neurosciences avec celle de la recherche en informatique. Ces projets se perfectionnent à travers la mise en place de neurotechnologies invasives et non invasives plus miniaturisées, plus efficaces et plus puissantes au fur et à mesure que la recherche en neurosciences progresse.
2Propice aux méthodes de coaching personnalisé (gestion du stress, de la concentration, de l’attention, etc.), la crise sanitaire a en effet été l’occasion de voir le marché des neurotechnologies se développer. Ces dernières sont élaborées dans les laboratoires de recherche, et pour certaines déjà commercialisées à destination du grand public en bonne santé, comme outils de bien-être. Les frontières entre les utilisations médicales et non médicales deviennent très poreuses, avec des finalités et des investissements différents, impliquant nécessairement de réfléchir à différentes formes de réglementation et de surveillance.
3Car les neurosciences modifient nos conceptions philosophiques et éthiques traditionnelles en apportant des informations sur le fondement biologique de notre comportement moral. Cette accélération de ces innovations rend indispensable les réflexions sur les enjeux sociétaux, éthiques et légaux qu’elles soulèvent, et la conception interdisciplinaire de garde-fous, de systèmes d’évaluation et de surveillance et de cadres de gouvernance adaptés aux valeurs sociologiques, éthiques et juridiques de la France et de l’Europe. Des protections appropriées des données cérébrales, des espaces privés et de l’identité individuelle doivent être intégrées dans notre compréhension des droits de l’Homme.
4En combinant l’expertise des recherches neuroscientifique, sociologique, éthique et juridique, les recherches et les réflexions en neurotechnologies auront l’avantage d’être complémentaires, robustes, pertinentes, et donc plus fiables. C’est ce qu’incarne la neuro-éthique qui est en quelque sorte une conscience critique constructive (ou la Jiminy Cricket des neurosciences), c’est un appel à une pratique neuroscientifique plus réfléchie faisant appel aux sciences sociales pour examiner le potentiel et les limites des questions et des méthodologies des neurosciences et leurs impacts sur la société.
5Car si les utilisateurs de ces neurotechnologies n’ont pas confiance en notre science, nous perdrons cette occasion unique de comprendre comment ces neurotechnologies et les connaissances dans les neurosciences affecteront le futur, quels seront leurs impacts sur l’homme, les relations, le marché du travail, la cybersécurité, la défense de nos pays…, donc quels potentiels avantages elles peuvent apporter à la vie de nos concitoyens. Ce qui permettra à ces recherches d’être fiables et à ces neurotechnologies d’être accueillies comme des technologies de confiance. Il est donc nécessaire de guider leur développement d’une manière qui respecte, protège, permette de tirer de l’humanité ce qu’elle a de meilleur.
Des neurotechnologies responsables pour la société ?
Qu’est-ce qu’une neurotechnologie ?
6Les neurosciences, qui englobent tous les domaines d’étude du cerveau, allant de la molécule et de la cellule jusqu’au comportement, sont essentielles en santé publique pour comprendre et anticiper les problèmes que notre société va avoir à affronter. Elles sont nées de la convergence des approches moléculaire et cellulaire du tissu nerveux avec des recherches plus intégrées, neurophysiologiques ou cognitives. User du terme « nouveauté » pour parler des neurotechnologies n’est en fait pas tout à fait appropriée [1]. Ces neurotechnologies s’inscrivent dans l’histoire des sciences et des neurosciences.
7Les avancées sont nombreuses et permettent de mieux percer les mystères du cerveau depuis ses aspects fondamentaux jusqu’aux aspects les plus fonctionnels. Elles vont de pair avec le développement de certaines techniques d’exploration du cerveau, invasives ou non invasives : les neurotechnologies [2]. Ces dernières sont des dispositifs se situant à l’interface entre le cerveau et la machine pour visualiser, décrypter, modifier et moduler le fonctionnement cérébral et les dysfonctionnements pathologiques. Leur essor permet d’observer le cerveau sans l’endommager et de pratiquer certaines interventions chirurgicales de grande précision. Elles ont permis, par exemple, de mettre en lumière la plasticité synaptique et neuronale. L’exploitation de leurs analyses à différentes échelles renseigne sur ce fonctionnement cérébral de l’utilisateur.
8Ces neurotechnologies peuvent être invasives, comme les implants cérébraux destinés à compenser un déficit visuel rétinien ou auditif cochléaire, semi-invasives, comme l’électrocorticographie (ECoG), ou encore non invasives, comme l’électroencéphalographie (EEG), la neuroimagerie (comme l’IRM fonctionnel) ou la tomographie à émission de positron (TEP).
Les neurotechnologies à finalités médicale et non médicale, dans un contexte de recherche internationale
9L’internationalisation des recherches, des projets et des consortiums, et les collaborations entre les laboratoires académiques et privés, comme le Human Brain Project (HBP), le Human Connectome Project, l’International Brain Initiative (IBI), le Korea Initiative Brain ou le NIH Brain Project, révolutionnent notre compréhension du cerveau et de son fonctionnement.
10Leurs objectifs : « mapper le cerveau », modéliser le fonctionnement du cerveau humain en imaginant et en concevant des moyens techniques pour y parvenir, comme des modèles mathématiques et des algorithmes capables de simuler avec une grande précision l’activité des neurones et leurs interconnexions.
11Ils visent à enrichir notre connaissance des mécanismes du cerveau humain et à développer de nouvelles thérapies médicales plus efficaces pour traiter certaines maladies neurologiques. Ces méthodes utilisent des plateformes collaboratives, comme FLI-IAM, CATI ou Flywheel, qui sont des lieux de collaboration et d’échange privilégiés. En outre, l’IBI offre une plateforme internationale de collaboration entre les scientifiques, les entreprises publiques et privées, les partenaires industriels dans les domaines éthique, social et économique des découvertes neuroscientifiques.
12De plus, l’étude du cerveau représente un budget de plusieurs milliards d’euros (ou de dollars), avec des ambitions pharaoniques. Ces neurogadgets sont dans les téléphones ; les applications correspondantes sont téléchargeables sur Apple et Samsung pour lire les activités cérébrales en temps réel, ce qui nécessite d’être prudent et de réfléchir à des normes pour que ces données cérébrales ne se retrouvent pas dans les mains des GAFAM, car celles-ci investissent de plus en plus le monde du travail et des recrutements.
13Les avancées colossales des neurosciences permettent à des neurotechnologies d’être imaginées et utilisées à des fins médicales, de bien-être, à des fins éducatives, pour les jeux en ligne, pour éprouver des sensations fortes ou pour améliorer la mémoire et la performance.
14Les neurotechnologies non invasives déjà commercialisées se présentent sous forme de casques et d’écouteurs et sont à destination des patients ou du grand public. Elles sont munies de scanners et d’électrodes pour enregistrer, par la technique de l’EEG, l’activité cérébrale en captant les ondes cérébrales pour les traduire en signaux digitaux. Elles sont très souvent issues de la recherche fondamentale et médicale [3]. Les ondes cérébrales captées correspondent à certains états émotionnels, associés par exemple à la détente ou à la vigilance. Elles les traduisent en signaux sonores et visuels, ce qui renseigne l’utilisateur sur ses états mentaux pour l’aider à les réguler et à les contrôler.
15Elles peuvent être connectées par Wifi et Bluetooth à des ordinateurs. L’utilisation d’algorithmes, de l’IA et du machine learning va permettre de traiter les données captées, de convertir les ondes cérébrales en signaux digitaux qui peuvent être utilisés pour contrôler l’émetteur en retour, c’est le neurofeedback.
16Les applications sont nombreuses faisant valoir que des suggestions par neurofeedback peuvent influencer les motivations et les décisions des utilisateurs, booster leur attention, leur mémoire, leur concentration et leur vigilance, mais aussi évaluer et améliorer leurs performances cognitives. Elles permettent de se relaxer ou encore de gérer les émotions, le stress, l’anxiété, la fatigue, le sommeil, de changer efficacement de comportement. Elles pourraient être utilisées pour aider à faire évoluer les méthodes de travail, pour aider au recrutement et plus généralement à la gestion des RH, pour évaluer les performances d’une équipe et des individus et pour proposer des solutions de gestion des équipes.
La perméabilité du cerveau à l’environnement incitatif : les défis éthiques que cela soulève
17Notre cerveau évolue grâce entre autres aux interactions sociales que nous établissons au quotidien tout au long de notre vie et qui semblent être nécessaires à notre développement cérébral. Un environnement stimulant favorise la neurogenèse, la plasticité neuronale et synaptique [4]. Elles sont des propriétés cruciales du système nerveux, lui permettant de s’adapter et d’évoluer en mettant à contribution des circuits de la récompense, du plaisir et de l’addiction [5], des émotions [6], et l’axe du stress et de l’anxiété [7].
18Les utilisations des neurotechnologies, que ce soit à des fins médicales ou non, sont susceptibles de changer ces connexions synaptiques avec de possibles répercussions importantes sur les comportements et les fonctions cognitives des utilisateurs. Ces changements dans les activités cérébrales induisent des mécanismes d’apprentissage se traduisant par la potentialisation à long terme (LTP). L’équilibre entre excitation et inhibition est maintenu dans le cerveau par le dialogue qu’entretiennent les différents neurotransmetteurs, cet équilibre est indispensable [8] et ces neurotechnologies ont un impact non négligeable sur ce dernier [9]. Les effets des modulations et des stimulations qui modifient les facultés cognitives sont donc très souvent durables, pouvant entraîner un changement des humeurs et des émotions de l’utilisateur. Ce ne sont donc pas des modifications anodines.
19Dans le cadre du traitement d’une pathologie, elles permettent déjà aux personnes souffrant de graves handicaps moteurs ou sensoriels de retrouver l’usage de leurs membres, leur sensibilité ou leur capacité de communiquer avec le monde extérieur, comme l’ont montré des chercheurs de Grenoble en mettant au point un exosquelette pour redonner de la mobilité à des patients tétraplégiques [10]. Dans un cadre non médical, leur utilisation pose en revanche beaucoup de questions notamment sur l’usage de celles-ci à des fins utilitaristes d’amélioration des performances de sujets sains, de nudging, dans le cadre militaire par exemple.
20Elles vont donc avoir de profondes conséquences sur l’identité humaine et la société, car elles mettent en jeu la conception que nous avons de nous-mêmes en tant que personnes libres et responsables ([11] et [12]). De plus, l’utilisation des données issues de l’activité cérébrale des utilisateurs, sans leur consentement éclairé et sans les avoir informer des effets des neurotechnologies, soulève un certain nombre de questions [13].
21Afin de ne pas se priver de tous les potentiels qu’elles peuvent offrir notamment dans les domaines de la santé et du bien-être, il est important de bien prendre conscience du fait que leurs avantages cliniques et sociétaux possibles sont vastes. Mais leur capacité à enregistrer l’activité cérébrale et à intervenir dans le fonctionnement neuronal à l’échelle moléculaire interroge sur les principes de justice, de bienfaisance et d’autonomie de l’être humain.
22Leur commercialisation très rapide, sans autorisation de mise sur le marché (AMM) et sans évaluation, bouscule le temps de la recherche, en court-circuitant le temps de l’interrogation sur leurs enjeux, leur utilité, leurs usages, leurs risques et leurs bénéfices. Il est donc nécessaire de guider leur développement d’une manière qui respecte, protège, permette de tirer de l’humanité ce qu’elle a de meilleur.
Vous avez dit neuro-éthique ?
23L’éthique interroge nos actes, nos décisions, nos intuitions, nos choix de recherche, de société, et s’impose dans le champ des innovations responsables. Les questions éthiques nous emmènent sur des chemins et des exercices escarpés et périlleux, c’est une approche à la fois analytique, empirique et dialectique, permettant de poser les bases de réflexions pour des actions dans une société en quête de sens et d’éthique. Il nous faut honorer l’ancien et accueillir le nouveau. Il faut faire en sorte qu’il n’y ait pas de rupture dans l’histoire humaine, dans laquelle l’utilisateur des neurotechnologies se reconnaîtra.
24À l’évidence, les neurosciences ([14], [15], [16] et [17]) et les neurotechnologies [18] interpellent l’éthique, ainsi que le digital, l’IA et les algorithmes ([19] et [20]) et, parce qu’elle interfère dans le processus de décision, la technique du nudge ([21] et [22]). Ces recherches génèrent donc des questions juridiques, éthiques et sociétales concernant des principes et des valeurs tels que la personnalité, la stigmatisation, l’autonomie, la vie privée, la sécurité, la liberté individuelle et collective, la responsabilité et l’intégrité humaine.
La neuro-éthique : les neurosciences à la lumière de la philosophie, de la sociologie et de l’éthique
La neuro-éthique est la lentille ou la conscience critique constructive des neurosciences ; ou le « Jiminy Cricket » des neurosciences !
25Née officiellement en 2002 [1] [23], cette jeune discipline est l’héritière de l’histoire des sciences, de la médecine, de la philosophie et des neurosciences. Son ambition originelle ([14] et [17]) se veut être un dialogue pluridisciplinaire placé à l’intersection entre neurosciences et sciences humaines, en s’étendant aux questions philosophiques fondatrices que les neurosciences renouvellent en profondeur : la nature de l’être humain, la relation entre l’âme et le corps, le libre-arbitre, la dignité humaine ou l’identité personnelle. Elle se structure par le biais de projets et de consortiums internationaux, comme le Human Brain Project [24] ou l’International Brain Initiative ([15], [16] et [25]).
26Elle invite à discerner et à comprendre comment les connaissances et les recherches sur les neurotechnologies peuvent affecter le futur de la société. En somme, il s’agit d’appeler à une pratique neuroscientifique plus réfléchie, confortée par les sciences sociales pour examiner le potentiel et les limites des questions et des méthodologies des neurosciences et leurs impacts sur la société ([1] et [26]). Elle fournit un ensemble d’outils éthiques, juridiques et philosophiques pour une recherche responsable. Cela peut contribuer à faire progresser, à accélérer une neuroscience mondialisée éthiquement défendable.
Elle se divise en deux grands chapitres qui s’influencent l’un l’autre
27Neurosciences de l’éthique et moralité, ou l’étude des mécanismes cognitifs et des bases neurales de la moralité et de l’éthique (libre-arbitre, autonomie, personnalité) [27].
28L’éthique des neurosciences, ou les questions éthiques sous-tendues par la recherche en neurosciences et liées à leur utilisation, et les technologies mobilisées pour étudier la cognition, les émotions et les actions [28] : c’est une neuro-éthique appliquée.
Les enjeux éthiques des neurotechnologies et l’émergence des risques associés à évaluer
29Quel monde voulons-nous ? Jusqu’où pouvons-nous et devons-nous aller ?
30Les neurosciences s’orientent vers une médecine préventive et prédictive, modifiant de fait la conception de la médecine actuelle qui est tournée vers le traitement des maladies déjà diagnostiquées. Les avancées faites dans les neurosciences modifient la vie des citoyens et des patients, ce qui demande une plus grande exigence éthique, et donc :
- d’évaluer la validité scientifique de leur portée ;
- et d’examiner leurs conséquences pour la vie en société et la conception que nous nous faisions d’un être humain autonome et responsable de ses actes.
Entre espoir et crainte… Bâtir de nouveaux cerveaux… le futur des neurosciences
31Les neurotechnologies sont en train de révolutionner notre capacité à enregistrer et à évaluer en temps réel et, plus largement, à modifier les capacités cognitives et l’activité cérébrale des utilisateurs, Elles changent la physiologie cérébrale, pouvant ainsi entraîner un changement de comportement, d’humeur et de personnalité.
32Malgré les incertitudes et les inquiétudes, il est essentiel de s’intéresser aux espoirs qu’elles soulèvent. Les domaines de la santé, de la médecine, du travail comme de la recherche sont en passe et même déjà en train de connaître un profond bouleversement.
33Elles sont porteuses de promesses fantastiques et révolutionnaires en matière d’amélioration des connaissances, de détection et de traitement des maladies et de mise en commun de l’ensemble des données à l’échelle internationale ; elles ouvrent la voie vers une recherche et une médecine plus collaboratives.
34En revanche, de nombreuses questions se posent quant à l’usage de ces neurotechnologies dans de nombreux secteurs en dehors de celui de la santé. La difficulté de trancher entre réalité et fantasme réside notamment dans la méconnaissance générale de ce que sont les neurotechnologies, mais aussi dans l’impossibilité de savoir comment les humains vont réagir face à un monde en profond bouleversement.
35L’avenir promet plus de moyens pour améliorer les performances et mieux les contrôler, pour être capable de lire les pensées… Étant des structures actionnables et contrôlables à distance, connectées par Wifi ou Bluetooth, il est possible qu’une tierce personne intervienne à l’insu de l’utilisateur pour voler ses données, pour les hacker, pour prendre in fine le contrôle d’une personne en la surveillant, en la stigmatisant.
36Cela signifie que nous nous rapprochons d’un monde où il sera possible de décoder les processus mentaux des personnes et de manipuler directement les mécanismes cérébraux qui sous-tendent leurs intentions, leurs émotions et leurs décisions.
37De plus, les coûts de ces neurotechnologies sont onéreux et le demeureront, générant ou exacerbant des divisions sociétales au sein de la population ou entre les habitants des différents pays.
38C’est donc un défi pour la recherche et la société que de comprendre comment elles affecteront le futur, d’appréhender leurs impacts sur l’homme, de découvrir les mécanismes sous-jacents à nos pensées tout cela en pleine transparence, en veillant à préserver l’équilibre entre les bénéfices et les risques pour protéger les utilisateurs [29] et éviter les risques de dérives dans un contexte d’innovation responsable, grâce à l’adoption de cadres normatifs à l’échelle de la société ([30] et [18]).
39Il est donc très important que les citoyens aient une compréhension claire, sans aucune exagération, des avantages potentiels de ces neurotechnologies, ainsi que de leurs risques et de leurs limites, car il en va de leur confiance dans la science.
Les algorithmes et les neurotechnologies
40Des questions sous-jacentes très importantes liées à des préoccupations concernant les informations générées par les algorithmes sur l’activité cérébrale se posent comme celles de la robustesse et de la pertinence des recherches, des responsabilités juridiques et éthiques des chercheurs, des inventeurs ou des commerciaux, mais également celles relatives à la manière dont les algorithmes produisent des connaissances et des idées exploitables et à l’interprétation qu’ils font de cette activité cérébrale ([31] et [19]). Comment dès lors créer de la transparence ? Comment étudier l’impact de ces préoccupations et de ces intuitions ?
La convergence entre l’AI et les neurotechnologies
41Mais, en réalité, c’est le couplage de l’IA avec les neurotechnologies qui rend l’interrogation éthique encore plus prégnante [32]. Car d’une technique de politique générale reposant sur des données extérieures au corps humain, on glisse vers une méthode autrement plus intrusive, plongeant au cœur même de la vie cognitive d’un individu en particulier. L’impact de cette convergence mérite en effet d’être questionné, tant cette alliance pourrait mettre en péril l’autonomie de la personne et avoir des conséquences sociopolitiques.
42Naviguant entre espoirs et craintes, l’IA continue aujourd’hui de progresser et d’envahir notre quotidien. Cette convergence est un puissant outil mis au service de la médecine humaine, de la santé. S’il est presque impossible d’anticiper les futurs progrès de l’AI, il reste possible d’encadrer la manière dont se construisent ces progrès.
Des lois et des recommandations pour des neurotechnologies pertinentes vis-à-vis de la société
Réflexions autour de l’instauration d’un neuro-droit en France, en Europe et dans le monde
Des neurotechnologies responsables dans les domaines de l’éducation, de la sécurité d’un pays et des voyages dans l’espace
43Les innovations faites dans les neurotechnologies doivent être responsables, car elles se développent dans le cadre de l’armée, plus particulièrement d’interventions militaires. Protéger le pays, la population d’intrusions malveillantes, c’est une question de sécurité nationale. Elles peuvent être utilisées dans des drones civils ou militaires contre la population d’un pays, comme le montre les investissements de la DARPA [33].
44Le domaine spatial est, lui aussi, en train d’être fortement affecté. Les neurotechnologies sont du voyage à destination de la station spatiale internationale, puisque Thomas Pesquet a embarqué à bord de celle-ci un casque de la société Dreem pour étudier les cycles de son sommeil dans l’espace.
« Comment la durée d’endormissement, le sommeil sont-ils modifiés, notamment en début de mission ? Quelles sont les conséquences sur le long terme ? La nuit de sommeil est-elle plus ou moins réparatrice ? Pour le savoir, dans le cadre d’une étude menée en collaboration avec la start-up DREEM®, Thomas Pesquet portera un bandeau du sommeil équipé d’électrodes sèches. Son EEG sera enregistré ainsi que sa fréquence cardiaque, son taux d’oxygène et les mouvements de son corps au cours de la nuit. Il s’agit de documenter les différentes phases du sommeil ».
46Qu’en est-il des applications des neurotechnologies dans l’éducation des enfants ? Leurs utilisations ne seraient-elles pas une aide précieuse pour beaucoup d’écoliers ? « Demain, nous pourrons tester des méthodes pédagogiques et mesurer avec précision leurs effets sur le cerveau ». Cela pose tout de même de véritables questions éthiques et juridiques : le cerveau d’un enfant se construit dans l’environnement où il évolue. Cela pose la question de savoir quel avenir nous proposons à nos enfants.
La notion de neuro-droit apparaît, à l’exemple notamment du Chili
47Les droits actuels protègent-ils suffisamment les individus contre les intrusions potentielles des neurotechnologies dans l’activité cérébrale ?
48Les neurosciences modifient nos conceptions philosophiques et éthiques traditionnelles en fournissant des informations construites à partir de la base biologique de notre comportement moral. Elles mettent en question le concept juridique du libre-arbitre, donc de la base de la responsabilité juridique. « Les avancées en neurosciences ouvrent de nouveaux dilemmes pour les droits de l’Homme » : le droit de garder privées ses pensées, le droit à la liberté de penser.
49L’enjeu, colossal, serait de respecter et d’intégrer dans notre compréhension des droits de l’Homme, à travers un cadre juridique ad hoc, des protections appropriées afin de préserver les données cérébrales, l’intimité du cerveau et la liberté de pensée, les espaces privés et l’identité individuelle.
50Celles-ci sont introduites par la recommandation n° 0457 de l’OCDE publiée fin 2019 et sa mise en œuvre par une task force mise en place en 2021, et par la loi de bioéthique, révisée en 2020.
51Le rapport Brecht du 14 décembre 2020 remis à l’Assemblée parlementaire du Conseil de l’Europe recommande la création et la protection juridique de nouveaux « neuro-droits ».
52De leur côté, Ienca et Andorno [34] décrivent quatre nouveaux droits protecteurs face aux neurotechnologies : le droit à la liberté cognitive, le droit à la vie privée, le droit à l’intégrité mentale et le droit à la continuité psychologique.
53Le Chili deviendra en 2021 le premier pays au monde à instaurer des « neuro-droits » dans sa Constitution, et donc à les ériger en droits fondamentaux.
54C’est avec l’aide de Rafael Yuste, de l’Initiative Neuro-Right [2] et de l’Université catholique pontificale, que les Chiliens ont décidé d’instaurer un droit à la protection d’une « intégrité mentale » et d’une liberté visant à préserver leur vie privée mentale, c’est-à-dire la protection des données cérébrales enregistrées, de l’identité des individus, de leur conscience et de leur libre-arbitre face aux avancées des neurotechnologies.
Une volonté de protection que l’on retrouve dans la recommandation de l’OCDE n° 0457 de fin 2019 et sa mise en œuvre par une task force mise en place en 2021, ainsi que dans la loi Bioéthique française révisée en 2020
55Le progrès de la science, s’il doit être librement poursuivi comme le meilleur moyen d’améliorer les connaissances, doit également être éclairé par les besoins et les circonstances de la société qui finance et soutient tous les travaux scientifiques. Cette situation exige l’élaboration d’un ensemble de lignes directrices claires afin que le développement et l’utilisation de ces technologies s’opèrent dans le respect de nos valeurs sociétales et humaines fondamentales.
La recommandation de l’OCDE n°0457, parue en décembre 2019 [3]
56Cette recommandation est pionnière. Elle constitue en effet la première référence internationale dans ce domaine.
57L’OCDE définit ces neurotechnologies comme « des dispositifs et procédures utilisés pour accéder, surveiller, analyser, évaluer, manipuler et/ou émuler la structure et le fonctionnement du système nerveux des personnes physiques. »
58Il y a une nécessité à engager une réflexion éthique et de définir des normes internationales pour une innovation responsable, en considérant les différences culturelles. C’est donc un possible consensus international a minima qui est un instrument juridique non contraignant mais engageant, et sert dès lors de référence nationale.
59Elle s’inscrit dans la lignée de la Déclaration universelle des droits de l’Homme de 1948 et de la loi Bioéthique française, révisée en 2020, et dans un contexte de tension entre les besoins en santé et ceux exprimés en matière de bien-être, une tension exacerbée par la crise sanitaire mondiale actuelle.
60Cette recommandation propose neuf principes déclinés en différents objectifs :
- les articles 1 et 4 visent à un développement responsable des neurotechnologies ;
- les articles 2 et 3 ont pour ambition de s’assurer de la rigueur de l’évaluation de l’efficacité et de la sécurité des dispositifs afin d’éviter les discriminations et les stigmatisations ;
- les articles 7 et 9 ouvrent à une réflexion plus large sur les droits de l’Homme ;
- les articles 5, 6 et 8, quant à eux, soulignent l’importance de la responsabilité des chercheurs, reconnus comme des professionnels de la recherche, des concepteurs et des évaluateurs. Ils doivent pouvoir rendre compte des conditions d’utilisation des neurotechnologies et de leur intérêt, pour permettre des débats et des prises de décisions éclairées.
61Il en va de la confiance que les utilisateurs et la société accorderont aux acteurs précités et à ces neurotechnologies.
Une mise en œuvre de cette recommandation confiée à une task force mise en place depuis le début de cette année
62L’OCDE a maintenant l’obligation morale de mettre en œuvre cette recommandation, pour laquelle une task force a été créée.
63Il y a en effet nécessité de favoriser le développement de ces neurotechnologies qui sont porteuses d’espoir, tout en reconnaissant les préoccupations liées aux questions éthiques et juridiques.
64Cette mise en œuvre :
- se veut dynamique et collective, en lien avec les partenaires privés et académiques, et pour le bénéfice de tous ;
- s’appuie sur les principes de bienfaisance, de prudence, de liberté, de justice et d’autonomie définis par le Nuffield Council of Bioethics [4] ;
- est représentative des parties prenantes ;
- et s’articule autour de deux intérêts : les intérêts individuels (sécurité, impact sur la vie privée, conséquences sur l’autonomie) et les intérêts collectifs.
65La proposition de la charte est importante pour la mise en œuvre de cette recommandation. Les conditions doivent être réunies pour développer des neurotechnologies fiables et dignes de confiance.
66Une action de sensibilisation relative à l’existence de cette recommandation et à sa diffusion auprès de la communauté des neuroscientifiques et des entreprises permettra d’intégrer et de mobiliser le plus grand nombre d’acteurs. Des réseaux de chercheurs et d’entreprises ont été sollicités et informés par l’ITMO Neurosciences, de l’alliance Avesian, et par le réseau Cortico (https://www.cortico.fr/).
67La participation citoyenne est incontournable. Il en va de l’acceptation ou du rejet des neurotechnologies par la société, donc de l’accès au marché ou de la perte de celui-ci, des savoirs associés. C’est donc un défi pour les chercheurs que d’arriver à favoriser les débats sociétaux autour des neurotechnologies, cela relève de leur responsabilité sociale, et plus largement de la pertinence de la recherche vis-à-vis de la société.
La loi Bioéthique française révisée en 2020 [5]
68En France, le travail sur les enjeux éthiques et juridiques des neurosciences et des neurotechnologies a contribué à des avancées au niveau du Code civil et du Code de la santé publique. La révision de la loi Bioéthique en 2020 a permis d’étoffer les articles 12 et 13 de la précédente version. Ils sont un premier pas pour mieux nous protéger contre l’usage abusif des données cérébrales, sans pour autant évoquer l’existence de tels « neuro-droits ».
69La législation avance à petits pas au regard du bouleversement qui accompagne l’accélération des neurotechnologies :
- l’article 12 s’ouvre aux finalités des neurotechnologies, interdit le recours à l’IRMf en matière de justice et renforce l’interdiction des discriminations fondées sur les données cérébrales en matière de prévention et de couverture de risques ;
- l’article 13, quant à lui, permet à la Haute autorité de santé d’interdire tout dispositif de neuromodulation qui présenterait un danger ou une suspicion de danger pour la santé humaine.
Les DATA, les données cérébrales, les ambitions internationales militaires
70Il est très difficile de dire quelles seront les applications réelles des neurotechnologies dans cinq ou dix ans. En revanche, il est possible d’imaginer que de nouvelles vulnérabilités des individus entrent en jeu [18].
71Plus la technologie considérée s’insèrera dans l’intimité du cerveau, et plus le risque de neurosécurité sera grand. Le brainjacking, rendu possible par les neurotechnologies, les applications mobiles et l’accès aux données via le Wifi et le Bluetooth, soulève des questions sur les garanties offertes en matière de protection efficace des données. L’exploitation sans consentement éclairé des individus de leurs données cérébrales collectées dans le cadre médical ou dans leur vie privée, notamment à des fins de surveillance de la population, est un vrai problème.
72À l’heure actuelle, ces données cérébrales sont parties intégrantes des données personnelles, mais ne sont pas considérées comme des données de santé. Il serait donc urgent et judicieux que l’état mental de nos concitoyens soit entièrement protégé et que ces données ne soient pas exploitées sans un consentement éclairé préalable. Car ces Data couplées à d’autres informations renseignent d’une manière très précise sur notre comportement, sur notre personnalité.
73Les enjeux sont ici de respecter les droits de l’Homme, la vulnérabilité et l’intégrité humaine, ainsi que de préserver l’autonomie, la dignité humaine, le libre arbitre et la liberté de penser, c’est-à-dire la capacité d’un individu à prendre des décisions et à agir librement selon sa propre volonté : ce qui est visé c’est l’inviolabilité de sa personne physique et psychologique. Et pour cela un encadrement juridique s’impose pour permettre un consentement éclairé [6].
Les défis éthiques pour la recherche et les neuroscientifiques…
74Ce domaine de la recherche qui touche aux neurotechnologies évolue très rapidement. C’est la perspective d’être à l’ordre du jour de la prochaine loi sur la bioéthique et de la mise en œuvre de la recommandation de l’OCDE qui encourage les chercheurs à s’engager dès maintenant dans ce travail de réflexion sur l’éthique.
75Les chercheurs, quels que soient leurs domaines d’expertise respectifs, sont les seuls gardiens de leurs travaux de recherche. Ils doivent anticiper et examiner l’impact potentiel et les conséquences de l’utilisation de leurs recherches sur les neurotechnologies dans des contextes sociétaux différents et en évaluer les bénéfices et les risques. Ils doivent se sentir responsables vis-à-vis de la société dans leurs recherches et être concernés par ces questions d’éthique afin que le grand public puisse à son tour avoir confiance en ces neurotechnologies et se les approprier [35].
76Cette prise de conscience est déjà largement partagée dans le monde des neurosciences, où les chercheurs tentent déjà de réfléchir à l’utilisation des dispositifs qu’ils créent. C’est déjà ce que font à titre expérimental le réseau CORTICO et la task force créée en 2021, ainsi que les différents groupes de travail sur l’éthique se situant au cœur de projets internationaux comme l’IBI et le Human Brain Project.
77Ces différents projets mettent l’accent sur le développement des neurotechnologies qui visent à mieux comprendre et à intervenir sur les fonctions cérébrales. Elles doivent servir de relais aux circuits du cerveau humain. Elles deviennent plus complexes, dépassant les capacités des chercheurs à comprendre leurs nouvelles potentialités intrinsèques, ce qui peut conduire à les considérer différemment sur le plan de leur statut moral au regard de leur capacité à modifier les personnalités, les états affectifs, les comportements, l’autonomie, la cognition et les facultés d’action.
78Il n’est en aucun cas question de demander aux chercheurs de se restreindre dans leurs recherches. La caractéristique d’un chercheur est de laisser ses idées émerger et d’explorer, de tester de nouvelles voies, parfois sans issue, et si nécessaire d’en changer.
79En revanche, il est indispensable de les inviter à assumer toute la responsabilité de leurs recherches, qu’elles soient fondamentales ou plus appliquées, car nous parlons ici du cerveau, de l’organe le plus énigmatique mais aussi le plus protégé du corps humain, qui est le centre de la personnalité, de la pensée et de l’identité. L’enjeu apparaît ici d’autant plus décisif qu’il concerne un organe qui symbolise pour beaucoup la personne elle-même : mieux connaître le cerveau, c’est mieux se connaître soi-même ; et agir sur lui, c’est agir sur notre propre identité.
80En revanche, et parce que ces réflexions ne doivent pas être laissées aux seuls scientifiques, les sciences humaines et les neurosciences se trouvent toutes deux confrontées à des questions comme le rôle des secondes dans la définition de ce que deviendrait l’humanité, ou encore quelles seraient les approches philosophiques à adopter pour répondre aux préoccupations des neurosciences.
81Deux approches cohabitent et doivent entrer en dialogue. L’une, neuroscientifique, cherche à comprendre les mécanismes d’action mobilisés lors de l’exécution des tâches cognitives. Et l’autre, qui traduit une demande sociétale, exige une mesure toujours plus fine de concepts aussi flous que la personnalité, l’aptitude à adopter un comportement en situation de groupe.
82Un autre des grands enjeux de la neuro-éthique est d’établir des dialogues solides et bilatéraux entre les chercheurs et le grand public, tout en prenant en compte les différentes cultures des pays.
83Quelle doit être la place des cultures, des habitudes dans les innovations apportées par les neurotechnologies ? Il est nécessaire que les recherches puissent s’adapter aux différentes cultures, car elles influencent les sciences, les innovations neurotechnologiques.
84Les différences entre les cultures et les histoires des pays ont des impacts sur le financement des recherches, les agendas, la priorité accordée à chaque projet et les questions qui se posent, sur la façon dont les résultats sont interprétés, la manière dont les recherches sont menées et sur les applications finales des neurotechnologies.
85Si nous sommes tous d’accord pour dire qu’il est important de protéger et d’honorer la vie privée des personnes, nous ne partageons peut-être pas les mêmes idées sur les valeurs qui expliquent pourquoi la vie privée mérite d’être protégée ou sur le concept de vie privée ou même sur celui d’être humain.
Une invitation à engager une réflexion dans le monde de la recherche au travers des recommandations
86Les projets internationaux de neurosciences investissent déjà dans des groupes de travail et des équipes de recherche œuvrant sur la neuro-éthique.
87L’appréhension que ressentent et expriment beaucoup de chercheurs quant au type d’avenir qui se dessine et quant aux utilisations des neurotechnologies commercialisées, appelle à engager un travail de transfert et de réflexion de longue haleine sur ces innovations. Les enjeux sont à la hauteur du métier de chercheur ; il devient plus qu’important aujourd’hui de développer et d’imaginer ensemble des principes de précaution et des recommandations en association à ceux encadrant les innovations ([16] et [18]).
88Il leur faut donc développer des neurotechnologies qui répondent aux besoins des utilisateurs, lesquels seront en capacité de donner leur consentement éclairé à l’utilisation de celles-ci :
- des principes de surveillance doivent être introduits, imposant aux protocoles de rendre compte des effets secondaires des neurotechnologies, de leurs impacts ;
- des méthodologies et des protocoles incluant ces exigences de développement et d’évaluation des neurotechnologies sont nécessaires ;
- des contrats clairs et transparents signés par les utilisateurs sont eux aussi indispensables ;
- il serait également intéressant d’introduire des critères et des méthodes pour évaluer l’état mental de la personne ayant recours à une neurotechnologie.
89L’enjeu associé aux neurosciences est de construire avec la société, qui n’aime pas les incertitudes, toute méthode qui proposerait une promesse d’anticipation du futur qu’offrent ces neurosciences et d’en contrôler certains aspects.
90Comme nous pouvons donc le constater, les neurotechnologies, multiples et souvent encore expérimentales, arrivent donc dans notre vie quotidienne sans que les chercheurs aient eu le temps de s’assurer que ces neurotechnologies sont adaptées à une vie hors des laboratoires de recherche.
91Même si le législateur cherche à mieux réglementer l’utilisation de ces neurotechnologies, la communauté des neurosciences a la responsabilité d’éclairer les pouvoirs publics sur les enjeux de ses pratiques, qui apparaissent souvent obscures, complexes et trop techniques pour le grand public.
92La communication doit être plus fluide et efficace entre les chercheurs scientifiques (chercheurs en sciences humaines inclus), les juristes, le grand public, les politiques, les entreprises et les laboratoires de recherche publics. Car l’éthique pourrait ne rester qu’un beau discours, qui n’aurait que très peu d’impacts sur la réalité des recherches, des innovations et des entreprises, si ces ponts et ces dialogues n’étaient pas établis.
Références
- 1COUTELLEC L. & WEIL-DUBUC P.-L. (2019), « Des antidotes pour une éthique de l’innovation », Soins 64, pp. 56-59.
- 2FREWEN P., SCHROETER M. L., RIVA G., CIPRESSO P., FAIRFIELD B., PADULO C. et al. (2020), ‟When Thinking is Doing: Responsibility for BCI-Mediated Action”, Neurosci. Biobehav. Rev., 14 March:101134, doi:10.1007/s11948-020-00218-0.
- 3FITZ N. S. & REINER P. B. (2016), ‟Thoughtful use of ubiquitous technology can improve mental ability”, Nature 531:S9.
- 4FREY S., SCHIEWECK R., FORNÉ I., IMHOF A., STRAUB T., POPPER B. et al. (2020), ‟Physical Activity Dynamically Regulates the Hippocampal Proteome along the Dorso-Ventral Axis”, Int. J. Mol. Sci. 21:3501.
- 5BAIK J. H. (2013), ‟Dopamine signaling in reward-related behaviors”, Front. Neural Circuits, 7 October, pp. 1-16.
- 6JANAK P. H. & TYE K. M. (2015), ‟Sciences B, Sciences C. From circuits to behaviour in the amygdala”, NatureCom. 517, Nature Publishing Group, pp. 284-292, doi:10.1038/nature14188. From.
- 7DAVIU N., BRUCHAS M. R., MOGHADDAM B., SANDI C. & BEYELER A. (2019), ‟Neurobiological links between stress and anxiety”, Neurobiol. Stress., 11 April:100191, doi:10.1016/j.ynstr.2019.100191.
- 8MAPELLI J., GANDOLFI D., VILELLA A., ZOLI M. & BIGIANI A. (2016), ‟Heterosynaptic GABAergic plasticity bidirectionally driven by the activity of pre- and postsynaptic NMDA receptors”, Proc. Natl. Acad. Sci. USA 113, pp. 9898-9903.
- 9LAJOIE G., KROUCHEV N. I., KALASKA J. F., FAIRHALL A. L. & FETZ E. E. (2017), Correlation-based model of artificially induced plasticity in motor cortex by a bidirectional brain-computer interface.
- 10AJIBOYE A. B., WILLETT F. R., YOUNG D. R., MEMBERG W. D., MURPHY B. A., MILLER J. P. et al. (2017), ‟Restoration of reaching and grasping movements through brain-controlled muscle stimulation in a person with tetraplegia: a proof-of-concept demonstration”, Lancet 389, pp. 1821-1830, doi:10.1016/S0140-6736(17)30601-3.
- 11NADELHOFFER T., BIBAS S., GRAFTON S., KIEHL K. A., MANSFIELD A., SINNOTT-ARMSTRONG W. et al. (2012), ‟Neuroprediction, violence, and the law: Setting the stage”, Neuroethics. 5, pp. 67-99.
- 12TORTORA L., MEYNEN G., BIJLSMA J., TRONCI E. & FERRACUTI S. (2020), ‟Neuroprediction and A.I. in Forensic Psychiatry and Criminal Justice: A Neurolaw Perspective”, FrontI Psychol. 11, March, pp. 1-9.
- 13MINIELLY N., HRINCU V. & ILLES J. (2020), ‟Privacy Challenges to the Democratization of Brain Data”, iScience 101134, doi:10.1016/j.isci.2020.101134.
- 14CHANDLER J. A. (2018), ‟Neurolaw and Neuroethics”, Camb. Q Healthc. Ethics. 27, pp. 590-598.
- 15ADAMS A., ALBIN S., AMUNTS K., ASAKAWA T., BERNARD A., BJAALIE J. G. et al. (2020), ‟International Brain Initiative: An Innovative Framework for Coordinated Global Brain Research Efforts”, Neuron 105, pp. 212-216.
- 16AMADIO J., BI G. Q., BOSHEARS P. F., CARTER A., DEVOR A., DOYA K. et al. (2018), ‟Neuroethics Questions to Guide Ethical Research in the International Brain Initiatives”, Neuron 100, pp. 19-36.
- 17ROMMELFANGER K. S., JEONG S. J., MONTOJO C. & ZIRLINGER M. (2019), ‟Neuroethics: Think Global”, Neuron 101, pp. 363-364, doi:10.1016/j.neuron.2019.01.041.
- 18GOERING S., KLEIN E., SULLIVAN L. S., WEXLER A., FRIESEN P., GALLANT J. et al. (2021), Recommendations for Responsible Development and Application of Neurotechnologies.
- 19TSAMADOS A., AGGARWAL N., COWLS J., MORLEY J., ROBERTS H., TADDEO M. et al. (2021), ‟The ethics of algorithms: key problems and solutions”, AI Soc., doi:10.1007/s00146-021-01154-8.
- 20AGGARWAL N. (2020), ‟Introduction to the Special Issue on Intercultural Digital Ethics”, Philos Technol. 33, pp. 547-550.
- 21SCHMIDT A. T. & ENGELEN B. (2020), ‟The ethics of nudging: An overview”, Philos Compass. 15, pp. 1-13.
- 22JOHN P. (2018), The ethics of nudge. How Far to Nudge?, pp. 108-121.
- 23ROSKIES A. (2002), ‟Neuroethics for the new millenium”, Neuron 35, pp. 21-23.
- 24SALLES A., BJAALIE J. G., EVERS K., FARISCO M., FOTHERGILL B. T., GUERRERO M. et al. (2019), ‟The Human Brain Project: Responsible Brain Research for the Benefit of Society”, Neuron 101, pp. 380-384, doi:10.1016/j.neuron.2019.01.005.
- 25MAYNARD A. D. & SCRAGG M. (2019), ‟The Ethical and Responsible Development and Application of Advanced Brain Machine Interfaces”, J. Med. Internet Res. 21:e16321.
- 26COUTELLEC L. (2019), « Penser l’indissociabilité de l’éthique de la recherche, de l’intégrité scientifique et de la responsabilité sociale des sciences », Rev. d’anthropologie des connaissances 13, n°2:381.
- 27DARRAGH M., BUNIAK L. & GIORDANO J. (2015), ‟A four-part working bibliography of neuroethics: Part 2 ‒ Neuroscientific studies of morality and ethics”, Philosophy, Ethics, and Humanities in Medicine 10, pp. 1-22.
- 28MARTIN A., BECKER K., DARRAGH M. & GIORDANO J. (2016), ‟A four-part working bibliography of neuroethics: Part 3 ‒ ‟Second tradition neuroethics” ‒ Ethical issues in neuroscience”, Philosophy, Ethics, and Humanities in Medicine, doi:10.1186/ s13010-016-0037-1.
- 29GARCIA J. O. (2020), Reconfigurations within resonating communities of brain regions following TMS reveal different scales of processing 1, pp. 222-241, doi:10.1162/NETN.
- 30EVERS K. & GIORDANO J. J. (2017), ‟The Utility- and use-of neurotechnology to recover consciousness: Technical and neuroethical considerations in approaching the “hard question” of neuroscience”, FrontI. Hum. Neurosci., 11 November, pp. 10-12.
- 31WOLKENSTEIN A., JOX R. J. & FRIEDRICH O. (2018), ‟Brain-Computer Interfaces: Lessons to Be Learned from the Ethics of Algorithms”, Cambridge Q Healthc. Ethics. 27, pp. 635-646.
- 32IENCA M. K. I. (2020), ‟Artificial Intelligence in Clinical Neuroscience: Methodological and Ethical Challenges”, AJOB Neurosci. 11, pp. 77-87, doi:https://doi.org/10.1080/21507740.2020.1740352.
- 33NAUFEL S., KNAACK G. L., MIRANDA R., BEST T. K., FITZPATRICK K., EMONDI A. A. et al. (2020), ‟DARPA investment in peripheral nerve interfaces for prosthetics, prescriptions, and plasticity”, J. Neurosci. Methods 332, December 2019:108539, doi:10.1016/j.jneumeth.2019.108539.
- 34IENCA M. & ANDORNO R. (2017), ‟Towards new human rights in the age of neuroscience and neurotechnology”, Life Sci. Soc. Policy 13.
- 35COUTELLEC L. (2018), Penser une bioéthique générique ‒ Proposition épistémologique pour la bioéthique, Cairn, 3.
Notes
-
[1]
‟Neuroethics, Mapping the fields” ; New York Times : https://dana.org/article/neuroethics-mapping-the-field/
-
[2]
L’Initiative NeuroRight : https://nri.ntc.columbia.edu/
- [3]
-
[4]
Nuffield Council of Bioethics : https://www.nuffieldbioethics.org/
-
[5]
Loi Bioéthique française révisée en 2020 : https://www.legifrance.gouv.fr/dossierlegislatif/JORFDOLE000038811571/
-
[6]
CISS/IDS/UNESCO (2016), Rapport mondial sur les sciences sociales 2016 ‒ Lutter contre les inégalités : pistes vers un monde juste, Paris, Éditions Unesco.