Pourton.info
L’UNESCO sonne l’alarme sur les dangers des neurotechnologies basées sur l’intelligence artificielle pour la vie privée et les droits de l’homme. Ces technologies permettent de décoder et manipuler les processus mentaux humains de façon intrusive.
L’IA au service d’implants cérébraux intrusifs
Les progrès fulgurants des neurosciences, notamment grâce à l’intelligence artificielle, permettent désormais de décoder les processus mentaux humains et de manipuler directement les mécanismes cérébraux liés aux intentions, émotions et décisions d’une personne, alerte l’UNESCO.
Une récente étude de l’université de Stanford a ainsi réussi à lire les pensées d’une personne en combinant IRM cérébrale et grand modèle de langage IA. Le sujet devait penser à des phrases que l’IA a réussi à retranscrire mot pour mot. De quoi inquiéter sur de futures atteintes à la vie privée si cette technologie était appliquée à plus grande échelle.
“C’est comme mettre les neurotechnologies sous stéroïdes”, explique Mariagrazia Squicciarini, économiste spécialiste de l’IA à l’UNESCO. Les capacités de traitement massif de données de l’IA permettent d’analyser l’activité cérébrale de manière beaucoup plus fine et approfondie qu’auparavant.
Des investissements massifs source de dangers
Entre 2010 et 2020, les investissements dans les entreprises de neurotechnologies ont explosé pour atteindre 33 milliards de dollars, soit 22 fois plus qu’avant. Le nombre de brevets a doublé en 10 ans seulement.
Parmi les firmes moteurs, Neuralink d’Elon Musk vient d’obtenir le feu vert de la FDA pour tester ses implants cérébraux sur des humains. Ces implants pourraient permettre de contrôler des appareils par la pensée. Mais on peut craindre que cette technologie ouvre également la porte à une surveillance intrusive des pensées si elle n’est pas encadrée.
De tels investissements massifs motivés par des intérêts privés sont source d’inquiétudes, les bénéfices pour l’humain n’étant pas la priorité. L’histoire l’a montré, les nouvelles technologies font souvent l’objet d’usages détournés à des fins commerciales ou de contrôle social.
Vers un encadrement éthique indispensable
Face à ces défis, l’UNESCO va développer un cadre éthique pour garantir le respect des droits humains, notamment la protection de la vie privée et de l’intégrité mentale. Un tel encadrement semble indispensable pour que les avancées des neurosciences soient mises au service du bien commun et non d’intérêts privés.
L’enjeu est de taille pour assurer un usage responsable et éthique de technologies aux potentiels immenses en termes de soins médicaux, mais aussi aux dérives inquiétantes en matière de surveillance et de manipulation mentale.
Seule une gouvernance mondiale démocratique et un cadre juridique protecteur des libertés sauront relever ce défi et placer l’humain au cœur des innovations. Mais le chemin est encore long pour y parvenir et de nombreux obstacles se dresseront sur la route.
