Pourton.info 
L’intelligence artificielle (IA) continue de progresser à un rythme effréné, et avec cette avancée technologique viennent des défis et des risques pour la société. En avril 2021, la Commission européenne a pris une initiative cruciale en publiant un document visant à réguler l’utilisation de l’IA en Europe. L’AI Act, en cours de finalisation, a pour objectif de définir un cadre réglementaire visant à prévenir les risques et les conséquences négatives pour les individus et la société dans son ensemble. Dans cet article, nous explorerons en détail les aspects clés de l’AI Act, ses implications et les types d’IA qu’il envisage de réguler.
Les Trois Catégories d’Intelligences Artificielles
L’AI Act prévoit de catégoriser les systèmes d’IA en trois groupes distincts :
1. Intelligences Artificielles Interdites
Dans cette catégorie, on retrouve les systèmes d’IA jugés à haut risque, dont l’utilisation est considérée comme inacceptable en Europe. Parmi les interdictions, on peut citer les systèmes utilisant des techniques subliminales pour influencer le comportement humain. Ces techniques, en modifiant le comportement sans conscience de la personne, peuvent entraîner des préjudices physiques ou psychologiques, ce qui les rend inacceptables.
De plus, les systèmes d’IA visant à exploiter les vulnérabilités liées à l’âge ou au handicap physique ou mental d’un groupe de personnes afin d’altérer leur comportement seront également interdits. Cette mesure vise à protéger les droits fondamentaux des individus.
2. Intelligences Artificielles à Hauts Risques
Cette catégorie comprend les systèmes d’IA qui présentent un risque élevé pour la santé, la sécurité ou les droits fondamentaux des individus. Ces systèmes devront respecter des normes de transparence strictes. Ils seront soumis à une réglementation stricte pour minimiser les risques potentiels qu’ils présentent.
3. Intelligences Artificielles Moins Risquées
Enfin, les systèmes d’IA moins risqués devront également faire preuve de transparence, bien que les restrictions ne soient pas aussi sévères que pour les catégories précédentes. Cela permettra de favoriser l’innovation tout en maintenant un niveau de sécurité adéquat.
Interdiction de la Notation Sociale
Une interdiction importante prévue par l’AI Act concerne l’utilisation des systèmes d’IA pour « évaluer ou établir un classement de la fiabilité de personnes physiques » en fonction de leur comportement social ou de caractéristiques personnelles. Cette mesure vise à empêcher le développement d’un système similaire au « Système de crédit social » actuellement en place en Chine.
Le « Système de crédit social » collecte des données sur le comportement financier, social et politique des citoyens pour leur attribuer une note de crédit social. Cette note influence leur accès à certains services publics et privés. L’AI Act cherche à empêcher l’utilisation de systèmes similaires en Europe pour protéger les droits et les libertés des individus.
Utilisation de la Reconnaissance Faciale sous Conditions
L’AI Act aborde également la question controversée de l’utilisation de la reconnaissance faciale. Il interdit l’utilisation de la reconnaissance faciale à distance dans un contexte répressif, sauf dans certaines situations spécifiques.
Trois exceptions sont prévues :
- La recherche de victimes potentielles de la criminalité, notamment les enfants disparus.
- La prévention d’une menace spécifique, substantielle et imminente pour la vie ou la sécurité physique des individus, ou la prévention d’une attaque terroriste.
- Le suivi des auteurs présumés d’infractions pénales graves, telles que le terrorisme, la traite des êtres humains, le viol, le meurtre ou les peines passibles de 3 ans de prison.
Toutefois, l’utilisation de la reconnaissance faciale dans ces situations doit être autorisée préalablement par une autorité judiciaire ou administrative. Cette autorisation vise à garantir la proportionnalité de l’utilisation de cette technologie et à protéger les droits et libertés des individus.
Conclusion
L’AI Act représente une étape importante dans la régulation de l’intelligence artificielle en Europe. En catégorisant les systèmes d’IA, en interdisant certaines pratiques préjudiciables et en imposant des restrictions strictes, cette législation vise à équilibrer l’innovation technologique avec la protection des droits fondamentaux. La surveillance continue de son application et de son impact sur la société sera essentielle pour garantir un avenir où l’IA est utilisée de manière éthique et responsable.
