Pourton.info 
Des Principes Mondiaux pour Guider l’Intelligence Artificielle
Le Premier ministre britannique Rishi Sunak accueille cette semaine un groupe de 100 représentants du monde des affaires et de la politique pour discuter du potentiel et des écueils de l’intelligence artificielle.
Le Sommet de la Sécurité de l’IA à Bletchley Park
Le Sommet de la Sécurité de l’IA, qui se tient à Bletchley Park, au Royaume-Uni, à partir du 1er novembre, vise à élaborer un ensemble de principes mondiaux visant à développer et déployer des « modèles IA de pointe » – le terme préféré de Sunak et des personnalités clés de l’industrie de l’IA pour désigner des modèles puissants qui n’existent pas encore, mais qui pourraient être construits très bientôt.
Alors que l’événement de Bletchley Park est le point central, il y a toute une semaine d’événements parallèles organisés au Royaume-Uni, ainsi qu’une série d’annonces du gouvernement britannique sur l’IA. Voici les derniers développements.
Le G7 adopte un code de conduite et des principes en matière d’IA
Les membres de la communauté mondiale ont décidé que la semaine du sommet britannique était le moment propice pour annoncer leurs propres avancées en matière d’IA. Aux côtés du décret exécutif sur l’IA du président américain Joe Biden, annoncé hier, le groupe des sept nations industrialisées (G7) a publié une déclaration commune convenant d’un code de conduite et d’un ensemble de principes directeurs pour le développement de modèles d’IA générative.
Ce texte convenu n’est pas radicalement différent de ce qui est attendu du sommet britannique, ni du décret exécutif américain. Il oblige les organisations à « prendre des mesures appropriées » lors du développement d’outils d’IA pour « identifier, évaluer et atténuer les risques tout au long du cycle de vie de l’IA » – tels que les biais et la discrimination.
Le Royaume-Uni annonce 12 centres de formation en IA
Pendant la nuit, le gouvernement britannique a annoncé ce qu’il appelle « un soutien de 118 millions de livres sterling » dans le domaine de l’IA. Ce n’est pas tout à fait exact : 117 millions de livres sterling, destinés à 12 Centres de Formation Doctorale en IA, ont été annoncés le mois dernier. Il y a 1 million de livres sterling de financement supplémentaire pour un programme de subventions Futures AI qui contribuera à réduire les coûts de déménagement au Royaume-Uni pour les chercheurs en IA de premier plan qui souhaitent migrer dans le pays.
Mais ce qui est nouveau, ce sont l’emplacement et les spécialités des 12 centres de formation doctorale. Pour en citer quelques-uns, l’Université d’Oxford se concentrera sur l’environnement, l’Université d’Édimbourg travaillera sur le traitement du langage naturel responsable et digne de confiance, et l’Université de Northumbria examinera l’IA sous un angle centré sur les citoyens.
Il est à noter que le Royaume-Uni n’est pas le seul pays à chercher à attirer des talents en IA : le décret exécutif américain d’hier comportait des dispositions similaires visant à assouplir les lois strictes sur l’immigration aux États-Unis pour les spécialistes de l’IA.
Des événements parallèles commencent avec des critiques à l’encontre du sommet
Hier, nous avons souligné le manque de représentants de la société civile invités au sommet de Bletchley Park. Mais parce qu’ils n’étaient pas sur la liste des invités, cela ne signifie pas qu’ils ne font pas entendre leur voix.
Un certain nombre d’événements parallèles non officiels ont lieu pour profiter de l’attention des médias. Le 30 octobre, le groupe de campagne « The Citizens » a organisé ce qu’il appelle le Sommet de l’IA du Peuple, où Safiya Umoja Noble de l’Université de Californie à Los Angeles a exprimé ses craintes quant à l’avenir. Noble est l’auteure de « Algorithmes de l’Oppression » et affirme craindre que l’IA ne fasse qu’amplifier la discrimination et l’oppression.
« Il y a simplement une montagne écrasante de preuves [de biais] ici », a-t-elle déclaré lors de l’événement. « Je pense que la question plus importante qui se pose maintenant est : pourquoi avons-nous des responsables publics qui manquent du caractère moral et du courage nécessaires pour confronter ces entreprises et leurs dirigeants et les tenir responsables ? Nous parlons peut-être d’un millier de personnes sur la planète qui prennent des décisions qui auront un impact sur des milliards de personnes. »
Qui participe au sommet de l’IA à Bletchley Park et pourquoi sont-ils importants ?
Malgré les inquiétudes concernant la liste des invités au sommet, certains participants de premier plan du monde de la technologie sont à noter. Parmi eux :
- Yoshua Bengio, un informaticien canadien souvent appelé l’un des « pères fondateurs de l’IA », aux côtés de Geoffrey Hinton et Yann LeCun. Contrairement à Hinton, qui travaillait autrefois pour Google, et LeCun, qui travaille pour Meta, Bengio a traditionnellement évité la mainmise des grandes entreprises technologiques et est actuellement professeur à l’Université de Montréal, au Canada.
- Elon Musk n’a généralement pas besoin d’être présenté, mais il jouera un rôle clé lors de ce sommet – notamment parce qu’il a l’oreille de Sunak, qui participera à une conversation en direct sur X jeudi. Il semble s’agir d’un donnant-donnant pour que Musk soit un invité de marque aux événements sociaux que le gouvernement britannique prévoit autour de la conférence. Musk dirige xAI, dont vous pouvez en savoir plus ici.
- Nick Clegg était autrefois le vice-Premier ministre du Royaume-Uni, mais est devenu depuis une figure de premier plan chez Meta. Il offrira une perspective jumelée lors du sommet, tirée de son expérience en politique et dans le secteur technologique.
À Venir
Nous avons eu deux jours d’attente et d’innombrables colonnes consacrées aux objectifs et aux intentions du sommet, mais demain, l’attente prendra fin.
Michelle Donelan, secrétaire à la technologie du Royaume-Uni, ouvrira les débats, avec des discussions en table ronde entre les participants sur les risques potentiels – du bioterrorisme et de la cybersécurité, à la perte de contrôle de l’IA et à son intégration dans la société. Il n’y a toujours pas de plan pour discuter de l’impact environnemental de l’IA, que nous avons souligné précédemment.
Nous nous attendons à recevoir des informations au compte-gouttes des discussions, et Matthew Sparkes de New Scientist enverra des dépêches depuis le lieu de l’événement.
Le gouvernement britannique teste un chatbot gouvernemental
Le gouvernement britannique teste un chatbot de modèle de langage volumineux appelé Gov.uk Chat qui peut répondre aux questions que les citoyens peuvent avoir sur les impôts, les prêts étudiants et les prestations, selon The Telegraph.
Gov.uk Chat sera formé sur des millions de pages hébergées sur le site Gov.uk, qui contient des conseils sur le logement, l’immigration et la fiscalité. L’avis de confidentialité du chatbot indique : « GOV.UK Chat est conçu pour aider les utilisateurs à naviguer dans les informations disponibles sur GOV.UK, de manière similaire à une fonction de recherche, de sorte que pour fournir des réponses aux utilisateurs, il a besoin de toutes les données qu’il a pour fournir la réponse la plus précise possible. »
Cependant, le journal a rapporté que le chatbot ne serait pas formé sur les données privées des citoyens et que les utilisateurs seraient invités à ne pas partager de telles informations avec le chatbot pour des raisons de protection des données. Le projet pilote est déjà testé avec des entreprises et, s’il est couronné de succès, il pourrait bientôt être mis à la disposition du public.
Un fonds de 100 millions de livres sterling annoncé pour l’IA en santé
Sunak a annoncé un fonds de 100 millions de livres sterling qui visera à promouvoir le développement d’outils d’IA en santé. La mission de l’Accélérateur des Sciences de la Vie de l’IA se concentrera sur les efforts visant à traiter le cancer et à ralentir l’apparition de la démence en utilisant l’IA pour examiner les traitements potentiels et les nouveaux médicaments, plutôt que de passer des années en tests en laboratoire.
Les membres de la communauté universitaire, de l’industrie et des cliniciens de première ligne seront bientôt invités à proposer des projets pour un financement dans le cadre du programme. « Une IA sûre et responsable changera la donne en ce qui concerne ce qui est possible de faire en matière de santé, en réduisant l’écart entre la découverte et l’application de nouvelles thérapies innovantes, d’outils de diagnostic et de méthodes de travail qui permettront aux cliniciens de passer plus de temps avec leurs patients », a déclaré Michelle Donelan, secrétaire à la science et à la technologie du Royaume-Uni, dans un communiqué.
Mises en garde contre la capture de l’industrie au sommet
Avec une liste d’invités limitée pour le sommet de Bletchley Park, ceux qui en sont exclus ont exprimé leurs préoccupations quant à la capture de l’événement par l’industrie. En réponse aux 100 personnes rassemblées au sommet, un nombre égal de personnes ont signé une lettre ouverte à Sunak, mettant en garde contre le fait que « les communautés et les travailleurs les plus touchés par l’IA ont été marginalisés par le sommet ».
La lettre rejoint les préoccupations de nombreux universitaires avant le sommet selon lesquelles l’ordre du jour et les discussions seraient trop dominés par les intérêts de l’industrie. « Ce que je crains et soupçonne, c’est que ce sera une réunion dominée par des hommes, dont beaucoup ont des intérêts financiers qui les disqualifient pour défendre l’intérêt public, et qui se concentrera sur les risques à long terme qui ne dérangent pas les grandes entreprises, plutôt que sur les préjudices actuels qui obligeraient les entreprises à changer la manière dont elles conçoivent et mettent en œuvre l’IA », déclare Carissa Véliz de l’Université d’Oxford, qui n’était pas l’une des signataires de la lettre.
À Venir
Les observateurs surveilleront de près la liste finale des participants au sommet. Reuters rapporte que la Chine enverra son vice-ministre de la science et de la technologie, malgré les appels de certains membres du Parti conservateur de Sunak à interdire au pays de participer.
Nous attendons de nombreuses autres annonces du gouvernement britannique, bien qu’elles devront rivaliser avec un décret exécutif, annoncé aujourd’hui par la Maison Blanche du président américain Joe Biden, axé sur l’IA. La vice-présidente américaine Kamala Harris participera également au sommet de Bletchley Park.
Politico, qui a vu une copie préliminaire du décret exécutif, rapporte que la portée du document est large, avec chaque agence fédérale étant contrainte de nommer un responsable de l’IA en chef, dont la mission sera de veiller à ce que la discrimination en matière d’IA ne soit pas codée dans les parties du gouvernement qu’ils supervisent.
