Gaia Marcus, Directrice de l'Institut Ada Lovelace, a appelé à un renforcement de la régulation de l'IA afin de garantir que ces technologies soient déployées de manière équitable, sûre et conforme aux attentes du public. Lors d'une discussion récente avec la journaliste du Financial Times Melissa Heikkilä, Marcus a exprimé de graves préoccupations concernant la concentration du pouvoir en matière d'IA entre les mains de quelques grandes entreprises et a souligné l'urgence de comprendre les impacts sociotechniques plus larges des innovations en IA. Elle s'est référée à des données d'enquêtes émergentes au Royaume-Uni, révélant une demande croissante du public pour une régulation de l'IA. Selon ces données, 72 % des répondants britanniques seraient plus à l’aise si des lois complètes régissaient l’utilisation de l’IA, et 88 % soutiennent des interventions gouvernementales visant à prévenir les dommages lorsque les technologies d’IA sont appliquées dans des contextes réels. Cela démontre un désir clair du public pour une supervision renforcée et une responsabilisation face à l’avancée des capacités de l’IA. Marcus a constaté un changement notable dans l’approche de l’industrie de l’IA ces dernières années. Au début, l’attention était portée sur le développement responsable de l’IA, insistant sur une conception prudente et des considérations éthiques, mais aujourd’hui une mentalité de "développer rapidement" prédomine, alimentée par la hype et le déploiement accéléré. Elle a critiqué cette tendance, qui pourrait privilégier la vitesse et l’avantage concurrentiel au détriment de la sécurité et de la réflexion éthique. Les gouvernements, notamment au Royaume-Uni, ont été pointés du doigt pour leur action insuffisante dans l’analyse de l’impact des outils d’IA sur la vie quotidienne des citoyens dans divers secteurs.

Marcus a appelé à une élaboration de politiques fondées sur des preuves, allant au-delà d’une régulation superficielle pour évaluer en profondeur les impacts sociaux, économiques et juridiques de l’IA. Une telle évaluation est essentielle pour protéger les populations vulnérables et assurer que les technologies d’IA profitent à la société dans son ensemble plutôt qu’à des intérêts restreints. Avec l’intégration croissante des agents d’IA et des assistants numériques dans la vie quotidienne, Marcus a souligné des risques urgents nécessitant une attention particulière, notamment d’éventuels effets sur la santé mentale liés à l’interaction avec l’IA, des questions complexes de responsabilité juridique lorsque des décisions pilotées par l’IA causent des préjudices, et une concentration croissante du marché où les acteurs dominants contrôlent les infrastructures fondamentales de l’IA, limitant la compétition et l’innovation. Elle a insisté sur le fait que les citoyens doivent activement faire entendre leurs attentes aux décideurs pour façonner la régulation de l’IA. La protection du bien-être public face à une technologie en rapide évolution relève en définitive de la responsabilité de l’État, qui doit donner la priorité aux droits, à la sécurité et à la dignité des personnes dans ses cadres de gouvernance de l’IA. Marcus a conclu en appelant la société à examiner de manière critique l’influence des technologies d’IA sur les structures sociales et la réalité quotidienne. La question essentielle est de savoir si les futurs façonnés par l’IA en pleine avancée respectent des valeurs humaines fondamentales telles que l’équité, la transparence et la justice. Intégrer ces principes dans le développement et le déploiement de l’IA est indispensable pour exploiter ses bénéfices tout en minimisant les risques. Sous la direction de Marcus, l’Institut Ada Lovelace continue à collaborer avec les décideurs, l’industrie et le public pour promouvoir une gouvernance de l’IA transparente, inclusive et éthique. Alors que les systèmes d’IA deviennent de plus en plus omniprésents, les appels à une régulation robuste et à une supervision réfléchie se renforcent, reflétant la préoccupation et l’espoir d’un avenir où la technologie sert de manière responsable l’humanité.