Depuis juillet, des chercheurs au Laboratoire national de Los Alamos au Nouveau-Mexique explorent comment le modèle d'IA GPT-4o, développé par OpenAI, peut aider dans les tâches de recherche biologique. Ces tâches incluent le maintien de cultures cellulaires, la séparation de cellules à l'aide d'une centrifugeuse, et l'introduction de matériel génétique dans des organismes. Le but de ces évaluations est d'innover dans les biosciences et de comprendre les risques potentiels, en se concentrant particulièrement sur les questions de biosécurité et de sûreté biologique depuis que les modèles d'IA comme ChatGPT sont devenus accessibles au public en 2022. Au Johns Hopkins Center for Health Security, les experts soulignent le potentiel de l'IA pour améliorer la santé publique tout en notant les risques imprévisibles de la technologie. Ils exhortent les gouvernements à identifier et atténuer les risques les plus pressants, en s'appuyant sur l'expérience passée dans la gestion des risques de recherche biologique. GPT-4o est un modèle de langage multimodal de grande ampleur (LLM) capable de traiter des entrées textuelles, audio, d'image et vidéo. Auparavant, GPT-4 a démontré des applications dans les sciences de la vie, telles que la conception d'anticorps et l'automatisation d'expériences de biologie.

Cependant, ces avancées pourraient aussi poser des risques significatifs pour la biosécurité, poussant les gouvernements à établir des instituts de sécurité de l'IA et à mettre en œuvre des directives pour gérer ces risques. Pour déterminer quelles capacités de l'IA pourraient entraîner des dommages à grande échelle, les experts suggèrent de se concentrer sur celles qui permettent des épidémies de niveau pandémique, comme l'optimisation de la conception de virus ou l'automatisation de la synthèse de pathogènes. Ils appellent à une large coopération entre les développeurs d'IA et les experts en sécurité pour donner la priorité à l'atténuation des risques graves. Les évaluations de sécurité des modèles d'IA se concentrent souvent étroitement sur le développement d'armes biologiques sans différencier entre les risques de petite et grande échelle. Les évaluations doivent aussi tenir compte du fonctionnement collaboratif de plusieurs systèmes d'IA, plutôt que de se concentrer uniquement sur des modèles individuels. Une approche plus efficace nécessite un consensus scientifique objectif sur les capacités de l'IA qui représentent des menaces significatives pour la biosécurité. Construire un tel consensus impliquerait des tests de sécurité rigoureux, développés par des experts indépendants et soutenus par à la fois les parties prenantes gouvernementales et industrielles. Cette approche garantit un équilibre entre l'exploitation des bénéfices de l'IA et l'atténuation de ses risques.