생물학적 데이터의 AI: 백신 및 작물 엔지니어링 혁신, 보안 우려 증가

Brief news summary

생물학적 데이터를 기반으로 훈련된 AI 모델의 사용이 발전했지만, 잠재적인 위험도 제기된다. 전문가들은 이러한 위험을 해결하기 위해 정부의 규제와 감독을 촉구하고 있다. 스탠포드 의과대학, 포덤 대학교, 존스홉킨스 보건보안센터의 정책 논문은 생물학적 AI 모델의 책임 있는 사용을 보장하고 위험한 병원체의 위험을 줄이기 위한 거버넌스 시스템의 필요성을 강조한다. 논문은 AI 시스템이 잘못된 손에 들어갔을 때 생물학적 무기화의 위협을 강조한다. 유해 병원체의 우발적 방출과 확산을 방지하기 위해 논문은 의무적인 스크리닝 요건, 협력적 위험 평가, 팬데믹 수준의 위험 테스트, 병원성 데이터 공유 기준을 제안한다. 저자들은 AI 안전 기관과 협력하는 연방 기관, 우선 평가, 국제 협력을 제안한다. 규제와 진보 사이의 균형을 맞추는 것이 책임 있는 AI 모델 사용의 핵심이다.

생물학적 데이터를 기반으로 훈련된 특화된 AI 모델의 최근 발전은 백신 개발, 질병 치료, 농작물 공학에 혁신을 가져올 가능성이 있다. 그러나 이러한 모델은 안전한 해결책을 설계하기 위해 유해 요소를 이해해야 하므로 위험도 초래한다. 이러한 우려를 해결하기 위해 전문가들은 정부가 고급 생물학적 모델에 대한 감독 및 규제를 실행할 것을 촉구하고 있다. Science에 발표된 정책 논문의 저자들은 AI 시스템이 팬데믹을 일으킬 수 있는 병원체를 설계하는 잠재적 위협을 완화하기 위해 거버넌스 시스템의 구축을 권장한다. 생물학적 무기를 무기화한 역사는 효과적인 규제의 중요성을 상기시킨다. 생물학적 무기 협약은 이 문제를 해결하기 위해 노력했지만, 강력한 AI 시스템의 출현은 새로운 도전 과제를 만든다.

AI 모델은 악의적인 행위자와 의도가 좋은 연구자의 능력을 증대시키므로 체계적인 정부 감독 계획과 설립이 중요하다. 저자들은 생물학적 AI 모델에 대한 팬데믹 수준의 위험 평가를 위해 의무적인 스크리닝 요건과 기계 학습, 감염병, 윤리 전문가와의 협력을 제안한다. 프록시 평가와 제한된 접근은 이러한 모델과 관련된 위험을 관리하는 데 사용될 수 있다. 생물학적 AI로 인해 전 세계적 위협이 발생하기 때문에 국제적 협력이 필요하다. 정책의 일치는 바람직하지만, 선진 AI 기술을 보유한 국가들은 국제적 일관성을 희생하더라도 효과적인 평가를 우선시해야 한다.