Google DeepMind가 AI 생물 회복력 프로그램을 확대합니다

Google DeepMind와 Isomorphic Labs는 생물학 분야에서 AI 오용 위험을 줄이는 동시에 발병 탐지와 대응을 개선하는 것을 목표로 하는 바이오 레질리언스 이니셔티브의 개요를 제시했습니다. 이들 회사는 이 프로그램이 지난 1년 동안 정부 기관, 생물보안 단체, 연구 기관과의 15개 이상의 파트너십으로 확대되었다고 밝혔습니다. 이 노력은 유해한 사용 방지, 발병의 조기 탐지, 그리고 사건이 시작된 뒤 대응 지원이라는 세 가지 목표를 중심으로 구성됩니다. DeepMind는 자사의 작업에 위협 모델링, 레드 팀 테스트, 그리고 Gemini나 다른 AI 시스템이 사용자의 오용 장벽을 넘도록 도울 수 있는지 확인하는 시험이 포함되며, 동시에 정당한 과학 연구를 차단하지 않도록 하는 데에도 주의를 기울이고 있다고 밝혔습니다. 우려되는 한 분야는 DNA 합성 스크리닝입니다. DeepMind는 AI가 알려진 유해 서열과 일치하지 않으면서도 유사한 생물학적 기능을 가진 DNA 서열을 설계하는 데 도움을 줄 수 있기 때문에 기존 스크리닝 방법의 효과가 떨어질 수 있다고 말했습니다. 회사는 위험한 설계를 더 잘 식별하기 위해 조정된 워터마킹 기법과 다른 방법들을 탐색하고 있다고 밝혔습니다. 탐지 측면에서 DeepMind는 더 이른 발병 경보 시스템을 지원할 수 있는 메타지놈 시퀀싱과 관련 데이터 처리 개선 방안을 살펴보고 있습니다. 대응 측면에서는 Lawrence Livermore National Laboratory, CEPI, Francis Crick Institute와 같은 파트너들과의 협력을 강조했으며, 항체 설계와 기타 대응 수단 개발에 관한 연구도 포함됩니다. 회사들은 또한 생물안전 기준, DNA 스크리닝, 조기 경보 인프라에 대해 정책 입안자들과 협의하고 있다고 밝혔습니다.