Frontier labs는 생물학 분야의 AI 기능을 발전시키고 있지만, 선한 사람들(과학자, 학계, 비영리 단체, 보건 기관 등)이 이를 사용하고 연구하며 이해하는 것을 방해하는 경계선이 넓으면서도 얕은 수준에 불과하여, 악당들이 쉽게 우회할 수 있습니다(예를 들어 이 트윗을 proofread하려고 했을 때 차단되었습니다 😅).
이는 앞으로 몇 년 동안 자동적으로 엄청난 불균형과 위험을 초래할 것입니다. 사이버 보안에서도 마찬가지이며, 특히 최근에는 전선 연구소들이 습식 실험실을 구축하고 있는 현재 상황에서는 더욱 그렇습니다(생물학을 위한 사이버 보안 시나리오는 언제일까?).
이것이 바로 우리가 Carbon-X를 만든 이유입니다. 이 모델은 Qwen3-14B의 300B 토큰의 DNA, 영어 및 혼합 데이터를 기반으로 중간 훈련 단계에서 최고의 오픈소스 DNA 모델이 되었습니다. 또한 BPE로 영어를, 6-mer 토큰화 방식을 사용하여 DNA를 토큰화하는 하이브리드 토큰화기도 사용했습니다.
그 결과, Carbon-X는 DNA 이해 및 생성에 관한 다섯 가지 벤치마크에서 우리가 평가한 모든 개방형 언어 모델을 능가했습니다. 이는 Qwen3-14B보다 27점의 향상을 의미하며, 언어 모델이 DNA 훈련을 통해 얼마나 많은 성과를 얻을 수 있는지를 보여줍니다. 또한 API 수준에서는 GPT 6.1 Sol보다 1,800배 더 저렴한 비용으로 작동합니다.
우리는 Carbon-X가 연구자들이 DNA을 새로운 방식으로 탐구하는 데 도움이 되기를 바랍니다. 이를 공개적으로 배포함으로써 누구나 그 기능, 한계, 위험성을 연구할 수 있게 됩니다. AI 생물학의 새로운 영역을 오픈소스로 만들어 전 세계에 안전하고 의미 있는 결과를 가져오도록 합시다 (몇몇 회사만이 아니라).
@huggingface에서의 Apache 2.0 모델: https://huggingface.co/HuggingFaceBio/Carbon-X