중국의 AI 실험실 샤오훙수(dots.studio)가 최근 오픈소스 AI 모델 ‘dots3-note preview’를 출시했다. 본 모델은 2800억 개의 파라미터를 바탕으로 한 Mixture of Experts(MoE) 구조와 512,000 토큰의 넓은 컨텍스트 창을 특징으로 하고 있다. 이번 발표는 15일자로 전해졌으며, 모델의 실제 활성화된 파라미터 수는 160억 개로 보고되었다. 이 모델은 텍스트뿐만 아니라 시각 및 오디오 입력에 대한 이해도를 지원하는 다재다능한 기능을 갖추고 있다.
dots.studio는 장시간에 걸쳐 에이전트를 훈련하기 위해 새로운 ‘TEMPO’ 강화학습 기법을 도입했다고 밝혔다. 이 모델은 허깅페이스(Hugging Face) 플랫폼에 배포된 상태이며, API는 OpenRouter를 통해 연결되고 있다. 이러한 구조는 개발자와 연구자들이 다양한 AI 모델을 쉽게 접근하고 비교할 수 있는 환경을 마련해준다.
성능 지표도 함께 공개된 가운데, SemiAnalysis의 차트에 따르면 dots3-note preview는 Terminal-Bench 2.1에서 75.1점을 기록했다. 이 점수는 현재 가장 높은 미국 오픈웨이트 모델보다 4.9점 높은 결과로, 모델의 우수성을 입증하고 있다. 그러나 SemiAnalysis는 사용자의 일상적인 품질과 해당 모델의 실제 용도에 대한 최적화를 검증하기 위해 추가 테스트 중이라고 하였다. 이는 벤치마크 점수가 실제 개발 환경의 품질을 직관적으로 반영하지는 않을 수도 있음을 암시한다.
Terminal-Bench 팀은 공식 자료를 통해 이번 2.1 버전이 89개 과제 중 28개를 수정한 개정판이라고 설명하며, 외부 의존성 변화, 자원 조건 불일치 및 과제 명세 오류를 수정했다고 밝혔다. 이러한 점검을 통해 보다 신뢰할 수 있는 기준을 마련할 수 있을 것으로 기대된다.
MoE 구조는 여러 전문가 모델 중에서 일부만 활성화하여 연산 효율성을 높이는 방식으로, 대규모 모델의 모든 파라미터를 활용하지 않고도 특정 작업에 필요한 기능만을 선택적으로 동원할 수 있다. 긴 컨텍스트 창은 긴 문서나 코드베이스, 대화 이력을 한 번에 처리하는 데에 유용하게 사용된다.
최근 AI 모델 평가는 단순한 질의응답에서 벗어나 실제 작업 수행 능력으로 초점을 이동하고 있다. 따라서 이번 모델의 공개는 단순히 암호화폐 시장과 관련된 것이 아니라, AI 개발 인프라의 향상에 기여하는 것으로 볼 수 있다. OpenRouter가 여러 AI 모델을 단일 API 형태로 통합함에 따라, 개발자와 연구자들이 더욱 다양한 오픈웨이트 모델을 비교하고 실험할 수 있는 기회가 늘어났다. 향후 SemiAnalysis의 추가 테스트 결과에 따라 해당 모델의 실제 서비스 품질과 반복 평가 결과가 더욱 명확히 드러날 것으로 기대된다.
