메타(Meta·$META)는 10일 소비자용 단일 그래픽카드에서 실행할 수 있는 300억 매개변수 인공지능(AI) 모델인 ‘뮤즈 글리머(Muse Glimmer)’를 발표했다. 이 모델은 대형 클라우드 서버의 지원 없이 개인용 컴퓨터에서 에이전트형 작업을 처리할 수 있도록 설계된 오픈웨이트 모델로, 사용자에게 더 많은 선택과 유연성을 제공한다.
뮤즈 글리머의 가중치는 모델 저장소인 허깅페이스(Hugging Face)에 공개되었으며, 수정 및 재배포가 가능한 아파치 2.0 라이선스가 적용됐다. 이는 사용자가 저작권 및 라이선스 조건을 준수할 경우, 다양한 방식으로 모델을 활용할 수 있다는 것을 의미한다.
이번 발표는 메타가 개인용 컴퓨터에서 원활히 운영할 수 있는 경량 AI 모델을 제공한다는 목표를 담고 있다. 오픈웨이트는 AI가 입력 정보를 처리하고 결과를 생성하기 위한 가중치를 공개하여, 누구나 이를 다운로드 받아 사용할 수 있도록 하는 배포 방식이다. 다만, 오픈웨이트는 모델 가중치만 공개한다는 점에서 오픈소스와는 차별화된다.
뮤즈 글리머는 메타가 개발한 대형 모델인 뮤즈 스파크(Muse Spark)를 기반으로 학습되었으며, 대형 모델의 출력과 학습 결과를 활용해 소형 모델의 성능을 향상시키는 ‘증류’ 기법이 적용되었다. 300억 매개변수 모델을 운영하는 데는 일반적으로 55GB 이상의 메모리가 필요하나, 메타는 수치 정밀도를 줄이는 압축 기술을 통해 모델 크기를 20GB 이하로 낮추었다.
이로 인해, 압축된 모델은 24GB 또는 32GB급 그래픽카드에서 실행될 수 있으며, 클라우드 비용이나 외부 서버 연결 없이도 자체 장비에서 모델을 운용할 수 있는 구조를 갖추고 있다. 또한, ‘추측 디코딩’ 방식을 통해 추론 속도를 높여, 작은 보조 모델이 다음 문장 조각을 예측하고 본 모델이 여러 예측을 검증하는 방식으로 개선되었다.
메타의 내부 테스트 결과, 뮤즈 글리머는 최신 RTX 5090 그래픽카드에서 3.1배, M5 맥스에서 1.8배, M4 맥스에서 1.5배 빠른 성능을 나타냈으나, 이러한 수치는 메타의 내부 시험에 의한 것이므로 외부의 독립적인 검증이 필요하다.
뮤즈 글리머는 여러 단계를 거쳐 작업을 처리하는 에이전트형 AI에 중점을 두고 있으며, 코딩, 행정 업무, 외부 도구 호출을 효율적으로 수행할 수 있다. 메타는 이 모델이 구글의 젬마4-31B 및 알리바바의 큐원3.6-27B와 같은 경쟁 모델들과 직접 비교할 수 있을 정도로 성능을 갖췄다고 자신하고 있다. 실제로 코드 오류 수정, 외부 도구 호출, 작업 실패 후 복구 능력을 평가하는 시험에서의 경쟁력을 보여줬다.
마크 저커버그(Mark Zuckerberg) 메타 CEO는 ‘미래는 모두를 위한 것(The Future Is for Everyone)’이라는 글에서, 미국의 오픈소스 모델이 장기적으로 성공하기 위해 정책적 마찰을 줄여야 한다고 강조했다. 그는 AI 능력을 소수의 기관에 집중하기보다 개인과 개발자에게 넓게 배포하는 것이 중요하다고 주장했다.
이번 발표는 구글, 알리바바, 미스트랄, 딥시크 등이 소형 공개 모델을 출시하는 가운데 이뤄졌다. 사용자가 직접 모델을 운영하면 환경을 통제하고 목적에 맞게 조정할 수 있지만, 구동 장비와 운영 능력은 사용자가 자체적으로 확보해야 한다.
AI 모델의 로컬 구동 확대는 개인용 그래픽카드와 연산 자원의 수요에 직결되며, 암호화폐 AI 섹터와 탈중앙화 컴퓨팅 분야로의 영향은 지속적으로 관찰할 필요가 있다. 메타는 앞으로 몇 주 안에 뮤즈 스파크
