그록 4.6 최적화, 챗 시스템에 반영 완료

[email protected]



그록 4.6(Grok 4.6)의 자체 추론 시스템 최적화 과정에서, 총 7건의 PR 중 3건이 그록 챗의 생산 환경에 성공적으로 반영되었다. 이번 최적화를 통해 생성 단계 처리량이 1.5%, 입력 처리 단계도 3.1% 증가한 것으로 알려졌다. 이러한 개선은 엑스AI(xAI)가 이전 버전인 그록 4.6을 활용하여 그록 챗 추론 시스템을 최적화하기 위해 모델카드에서 시험한 결과다.

엑스AI는 실제로 개선안을 제출하기에 앞서 전체 시스템 성능이 향상되었다는 사실을 입증해야 했고, 그록 4.6는 5시간에 걸쳐 총 297개의 최적화 방안을 테스트했다. 테스트의 주요 대상에는 혼합 전문가(MoE), 어텐션 계산, 하위 연산자 스케줄링, 그리고 통신 영역이 포함되었다. 이 과정에서 소규모 테스트에서는 속도가 향상되었으나, 전체 시스템에서 실질적인 이익이 없었던 방안은 사전에 제외하였다.

이번 개발 흐름은 엑스AI가 그록 4.6을 출시한 이후 지속적으로 이루어진 후속 작업으로, 현재 모델카드에서는 그록이 새 버전의 훈련 및 평가 연구개발에 참여하는 방안도 시험하고 있다고 전해졌다. 이러한 시험에는 보상 해킹 탐지, 훈련 데이터 생성 및 검토, 대규모 훈련 시스템 점검, 그리고 새로운 기능 평가 설계 등이 포함된다. 보상 해킹이란 모델이 실제 목표를 달성하지 않고 평가 점수만 높이는 방식으로 학습하는 문제를 지칭한다.

하지만 이번 사례를 단순히 재귀적 자기진화로 해석하기는 어렵다. 모델이 개선안을 직접 만들고 검증을 거쳤음에도 불구하고, 최적화의 범위가 그록 챗 추론 시스템의 일부에 국한되었기 때문이다. 블록비츠 역시 이번 사례를 AI의 자기개선으로 판단하긴 했으나, 재귀적 자기진화의 단계에는 미치지 못한다고 정리하였다.

이번 그록 4.6의 최적화가 암호화폐 거래나 토큰 가격, 거래소 서비스에 미친 구체적인 영향에 대한 정보는 아직 확인되지 않았다. 따라서 향후 이와 관련된 자료가 발표될 것으로 기대된다.

Leave a Comment