Muse Glimmer 30B

리뷰

Muse Glimmer는 Muse라는 이름으로 나온 Meta의 첫 오픈 릴리스이며, 핵심 소식은 라이선스입니다. Llama에 붙던 사용자 수 임계값 없는 Apache 2.0입니다. 약 300억 파라미터의 밀집 모델로, 텍스트뿐 아니라 이미지도 읽고 고용량 메모리 GPU 한 장에 들어갑니다. 코딩과 수학 점수는 크기 대비 강력하지만, 독립 지수는 대형 희소 오픈 모델보다 훨씬 아래에 둡니다. 어디에나 배포할 수 있는 셀프 호스팅 어시스턴트를 위한 합리적인 기반입니다.

두드러지는 점

• Llama 라이선스 조건이 전혀 없는 Apache 2.0
• 고용량 메모리 GPU 한 장에 들어감
• 크기 대비 강력한 코딩 점수

미리 알아두면 좋은 것

• 어려운 추론에서 대형 희소 오픈 모델에 크게 뒤처짐
• 13만 1,000 토큰 컨텍스트로, 100만 토큰이 일반적인 경쟁 모델에 비해 짧음