Liquid LFM 2

리뷰

Liquid는 완전히 다른 아키텍처를 기반으로 만들어졌고, 그 성과는 GPU 없는 하드웨어에서의 디코딩 속도입니다. CPU에서 비슷한 트랜스포머 대비 약 두 배 빠릅니다. 온디바이스 어시스턴트, 임베디드 제품, 또는 네트워크 없이도 작동해야 하는 모든 것에서 그것이 전부입니다. 소형 모델이 가진 지식 한계를 그대로 갖고 있으며, 대부분의 도구가 이 아키텍처를 낯설어합니다.

두드러지는 점

• 비슷한 트랜스포머 대비 CPU 디코딩 속도 약 2배
• 스마트폰급 하드웨어에서 진짜 오프라인 실행
• 앱 안에 들어갈 만큼 작은 메모리 풋프린트

미리 알아두면 좋은 것

• 소형 모델이라 그에 상응하는 낮은 성능 한계
• 대부분의 도구가 기대하지 않는 비트랜스포머 아키텍처