Liquid LFM 2

Ulasan

Liquid dibangun di atas arsitektur yang sepenuhnya berbeda, dan hasilnya adalah kecepatan decoding pada perangkat keras tanpa GPU: kira-kira dua kali lipat apa yang bisa dilakukan transformer yang sebanding pada CPU. Untuk asisten on-device, produk tertanam, atau apa pun yang harus bekerja tanpa jaringan, itulah inti segalanya. Ini adalah model kecil dengan batas pengetahuan yang dimiliki model kecil, dan arsitekturnya asing bagi sebagian besar ekosistem alat.

Di mana ia unggul

• Kecepatan decoding CPU kira-kira dua kali lipat transformer yang sebanding
• Berjalan benar-benar offline pada perangkat keras sekelas ponsel
• Jejak memori kecil, sehingga muat di dalam aplikasi

Perlu diketahui terlebih dahulu

• Model kecil, dengan batas kemampuan yang rendah sebagaimana mestinya
• Arsitektur non-transformer yang tidak diharapkan sebagian besar ekosistem alat