Xiaomi mengumumkan mod baharu UltraSpeed untuk model kecerdasan buatan (AI) MiMo-V2.5-Pro yang membolehkan ia menjana teks pada kelajuan melebihi 1,000 token sesaat. Mod tersebut dibangunkan menerusi kerjasama dengan TileRT dan direka untuk meningkatkan prestasi inferens tanpa memerlukan perkakasan khas.
MiMo-V2.5-Pro merupakan model AI berskala besar yang mempunyai sehingga 1 trilion parameter. Dengan mod UltraSpeed diaktifkan, Xiaomi mendakwa model tersebut mampu mencapai kadar output lebih 1,000 token sesaat, malah mencecah sekitar 1,200 token sesaat dalam senario tertentu menggunakan pelayan standard yang dilengkapi lapan GPU.
Prestasi dapat dicapai melalui beberapa teknik pengoptimuman termasuk FP4 quantization, DFlash speculative decoding dan penambahbaikan pada sistem runtime TileRT. Ia membolehkan model AI menghasilkan respons dengan lebih pantas berbanding konfigurasi biasa yang mengurangkan masa menunggu bagi aplikasi yang memerlukan pemprosesan masa nyata.
Menurut Xiaomi, penggunaan mod UltraSpeed memerlukan kos kira-kira tiga kali ganda lebih tinggi berbanding API MiMo-V2.5-Pro standard. Namun, mereka mendakwa peningkatan tersebut mampu menawarkan sehingga 10 kali ganda kelajuan output berbanding mod biasa. Buat masa ini, akses kepada MiMo-V2.5-Pro UltraSpeed dibuka secara terhad melalui program permohonan yang berlangsung antara 9 hingga 23 Jun 2026.
Keutamaan akan diberikan kepada pembangun profesional dan pelanggan perusahaan yang memerlukan keupayaan inferens AI berkelajuan tinggi. Keadaan ini memperlihatkan persaingan yang semakin sengit dalam industri AI generatif dengan syarikat teknologi kini bukan sahaja berlumba-lumba meningkatkan keupayaan model, tetapi juga kelajuan pemprosesan yang menjadi faktor penting bagi aplikasi AI berskala besar.
Xiaomi dilihat mengambil pendekatan berbeza dengan memfokuskan kepada pengoptimuman prestasi bagi mengurangkan masa respons tanpa bergantung kepada perkakasan khusus yang lebih mahal. Kongsi pendapat anda di Facebook kami dan teruskan bersama Rakan Teknologi Utama Malaysia untuk berita teknologi terkini.
Sumber: Xiaomi MiMo
