Ringkasan Jujur
Apertus 70B Instruct adalah model bahasa raya (LLM) dari Swiss AI Initiative dengan fokus utama pada penurutan instruksi dan penalaran dasar. Dirilis pada 2025-09-02, model ini memiliki skor kualitas keseluruhan sebesar 7.7. Angka ini menunjukkan performa tingkat menengah, di mana model tidak unggul di semua lini tetapi menawarkan spesialisasi tertentu. Dengan biaya input sebesar $0.82 per 1 juta token dan biaya output $2.92 per 1 juta token, model ini menargetkan penggunaan yang efisien secara biaya untuk skenario tertentu. Informasi kecepatan dan TTFT tercatat sebesar 0 token/detik dan 0 ms, yang menandakan tidak adanya data latensi standar atau performa hosting publik yang aktif.
Kekuatan Utama
- Penalaran Dasar yang Cukup Baik: Dengan skor reasoning sebesar 27.2, model ini mampu memproses logika dasar dan menyelesaikan instruksi analisis tingkat menengah.
- Kepatuhan Instruksi (Instruction Following): Memiliki skor 25.9 untuk penurutan instruksi, menjadikannya cukup reliabel dalam mengikuti format atau batasan teks yang diberikan oleh pengguna.
- Biaya Operasional Ekonomis: Biaya input yang hanya $0.82 per 1 juta token dan biaya output $2.92 per 1 juta token relatif terjangkau untuk model berukuran besar.
Batasan yang Perlu Dipahami
- Kemampuan Coding Sangat Lemah: Skor coding yang hanya berada di angka 1.9 membuat model ini tidak bisa diandalkan untuk menulis, meninjau, atau memperbaiki kode pemrograman.
- Kemampuan Matematika Absen: Skor matematika berada di angka 0, sehingga model ini sama sekali tidak dapat digunakan untuk perhitungan numerik, logika matematika, atau analisis kuantitatif.
- Fitur Pemanggilan Alat (Tool Use) Terbatas: Dengan skor tool use sebesar 12.9, model ini kurang optimal dalam berintegrasi dengan API eksternal atau menjalankan fungsi terprogram lainnya.
- Ketidakpastian Latensi dan Kecepatan: Kecepatan operasional tertulis 0 token/detik dengan TTFT sebesar 0 ms, sehingga performa waktu respons nyata tidak terukur secara default.
- Informasi Kapasitas Konteks Tidak Tersedia: Batasan jumlah token yang dapat diproses sekaligus tidak diketahui (N/A), membatasi perencanaan pemrosesan dokumen panjang.
Cocok untuk Siapa?
- Aplikasi Berbasis Teks Non-Koding: Pengguna yang membutuhkan LLM untuk melakukan pemrosesan teks murni seperti perangkuman atau penyuntingan tanpa elemen pemrograman atau matematika.
- Proyek dengan Anggaran Terbatas: Sistem yang memerlukan pemrosesan token dalam volume besar dengan biaya operasional yang dapat diprediksi dan hemat.
- Kepatuhan Instruksi Sederhana: Alur kerja yang membutuhkan model untuk mengikuti panduan penulisan teks terstruktur dengan tingkat akurasi sedang.
Catatan Pemakaian
Saat menjalankan Apertus 70B Instruct, pastikan instruksi yang diberikan tidak melibatkan kalkulasi angka atau logika matematika karena model memiliki skor matematika 0. Pengujian mandiri terhadap latensi dan kecepatan token per detik harus dilakukan terlebih dahulu sebelum digunakan pada lingkungan produksi karena data resmi mencatatkan nilai 0 untuk metrik kecepatan dan TTFT. Selain itu, batasi panjang dokumen input dalam batas aman karena parameter Context Window tidak didefinisikan secara resmi.