Spesifikasi Utama dan Panduan Data MAI-Thinking-1

MAI-Thinking-1 adalah model AI canggih dari Microsoft yang dirancang untuk tugas-tugas seperti matematika, coding, dan aplikasi enterprise. Model ini menampilkan arsitektur sparse Mixture-of-Experts (MoE) dengan 35 miliar parameter aktif dan jendela konteks raksasa sebesar 256.000 token (sekitar 600 halaman). Dilatih pada 33,55 triliun token data bersih dan berlisensi, model ini menjamin keamanan dan keandalan data untuk industri seperti kesehatan, keuangan, dan hukum.

Fitur Utama:

• Arsitektur: Sparse MoE dengan 35B parameter aktif (~1T total).
• Data Pelatihan: 33,55T token, semuanya berlisensi komersial dan dihasilkan manusia.
• Jendela Konteks: 256.000 token untuk menangani alur kerja yang luas.
• Performa: Skor teratas dalam matematika (97% AIME 2025) dan benchmark coding.
• Integrasi Multi-Modal: Bekerja dengan alat seperti MAI-Image-2.5 (gambar) dan MAI-Voice-2 (kloning suara).
• Akses API: Kompatibel dengan OpenAI dengan function calling tingkat lanjut.

Saat ini dalam tahap private preview, MAI-Thinking-1 dioptimalkan untuk tugas berskala enterprise, menawarkan kemampuan penalaran yang kuat sambil tetap menjaga kepatuhan terhadap regulasi. Integrasinya dengan alat MAI lainnya mendukung alur kerja kompleks di berbagai industri.

MAI-Thinking-1: Membangun Mesin Hill-Climbing

Spesifikasi Inti MAI-Thinking-1

Fondasi teknis MAI-Thinking-1 menyediakan kemampuan yang dibutuhkan untuk menghasilkan output multi-modal tingkat lanjut, menjadikannya alat yang ampuh untuk pembuatan video dan alur kerja unified LLM API.

Arsitektur dan Parameter Model

MAI-Thinking-1 dirancang menggunakan arsitektur sparse Mixture-of-Experts (MoE) yang dikombinasikan dengan setup Transformer decoder-only. Konfigurasi "LatentMoE"-nya memastikan bahwa hanya expert yang diperlukan yang diaktifkan - biasanya 8 dari 512 per token - memungkinkan pemrosesan yang efisien dan dapat diskalakan^[2][6]. Model ini beroperasi dengan 35 miliar parameter aktif dan sekitar 1 triliun total parameter. Jendela konteksnya mencakup 256.000 token, yang setara dengan kira-kira 600 halaman konten, memungkinkan penanganan data yang luas dalam satu sesi^[6].

Arsitektur ini menggabungkan attention bergaya Gemma-3, menampilkan lima lapisan lokal per lapisan global, jendela geser 512-token, dan Grouped-Query Attention (GQA) dengan 8 KV head. Tokenizer-nya, o200k_base, mendukung kosakata sekitar 200.000 token, yang semakin meningkatkan kemampuan pemrosesannya.

MAI-Thinking-1 dikembangkan bersama dengan silikon Maia 200 milik Microsoft, memberikan peningkatan performa-per-watt sebesar 1,4x dibandingkan dengan setup hardware standar. Pelatihan memanfaatkan 8.000 GPU NVIDIA GB200, memastikan performa model yang kuat melalui akses ke sumber daya komputasi berkualitas tinggi^[6].

Sumber Pelatihan dan Kompatibilitas Data

Model ini dilatih pada total 33,55 triliun token konten yang bersih, berlisensi komersial, dan dihasilkan manusia. Ini mencakup 30 triliun token selama fase pra-pelatihan utama dan tambahan 3,55 triliun selama mid-training^[6]. Dataset ini mencakup berbagai macam sumber, seperti teks web, kode GitHub yang tersedia untuk umum, buku, makalah akademik, berita, konten multibahasa, dan materi yang disesuaikan untuk domain tertentu.

"MAI-Thinking-1 dilatih dari awal menggunakan 33,55 triliun token data yang bersumber dengan cermat dan berlisensi komersial, memastikan pipeline pelatihan yang sepenuhnya dapat diaudit."

Sumber data yang transparan ini menjadikan model sebagai pilihan andal untuk industri seperti kesehatan, keuangan, dan hukum, di mana keamanan kekayaan intelektual dan kepatuhan regulasi sangat penting^[4].

Fitur API dan Integrasi

MAI-Thinking-1 terintegrasi mulus dengan Chat Completions API, menjadikannya kompatibel dengan alur kerja bergaya OpenAI. Model ini juga mendukung fitur-fitur canggih seperti function calling dan instruksi developer berlapis, menjadikannya sangat cocok untuk tugas multi-modal yang kompleks termasuk pembuatan video dan aplikasi tingkat enterprise.

Data Performa dan Kemampuan Utama

MAI-Thinking-1 memberikan hasil yang terukur di area-area kritis seperti matematika, coding, dan penalaran ilmiah. Metrik ini mencerminkan performanya pada kumpulan soal terstandarisasi yang selaras dengan kebutuhan enterprise.

Penalaran dan Optimasi Alur Kerja

Dengan jendela konteks 256.000 token, MAI-Thinking-1 dapat menangani alur kerja multi-langkah yang kompleks. Ini termasuk tugas seperti menganalisis kontrak yang panjang, memproses jejak agent yang rinci, atau meninjau dokumen riset yang rumit - semuanya dalam satu lintasan. Arsitektur sparse Mixture-of-Experts (MoE)-nya memastikan skalabilitas tanpa peningkatan kebutuhan komputasi yang proporsional, yang berarti biaya lebih rendah untuk tugas bervolume tinggi.

Sebagai contoh, pada Juni 2026, Microsoft menampilkan model MAI yang di-fine-tune untuk tugas Excel otomatis. Model ini mencapai paritas performa dengan GPT-5.4 pada benchmark publik maupun privat ^[6].

"MAI-Thinking-1 dibangun khusus untuk beban kerja yang dijalankan enterprise dalam skala besar... pada titik harga-performa yang membuat beban kerja AI bervolume tinggi dan selalu aktif menjadi layak secara ekonomi." - Naomi Moneypenny, Microsoft ^[3]

Kemampuan penalaran ini menjadikannya pesaing kuat untuk tugas yang membutuhkan performa kode dan matematika tingkat lanjut.

Performa Kode dan Matematika

MAI-Thinking-1 telah mencapai beberapa skor benchmark tertinggi di kategorinya. Hasil yang menonjol meliputi:

• 97,0% pada AIME 2025
• 94,5% pada AIME 2026
• 52,8% pada SWE-Bench Pro
• 73,5% pada SWE-Bench Verified
• 84,2% pada GPQA Diamond
• 87,7% pada LiveCodeBench v6 ^[6]

Skor-skor ini mencerminkan fokus Microsoft dalam melatih model di lingkungan deterministik, memastikan performanya andal sekaligus dapat dikendalikan. Konsistensi semacam ini menjadikannya ideal untuk aplikasi enterprise yang menuntut.

Karakteristik Penerapan Enterprise

MAI-Thinking-1 dirancang dengan skalabilitas dan keamanan data sebagai intinya. Dibangun secara eksklusif di atas data berkualitas tinggi dan proprietary, model ini memastikan auditabilitas dan perlindungan kekayaan intelektual (IP) - terutama penting untuk industri yang teregulasi seperti kesehatan, keuangan, dan hukum. Pada Juni 2026, Microsoft bermitra dengan Mayo Clinic untuk mengembangkan model klinis khusus menggunakan kerangka MAI, yang disesuaikan untuk penalaran klinis berisiko tinggi ^[6].

Performa yang kuat ini, dipadukan dengan integrasi multi-modal, termasuk model multimodal tingkat lanjut, mendukung aplikasi seperti pembuatan video dan optimasi API.

Enterprise dapat lebih menyesuaikan MAI-Thinking-1 menggunakan Reinforcement Learning Environments (RLEs). Microsoft melaporkan pada Juni 2026 bahwa menyetel model untuk kebutuhan spesifik McKinsey menghasilkan kualitas yang lebih baik daripada GPT-5.5, semuanya dengan beroperasi pada biaya 10x lebih rendah ^[6].

Pipeline Pelatihan dan Persyaratan Data

Gambaran Umum Pipeline Pelatihan

MAI-Thinking-1 dibangun untuk terus berkembang, berkat pipeline yang dirancang dengan cermat di mana setiap elemen - data, daya komputasi, dan sinyal reward - dapat disempurnakan dan dioptimalkan seiring waktu ^[2][6].

"Tujuannya adalah sistem yang dapat diulang yang mampu menyerap data yang lebih baik, reward yang lebih kuat, lingkungan yang lebih mumpuni, dan komputasi yang lebih banyak." - Microsoft AI ^[2]

Proses dimulai dengan MAI-Base-1, yang dibuat melalui pendekatan pelatihan token multi-fase ^[6][7]. Dari sana, Microsoft mengembangkan tiga model khusus secara paralel. Ketiganya berfokus pada:

• STEM dan coding tingkat kompetisi.
• Agentic coding dan pemanfaatan alat.
• Kebermanfaatan dan keamanan.

Model-model ini kemudian digabungkan menggunakan supervised learning. Langkah terakhir melibatkan reinforcement learning (RL) untuk menyetel model gabungan, menghasilkan MAI-Thinking-1. Seluruh proses pelatihan ditenagai oleh 8.000 GPU NVIDIA GB200, yang berjalan pada cluster Azure yang dioperasikan Microsoft ^[6].

Microsoft mengambil sikap unik dalam pengembangan model: kecerdasan dibangun melalui pembelajaran, bukan diwariskan. Daripada menyuling pengetahuan dari model pihak ketiga, MAI-Thinking-1 dilatih untuk mengembangkan kemampuan penalaran secara mandiri ^[2][7].

"Kemampuan harus dipelajari, bukan diwariskan. Meskipun lebih cepat diperoleh, kecerdasan yang diwariskan kekurangan kemampuan kendali yang esensial untuk penggunaan di dunia nyata." - Microsoft AI ^[2]

Pendekatan fundamental ini memastikan sistem tidak hanya mumpuni tetapi juga dapat beradaptasi untuk aplikasi dunia nyata, menyiapkan panggung untuk tata kelola dan integrasi data yang ketat.

Standar Kualitas dan Tata Kelola Data

Data pelatihan dikurasi dengan cermat, terdiri secara eksklusif dari konten yang ditulis manusia dan berlisensi komersial ^[2][6]. Ini memastikan silsilah data yang bersih, yang sangat penting untuk industri seperti kesehatan dan keuangan, di mana kepatuhan regulasi bergantung pada data yang dapat dilacak dan diaudit ^[2][5].

Untuk menjaga integritas, Microsoft menghindari penggunaan benchmark machine learning standar selama pelatihan. Ini mencegah model menghafal data uji, memastikan bahwa skor benchmark mencerminkan penalaran yang sesungguhnya alih-alih hafalan ^[6].

"Jika kita tidak dapat menjelaskan apa yang membentuk sebuah model, kita tidak dapat sepenuhnya memahami perilakunya atau memperbaikinya secara kredibel." - Tim Microsoft AI Superintelligence ^[2]

Integrasi Data Multi-Modal

Proses pelatihan melampaui data teks tradisional, menggabungkan beragam format multi-modal untuk meningkatkan relevansinya dalam skenario praktis. Korpus ini mencakup teks web, kode GitHub publik, buku, makalah akademik, artikel berita, dan konten multibahasa ^[6]. Untuk tugas coding dan agentic, Microsoft menggunakan lingkungan deterministik yang dapat dieksekusi untuk memvalidasi data ^[2][6].

Selain teks dan kode, model MAI mengintegrasikan data audio dan visual. Misalnya:

• MAI-Transcribe-1.5 menggunakan pengenalan entitas tingkat lanjut untuk menangani kosakata spesifik domain dengan presisi.
• MAI-Voice-2 menampilkan pelestarian identitas untuk output suara yang konsisten ^[3].
• MAI-Image-2.5 memungkinkan pengeditan image-to-image yang presisi sambil mempertahankan konsistensi merek dan karakter ^[3].

Integrasi multi-modal ini melengkapi MAI-Thinking-1 untuk beragam aplikasi, mulai dari pembuatan teks hingga tugas visual dan audio yang kompleks, memastikannya cukup serbaguna untuk kebutuhan dunia nyata.

Persyaratan Integrasi API di APIMart

Bagian ini menguraikan langkah-langkah untuk berintegrasi dengan API APIMart guna mengakses MAI-Thinking-1, yang dirancang untuk alur kerja multi-modal tingkat lanjut.

Menyiapkan Akses API

Untuk mengakses MAI-Thinking-1, Anda akan menggunakan gateway APIMart yang kompatibel dengan OpenAI. Mulailah dengan mengonfigurasi OpenAI SDK Anda (Python atau Node.js) untuk mengarah ke endpoint:

https://api.apimart.ai/v1

Ganti kunci API OpenAI Anda dengan kunci API APIMart Anda. Pastikan Anda menetapkan "mai-thinking-1" sebagai pengidentifikasi model.

Untuk autentikasi, gunakan token Bearer di header permintaan:

Authorization: Bearer YOUR_API_KEY

Sangat penting untuk menyimpan kunci API Anda dengan aman, baik dalam variabel lingkungan maupun secrets manager. Perhatikan bahwa akses saat ini terbatas pada private preview. Akses produksi dapat diminta melalui Microsoft Foundry ^[2][3].

Function Calling dan Developer Tools

MAI-Thinking-1 melampaui chat completions standar dengan menawarkan alat runtime yang meningkatkan fungsionalitas. Proses integrasinya sederhana:

1. Model memproses input Anda dan mengidentifikasi permintaan tool call.
2. Klien Anda mengeksekusi tool call dan mengirimkan hasilnya kembali ke model.
3. Model menggunakan hasil tersebut untuk menghasilkan respons akhir ^[8].

Berikut rincian alat yang didukung dan kasus penggunaannya:

Alat-alat ini memungkinkan developer memperluas kemampuan model untuk beragam aplikasi.

Prasyarat Operasional

Untuk mengoptimalkan integrasi Anda dengan MAI-Thinking-1, pastikan persyaratan operasional berikut terpenuhi:

• Dukungan untuk jendela konteks 256.000 token, yang membutuhkan pengelolaan memori dan latensi yang efisien untuk menangani dataset in-context berukuran besar ^[2].
• Penanganan yang tepat atas kode error utama:
  • 401: Kegagalan autentikasi
  • 402: Saldo tidak mencukupi
  • 429: Batas rate terlampaui

Berikut ringkasan singkat persyaratan teknisnya:

Kendala Penerapan Praktis

Status Penerapan Saat Ini

Per Juni 2026, MAI-Thinking-1 tersedia secara eksklusif melalui private preview di Microsoft Foundry. Akses membutuhkan pengajuan permintaan melalui portal Foundry. Public preview yang lebih luas diperkirakan akan hadir di MAI Playground "segera", dengan ketersediaan umum yang secara bertahap meluas ke beberapa region Foundry di seluruh dunia ^[1][2]. Peluncuran bertahap ini menyoroti pentingnya model dalam menangani alur kerja AI multi-modal yang kompleks.

Salah satu keterbatasan utama pada tahap ini adalah belum diumumkannya harga per-token. Hal ini menyulitkan tim untuk menyusun anggaran integrasi secara akurat. Namun, sebagai konteks, model lain dalam seri MAI di Foundry dihargai $5 per 1J token input (MAI-Image-2.5) dan $0,36 per jam (MAI-Transcribe-1.5), memberikan gambaran umum tentang struktur harga ^[3].

Trade-off Inferensi dan Performa

MAI-Thinking-1 menggunakan arsitektur sparse Mixture-of-Experts, yang hanya mengaktifkan 35 miliar dari sekitar 1 triliun total parameternya selama lintasan inferensi. Desain ini menyeimbangkan antara mengurangi biaya komputasi dan mempertahankan kemampuan penalaran tingkat tinggi:

"MAI-Thinking-1 dibangun khusus untuk beban kerja yang dijalankan enterprise dalam skala besar... pada titik harga-performa yang membuat beban kerja AI bervolume tinggi dan selalu aktif menjadi layak secara ekonomi." ^[3]

Meskipun demikian, model ini terbatas pada tugas teks dan penalaran. Model ini tidak mendukung tugas berbasis vision atau pemahaman dokumen multimodal. Untuk alur kerja yang membutuhkan analisis gambar atau parsing dokumen visual, model tambahan akan diperlukan. Keterbatasan ini dapat secara signifikan membentuk strategi penerapan, tergantung pada industri dan kasus penggunaan spesifik.

Kasus Penggunaan Spesifik Industri

Kendala-kendala ini secara langsung memengaruhi bagaimana model diterapkan di berbagai industri. Sebagai contoh, Mayo Clinic telah berkolaborasi dengan Microsoft untuk mengintegrasikan MAI-Thinking-1 ke dalam alur kerja klinis dan riset. Kemitraan ini menunjukkan bagaimana kontrol akses dan persyaratan keandalan memainkan peran krusial di sektor teregulasi seperti kesehatan ^[6][9].

Secara keseluruhan, MAI-Thinking-1 paling cocok untuk tugas penalaran bervolume tinggi di area seperti analisis hukum, pemodelan keuangan, riset medis, dan pengembangan perangkat lunak enterprise. Sektor-sektor ini menuntut solusi kecerdasan yang dapat diskalakan dan hemat biaya, dan arsitektur model yang berfokus pada teks, dikombinasikan dengan ketersediaannya yang terkontrol, selaras dengan kebutuhan kepatuhan dan operasional industri-industri tersebut.

Kesimpulan dan Poin Penting

MAI-Thinking-1 menonjol dengan arsitekturnya yang kuat dan integrasi yang mulus, menjadikannya pilihan utama untuk aplikasi multi-modal. Performanya dalam tugas penalaran menetapkan standar tinggi, memadukan efisiensi dengan hasil benchmark yang mengesankan. Penggunaan data pelatihan yang bersih dan berlisensi komersial serta pendekatan tanpa distilasi memberikannya keunggulan jelas, terutama untuk industri seperti kesehatan, hukum, dan keuangan, di mana transparansi dan silsilah data sangat penting.

Developer dapat dengan mudah mengakses MAI-Thinking-1 melalui APIMart, yang menawarkan endpoint terpadu untuk lebih dari 500 model AI, termasuk MAI-Image-2.5, Sora 2, dan Kling V3. Setup ini menyederhanakan pembuatan pipeline multi-modal - misalnya, menggunakan MAI-Thinking-1 untuk penalaran, MAI-Image-2.5 untuk tugas visual, dan Sora 2 atau Kling V3 untuk output video. Semua ini didukung oleh SLA uptime 99,9% yang andal.

Untuk mengoptimalkan biaya dan performa, enterprise dapat menerapkan tiered routing dengan menetapkan tugas penalaran kompleks ke MAI-Thinking-1 sambil mendelegasikan tugas yang lebih sederhana ke model yang lebih ringan. Integrasi dini disarankan, memberi bisnis waktu untuk menguji, menyempurnakan, dan menskalakan sistem mereka sebelum permintaan meningkat. Dengan mengadopsi MAI-Thinking-1, organisasi dapat mencapai performa teknis yang luar biasa sekaligus membuka efisiensi operasional di berbagai sektor.

FAQ

Untuk apa saya sebaiknya menggunakan jendela konteks 256.000 token?

Jendela konteks 256.000 token sangat sempurna untuk menangani tugas yang melibatkan pemrosesan data dalam jumlah besar. Misalnya, jendela ini dapat meninjau dokumen masif - hingga 600 halaman - atau menangani alur kerja coding yang rumit dengan mudah. Kemampuan ini sangat berguna untuk operasi tingkat enterprise, seperti menganalisis seluruh repositori kode untuk menemukan kesalahan, memperbaiki bug, atau mengeksekusi instruksi berlapis yang kompleks.

Jendela ini juga bersinar dalam skenario asinkron bervolume tinggi. Tugas seperti menilai konsistensi arsitektur atau mengidentifikasi pola dalam dataset yang luas menjadi jauh lebih terkelola, terutama ketika respons langsung tidak diperlukan.

Bagaimana cara mendapatkan akses jika MAI-Thinking-1 berstatus private preview?

Untuk mencoba MAI-Thinking-1 selama private preview-nya, Anda perlu mengajukan permintaan akses awal melalui formulir minat resmi di Azure AI Foundry. Anda juga dapat menguji model di platform seperti Baseten, Fireworks AI, dan Open Router. Cari tautan registrasi di kartu model atau katalog di Azure AI Foundry. Detail tentang ketersediaan publik dan harga akan dibagikan setelah fase preview.

Apa yang perlu saya ubah untuk memanggil MAI-Thinking-1 dari OpenAI SDK saya?

Untuk menggunakan MAI-Thinking-1 dengan OpenAI SDK, Anda perlu menyesuaikan konfigurasi klien dan struktur permintaan Anda. Berikut yang harus dilakukan:

• Gunakan URL dasar API yang khusus untuk MAI-Thinking-1.
• Atur parameter model ke mai-thinking-1.
• Sertakan system prompt yang dirancang untuk memandu penalaran langkah demi langkah.
• Sesuaikan parameter extra_body untuk mengontrol upaya penalaran. Perlu diingat, ini akan memengaruhi waktu komputasi maupun biaya terkait.

Pastikan integrasi Anda dilengkapi untuk memproses output bergaya penalaran dengan benar demi hasil terbaik.

Postingan Blog Terkait

• MAI-Code-1-Flash - Model Coding Flash Microsoft