Microsoft Phi-4: SLM Beralasan Seperti Raksasa!

Microsoft Phi-4 Reasoning menghadirkan SLM yang ringkas, open-weight (lisensi MIT), cepat, dan efisien yang mampu melakukan penalaran tingkat lanjut.

Microsoft, meskipun menjadi mitra istimewa OpenAI dan bekerja dengan sebagian besar pemain untuk mengintegrasikan model AI mereka ke dalam Azure AI Foundry, tidak menghindar untuk mengejar jalur teknologi sendiri. Ini termasuk mengerjakan inovasi di inti jaringan saraf, seperti model BitNet b1.58 yang menarik berdasarkan Trit, SLM sumber terbuka miliknya sendiri, dan bahkan model perintis yang dirahasiakan (Project MAI-1).

Setahun setelah memperkenalkan jajaran model AI kecilnya (SLM) Phi-3 dan dua bulan setelah memulai debut generasi ke-4 dengan SLM multimodal (Phi-4-Multimodal) dan model kecil (Phi-4-mini), Microsoft mengumumkan tiga varian baru dari SLM generasi terbarunya: Phi-4-reasoning, Phi-4-reasoning-plus, dan Phi-4-mini-reasoning.

Dirilis pada tanggal 30 April 2025, versi “terintegrasi penalaran” ini memperluas penawaran open-weight dari model ringkas untuk pengembang yang perlu mempertahankan latensi rendah sambil membutuhkan penalaran yang kompleks.

Inti dari pendekatan para insinyur Microsoft untuk membuat SLM-nya “beralasan”: mengandalkan pengawasan terperinci (SFT) dari rantai penalaran OpenAI o3-mini, dan memanfaatkan pembelajaran penguatan (RL) untuk versi “plus”. “Melalui penyulingan, pembelajaran penguatan, dan data berkualitas tinggi, model-model ini mendamaikan ukuran dan kinerja,” jelas Microsoft.

Kecil tapi Berbakat

Hasil pada berbagai tolok ukur pasar yang terkemuka sudah cukup untuk membuat persaingan menjadi pucat: biasanya hanya dengan 14 miliar parameter, Phi-4-reasoning mengungguli DeepSeek-R1-Distill-Llama-70B (70 miliar parameter) pada seri AIME 2025, MMLU-Pro atau HumanEval-Plus, dan mendekati model DeepSeek-R1 lengkap (671 miliar parameter)! Varian Phi-4-reasoning-plus, yang selaras pada 14 miliar parameter yang sama tetapi dilatih dengan token 1,5 kali lebih banyak, hampir menyamai skor o3-mini OpenAI pada OmniMath! Untuk informasi, Phi-4-reasoning mendapat manfaat dari jendela konteks 128.000 token klasik yang telah diperluas menjadi 256.000 token untuk versi Phi-4-reasoning-plus.

Dirancang untuk sistem tertanam, Phi-4-mini-reasoning menampilkan 3,8 miliar parameter, serangkaian sintetis satu juta masalah matematika yang dihasilkan oleh DeepSeek-R1, dan mencapai kinerja o1-mini pada Math-500 sambil melampaui beberapa model dengan 7 hingga 8 miliar parameter. Dengan ukurannya yang sangat kecil, model ini ideal untuk eksekusi lokal, termasuk pada perangkat seluler, dan untuk memenuhi kebutuhan respons yang hampir instan. Ini sangat cocok untuk penggunaan pendidikan dan chatbot lokal.

Model Terbuka untuk Berbagai Penggunaan

Di sisi penerapan, CISO akan menemukan model-model ini sudah dioptimalkan untuk Copilot+ PC: varian NPU "Phi Silica" sudah dimuat sebelumnya ke dalam memori dan memberikan waktu respons yang hampir instan, menjamin kohabitasi hemat energi dengan aplikasi bisnis. API Windows memungkinkan integrasi generasi offline ke dalam Outlook atau alat internal.

Dalam hal keamanan, Microsoft mengklaim saluran yang selaras dengan prinsip tanggung jawabnya — akuntabilitas, keadilan, keandalan, keselamatan, dan inklusi. Model-model tersebut menjalani pasca-pelatihan yang menggabungkan SFT, Direct Preference Optimization, dan RLHF dari set yang berorientasi pada "membantu/tidak berbahaya" publik dan internal. Microsoft juga menerbitkan "Kartu" modelnya, yang merinci batasan residual dan tindakan mitigasi.

Tersedia sekarang di Azure AI Foundry, Hugging Face, dan GitHub Models, ketiga model tersebut diterbitkan di bawah lisensi MIT yang sangat permisif, membuka jalan bagi inferensi lokal serta penerapan cloud hibrida. Untuk tim keamanan dan arsitektur, generasi SLM baru ini menawarkan alternatif yang kredibel untuk LLM besar-besaran, dengan TCO yang lebih rendah, eksekusi secara lokal serta di Edge, dan peningkatan kontrol data. Model-model ini adalah bukti kemajuan luar biasa yang dibuat oleh SLM dalam setahun dan potensi luar biasa mereka di alam semesta yang mencari AI yang lebih murah dan lebih hemat energi dan sumber daya.

Pendalaman Lebih Dalam ke Kemampuan Penalaran Phi-4

Kedatangan keluarga model Phi-4 merupakan langkah maju yang signifikan dalam pengembangan model bahasa kecil (SLM). Apa yang membedakan model-model ini adalah kemampuan penalaran mereka yang ditingkatkan, yang dicapai melalui teknik pelatihan inovatif dan fokus pada data berkualitas tinggi. Komitmen Microsoft terhadap prinsip sumber terbuka semakin mendemokratisasi akses ke alat-alat canggih ini, memberdayakan pengembang untuk mengintegrasikan kemampuan AI canggih ke dalam berbagai aplikasi.

Memahami Arsitektur

Model Phi-4 dibangun di atas arsitektur transformer, kerangka kerja yang terbukti untuk pemrosesan bahasa alami. Namun, Microsoft telah menerapkan beberapa inovasi utama untuk mengoptimalkan model untuk tugas penalaran.

• Pengawasan Terperinci (SFT): Model-model tersebut dilatih menggunakan teknik yang disebut pengawasan terperinci (SFT), yang melibatkan pembelajaran dari rantai penalaran terperinci yang dihasilkan oleh model o3-mini OpenAI. Hal ini memungkinkan model Phi-4 untuk mempelajari langkah-langkah yang terlibat dalam proses penalaran yang kompleks.
• Pembelajaran Penguatan (RL): Varian "plus" dari model Phi-4, Phi-4-reasoning-plus, memanfaatkan pembelajaran penguatan (RL) untuk lebih meningkatkan kemampuan penalarannya. RL melibatkan pelatihan model untuk memaksimalkan sinyal hadiah, yang dalam hal ini didasarkan pada akurasi dan efisiensi penalarannya.
• Distilasi: Distilasi digunakan untuk mentransfer pengetahuan dari model yang lebih besar dan lebih kompleks ke model Phi-4 yang lebih kecil. Hal ini memungkinkan SLM untuk mencapai tingkat kinerja yang sebanding dengan model yang jauh lebih besar, sambil mempertahankan ukuran dan efisiensi ringkas mereka.

Tolok Ukur Kinerja

Model Phi-4 telah menunjukkan kinerja yang mengesankan pada berbagai tolok ukur penalaran, melampaui model yang lebih besar dalam beberapa kasus. Misalnya, Phi-4-reasoning, dengan hanya 14 miliar parameter, mengungguli DeepSeek-R1-Distill-Llama-70B (70 miliar parameter) pada beberapa dataset yang menantang, termasuk AIME 2025, MMLU-Pro, dan HumanEval-Plus. Hal ini menyoroti efisiensi dan efektivitas arsitektur dan teknik pelatihan Phi-4.

Varian Phi-4-reasoning-plus, yang dilatih dengan token 1,5 kali lebih banyak, mencapai skor yang mendekati o3-mini OpenAI pada tolok ukur OmniMath, menunjukkan kemampuannya untuk mengatasi masalah penalaran matematika yang kompleks.

Aplikasi dan Kasus Penggunaan

Model Phi-4 sangat cocok untuk berbagai aplikasi yang membutuhkan kemampuan penalaran tingkat lanjut.

• Alat Pendidikan: Model Phi-4-mini-reasoning, dengan ukurannya yang kecil dan kinerja tinggi, ideal untuk aplikasi pendidikan. Ini dapat digunakan untuk membuat alat pembelajaran interaktif yang memberi siswa umpan balik dan dukungan yang dipersonalisasi.
• Chatbot Lokal: Model Phi-4 dapat digunakan untuk membangun chatbot lokal yang memberi pengguna akses instan ke informasi dan dukungan. Ukurannya yang kecil memungkinkan mereka untuk diterapkan pada perangkat seluler dan lingkungan dengan sumber daya terbatas lainnya.
• Copilot+ PC: Model Phi-4 dioptimalkan untuk Copilot+ PC, memberi pengguna pengalaman AI yang mulus. Varian "Phi Silica" sudah dimuat sebelumnya ke dalam memori dan memberikan waktu respons yang hampir instan.
• Generasi Offline: API Windows memungkinkan integrasi generasi offline ke dalam Outlook atau alat internal, memungkinkan pengguna untuk mengakses kemampuan AI bahkan ketika mereka tidak terhubung ke internet.

Keamanan dan Tanggung Jawab

Microsoft berkomitmen untuk mengembangkan dan menerapkan model AI dengan cara yang bertanggung jawab dan etis. Model Phi-4 tidak terkecuali.

• Prinsip Tanggung Jawab: Saluran pengembangan AI Microsoft selaras dengan prinsip tanggung jawabnya, yang mencakup akuntabilitas, keadilan, keandalan, keselamatan, dan inklusi.
• Pasca-Pelatihan: Model Phi-4 menjalani pasca-pelatihan menggunakan SFT, Direct Preference Optimization, dan RLHF dari dataset berorientasi "membantu/tidak berbahaya" publik dan internal. Ini membantu untuk memastikan bahwa model-model tersebut aman dan andal.
• Kartu Model: Microsoft menerbitkan "Kartu" untuk modelnya, yang merinci batasan residual dan tindakan mitigasi. Ini memberi pengguna transparansi dan memungkinkan mereka untuk membuat keputusan yang tepat tentang cara menggunakan model.

Masa Depan SLM

Model Phi-4 merupakan langkah maju yang signifikan dalam pengembangan model bahasa kecil (SLM). Kemampuan penalaran mereka yang ditingkatkan, dikombinasikan dengan ukuran dan efisiensi kecil mereka, menjadikannya alternatif yang menarik untuk model bahasa yang lebih besar (LLM) dalam banyak aplikasi.

Seiring SLM terus meningkat, mereka cenderung memainkan peran yang semakin penting dalam lanskap AI. Kemampuan mereka untuk berjalan pada perangkat dengan sumber daya terbatas dan memberikan kinerja yang cepat dan efisien membuat mereka sangat cocok untuk berbagai aplikasi, dari alat pendidikan hingga chatbot lokal hingga perangkat komputasi edge.

Komitmen Microsoft terhadap prinsip sumber terbuka dan pengembangan AI yang bertanggung jawab semakin memposisikan model Phi-4 sebagai sumber daya yang berharga bagi komunitas AI. Dengan mendemokratisasi akses ke alat-alat canggih ini, Microsoft memberdayakan pengembang untuk menciptakan aplikasi inovatif dan berdampak yang dapat bermanfaat bagi masyarakat secara keseluruhan.

Tinjauan Lebih Dekat pada Aspek Teknis

Menyelami lebih dalam spesifikasi arsitektur Phi-4 dan pelatihan mengungkapkan teknik inovatif yang memungkinkan SLM ini mencapai kemampuan penalaran yang begitu mengesankan. Kombinasi dataset yang dikuratori dengan cermat, algoritma pelatihan yang canggih, dan fokus pada efisiensi telah menghasilkan keluarga model yang kuat dan praktis.

Kurasi dan Persiapan Data

Keberhasilan setiap model pembelajaran mesin bergantung pada kualitas dan relevansi data yang dilatih dengannya. Microsoft menginvestasikan upaya yang signifikan dalam mengkurasi dan menyiapkan dataset yang digunakan untuk melatih model Phi-4.

• Rantai Penalaran dari o3-mini OpenAI: Model-model tersebut memanfaatkan rantai penalaran yang dihasilkan oleh model o3-mini OpenAI untuk mempelajari langkah-langkah yang terlibat dalam proses penalaran yang kompleks. Rantai ini memberikan peta jalan terperinci bagi SLM untuk diikuti, memungkinkan mereka untuk mengembangkan pemahaman yang lebih dalam tentang logika yang mendasarinya.
• Masalah Matematika Sintetis: Model Phi-4-mini-reasoning dilatih pada dataset sintetis satu juta masalah matematika yang dihasilkan oleh DeepSeek-R1. Dataset ini menyediakan berbagai tantangan matematika, memungkinkan model untuk mengembangkan keterampilan pemecahan masalah yang kuat.
• Dataset Membantu/Tidak Berbahaya: Model-model tersebut menjalani pasca-pelatihan menggunakan dataset yang dirancang untuk mempromosikan membantu dan tidak berbahaya. Ini membantu untuk memastikan bahwa model-model tersebut menghasilkan keluaran yang aman dan bertanggung jawab.

Algoritma Pelatihan

Model Phi-4 dilatih menggunakan kombinasi pembelajaran yang diawasi, pembelajaran penguatan, dan distilasi. Teknik-teknik ini bekerja bersama untuk mengoptimalkan model untuk tugas penalaran dan memastikan bahwa mereka akurat dan efisien.

• Penyetelan Halus yang Diawasi (SFT): SFT digunakan untuk menyetel halus model pada rantai penalaran yang dihasilkan oleh model o3-mini OpenAI. Hal ini memungkinkan model untuk mempelajari pola dan hubungan spesifik yang menjadi ciri proses penalaran yang kompleks.
• Pembelajaran Penguatan (RL): RL digunakan untuk melatih model Phi-4-reasoning-plus untuk memaksimalkan sinyal hadiah berdasarkan akurasi dan efisiensi penalarannya. Ini mendorong model untuk mengembangkan strategi untuk memecahkan masalah yang efektif dan efisien secara komputasi.
• Distilasi: Distilasi digunakan untuk mentransfer pengetahuan dari model yang lebih besar dan lebih kompleks ke model Phi-4 yang lebih kecil. Hal ini memungkinkan SLM untuk mencapai tingkat kinerja yang sebanding dengan model yang jauh lebih besar, sambil mempertahankan ukuran dan efisiensi ringkas mereka.

Optimalisasi untuk Efisiensi

Salah satu tujuan utama dalam mengembangkan model Phi-4 adalah untuk mengoptimalkannya untuk efisiensi. Hal ini tercermin dalam beberapa aspek desain dan pelatihan mereka.

• Arsitektur Ringkas: Model Phi-4 dirancang dengan arsitektur ringkas yang meminimalkan jumlah parameter yang diperlukan. Ini mengurangi biaya komputasi untuk menjalankan model dan membuatnya sangat cocok untuk penerapan pada perangkat dengan sumber daya terbatas.
• Kuantisasi: Kuantisasi digunakan untuk mengurangi jejak memori model dan meningkatkan kecepatan inferensi mereka. Ini melibatkan representasi parameter model menggunakan lebih sedikit bit, yang dapat secara signifikan mengurangi biaya komputasi untuk menjalankan model.
• Akselerasi Perangkat Keras: Model Phi-4 dioptimalkan untuk akselerasi perangkat keras pada berbagai platform, termasuk CPU, GPU, dan NPU. Hal ini memungkinkan mereka untuk mencapai kinerja maksimum pada berbagai perangkat.

Implikasi untuk Masa Depan AI

Model Phi-4 merupakan langkah maju yang signifikan dalam pengembangan AI, dengan implikasi yang meluas jauh melampaui aplikasi spesifik yang dirancang untuknya. Kemampuan mereka untuk mencapai kinerja tinggi dengan ukuran dan sumber daya komputasi yang relatif kecil membuka kemungkinan baru untuk menerapkan AI dalam berbagai pengaturan.

Demokratisasi AI

Model Phi-4 merupakan bukti fakta bahwa kemampuan AI yang kuat dapat dicapai tanpa memerlukan sumber daya komputasi yang besar atau akses ke dataset eksklusif. Ini mendemokratisasi akses ke AI, memberdayakan pengembang dan peneliti untuk menciptakan aplikasi inovatif bahkan dengan sumber daya yang terbatas.

Komputasi Edge

Ukuran dan efisiensi kecil dari model Phi-4 membuatnya sangat cocok untuk aplikasi komputasi edge. Hal ini memungkinkan AI untuk diterapkan lebih dekat ke sumber data, mengurangi latensi dan meningkatkan responsivitas. Komputasi edge memiliki potensi untuk merevolusi berbagai industri, dari manufaktur hingga perawatan kesehatan hingga transportasi.

AI yang Dipersonalisasi

Model Phi-4 dapat disesuaikan dan diadaptasi untuk memenuhi kebutuhan spesifik pengguna atau organisasi individu. Hal ini memungkinkan untuk penciptaan pengalaman AI yang dipersonalisasi yang disesuaikan dengan persyaratan unik setiap pengguna. AI yang dipersonalisasi memiliki potensi untuk meningkatkan produktivitas, meningkatkan pembelajaran, dan meningkatkan kesejahteraan secara keseluruhan.

AI Berkelanjutan

Model Phi-4 merupakan alternatif yang lebih berkelanjutan untuk model bahasa yang lebih besar, membutuhkan lebih sedikit energi dan sumber daya komputasi. Ini penting untuk mengurangi dampak lingkungan dari AI dan memastikan bahwa itu dapat diterapkan dengan cara yang bertanggung jawab dan berkelanjutan.

Model Microsoft Phi-4-Reasoning bukan hanya iterasi lain dalam dunia AIyang terus berkembang; mereka adalah perubahan paradigma. Mereka menunjukkan bahwa kecerdasan bukan hanya fungsi dari ukuran dan kekuatan komputasi tetapi dapat dicapai melalui desain yang cerdas, kurasi data yang cermat, dan teknik pelatihan inovatif. Seiring model-model ini terus berkembang, mereka siap untuk membuka kemungkinan baru untuk AI dan mengubah cara kita berinteraksi dengan teknologi.