Strategi Membuka Potensi Bisnis LLM

Large Language Models (LLM) dengan cepat menjadi game changer di berbagai industri, menawarkan peluang yang belum pernah ada sebelumnya bagi perusahaan untuk menyederhanakan operasi, meningkatkan efisiensi, dan mendorong inovasi. Dari GPT-4 dari OpenAI hingga Llama dari Meta dan Claude dari Anthropic, platform LLM yang kuat ini mengubah cara kita berinteraksi dengan teknologi. Namun, untuk memanfaatkan sepenuhnya kekuatan model ini, perusahaan harus mengembangkan strategi yang matang untuk mengintegrasikan LLM secara mulus ke dalam alur kerja mereka.

Rama Ramakrishnan, Profesor Praktik di MIT Sloan School of Management, percaya bahwa LLM adalah teknologi transformatif yang memungkinkan perusahaan membangun aplikasi dengan kecepatan yang belum pernah terjadi sebelumnya. Dalam sebuah webinar baru-baru ini, Ramakrishnan menguraikan tiga pendekatan berbeda yang dapat digunakan perusahaan untuk memanfaatkan LLM yang off-the-shelf ini untuk menangani berbagai tugas dan kasus penggunaan bisnis: Prompting, Retrieval Augmented Generation (RAG), dan Instruction Fine-Tuning.

1. Prompting: Melepaskan Kekuatan LLM

Prompting adalah bentuk pemanfaatan LLM yang paling langsung dan mudah diakses, melibatkan penulisan pertanyaan atau instruksi kepada model dan menerima respons yang dihasilkan. Metode ini sangat cocok untuk tugas-tugas umum yang dapat diselesaikan secara berhasil menggunakan akal sehat dan pengetahuan sehari-hari, tanpa memerlukan pelatihan khusus tambahan atau keahlian domain.

Ramakrishnan menyoroti bahwa prompting sangat efektif untuk jenis tugas klasifikasi tertentu. Misalnya, sebuah perusahaan e-commerce dapat memanfaatkan LLM untuk menganalisis ulasan pelanggan tentang produk yang diposting di situs web mereka. Dengan memberikan ulasan ke LLM dan memintanya untuk mengidentifikasi potensi kekurangan atau fitur yang tidak populer, perusahaan dapat memperoleh wawasan yang berharga untuk menginformasikan keputusan pengembangan produk dan meningkatkan kepuasan pelanggan. Proses ini menghilangkan kebutuhan untuk menandai dan mengkategorikan ulasan secara manual, menghemat waktu dan sumber daya.

Di bidang real estate, prompting dapat digunakan untuk secara otomatis menghasilkan deskripsi properti. Agen real estate dapat memberikan karakteristik utama dan fitur yang menonjol ke LLM dan dalam hitungan detik menghasilkan deskripsi yang menarik dan persuasif untuk menarik calon pembeli atau penyewa. Hal ini memungkinkan agen untuk fokus pada membangun hubungan dengan klien dan menutup kesepakatan daripada menghabiskan waktu berjam-jam untuk menulis.

Dalam industri keuangan, prompting dapat digunakan untuk menganalisis tren pasar dan menghasilkan laporan investasi. Analis keuangan dapat memasukkan data dan informasi pasar yang relevan ke LLM dan memintanya untuk mengidentifikasi pola, membuat prediksi, dan menghasilkan laporan yang berwawasan. Hal ini membantu analis mengambil keputusan yang lebih tepat dan tetap mengikuti perkembangan pasar terbaru.

Meskipun prompting adalah teknik yang ampuh, perusahaan harus memahami keterbatasannya. Ketika sebuah tugas membutuhkan pengetahuan yang sangat terspesialisasi atau informasi terkini, prompting mungkin tidak cukup untuk memberikan hasil yang akurat dan relevan. Dalam kasus ini, teknik yang lebih canggih seperti RAG dan instruction fine-tuning mungkin lebih tepat.

2. Retrieval Augmented Generation (RAG): Meningkatkan LLM dengan Data yang Relevan

Retrieval Augmented Generation (RAG) adalah teknik yang lebih canggih yang melibatkan pemberian instruksi atau pertanyaan yang jelas ke LLM, bersama dengan data atau informasi tambahan yang relevan. Metode ini sangat berguna untuk tugas-tugas yang mengharuskan LLM untuk mengakses informasi terkini atau pengetahuan proprietari.

Misalnya, pengecer dapat menggunakan RAG untuk membangun chatbot layanan pelanggan yang dapat secara akurat menjawab pertanyaan tentang kebijakan pengembalian produk. Dengan melatih chatbot pada dokumen kebijakan pengembalian perusahaan, pengecer dapat memastikan bahwa pelanggan menerima informasi yang akurat dan up-to-date, meningkatkan kepuasan pelanggan dan mengurangi biaya dukungan.

Inti dari RAG adalah kemampuannya untuk memanfaatkan mesin pencari perusahaan tradisional atau teknik pengambilan informasi untuk menemukan konten yang relevan dari kumpulan besar dokumen. Hal ini memungkinkan perusahaan untuk memanfaatkan basis pengetahuan internal mereka yang luas dan memberikan konteks yang dibutuhkan LLM untuk menyelesaikan tugas.

Penyedia layanan kesehatan dapat menggunakan RAG untuk membantu dokter dalam membuat diagnosis dan keputusan pengobatan. Dengan memberikan riwayat pasien, hasil tes, dan makalah penelitian medis ke LLM, dokter dapat memperoleh wawasan berharga untuk membantu mereka menentukan rencana perawatan yang paling tepat. Hal ini dapat meningkatkan hasil pasien dan mengurangi kesalahan medis.

Firma hukum dapat menggunakan RAG untuk membantu pengacara dengan penelitian dan penulisan brief. Dengan memberikan undang-undang kasus, peraturan, dan artikel hukum yang relevan ke LLM, pengacara dapat dengan cepat menemukan informasi yang mereka butuhkan untuk mendukung argumen hukum mereka. Hal ini dapat menghemat waktu dan tenaga pengacara, memungkinkan mereka untuk fokus pada aspek-aspek penting lainnya dari kasus ini.

Untuk memanfaatkan sepenuhnya prompting dan RAG, perusahaan harus membantu karyawannya mengembangkan keterampilan prompt engineering. Pendekatan yang efektif adalah "chain-of-thought" prompting, di mana pengguna menginstruksikan LLM untuk *"berpikir selangkah demi selangkah"*. Pendekatan ini seringkali menghasilkan hasil yang lebih akurat karena mendorong LLM untuk menguraikan tugas yang kompleks dan bernalar dengan cara yang terstruktur.

Ramakrishnan menekankan bahwa kehati-hatian diperlukan dalam prompt engineering untuk memastikan bahwa jawaban yang diberikan oleh LLM benar-benar merupakan jawaban yang kita inginkan. Dengan membuat prompt dengan hati-hati dan memberikan konteks yang relevan, perusahaan dapat memaksimalkan akurasi dan relevansi hasil yang diberikan oleh LLM.

3. Instruction Fine-Tuning: Menyesuaikan LLM untuk Kebutuhan Spesifik

Instruction fine-tuning adalah teknik yang lebih canggih yang melibatkan pelatihan lebih lanjut pada LLM menggunakan contoh tanya jawab khusus aplikasi. Metode ini sangat berguna untuk tugas-tugas yang melibatkan terminologi dan pengetahuan khusus domain atau tugas-tugas yang sulit untuk dijelaskan dengan mudah, seperti menganalisis catatan medis atau dokumen hukum.

Tidak seperti prompting dan RAG, instruction fine-tuning melibatkan modifikasi model itu sendiri. Dengan melatih LLM pada data khusus aplikasi, perusahaan dapat meningkatkan akurasi dan kinerjanya di domain tertentu.

Misalnya, sebuah organisasi yang mencoba membangun chatbot yang membantu diagnosis medis perlu menyusun ratusan contoh tanya jawab dan memberikannya ke LLM. Kueri yang berisi detail kasus pasien akan dipasangkan dengan jawaban yang masuk akal secara medis, termasuk detail tentang kemungkinan diagnosis. Informasi ini akan melatih lebih lanjut LLM dan meningkatkan kemungkinan memberikan jawaban yang akurat untuk pertanyaan medis.

Lembaga keuangan dapat menggunakan instruction fine-tuning untuk meningkatkan akurasi sistem deteksi penipuan mereka. Dengan melatih LLM pada data historis transaksi penipuan dan non-penipuan, lembaga dapat meningkatkan kemampuannya untuk mengidentifikasi aktivitas penipuan. Hal ini membantu lembaga mengurangi kerugian keuangan dan melindungi pelanggannya dari penipuan.

Perusahaan manufaktur dapat menggunakan instruction fine-tuning untuk mengoptimalkan proses produksinya. Dengan melatih LLM pada data tentang proses produksi, perusahaan dapat mengidentifikasi inefisiensi dan meningkatkan efisiensi secara keseluruhan. Hal ini membantu perusahaan mengurangi biaya dan meningkatkan produktivitas.

Meskipun instruction fine-tuning adalah teknik yang ampuh, itu juga bisa memakan waktu. Untuk membuat data yang dibutuhkan untuk melatih model, beberapa perusahaan mungkin memilih untuk menggunakan LLM untuk menghasilkan data itu sendiri. Proses ini disebut pembuatan data sintetis dan dapat secara efektif mengurangi biaya dan upaya yang terkait dengan instruction fine-tuning.

Menemukan Pendekatan yang Tepat untuk LLM

Saat organisasi menggali lebih dalam LLM dan aplikasi generative AI, mereka tidak harus memilih antara pendekatan ini, tetapi harus mengadopsinya dalam berbagai kombinasi tergantung pada kasus penggunaannya.

Ramakrishnan percaya bahwa “prompting adalah yang termudah dalam hal upaya, diikuti oleh RAG, dan kemudian instruction fine-tuning. Semakin banyak upaya yang Anda lakukan, semakin besar pula imbalannya.”

Dengan mengevaluasi dengan cermat kebutuhan mereka dan memilih pendekatan LLM yang paling tepat atau kombinasi pendekatan, perusahaan dapat membuka potensi penuh dari teknologi yang ampuh ini dan mendorong inovasi, meningkatkan efisiensi, dan memperbaiki pengambilan keputusan. Saat LLM terus berkembang, perusahaan harus tetap mengikuti perkembangan terbaru dan bereksperimen dengan teknik baru untuk memanfaatkan sepenuhnya manfaat dari teknologi terobosan ini.