Fine-tuning, RAG, atau prompting: memilih cara menyesuaikan AI

Prompting: cara tercepat dan termurah

Prompting berarti memperbaiki instruksi, menambahkan contoh, dan menetapkan format keluaran. Tidak ada pelatihan, tidak ada infrastruktur tambahan, dan perubahan bisa diuji dalam hitungan menit.

Untuk banyak kebutuhan, seperti gaya penulisan atau format jawaban, prompt yang baik sudah memberi hasil memuaskan. Karena itu langkah ini selalu layak dicoba pertama kali.

RAG: menambahkan pengetahuan

RAG cocok bila masalahnya adalah model tidak tahu informasi tertentu, misalnya produk, kebijakan, atau dokumen internal Anda. Sistem mencari bahan yang relevan lalu memberikannya kepada model saat menjawab.

Keunggulannya, informasi mudah diperbarui dan jawaban dapat menyertakan sumber. Kekurangannya, kualitas bergantung pada pencarian dan kerapian dokumen.

Fine-tuning: mengubah perilaku model

Fine-tuning melatih ulang model dengan contoh khusus agar perilakunya berubah secara konsisten, misalnya mengikuti gaya tertentu atau format keluaran yang rumit. Ia berguna untuk tugas sempit yang dilakukan dalam skala besar.

Namun fine-tuning membutuhkan data berkualitas, biaya, dan pemeliharaan, serta kurang cocok untuk menambahkan fakta yang sering berubah.

Tabel keputusan sederhana

Pertanyaan berikut membantu Anda memilih:

• Model belum mengikuti gaya atau format? Mulai dengan prompting.
• Model tidak tahu data Anda? Gunakan RAG.
• Perlu perilaku sangat konsisten pada tugas sempit berskala besar? Pertimbangkan fine-tuning.
• Ingin biaya per permintaan lebih rendah dengan model kecil? Fine-tuning bisa membantu.

Menggabungkan ketiganya

Pendekatan ini tidak saling meniadakan. Sistem yang matang sering memakai prompt yang baik, RAG untuk pengetahuan, dan sesekali fine-tuning untuk bagian tertentu. Yang penting, setiap lapisan ditambahkan karena ada masalah yang terukur, bukan karena terdengar canggih.

Ukur dulu kekurangan sistem Anda dengan contoh uji, lalu pilih penyesuaian yang menyasar kekurangan itu.

Kesalahan yang perlu dihindari

Kesalahan umum adalah melompat ke fine-tuning karena mengira itu cara 'serius' membuat AI pintar, padahal masalahnya hanya instruksi yang kurang jelas. Kesalahan lain adalah mengabaikan kualitas data, karena data pelatihan yang berantakan menghasilkan model yang berantakan.

Selalu sediakan kumpulan evaluasi sebelum dan sesudah perubahan agar Anda tahu apakah usaha yang dikeluarkan benar-benar menghasilkan perbaikan.