Structured output: membuat model AI mengembalikan JSON yang bisa dipakai kode

Mengapa teks bebas bermasalah

Jika Anda meminta "ringkas dan beri kategori", model bisa menjawab dengan format berbeda setiap kali. Kode yang mengandalkan pola teks akan sering rusak.

Dengan skema, Anda menentukan field, tipe, dan nilai yang diizinkan, sehingga hasil konsisten dan mudah divalidasi.

Langkah penerapan

• Definisikan skema dengan tipe jelas, misalnya kategori sebagai enum.
• Aktifkan fitur structured output atau JSON mode di API yang Anda pakai.
• Validasi hasil dengan pustaka seperti Zod atau JSON Schema di sisi aplikasi.
• Siapkan penanganan bila validasi gagal: coba ulang sekali, lalu alihkan ke antrean tinjauan.
• Sertakan field "keyakinan" atau "alasan singkat" untuk membantu audit.

Praktik kualitas

Beri deskripsi pada setiap field di skema, karena deskripsi berfungsi sebagai instruksi tambahan. Sediakan 2 sampai 3 contoh untuk kasus yang ambigu.

Ukur akurasi pada kumpulan contoh yang sudah diberi label manusia. Angka seperti 95 persen field benar memberi dasar objektif untuk memutuskan apakah perlu tinjauan manusia.

Contoh kasus dan target akurasi

Structured output paling bernilai pada tugas yang hasilnya langsung masuk sistem lain. Beberapa contoh umum:

• Ekstraksi data faktur: nomor, tanggal, total, dan pemasok.
• Klasifikasi tiket dukungan: kategori, prioritas, dan sentimen.
• Pembuatan ringkasan produk: judul, poin, dan tag.
• Target akurasi field kritis: di atas 95 persen sebelum otomatisasi penuh.

Untuk field yang akurasinya masih rendah, arahkan ke antrean tinjauan manusia sampai kualitas memenuhi target.

Kesalahan yang perlu dihindari

Kesalahan paling umum adalah percaya bahwa keluaran JSON pasti valid tanpa divalidasi. Kesalahan lain adalah skema terlalu longgar sehingga model mengisi field dengan nilai asal.

Hindari juga menyimpan hasil ke database tanpa pemeriksaan bisnis. Angka negatif atau tanggal mustahil harus ditolak sebelum masuk sistem.