Menganalisis dan Memperbaiki
Buka di CMSEksekusi hanyalah separuh dari proses. Nilai sebenarnya dari simulasi datang dari analisis dan perbaikan yang terarah.
Memahami Evaluasi Kriteria
Di detail hasil simulasi, setiap langkah percakapan dievaluasi berdasarkan kriteria Anda.
Anda akan melihat hasil seperti:
- Matched: respons memenuhi kriteria
- Contradicted: respons bertentangan dengan maksud kriteria
- Unmentioned: respons tidak membahas poin yang diwajibkan
Gunakan hasil ini untuk mengetahui dengan tepat di mana kualitasnya menurun.
Langkah demi Langkah: Menganalisis Hasil
1) Buka detail hasil
- Buka Simulation → Scenarios lalu buka tab Results.
- Buka eksekusi tertentu.
- Bentangkan detail skenario dan langkahnya.
2) Periksa hasil kriteria
- Tinjau rasio kecocokan dan hasil di tingkat langkah.
- Baca kutipan dan catatan alasan jika tersedia.
- Identifikasi pola kegagalan yang berulang.
3) Prioritaskan perbaikan
Prioritaskan berdasarkan risiko bagi user:
- Kesalahan compliance atau kebijakan
- Panduan faktual yang salah
- Informasi penting untuk pengambilan keputusan yang terlewat
- Ketidakkonsistenan nada dan gaya
4) Terapkan perbaikan yang terarah
Berdasarkan jenis kegagalannya, perbarui:
- Instruksi perilaku persona
- Pengaturan dialog
- Cakupan dan kualitas resource
- Instruksi tool atau plugin
- Kualitas kriteria skenario itu sendiri
5) Jalankan ulang dan verifikasi
- Jalankan ulang skenario yang terdampak.
- Pastikan hasil kriteria membaik.
- Pantau progresnya di beberapa run.
Checklist Kesiapan Penggantian Model
Gunakan checklist ini sebelum mem-publish model baru:
| Pemeriksaan | Syarat lulus |
|---|---|
| Run baseline tersedia | Set skenario yang sama sudah dieksekusi pada model lama |
| Skenario kritis stabil | Tidak ada regresi kritis di kategori utama |
| Kualitas kriteria terjaga | Kualitas kecocokan tetap dapat diterima di seluruh langkah berisiko tinggi |
| Tinjauan kegagalan selesai | Setiap contradiction/unmentioned pada langkah kritis sudah ditinjau |
| Rencana aksi terdokumentasi | Setiap celah yang tersisa memiliki penanggung jawab dan tenggat waktu |
Jika salah satu syarat ini belum terpenuhi, biarkan model baru tetap di draft dan lanjutkan iterasi.
Siklus Perbaikan Berkelanjutan
Perlakukan simulasi sebagai siklus yang terus berjalan:
- Rancang skenario.
- Jalankan simulasi.
- Analisis hasilnya.
- Perbaiki konfigurasi.
- Jalankan ulang untuk verifikasi.
Siklus ini menjaga kualitas percakapan tetap kuat meskipun model, resource, dan otomatisasi Anda terus berkembang dari waktu ke waktu.
Halaman Terkait
Langkah berikutnya
- Menjalankan dan Memantau: jalankan ulang skenario Anda untuk memastikan perbaikan berhasil.
- Conversation Analysis: cari pola yang sama dalam percakapan nyata setelah agent live.