Agentic Workflows: Mengapa Compound AI Systems Menggeser Prompt Engineering Masa Depan

Saat ini pengembangan aplikasi berbasis LLM (Large Language Model) sedang mengalami pergeseran paradigma. Mengandalkan satu prompt yang sangat panjang dan detail (single-shot prompt engineering) sering kali menghasilkan output yang tidak konsisten saat dijalankan di tingkat production.

Pendekatan modern beralih ke Compound AI Systems yang memanfaatkan Agentic Workflows. Dibandingkan menuntut LLM menyelesaikan tugas kompleks dalam satu kali panggil, sistem ini membagi pekerjaan ke dalam loop iteratif.

Batasan Utama Prompt Engineering Single-Shot

Saat membangun sistem berbasis AI untuk skala produksi, developer dan product team sering menghadapi beberapa masalah utama pada prompt tunggal:

• Variansi Output Tinggi: Hasil jawaban bervariasi meski input yang diberikan sama.
• Kapasitas Konteks Terbatas: LLM cenderung kehilangan detail pada instruksi yang terlalu panjang.
• Sulit Diuji dan Di-debug: Mengoptimalkan satu prompt raksasa sering kali merusak kasus penggunaan lainnya.

Apa Itu Agentic Workflows?

Agentic Workflows adalah alur kerja tempat LLM diposisikan sebagai agen yang mengeksekusi tugas secara bertahap menggunakan loop iteratif. Sistem ini tidak langsung mengembalikan respons pertama, melainkan memeriksa dan memperbaiki jawabannya sendiri sebelum memberikan hasil akhir.

1. Planning (Perencanaan)

Agen memecah tugas besar menjadi beberapa sub-tugas yang lebih kecil dan terukur sebelum mulai mengeksekusi.

2. Reflection (Evaluasi Diri)

Agen memeriksa kembali hasil pekerjaannya terhadap kriteria atau batasan yang ditentukan.

3. Self-Correction (Koreksi Otomatis)

Jika ditemukan kesalahan atau kekurangan pada tahap evaluasi, agen melakukan perbaikan secara mandiri.

Metrik Kualitas: Zero-Shot vs Agentic Loop

Berdasarkan riset dan praktik industri, model yang lebih kecil (seperti GPT-3.5 atau LLaMA 3 8B) yang dijalankan dalam agentic loop sering kali mampu melampaui performa model terbesar (seperti GPT-4) yang hanya diberi satu prompt tunggal.

Metrik utama yang mengalami peningkatan signifikan meliputi:

• Akurasi Kode (Pass@1 Rate): Peningkatan dramatis saat sistem diizinkan menjalankan unit test dan memperbaiki error secara otomatis.
• Konsistensi Format: Output JSON atau struktur data jauh lebih stabil karena adanya tahap validasi terpisah.
• Tingkat Halusinasi: Berkurang karena setiap fakta diperiksa melalui instrumen eksternal atau validasi logika.

Contoh Sederhana Logic Agentic Loop (Python)

Berikut adalah gambaran sederhana pola evaluasi dan koreksi otomatis pada penulisan kode atau data format:

def generate_code_with_retry(prompt, max_retries=3):
    code = llm_generate(prompt)
    for attempt in range(max_retries):
        is_valid, error_msg = validate_code(code)
        if is_valid:
            return code
        reflection_prompt = f"Kode berikut menghasilkan error: {error_msg}. Perbaiki kode ini: {code}"
        code = llm_generate(reflection_prompt)
    return code

Checklist Implementasi untuk Product Team

• Identifikasi alur kerja kompleks yang sering gagal jika menggunakan satu prompt.
• Bagi alur kerja menjadi komponen terpisah: Generator, Evaluator, dan Executor.
• Gunakan model yang lebih cepat dan murah untuk tugas evaluasi rutin.
• Tetapkan batasan maksimal iterasi (max retries) untuk menghindari infinite loop dan pembengkakan biaya API.
• Sediakan tools eksternal (linter, compiler, atau database checker) sebagai penentu kebenaran output.