Prompting dasar & parameter model

Prompting bukan mantra ajaib — ia cara terstruktur memberi model instruksi, konteks, dan batasan yang jelas. Materi ini peta parameter dan pola dasar yang dipakai di hampir semua panggilan API.

Anatomi satu panggilan

Hampir setiap panggilan ke LLM API punya tiga bagian yang bisa kamu atur: system prompt (instruksi peran & aturan main, berlaku sepanjang percakapan), messages (riwayat percakapan, bergantian user/assistant), dan parameter (temperature, max_tokens, dst).

import anthropic

client = anthropic.Anthropic()  # baca ANTHROPIC_API_KEY dari environment

response = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=1024,
    system="Kamu adalah asisten customer service toko online. Jawab singkat, ramah, "
           "dan selalu dalam Bahasa Indonesia. Kalau tidak yakin, katakan tidak tahu.",
    messages=[
        {"role": "user", "content": "Berapa lama pengiriman ke Surabaya?"}
    ],
)
print(response.content[0].text)

Parameter yang paling sering diatur

Pola prompt yang benar-benar bekerja

1. Beri peran & konteks di system prompt — "Kamu adalah..." lebih efektif daripada mengulang instruksi di setiap pesan user.
2. Spesifik soal format output — "jawab dalam 3 poin" jauh lebih andal daripada "jawab singkat".
3. Beri contoh (few-shot) saat formatnya rumit atau butuh konsistensi tinggi — satu-dua contoh input→output sering lebih efektif daripada penjelasan panjang.
4. Pisahkan instruksi dari data — gunakan delimiter jelas (XML tag, misalnya) supaya model tidak bingung mana instruksi mana teks yang diproses.

system_prompt = """Kamu mengekstrak data pesanan dari email pelanggan.
Jawab HANYA dengan JSON, tanpa penjelasan tambahan, dengan skema:
{"nama": string, "produk": string, "jumlah": number}

Contoh:
Input: "Halo, saya Budi mau pesan 3 kaos ukuran L"
Output: {"nama": "Budi", "produk": "kaos ukuran L", "jumlah": 3}
"""

response = client.messages.create(
    model="claude-sonnet-4-5",
    max_tokens=200,
    temperature=0,  # butuh output konsisten, bukan kreatif
    system=system_prompt,
    messages=[{"role": "user", "content": "Halo min, Ani pesan 2 tas ransel ya"}],
)