Fase 7 · Capstone: RAG Chatbot

Amazon Bedrock Samples

Kumpulan notebook AWS yang mendemonstrasikan tiap fitur Bedrock — jembatan dari capstone ke persiapan sertifikasi.

Sumber asli aws-samples.github.io Resmi Rangkuman ~4 menit baca

Intisari

Notebook resmi AWS yang mencakup hampir semua fitur Bedrock, dengan kode yang bisa dijalankan.
Yang paling relevan: Converse API, Knowledge Bases, Agents, Guardrails, Evaluation.
Menjalankannya butuh akun AWS, izin IAM, dan model access yang sudah diminta.
Perhatikan bagian setup infrastruktur — di situlah pengetahuan yang diuji sertifikasi berada.
Pakai untuk memetakan capstone buatanmu ke padanan AWS-nya, satu komponen per komponen.

Isi repositorinya

Area	Isinya	Prioritas
Converse API	Panggilan dasar, streaming, tool use, dokumen	✅ Tinggi
Knowledge Bases	Setup, ingest, retrieval, filter metadata, evaluasi	✅ Tinggi
Agents	Action group, skema OpenAPI, orkestrasi	✅ Tinggi
Guardrails	Filter konten, PII, topik terlarang, grounding	✅ Tinggi
Model Evaluation	Bandingkan model pada dataset	⚠️ Sedang
Prompt Management	Versi dan katalog prompt	⚠️ Sedang
Batch Inference	Volume besar, biaya lebih rendah	⚠️ Sedang
Fine-tuning / Custom Model	Melatih model kustom	❌ Lewati
Provisioned Throughput	Kapasitas terdedikasi	❌ Baca konsepnya saja

Prasyarat

Akun AWS dengan akses Bedrock
Model access sudah diminta lewat konsol — per model, per region
Kredensial AWS terkonfigurasi (aws configure atau IAM role)
Region yang mendukung Bedrock (us-east-1 paling lengkap)

Hambatan pertama hampir selalu model access. Bukan IAM. Kamu harus meminta akses per model di konsol Bedrock, dan itu terpisah dari izin IAM. Gejalanya: AccessDeniedException meski policy-mu sudah benar.

git clone https://github.com/aws-samples/amazon-bedrock-samples
cd amazon-bedrock-samples

uv init
uv add boto3 jupyter
uv run jupyter lab

aws sts get-caller-identity                   # cek kredensial
aws bedrock list-foundation-models --region us-east-1

Urutan yang disarankan

1. Converse API

Mulai di sini. Kamu sudah paham konsepnya dari Fase 4 — yang baru hanya nama field dan cara AWS membungkusnya. Fokus pada: tool use, streaming, dan additionalModelRequestFields.

2. Knowledge Bases

Setelah capstone-mu jalan. Bandingkan langsung dengan pipeline buatanmu: apa yang sama, apa yang berbeda, dan keputusan apa yang diambilkan untukmu. Perhatikan setup infrastrukturnya (bucket S3, koleksi OpenSearch, IAM role) — bagian itulah yang diuji.

3. Guardrails

Konsep yang belum kamu bangun sendiri. Perhatikan: filter konten, deteksi PII, topik terlarang, dan contextual grounding check yang memeriksa apakah jawaban benar-benar didukung dokumen sumber.

4. Agents

Versi terkelola dari loop tool_use yang kamu tulis di Fase 4. Konsep kunci: action group, skema OpenAPI, session state, dan prompt orkestrasi.

Memetakan capstone ke AWS

Komponen capstone	Padanan AWS	Yang perlu dipelajari
Ingest dari folder	S3 + KB data source	Struktur bucket, sinkronisasi
Fungsi chunking	Chunking strategy	Kapan pilih yang mana
Panggilan embedding	Bedrock embeddings model	Dimensi, dukungan bahasa
ChromaDB	OpenSearch Serverless	Setup koleksi, biaya
Fungsi retrieval	`Retrieve` API	Filter, tipe pencarian
Loop tool	Bedrock Agents	Action group, OpenAPI
Validasi input/output	Guardrails	Jenis filter, grounding check
Endpoint FastAPI	Lambda + API Gateway	Deploy container image
Riwayat SQLite	DynamoDB	Desain tabel, TTL
Perhitungan biaya	CloudWatch metrics	Metrik apa yang tersedia

Tabel ini adalah rencana belajar AWS-mu. Kamu sudah membangun kolom kiri, jadi kamu tahu persis masalah apa yang diselesaikan tiap baris. Belajar kolom kanan jadi soal memetakan pengetahuan yang sudah ada ke nama layanan — jauh lebih cepat daripada mempelajari keduanya sekaligus.

Hati-hati dengan biaya

Sebagian notebook membuat infrastruktur yang ditagih per jam. OpenSearch Serverless punya biaya minimum yang bisa terasa mahal kalau dibiarkan menyala berhari-hari. Selalu:

Jalankan sel cleanup di akhir notebook
Pasang AWS Budgets dengan notifikasi
Periksa Cost Explorer setelah eksperimen
Hapus koleksi OpenSearch yang tidak lagi dipakai

Setelah ini

Menyelesaikan capstone Fase 7 dan memahami notebook di atas berarti kamu sudah menguasai Domain 1 dan 2 sertifikasi AWS Certified Generative AI Developer – Professional (AIP-C01) — yang bersama-sama menyumbang bagian terbesar bobot ujian.

Yang tersisa untuk dipelajari terpisah:

Serverless — Lambda, API Gateway, Step Functions
IAM — policy, role, trust relationship
IaC — CloudFormation atau CDK
Observability — CloudWatch, X-Ray
Keamanan — VPC endpoint, KMS, Secrets Manager

Itulah isi roadmap berikutnya. Python yang kamu bangun di sini akan jadi bahasa kerja untuk semuanya.

Rangkuman ini sengaja dipangkas ke bagian yang dipakai di roadmap. Buka sumber aslinya saat kamu butuh detail lengkap atau referensi parameter.