Studi kasus — 02
Model keamanan siber ±30M parameter yang dilatih dari nol; hanya menjawab dari korpusnya sendiri dan jujur saat tidak ada dukungan.
Chatbot keamanan kecil sering menjawab dengan yakin dari ingatannya. Untuk belajar bug bounty, jawaban yang salah lebih mahal daripada tidak menjawab, jadi model harus berpijak pada korpus dan jujur tentang celahnya.
Tokenizer byte-level BPE berukuran 8.192 token dan transformer decoder-only, dijalankan lewat pre-training, supervised fine-tuning, dan DPO dalam satu notebook Colab.
BM25 atas potongan per bagian menyediakan jawaban. Setiap jawaban mencantumkan sumbernya; pertanyaan di luar korpus dijawab dengan "tidak tahu".
Loop ReAct dibungkus gerbang otorisasi dan log audit, dan setiap tindakan menunggu konfirmasi manual.
Pipeline berjalan dari ujung ke ujung dari satu notebook. Suite tes lulus 133 dari 133, dan model disajikan sebagai aplikasi Gradio di Hugging Face Space dengan kuantisasi int8 dan output streaming.