RAG (Retrieval-Augmented Generation) คือการค้นเอกสารที่เกี่ยวข้องก่อน แล้วส่งเนื้อหานั้นให้โมเดลใช้เป็นฐานในการเรียบเรียงคำตอบ ผลที่ได้คือคำตอบที่อ้างอิงข้อมูลจริงขององค์กร ไม่ใช่ความจำของโมเดลตอนฝึก
พูดให้ตรง โมเดลไม่ได้ "รู้" เรื่องของคุณ แต่กำลังอ่านเอกสารที่ระบบหยิบมาวางให้
ลงแรงที่ชั้นค้นหามากกว่าที่ตัวโมเดล ใช้การค้นแบบผสมทั้งคำสำคัญและเวกเตอร์ แล้วจัดอันดับซ้ำด้วย reranker ก่อนส่งให้โมเดล
บังคับให้ทุกคำตอบแสดงที่มาเสมอ ถ้าอ้างอิงไม่ได้ ให้ตอบว่าไม่พบข้อมูล ดีกว่าตอบผิดอย่างมั่นใจ
และกรองสิทธิ์ตั้งแต่ตอนค้น ไม่ใช่ตอนแสดงผล
สร้างชุดคำถามจริงจากงานประจำวันสัก 50–100 ข้อพร้อมคำตอบที่ถูกต้อง แล้ววัดสองอย่างแยกกัน คือ "ค้นเจอเอกสารที่ถูกหรือไม่" กับ "เรียบเรียงถูกหรือไม่" เพราะสองอย่างนี้พังคนละแบบและแก้คนละวิธี
RAG ไม่ใช่สวิตช์ที่เปิดแล้วแม่นยำทันที คุณภาพคำตอบขึ้นกับความสะอาดของเอกสารและความแม่นของชั้นค้นหาเป็นหลัก เริ่มจากชุดเอกสารเดียวที่มีเจ้าของชัดเจน วัดผลด้วยคำถามจริง แล้วค่อยขยาย