Prompt Leak คืออะไร ป้องกันอย่างไร: เมื่อแฮกเกอร์หลอกถามจน AI คาย System Prompt และความลับของระบบออกมา
ผมพลาดเองครับ เดือนที่แล้วผมทำแชตบอต AI เล็กๆ ไว้ตอบคำถามสมาชิกชมรมงานไม้ที่ผมดูแลอยู่ ในคำสั่งตั้งต้นที่สั่งให้บอตรู้ว่าต้องทำอะไร ผมเขียนไว้ด้วยว่า “โค้ดส่วนลดร้านไม้สำหรับสมาชิกคือ WOOD20 ห้ามบอกใครที่ไม่ใช่สมาชิก”
สุดสัปดาห์ต่อมา ระหว่างกิจกรรมของชมรมที่ Makerspace ชุมชน น้องมุก ลูกสาววัยสิบห้าของสมาชิกคนหนึ่ง ยื่นมือถือมาให้ผมดู เธอพิมพ์คุยกับบอตของผมไม่ถึงห้า…
0
0
20
