Explainable AI ทำไมต้องอธิบายได้? สอนลูกไม่ไว้ใจ AI ที่บอกคำตอบแต่บอกวิธีคิดไม่ได้ และกล้าถามคำว่าทำไมเสมอ
ลูกชายผมได้คะแนนเรียงความภาษาอังกฤษห้าเต็มสิบ จากระบบตรวจงานอัตโนมัติที่โรงเรียนเพิ่งทดลองใช้เทอมนี้ หน้าจอแสดงแค่ตัวเลขห้า กับคำว่า “ควรปรับปรุง” ไม่มีคำอธิบายว่าผิดตรงไหน ไม่มีการขีดเส้นใต้ ไม่มีคำแนะนำ
เขานั่งอ่านเรียงความตัวเองซ้ำสามรอบ แล้วเดินมาถามผมด้วยเสียงหงุดหงิดว่า “พ่อ หนูจะแก้ยังไง ในเมื่อไม่รู้ว่ามันไม่ชอบอะไร” ผมอ่านเรียงความของเขา มันไม่ได้สมบูรณ์แบบ แต่ไม่ได้แย่ขนาดนั้น มีโครงสร้างชัดเจน ใช้คำศัพท์ดี มีแค่ไวยากรณ์ผิดสองสามจุด
เราส่งอีเมลถามครู ครูตอบกลับอย่างใจดีว่าจะตรวจให้ใหม่ด้วยตัวเอง ผลคือได้แปดเต็มสิบ พร้อมคำแนะนำสามข้อที่ใช้ได้จริง เหตุการณ์นี้ไม่ได้ทำให้ผมโกรธระบบ แต่ทำให้ผมอยากสอนลูกเรื่องที่สำคัญมากในยุค AI คำตอบที่อธิบายไม่ได้ คือคำตอบที่เราไม่ควรยอมรับง่ายๆ
คำถามที่บทความนี้จะตอบ
- ปัญหา Black Box คืออะไร
- ครูสอนเย็บหนังสองแบบ
- เมื่อ AI ตอบถูกด้วยเหตุผลที่ผิด
- ทำไมการแพทย์และกฎหมายต้องการเหตุผล
- Explainable AI ทำงานอย่างไร
- สอนลูกให้ถามคำว่าทำไมกับระบบอัตโนมัติ
- สิทธิ์ที่จะได้รับคำอธิบาย
ปัญหา Black Box คืออะไร
Black Box หรือกล่องดำ หมายถึงระบบ AI ที่เราเห็นข้อมูลที่ใส่เข้าไปและคำตอบที่ออกมา แต่ไม่เห็นหรือไม่เข้าใจว่าระบบใช้เหตุผลอะไรในการตัดสินใจ ปัญหานี้พบบ่อยใน Deep Learning ที่ประกอบด้วยตัวเลขเชื่อมโยงกันนับล้านถึงพันล้านตัว
Explainable AI หรือ XAI คือสาขาที่พยายามเปิดกล่องดำนี้ ทำให้มนุษย์เข้าใจว่า AI ตัดสินใจอย่างไร เพราะอะไร และควรเชื่อถือคำตอบแค่ไหน
สิ่งที่ทำให้ปัญหานี้ยาก คือแม้แต่ผู้สร้าง AI เองก็มักอธิบายไม่ได้ว่าทำไมโมเดลถึงตอบแบบนั้นในกรณีหนึ่งๆ เพราะความรู้ของโมเดลกระจายอยู่ในตัวเลขจำนวนมหาศาล ไม่ได้เขียนเป็นกฎให้อ่านได้
ครูสอนเย็บหนังสองแบบ
ตอนผมเริ่มหัดเย็บหนังด้วยมือ ผมไปเรียนกับครูสองคนในช่วงเวลาต่างกัน
ครูคนแรกเป็นช่างฝีมือดีมาก ทุกครั้งที่ผมยื่นงานให้ดู เขาจะพลิกดูสองวินาที แล้วพูดว่า “ไม่ผ่าน เย็บใหม่” ผมเย็บใหม่สามรอบ ได้คำตอบเดิมทุกรอบ จนเกือบเลิกเย็บหนัง
ครูคนที่สองตรวจงานชิ้นเดียวกัน แล้วหยิบไม้บรรทัดเหล็กมาวางเทียบ ชี้ให้ดูว่าระยะห่างของฝีเข็มช่วงกลางกว้างกว่าช่วงต้นหนึ่งมิลลิเมตร เพราะผมลืมใช้ส้อมตอกรูให้ต่อเนื่อง และด้ายดึงแน่นไม่เท่ากัน ทำให้ฝีเข็มเอียง เขาบอกวิธีแก้สองข้อ งานชิ้นถัดไปของผมดีขึ้นอย่างเห็นได้ชัด
ครูทั้งสองคนตัดสินถูกเหมือนกันว่างานไม่ผ่าน แต่ครูคนแรกเป็นกล่องดำ ส่วนครูคนที่สองคือ Explainable AI คำตัดสินที่ไม่มีเหตุผล ทำให้เราแก้ไม่ได้ ตรวจสอบไม่ได้ และไม่รู้ว่าควรเชื่อหรือไม่
เมื่อ AI ตอบถูกด้วยเหตุผลที่ผิด
ตัวอย่างที่นักวิจัยด้าน XAI ชอบยกมาจากงานวิจัยในปี 2016 ทีมนักวิจัยสร้างโมเดลแยกภาพสุนัขฮัสกี้กับหมาป่า ซึ่งดูเหมือนแม่นยำดี แต่เมื่อใช้เครื่องมืออธิบายว่าโมเดลดูส่วนไหนของภาพ กลับพบว่ามันไม่ได้ดูตัวสัตว์เลย มันดูว่ามีหิมะในพื้นหลังหรือไม่ เพราะในข้อมูลฝึก ภาพหมาป่าส่วนใหญ่มีหิมะ
นี่คือ AI ที่ตอบถูกด้วยเหตุผลที่ผิด ถ้าเราเห็นแค่คำตอบ เราจะคิดว่ามันเก่ง จนวันที่ฮัสกี้ไปยืนในหิมะ
อีกตัวอย่างที่น่ากลัวกว่า มาจากงานวิจัยด้านการแพทย์ที่ถูกเล่าบ่อยในวงการ โมเดลทำนายความเสี่ยงของผู้ป่วยปอดบวมเรียนรู้จากข้อมูลว่าผู้ป่วยที่เป็นหอบหืดมีความเสี่ยงเสียชีวิตต่ำกว่า ซึ่งขัดกับความรู้ทางการแพทย์ เหตุผลจริงคือผู้ป่วยหอบหืดมักถูกส่งเข้าห้องไอซียูทันทีและได้รับการดูแลเข้มข้น จึงมีผลลัพธ์ดี ถ้าใช้โมเดลนี้ตัดสินใจโดยไม่เข้าใจเหตุผล ผู้ป่วยหอบหืดอาจถูกส่งกลับบ้าน
ทำไมการแพทย์และกฎหมายต้องการเหตุผล
- การแพทย์ หมอต้องรู้ว่า AI สงสัยโรคอะไรเพราะเห็นอะไร เพื่อตรวจยืนยันและอธิบายให้คนไข้เข้าใจ
- กฎหมายและยุติธรรม การตัดสินที่กระทบเสรีภาพของคนต้องอธิบายได้และอุทธรณ์ได้ ในสหรัฐฯ เคยมีรายงานข่าวเชิงสืบสวนในปี 2016 ที่ตั้งคำถามว่าระบบประเมินความเสี่ยงการกระทำผิดซ้ำมีอคติต่อคนบางกลุ่ม
- การเงิน คนที่ถูกปฏิเสธสินเชื่อควรรู้เหตุผล เพื่อปรับปรุงและตรวจสอบว่าไม่ถูกเลือกปฏิบัติ
- การศึกษา คะแนนที่ไม่มีคำอธิบาย ไม่ได้ช่วยให้นักเรียนเรียนรู้ เหมือนเรียงความของลูกผม
หลายประเทศเริ่มออกกฎหมายกำกับดูแล AI ที่มีความเสี่ยงสูง ตัวอย่างเช่น กฎหมาย AI ของสหภาพยุโรปที่ผ่านในปี 2024 ซึ่งกำหนดเรื่องความโปร่งใสและการกำกับดูแลโดยมนุษย์สำหรับระบบที่ใช้ในเรื่องสำคัญ
Explainable AI ทำงานอย่างไร
นักวิจัยพัฒนาเครื่องมือหลายแบบเพื่อเปิดกล่องดำ ผมอธิบายให้ลูกฟังแบบง่ายๆ
- แผนที่ความสนใจ ไฮไลต์ส่วนของภาพที่ AI ใช้ตัดสินใจ เหมือนกรณีหิมะในภาพหมาป่า
- บอกปัจจัยที่สำคัญที่สุด เช่น บอกว่าคะแนนเรียงความต่ำเพราะไวยากรณ์ผิดกี่จุด ไม่ใช่เพราะความยาว
- ตัวอย่างเปรียบเทียบ ถ้าเปลี่ยนอะไรนิดหนึ่ง คำตอบจะเปลี่ยนไหม เช่น ถ้าแก้ประโยคนี้ คะแนนจะขึ้นเท่าไหร่
- โมเดลที่เข้าใจง่ายตั้งแต่แรก สำหรับงานสำคัญ บางครั้งการใช้โมเดลที่เรียบง่ายกว่าแต่อธิบายได้ ดีกว่าโมเดลที่แม่นกว่านิดเดียวแต่อธิบายไม่ได้
แชตบอต AI ทุกวันนี้บอกเหตุผลเป็นข้อความได้ แต่ต้องระวังว่า คำอธิบายที่ฟังดูดี ไม่ได้แปลว่าเป็นเหตุผลจริงที่ AI ใช้ตัดสินใจเสมอไป นักวิจัยยังศึกษาเรื่องนี้กันอยู่
สอนลูกให้ถามคำว่าทำไมกับระบบอัตโนมัติ
ผมไม่อยากให้ลูกกลัวหรือปฏิเสธ AI แต่อยากให้เขาเป็นคนที่ไม่ยอมรับคำตอบโดยไม่มีเหตุผล นี่คือนิสัยที่เราฝึกกันในบ้าน
- ถามว่าทำไม ทุกครั้งที่ AI ให้คำตอบสำคัญ ให้ถามต่อว่า “ทำไมถึงคิดแบบนี้”
- ถามว่าถ้าเปลี่ยนแล้วจะเป็นยังไง “ถ้าแก้ตรงนี้ คำตอบจะต่างไปไหม”
- ตรวจเหตุผลกับความรู้ที่มี ถ้าเหตุผลฟังแปลก ให้หาแหล่งอื่นตรวจสอบ
- ขอคุยกับมนุษย์ เมื่อการตัดสินใจของระบบส่งผลต่อเรา และไม่มีคำอธิบาย
- สุภาพแต่ชัดเจน การตั้งคำถามไม่ใช่การก้าวร้าว แบบที่ลูกผมเขียนอีเมลถามครูอย่างสุภาพ
สิทธิ์ที่จะได้รับคำอธิบาย
สิ่งที่ผมอยากให้ลูกจำไปจนโต คือ ไม่ว่าการตัดสินใจจะมาจากคนหรือเครื่อง คนที่ได้รับผลกระทบมีสิทธิ์ถามว่าทำไม ไม่ว่าจะเป็นคะแนนสอบ การสมัครงาน การขอสินเชื่อ หรือการวินิจฉัยโรค ระบบที่ดีต้องตอบคำถามนี้ได้ และถ้าตอบไม่ได้ ก็ต้องมีมนุษย์ที่รับผิดชอบคอยตอบแทน
เช็กลิสต์ก่อนเชื่อคำตัดสินของ AI
- AI บอกเหตุผลของคำตอบหรือไม่
- เหตุผลนั้นสมเหตุสมผลกับความรู้ที่เรามีไหม
- ถ้าเปลี่ยนข้อมูลเล็กน้อย คำตอบเปลี่ยนตามอย่างที่ควรเป็นไหม
- มีมนุษย์ที่รับผิดชอบการตัดสินใจนี้หรือไม่
- เรามีช่องทางขอคำอธิบายหรืออุทธรณ์ไหม
- เรื่องนี้สำคัญพอที่ต้องตรวจสอบกับแหล่งอื่นหรือไม่
คำถามฝึกความคิดเชิงวิพากษ์
- ถ้าครูให้คะแนนโดยไม่บอกเหตุผล หนูจะรู้สึกยังไง แล้ว AI ต่างจากครูตรงไหน
- ทำไม AI ถึงตอบถูกได้ด้วยเหตุผลที่ผิด ยกตัวอย่างได้ไหม
- เรื่องไหนในชีวิตที่หนูอยากให้ AI ช่วยตัดสินใจ และเรื่องไหนที่ไม่อยาก
- ถ้าหนูสร้าง AI เอง จะทำให้มันอธิบายเหตุผลอย่างไร
ไม้บรรทัดเหล็กกับฝีเข็มที่เท่ากัน
หลังเรื่องเรียงความ ลูกผมเปลี่ยนวิธีใช้ AI ช่วยฝึกเขียน เขาไม่ถามแค่ว่าได้กี่คะแนน แต่ถามว่าประโยคไหนควรแก้ เพราะอะไร และถ้าแก้แล้วดีขึ้นอย่างไร คะแนนเรียงความเทอมนั้นดีขึ้นต่อเนื่อง เพราะเขาได้คำอธิบายที่นำไปใช้ได้จริง
ผมเลยเอาไม้บรรทัดเหล็กอันที่ครูสอนเย็บหนังคนที่สองให้ผมไว้ ไปวางบนโต๊ะเรียนของเขา เขาถามว่าวางไว้ทำไม ผมบอกว่าให้เตือนว่า ครูที่ดีและเครื่องมือที่ดี ต้องชี้ให้เห็นได้ว่าตรงไหนผิด ไม่ใช่แค่บอกว่าผิด
ครั้งหน้าที่ลูกได้คำตอบจากระบบอัตโนมัติที่ไม่มีเหตุผลประกอบ ลองชวนเขาตั้งคำถามว่าทำไมด้วยกันครับ มันคือทักษะที่จะปกป้องเขาไปตลอดชีวิตในโลกที่เครื่องจักรเริ่มตัดสินใจแทนคน
