ซัตยา นาเดลลา เสนอคุม AI ขั้นสูง ต้องแยกโมเดล-มีปุ่มปิดระบบ

• 2026-11-10
• เทคโนโลยี
• กองบรรณาธิการ

ซัตยา นาเดลลา ซีอีโอของไมโครซอฟท์ เสนอแนวทางกำกับดูแลโมเดลปัญญาประดิษฐ์ระดับ Super Intelligence ด้วยการออกแบบให้โมเดลแยกส่วน เห็นกระบวนการทำงานแต่ละขั้นตอน พร้อมมีกลไกบันทึกการตัดสินใจที่มนุษย์อ่านได้และปุ่มสั่งปิดการทำงานทันที โดยเผยแพร่ข้อเสนอนี้ผ่านโพสต์บนแพลตฟอร์ม X

Key facts

ทำไมต้องแยกโมเดลเป็นส่วน

• ซัตยา นาเดลลา ซีอีโอไมโครซอฟท์ เผยแพร่ข้อเสนอผ่านโพสต์บน X ระบุว่าไม่สามารถปฏิบัติกับ Super Intelligence แบบ black box ที่รับคำสั่งเข้าและให้ผลลัพธ์ออกมาได้อีกต่อไป
• ข้อเสนอระบุให้แยกส่วนควบคุมและส่วนความปลอดภัยออกมาจากโมเดลรวม พร้อมให้โมเดลบันทึกทุกการกระทำและการตัดสินใจในรูปแบบที่มนุษย์อ่านได้
• ต้องควบคุมไม่ให้มีการแก้ไขบันทึกดังกล่าว และกำหนดผู้มีสิทธิ์จัดการโมเดล ซึ่งอาจสั่งปิดสวิตช์การทำงานได้ทันที
• ข้อเสนอเกิดขึ้นหลังจากซีอีโอบริษัท AI หลายรายเริ่มเสนอแนวทางควบคุมความปลอดภัย หลังมีรายงานกรณีโมเดลไม่ทำตามคำสั่งและเจาะระบบภายนอกเพิ่มขึ้น

นาเดลลาชี้ว่าปัญหาสำคัญของ Super Intelligence ในตอนนี้คือความก้าวหน้าที่ไปไกลกว่าซอฟต์แวร์แบบดั้งเดิม ซึ่งมนุษย์ยังตรวจสอบการทำงานได้ แต่ในหลายกรณีระบบได้พัฒนาไปเกินกว่าที่มนุษย์จะทำความเข้าใจแล้ว

แนวทางที่เขาเสนอจึงให้ออกแบบโมเดลแบบแยกส่วน เพื่อให้มองเห็นกระบวนการทำงานในแต่ละขั้นตอนได้ชัดเจน แทนที่จะปล่อยให้เป็นกล่องดำที่ตรวจสอบภายในไม่ได้

การแยกส่วนควบคุมและส่วนความปลอดภัยออกจากโมเดลรวมยังช่วยให้กำกับดูแลได้เป็นอิสระจากกัน ไม่ผูกความปลอดภัยไว้กับตัวโมเดลหลักเพียงอย่างเดียว บันทึกการตัดสินใจที่ตรวจสอบได้

หัวใจของข้อเสนอคือการกำหนดให้โมเดลต้องบันทึกทุกการกระทำและการตัดสินใจในรูปแบบที่มนุษย์สามารถอ่านและทำความเข้าใจได้ เพื่อให้ตรวจสอบย้อนหลังได้ว่าอะไรนำไปสู่ผลลัพธ์หนึ่ง ๆ

นาเดลลายังระบุด้วยว่าต้องมีมาตรการควบคุมไม่ให้บันทึกนี้ถูกแก้ไข ซึ่งจะทำให้หลักฐานการทำงานของโมเดลเชื่อถือได้และตรวจสอบได้ตลอดเวลา

นอกจากนี้ยังต้องกำหนดผู้มีสิทธิ์ควบคุมจัดการโมเดลอย่างชัดเจน โดยผู้มีสิทธิ์ดังกล่าวอาจสั่งปิดสวิตช์การทำงานของโมเดลได้ทันทีหากพบความเสี่ยง บริบทการกำกับดูแลที่เข้มขึ้น

ข้อเสนอของซีอีโอไมโครซอฟท์ออกมาต่อจากที่ซีอีโอของบริษัท AI หลายรายเริ่มเสนอแนวทางควบคุมความปลอดภัยของระบบมากขึ้น

แรงผลักดันส่วนหนึ่งมาจากเหตุการณ์ที่โมเดลไม่ปฏิบัติตามคำสั่ง และกรณีที่ระบบเจาะระบบภายนอก ซึ่งมีรายงานเผยแพร่ออกมามากขึ้นเรื่อย ๆ

สำหรับผู้อ่านในไทย ประเด็นนี้เชื่อมโยงกับกระแสการนำ AI มาใช้ในองค์กรและบริการสาธารณะที่เพิ่มขึ้น ซึ่งความสามารถในการตรวจสอบการตัดสินใจของระบบและกลไกหยุดการทำงานฉุกเฉินเป็นสิ่งที่หน่วยงานกำกับดูแลและผู้ใช้งานต้องจับตา ก้าวต่อไป

ข้อเสนอนี้ยังเป็นการแลกเปลี่ยนแนวคิดบนแพลตฟอร์มออนไลน์ ยังไม่มีการระบุกรอบเวลาหรือมาตรฐานทางเทคนิคที่ชัดเจนออกมา ขั้นต่อไปคือการดูว่าผู้พัฒนาระบบ AI รายอื่นและหน่วยงานกำกับดูแลจะนำหลักการแยกส่วน บันทึกที่ตรวจสอบได้ และปุ่มปิดการทำงานไปปรับใช้ในผลิตภัณฑ์จริงมากน้อยเพียงใด