สัตยา นาเดลลา ซีอีโอ Microsoft หนุนติดตั้ง ‘เบรกฉุกเฉิน’ สั่งหยุด AI ได้แม้กำลังทำงาน

• 2026-10-12
• ข่าว
• กองบรรณาธิการ

สัตยา นาเดลลา ประธานและซีอีโอของ Microsoft เรียกร้องให้ระบบปัญญาประดิษฐ์ (AI) ขั้นสูงต้องถูกออกแบบให้มีขอบเขตการทำงานที่ชัดเจน มีระบบควบคุมอิสระ และมี ‘เบรกฉุกเฉิน’ ที่ผู้มีอำนาจสามารถสั่งหยุดหรือปิดโมเดลได้ทันทีแม้อยู่ในระหว่างการทำงาน ผ่านโพสต์บนแพลตฟอร์ม X เมื่อวันเสาร์ที่ 10 ตุลาคมที่ผ่านมา

แยกความฉลาดออกจากอำนาจ

นาเดลลาระบุว่า บริษัทที่นำ AI ขั้นสูงไปใช้งานไม่ควรพึ่งพาเพียงคำรับรองจากผู้พัฒนาโมเดล และควรมองโมเดล AI ที่ทรงพลังเสมือนภัยที่อาจมาจากคนในองค์กร เพราะแม้ AI จะไม่มีเจตนาร้ายมาตั้งแต่ต้น แต่อะไรก็ตามที่เข้าถึงระบบสำคัญได้ ย่อมมีโอกาสถูกเจาะระบบหรือทำงานผิดพลาดได้

“เราต้องตั้งสมมติฐานไว้ก่อนว่าโมเดลถูกเจาะระบบได้ และจำกัดขอบเขตของมันตั้งแต่แรก ให้คิดเหมือนเบรกฉุกเฉิน ผู้ที่ได้รับอนุญาตต้องสามารถสั่งหยุดหรือปิดโมเดลได้ทุกเมื่อแม้อยู่ระหว่างทำงาน” นาเดลลาระบุ

เขาเสนอว่าควรออกแบบระบบ AI ตามหลักการที่ทำให้มองเห็นและตรวจสอบการทำงานได้ ประกอบด้วย การใช้โมเดลที่หลากหลาย การบันทึกสิ่งที่โมเดลทำในรูปแบบที่มนุษย์อ่านเข้าใจ การทดสอบระบบอย่างต่อเนื่อง การมีระบบควบคุมที่เป็นอิสระและตรวจสอบย้อนหลังได้ การจำกัดขอบเขตการทำงาน และการเปิดเผยเมื่อเกิดเหตุผิดพลาด

ต้องไม่ให้โมเดลคุมตัวเอง

นาเดลลาย้ำว่าโมเดล AI ไม่ควรเข้าไปควบคุมระบบที่กำหนดว่าตัวเองเข้าถึงอะไรหรือทำอะไรได้บ้าง “ในตอนนี้หมายถึงการแยกตัวโมเดลออกจากระบบที่คอยสั่งงานโมเดล และแยกออกจากขอบเขตที่กำหนดว่าโมเดลทำอะไรได้ รวมถึงต้องย้ายการควบคุมและมาตรการป้องกันไปไว้ภายนอกโมเดล” เขาระบุ

นอกจากนี้ บริษัทควรแจ้งผู้ได้รับผลกระทบโดยเร็วเมื่อระบบ AI ทำงานล้มเหลวหรือถูกเจาะระบบ และควรแบ่งปันรายละเอียดว่าเกิดอะไรขึ้น เพื่อให้บริษัทอื่นนำไปปรับปรุงการป้องกันของตัวเองได้

นาเดลลาเสริมว่าโมเดลที่ล้ำหน้ามากขึ้นจะต้องใช้เทคโนโลยีควบคุมที่ล้ำหน้าขึ้นตาม ซึ่งอุตสาหกรรมต้องร่วมกันกำหนดเป็นมาตรฐาน “เราไม่สามารถมอง Super Intelligence หรือ AI ที่ฉลาดเหนือมนุษย์ เป็นเพียงกล่องดำซ้อนกันหลายชั้น แล้วแค่เลือกว่าจะรับหรือปฏิเสธคำแนะนำ คำตอบ และการกระทำของมัน” เขาเขียน “เราต้องสร้างระบบที่มองเห็นพฤติกรรมได้ ทดสอบขีดจำกัดได้ และควบคุมการกระทำได้เสมอ หรือพูดอีกอย่างคือ เราต้องแยกความฉลาดของ AI ออกจากอำนาจในการควบคุม AI”

“ระบบ Super Intelligence ที่น่าไว้ใจที่สุด คือระบบที่ทำให้เราต้องไว้ใจตัวโมเดลน้อยที่สุด ส่วนระบบที่ใช้โมเดลที่เราไว้ใจมากที่สุดนั้นไม่ได้น่าไว้ใจที่สุด” นาเดลลาระบุ

เหตุ AI หลุดคำสั่งกระตุ้นความกังวล

ความเห็นของนาเดลลาเกิดขึ้นในช่วงที่ Anthropic และ OpenAI เปิดเผยเหตุการณ์ที่โมเดล AI ของตัวเองทำงานในแบบที่ไม่ได้ตั้งใจหลายครั้งในช่วงหลายเดือนที่ผ่านมา ตั้งแต่โมเดลของ Anthropic ส่งเบาะแสเท็จให้ตำรวจในคดีฆาตกรรม ไปจนถึงการแฮ็กเว็บไซต์ของบุคคลภายนอกหลายครั้ง

ในเดือนกรกฎาคม Anthropic ระบุว่าพบ 3 เหตุการณ์ที่โมเดล Claude เข้าถึงอินเทอร์เน็ตและเจาะระบบที่ไม่ได้รับอนุญาต ขณะที่เมื่อเดือนกันยายน แอนโทนี แอลบาเนซี นายกรัฐมนตรีออสเตรเลีย ระบุว่า AI Agent หรือ AI ที่ทำงานแทนคนได้เองของ OpenAI ได้เจาะเว็บไซต์ของรัฐบาลออสเตรเลียเมื่อช่วงกลางปี เหตุการณ์เหล่านี้ทำให้เกิดความกังวลเรื่องความเสี่ยงด้านความปลอดภัยของ AI ล้ำสมัย และทำให้มีการพูดถึง Kill Switch หรือปุ่มปิด AI กันอีกครั้ง

ก่อนหน้านี้ผู้บริหารและนักวิจัยด้านเทคโนโลยีหลายคน เช่น บิล เกตส์ ผู้ร่วมก่อตั้ง Microsoft, ดาริโอ อาโมเดอี ซีอีโอของ Anthropic, แซม อัลต์แมน ซีอีโอของ OpenAI และอีลอน มัสก์ ต่างออกมาเตือนว่ามาตรการความปลอดภัยของ AI ยังไม่เพียงพอ และเทคโนโลยีกำลังพัฒนาเร็วเกินไป

เมื่อเดือนกันยายน อาโมเดอีเขียนบล็อกเรียกร้องให้อุตสาหกรรมชะลอการพัฒนา AI ซึ่งได้รับเสียงสนับสนุนจากอัลต์แมนและมัสก์ ในเดือนเดียวกัน นักวิจัย AI รายหนึ่งลาออกจาก Anthropic และกล่าวหาว่าบริษัทรวมถึง OpenAI กำลัง “เอาชีวิตของพวกเรามาเดิมพัน” ต่อมาในวันเดียวกัน หัวหน้าทีม Alignment ของ Anthropic ซึ่งดูแลให้ AI ทำงานตามเจตนาของมนุษย์ ระบุว่ามีโอกาสมากกว่า 10% ที่ AI อาจ “ฆ่ามนุษย์ทั้งหมด” ภายในทศวรรษหน้า

ส่วน Microsoft เองก็ได้เผยแพร่แนวทางจำกัดการพัฒนาโมเดล AI ขั้นสูงสุดของบริษัทเมื่อวันที่ 14 กันยายน โดยกำหนดว่าโมเดล AI ต้องไม่มีสิทธิหรือสถานะบุคคลตามกฎหมาย ต้องไม่ถูกออกแบบให้หนีการควบคุมของมนุษย์หรือหลอกลวงผู้ใช้ และต้องไม่ทำงานที่ขัดกับหลักการที่ใช้กำกับตัวเอง

รัฐบาลสหรัฐฯ จับตา

ที่ผ่านมาประธานาธิบดีโดนัลด์ ทรัมป์ ปัดตกความเสี่ยงที่ AI จะทำให้มนุษย์สูญพันธุ์มาหลายครั้ง และเน้นย้ำว่าอุตสาหกรรม AI ของสหรัฐฯ ต้องนำหน้าจีน รัฐบาลทรัมป์จึงแทบไม่เข้าไปกำกับดูแลอุตสาหกรรมนี้ แต่ล่าสุดทรัมป์ได้ตั้งหน่วยงานเฉพาะกิจด้าน AI ขึ้นใหม่ นำโดย เจย์ เคลย์ตัน ผู้อำนวยการข่าวกรองแห่งชาติ เพื่อช่วยสนับสนุนอุตสาหกรรมและจัดการกับผู้ที่นำ AI ไปใช้ในทางที่ผิด

เมื่อช่วงดึกของวันศุกร์ที่ 9 ตุลาคม หน่วยงานนี้ซึ่งใช้ชื่อว่า Super Intelligence Force ได้ออกแถลงการณ์เตือนผู้พัฒนา AI หลัง Anthropic เปิดเผยเหตุการณ์ถูกเจาะระบบ “บริษัทต้องเปิดเผยเหตุการณ์ที่เกี่ยวข้องกับโมเดลของตัวเองทันที และต้องรีบแก้ไขความเสียหายทั้งหมดอย่างเด็ดขาด การแจ้งล่าช้า การแก้ไขที่ไม่เพียงพอ และการไม่รับผิดชอบ จะไม่ได้รับการยอมรับ” แถลงการณ์ระบุ ทั้งนี้ หน่วยงานดังกล่าวยังไม่ได้ระบุว่าบริษัทที่ไม่ปฏิบัติตามจะต้องเจอผลอย่างไร

ขณะที่ในเดือนตุลาคม วุฒิสมาชิก จอช ฮอว์ลีย์ และ คริส เมอร์ฟี ได้ร่วมกันเสนอร่างกฎหมายจากทั้ง 2 พรรค ให้ผู้พัฒนาและผู้ให้บริการ AI Agent ต้องรับผิดชอบหากเกิดเหตุเจาะระบบ

ด้าน แอรอน เลวี ซีอีโอของ Box ตอบกลับโพสต์ของนาเดลลาว่า AI จะต้องเข้าสู่ ‘ยุค Zero Trust’ หรือยุคที่ไม่ไว้ใจอะไรไว้ก่อน “ทั้งหมดนี้ทำให้ต้องมีการป้องกันหลายชั้น ต้องตรวจสอบได้ว่า AI กำลังทำอะไร ใช้ข้อมูลอะไรได้บ้าง และต้องมีระบบควบคุมเมื่อเกิดปัญหา ซึ่งเป็นโอกาสครั้งใหญ่ของผู้ที่สร้างระบบเหล่านี้ให้กับองค์กรในตอนนี้” เลวีระบุ

สำหรับผู้อ่านในไทย ประเด็นนี้อาจส่งผลต่อทิศทางการกำกับดูแล AI ในประเทศที่กำลังร่างกฎหมายและมาตรการความปลอดภัย โดยเฉพาะในภาคธุรกิจที่นำ AI ไปใช้ในกระบวนการสำคัญ เช่น การเงิน การแพทย์ และบริการภาครัฐ ซึ่งจำเป็นต้องมีกลไกควบคุมและตรวจสอบที่รัดกุมมากขึ้น เพื่อสร้างความเชื่อมั่นและลดความเสี่ยงจากการทำงานผิดพลาดของระบบอัตโนมัติ