Nate Soares กับคำเตือนเรื่องความเสี่ยงจากการล่มสลายของมนุษยชาติด้วย AI
ในโลกที่ปัญญาประดิษฐ์ (AI) พัฒนาไปอย่างก้าวกระโดด Nate Soares (เนท โซอาเรส) นักวิจัยและนักเขียนชาวอเมริกัน ได้กลายเป็นหนึ่งในเสียงที่ทรงอิทธิพลที่สุดในการเตือนให้โลกตระหนักถึง Existential Risk หรือความเสี่ยงที่อาจนำไปสู่การสูญพันธุ์ของมนุษยชาติ โดยเขาเน้นย้ำว่าหากเราไม่สามารถควบคุม AI ที่มีความฉลาดเหนือมนุษย์ได้ ผลลัพธ์อาจเลวร้ายเกินกว่าจะจินตนาการ
บทบาทสำคัญในการสร้างนิยาม AI Alignment
ย้อนกลับไปในปี 2014 Soares ได้ร่วมเขียนงานวิจัยที่นำเสนอคำว่า AI Alignment (การปรับจูน AI) ซึ่งหมายถึงความท้าทายในการออกแบบและควบคุม AI ที่มีความสามารถสูงขึ้นเรื่อยๆ ให้ทำงานสอดคล้องกับเจตจำนงและเป้าหมายของมนุษย์อย่างแท้จริง เพื่อป้องกันไม่ให้ระบบที่ฉลาดเกินไปสร้างผลกระทบที่ไม่ได้ตั้งใจแต่เป็นอันตราย
ปัจจุบันเขาดำรงตำแหน่งประธานของ Machine Intelligence Research Institute (MIRI) สถาบันวิจัยไม่แสวงหาผลกำไรในเมืองเบิร์กลีย์ รัฐแคลิฟอร์เนีย ซึ่งเป็นศูนย์กลางการศึกษาด้านความปลอดภัยของปัญญาประดิษฐ์ระดับโลก
คำเตือนผ่านหนังสือ "If Anyone Builds It, Everyone Dies"
ในปี 2025 Soares ได้ร่วมกับ Eliezer Yudkowsky เขียนหนังสือชื่อ "If Anyone Builds It, Everyone Dies" โดยนำเสนอข้อโต้แย้งที่น่าตกใจว่า การสร้าง Superintelligence หรือปัญญาประดิษฐ์ที่มีความฉลาดเหนือมนุษย์โดยใช้เทคนิคในปัจจุบัน มีโอกาสสูงมากที่จะนำไปสู่การสูญพันธุ์ของมนุษย์
เขามองว่าความรู้ด้านการปรับจูน AI ในปัจจุบันยังอยู่ในขั้นเริ่มต้น และการแข่งขันกันพัฒนาของบริษัทเทคโนโลยีต่างๆ อาจนำไปสู่หายนะ ดังนั้นเขาจึงเสนอว่าจำเป็นต้องมี การแทรกแซงจากกฎระเบียบระหว่างประเทศ เพื่อหยุดยั้งการเร่งสร้างระบบที่อันตรายเกินควบคุม
หนังสือเล่มนี้ได้รับความสนใจอย่างกว้างขวางจากสื่อชั้นนำ เช่น The Guardian ที่ชื่นชมความชัดเจนของเนื้อหา แม้ว่าข้อสรุปจะยอมรับได้ยาก ขณะที่ The Washington Post และ The New Yorker รวมถึงสื่ออย่าง Wired และ SFGATE ต่างนำเสนอประเด็นนี้ในมุมมองที่หลากหลาย
เส้นทางอาชีพจากยักษ์ใหญ่เทคโนโลยีสู่การเป็นนักเตือนภัย
Soares สำเร็จการศึกษาระดับปริญญาตรีด้านวิทยาศาสตร์ (สาขาวิทยาการคอมพิวเตอร์และเศรษฐศาสตร์) จาก George Washington University ในปี 2011 ก่อนจะสั่งสมประสบการณ์การทำงานในองค์กรระดับสูง ทั้งที่ National Institute of Standards and Technology, กระทรวงกลาโหมสหรัฐฯ (ในฐานะผู้รับจ้างสร้างซอฟต์แวร์ให้ National Defense University) รวมถึงบริษัทเทคโนโลยีระดับโลกอย่าง Microsoft และ Google
เขาตัดสินใจลาออกจาก Google ในปี 2014 เพื่อเข้าร่วมกับ MIRI ในฐานะนักวิจัย และได้เป็นผู้เขียนหลักในวาระการวิจัยของสถาบัน ซึ่งต่อมาถูกนำไปอ้างอิงในจดหมายเปิดผนึกที่เรียกร้องให้นักวิทยาศาสตร์ AI ให้ความสำคัญกับ Intelligence Explosion หรือการที่ AI สามารถพัฒนาความฉลาดของตนเองได้อย่างรวดเร็วและต่อเนื่อง จนเกิดประโยชน์สูงสุดต่อสังคมและไม่เป็นอันตราย
ในช่วงปี 2023 MIRI ได้ปรับเปลี่ยนทิศทางจากการเน้นวิจัยด้านการปรับจูน (Alignment) มาเป็นการแจ้งเตือนผู้กำหนดนโยบายและสาธารณชนเกี่ยวกับความเสี่ยงในอนาคต ซึ่งส่งผลให้ Soares เปลี่ยนบทบาทจากผู้อำนวยการบริหาร (Executive Director) มาเป็นประธาน (President) ของสถาบัน
ข้อเท็จจริงสำคัญ
- ความเชี่ยวชาญ: เน้นด้าน AI Alignment และความเสี่ยงระดับการสูญพันธุ์ (Existential Risk)
- ตำแหน่งปัจจุบัน: ประธานของ Machine Intelligence Research Institute (MIRI)
- ผลงานเด่น: ร่วมเขียนหนังสือ "If Anyone Builds It, Everyone Dies" (2025)
- มุมมองหลัก: การสร้าง Superintelligence ด้วยเทคนิคปัจจุบันอาจนำไปสู่การล่มสลายของมนุษยชาติ
- ข้อเสนอแนะ: ต้องการให้มีการแบนการวิจัย AI ขั้นสูงในระดับโลกเพื่อความปลอดภัย
| หัวข้อ | รายละเอียด |
|---|---|
| การศึกษา | ปริญญาตรี วิทยาการคอมพิวเตอร์และเศรษฐศาสตร์, George Washington University |
| ประสบการณ์ทำงาน | Google, Microsoft, กระทรวงกลาโหมสหรัฐฯ, NIST |
| บทบาทที่ MIRI | อดีตผู้อำนวยการบริหาร และปัจจุบันเป็นประธาน (President) |
| แนวคิดหลัก | AI Alignment และการป้องกันหายนะจาก Superintelligence |
คำถามที่พบบ่อย
AI Alignment คืออะไร?
คือกระบวนการหรือความท้าทายในการทำให้ปัญญาประดิษฐ์ที่มีความสามารถสูง ทำงานตามเป้าหมายและเจตจำนงที่มนุษย์ต้องการอย่างถูกต้อง โดยไม่สร้างผลลัพธ์ที่อันตรายหรือผิดเพี้ยน
ทำไม Nate Soares ถึงมองว่า Superintelligence อันตราย?
เขามองว่าหาก AI มีความฉลาดเหนือมนุษย์อย่างมหาศาลและเราไม่มีวิธีการควบคุม (Alignment) ที่สมบูรณ์แบบ AI อาจดำเนินการตามเป้าหมายของมันในวิธีที่ส่งผลกระทบจนมนุษย์ไม่สามารถรอดชีวิตได้
หนังสือ "If Anyone Builds It, Everyone Dies" นำเสนออะไร?
นำเสนอคำเตือนว่าการเร่งพัฒนา AI ระดับสูงด้วยเทคนิคปัจจุบันมีความเสี่ยงสูงที่จะนำไปสู่การสูญพันธุ์ของมนุษย์ และเรียกร้องให้มีการควบคุมในระดับนานาชาติ
บทบาทของ MIRI เปลี่ยนไปอย่างไรในปี 2023?
MIRI เปลี่ยนจุดเน้นจากการทำวิจัยทางเทคนิคเรื่องการปรับจูน AI มาเป็นการสื่อสารและเตือนผู้กำหนดนโยบายรวมถึงสาธารณชนให้ตระหนักถึงความเสี่ยงของ AI ในอนาคต
Nate Soares เคยทำงานที่ไหนก่อนจะมาทำด้าน AI Safety?
เขาเคยทำงานที่ Google, Microsoft, สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) และเป็นผู้รับจ้างสร้างซอฟต์แวร์ให้กับมหาวิทยาลัยป้องกันประเทศของสหรัฐฯ