ปัญหาความสอดคล้อง: การเรียนรู้ของเครื่องจักรและค่านิยมของมนุษย์

ฉบับปกแข็ง
ผู้เขียน	ไบรอัน คริสเตียน
ภาษา	ภาษาอังกฤษ
เรื่อง	การจัดเรียง AI
สำนักพิมพ์	WW Norton & Company [ 1 ]
วันที่เผยแพร่	6 ตุลาคม 2563
สถานที่ตีพิมพ์	สหรัฐอเมริกา
ประเภทสื่อ	สิ่งพิมพ์, อีบุ๊ก, หนังสือเสียง
หน้า	496
ISBN	0393635821
โอซีแอลซี	1137850003
เว็บไซต์	brianchristian.org/the-alignment-problem/

"ปัญหาความสอดคล้อง: การเรียนรู้ของเครื่องจักรและค่านิยมของมนุษย์"เป็นหนังสือสารคดีปี 2020 โดยไบรอัน คริสเตียน นักเขียนชาวอเมริกัน หนังสือ เล่มนี้อ้างอิงจากการสัมภาษณ์ผู้เชี่ยวชาญจำนวนมากที่พยายามสร้างระบบปัญญาประดิษฐ์ โดยเฉพาะระบบ การเรียนรู้ของเครื่องจักรที่สอดคล้องกับค่านิยมของมนุษย์

หนังสือเล่มนี้แบ่งออกเป็นสามส่วน ได้แก่ การพยากรณ์ การกระทำ และบรรทัดฐาน แต่ละส่วนกล่าวถึงนักวิจัยและวิศวกรที่ทำงานเกี่ยวกับความท้าทายต่างๆ ในการปรับปัญญาประดิษฐ์ ให้สอดคล้อง กับคุณค่าของมนุษย์

ในส่วนแรก คริสเตียนได้สอดแทรกการอภิปรายเกี่ยวกับประวัติศาสตร์ของการวิจัยปัญญาประดิษฐ์ โดยเฉพาะอย่างยิ่งแนวทางการเรียนรู้ของเครื่องจักร ในรูปแบบของ โครงข่ายประสาทเทียมเช่นPerceptronและAlexNetเข้ากับตัวอย่างของพฤติกรรมที่ไม่พึงประสงค์ของระบบ AI เขาเล่าเรื่องของจูเลีย แองวินนักข่าวที่ทำการสืบสวน ของ ProPublica เกี่ยวกับอัลกอริทึม COMPASซึ่งเป็นเครื่องมือในการทำนายการกระทำผิดซ้ำในกลุ่มจำเลยคดีอาญา ทำให้เกิดการวิพากษ์วิจารณ์อย่างกว้างขวางเกี่ยวกับความแม่นยำและอคติที่มีต่อกลุ่มประชากรบางกลุ่ม หนึ่งในความท้าทายหลักของ AI คือลักษณะที่เป็นกล่องดำ (สามารถระบุอินพุตและเอาต์พุตได้ แต่กระบวนการเปลี่ยนแปลงระหว่างนั้นไม่สามารถระบุได้) การขาดความโปร่งใสทำให้ยากที่จะรู้ว่าระบบทำงานถูกต้องและผิดพลาดตรงไหน

ในส่วนที่สอง คริสเตียนได้ผสมผสานประวัติศาสตร์ของ การศึกษา ทางจิตวิทยาเกี่ยวกับการให้รางวัล เช่นพฤติกรรมนิยมและโดปามีนเข้ากับวิทยาศาสตร์คอมพิวเตอร์ของการเรียนรู้แบบเสริมแรงซึ่งระบบ AI จำเป็นต้องพัฒนานโยบาย ("สิ่งที่ต้องทำ") เมื่อเผชิญกับฟังก์ชันคุณค่า ("รางวัลหรือการลงโทษที่คาดหวัง") เขากล่าวว่า ระบบ DeepMind AlphaGoและAlphaZeroนั้น "อาจเป็นความสำเร็จที่น่าประทับใจที่สุดเพียงอย่างเดียวในการออกแบบหลักสูตรอัตโนมัติ" เขายังเน้นย้ำถึงความสำคัญของความอยากรู้อยากเห็น ซึ่งผู้เรียนแบบเสริมแรงมีแรงจูงใจภายในที่จะสำรวจสภาพแวดล้อมของตนเอง มากกว่าที่จะแสวงหารางวัลภายนอกเพียงอย่างเดียว

ส่วนที่สามกล่าวถึงการฝึกฝน AI ผ่านการเลียนแบบพฤติกรรมของมนุษย์หรือเครื่องจักร รวมถึงการถกเถียงเชิงปรัชญา เช่น ระหว่างลัทธิความเป็นไปได้ (possibilism)และลัทธิความเป็นจริง (actualism)ซึ่งบ่งชี้ถึงพฤติกรรมในอุดมคติที่แตกต่างกันสำหรับระบบ AI สิ่งที่สำคัญเป็นพิเศษคือการเรียนรู้แบบเสริมแรงผกผัน (inverse reinforcement learning)ซึ่งเป็นแนวทางกว้างๆ สำหรับเครื่องจักรในการเรียนรู้ฟังก์ชันเป้าหมายของมนุษย์หรือตัวแทนอื่นๆ คริสเตียนได้กล่าวถึง ความท้าทาย เชิงบรรทัดฐานที่เกี่ยวข้องกับความเห็นแก่ผู้อื่นอย่างมีประสิทธิภาพและความเสี่ยงต่อการดำรงอยู่รวมถึงงานของนักปรัชญาอย่าง โทบี ออร์ดและวิลเลียม แมคแอสคิลล์ที่พยายามคิดค้นกลยุทธ์สำหรับมนุษย์และเครื่องจักรเพื่อแก้ไขปัญหาความสอดคล้องให้มีประสิทธิภาพมากที่สุดเท่าที่จะเป็นไปได้

หนังสือเล่มนี้ได้รับการวิจารณ์ในเชิงบวกจากนักวิจารณ์เดวิด เอ. ชายวิตซ์ จากวอลล์สตรีทเจอร์ นัลเน้นย้ำถึงปัญหาที่เกิดขึ้นบ่อยครั้งเมื่อนำอัลกอริทึมไปใช้กับปัญหาในโลกแห่งความเป็นจริง โดยบรรยายหนังสือเล่มนี้ว่าเป็น "การสำรวจหัวข้อที่กำลังเป็นที่สนใจอย่างมากนี้อย่างละเอียดอ่อนและน่าสนใจ" ^{[ 2 ]}พับลิเชอร์สวีคลี่ยกย่องหนังสือเล่มนี้ในด้านการเขียนและการวิจัยที่ครอบคลุม^{[ 3 ]}

Kirkus Reviewsให้รีวิวเชิงบวกกับหนังสือเล่มนี้ โดยกล่าวว่า "มีเนื้อหาทางเทคนิคที่เข้มข้นแต่เข้าถึงได้ง่าย" และ "เป็นการสำรวจ AI ที่น่าสนใจ" ^{[ 4 ]} Virginia Dignum เขียนรีวิวเชิงบวกให้กับ Nature โดยเปรียบเทียบกับ Atlas of AIของ Kate Crawford ในเชิง บวก ^{[ 5 ]}

ในปี 2021 นักข่าวEzra Kleinได้เชิญ Christian มาออกรายการพอดแคสต์ของเขาThe Ezra Klein Show และเขียนในThe New York Timesว่า " The Alignment Problemเป็นหนังสือที่ดีที่สุดเกี่ยวกับคำถามทางเทคนิคและศีลธรรมที่สำคัญของ AI ที่ฉันเคยอ่าน" ^{[ 6 ]}ต่อมาในปีเดียวกัน หนังสือเล่มนี้ได้รับการกล่าวถึงใน บทความ ของ Fast Company ใน หัวข้อ "5 หนังสือที่สร้างแรงบันดาลใจให้Satya Nadella ซีอีโอของ Microsoft ในปีนี้" ^{[ 7 ]}

ในปี 2022 หนังสือเล่มนี้ได้รับรางวัล Eric and Wendy Schmidt Award for Excellence in Science Communicationซึ่งมอบโดยNational Academies of Sciences, Engineering, and Medicineร่วมกับSchmidt Futures ^{[ 8 ]}

ในปี 2024 The New York Timesได้จัดให้The Alignment Problemอยู่ในอันดับแรกในรายชื่อ "5 หนังสือที่ดีที่สุดเกี่ยวกับปัญญาประดิษฐ์" โดยกล่าวว่า "ถ้าคุณจะอ่านหนังสือเกี่ยวกับปัญญาประดิษฐ์สักเล่ม นี่คือเล่มนั้น" ^{[ 9 ]}

• การช่วยเหลือผู้อื่นอย่างมีประสิทธิภาพ
• ความเสี่ยงภัยพิบัติระดับโลก
• ความเข้ากันได้กับมนุษย์: ปัญญาประดิษฐ์และปัญหาของการควบคุม
• ปัญญาประดิษฐ์ขั้นสูง: เส้นทาง อันตราย และกลยุทธ์