ทำไมอนาคตจึงไม่ต้องการเรา

" ทำไมอนาคตจึงไม่ต้องการเรา " เป็นบทความที่เขียนโดยบิล จอย (ซึ่งขณะนั้นดำรงตำแหน่งหัวหน้านักวิทยาศาสตร์ของซัน ไมโครซิสเต็มส์ ) ในนิตยสาร Wiredฉบับเดือนเมษายน ปี 2000 ในบทความนี้ เขาโต้แย้งว่า "เทคโนโลยีที่ทรงพลังที่สุดในศตวรรษที่ 21 ของเราได้แก่หุ่นยนต์วิศวกรรมพันธุกรรมและนาโนเทคโนโลยีกำลังคุกคามที่จะทำให้มนุษย์กลายเป็นสิ่งมีชีวิตที่ใกล้สูญพันธุ์ " จอยเตือนว่า:
ประสบการณ์ของนักวิทยาศาสตร์ด้านอะตอมแสดงให้เห็นอย่างชัดเจนถึงความจำเป็นในการรับผิดชอบส่วนบุคคล อันตรายที่สิ่งต่างๆ จะเปลี่ยนแปลงเร็วเกินไป และวิธีที่กระบวนการต่างๆ สามารถดำเนินไปได้เองโดยไม่สามารถควบคุมได้ เราอาจสร้างปัญหาที่แก้ไขไม่ได้ขึ้นมาได้ในเวลาอันสั้น ดังเช่นที่พวกเขาเคยทำ เราต้องคิดวางแผนล่วงหน้าให้มากขึ้น หากเราไม่อยากต้องตกใจและประหลาดใจกับผลที่ตามมาจากการประดิษฐ์ของเราเช่นเดียวกัน
ในขณะที่นักวิจารณ์บางคนมองว่าจุดยืนของจอยเป็นการปิดกั้นความรู้หรือลัทธิลัดดิสม์แบบใหม่แต่คนอื่นๆ ก็เห็นด้วยกับความกังวลของเขาเกี่ยวกับผลที่ตามมาของเทคโนโลยีที่ขยายตัวอย่างรวดเร็ว[ 1 ]
สรุป
จอยแย้งว่าเทคโนโลยีที่กำลังพัฒนานั้นเป็นอันตรายต่อมนุษยชาติมากกว่าเทคโนโลยีใดๆ ที่เคยมีมาก่อน โดยเฉพาะอย่างยิ่ง เขาเน้นไปที่วิศวกรรมพันธุกรรมนาโนเทคโนโลยีและหุ่นยนต์เขากล่าวว่าเทคโนโลยีทำลายล้างในศตวรรษที่ 20 เช่นระเบิดนิวเคลียร์นั้นจำกัดอยู่เฉพาะรัฐบาลขนาดใหญ่ เนื่องจากความซับซ้อนและต้นทุนของอุปกรณ์ดังกล่าว รวมถึงความยากลำบากในการจัดหาวัสดุที่จำเป็น เขาใช้หนังสือนิยายเรื่องThe White Plagueเป็นสถานการณ์ฝันร้ายที่อาจเกิดขึ้นได้ ซึ่งนักวิทยาศาสตร์สติเพี้ยนสร้างไวรัสที่สามารถทำลายล้างมนุษยชาติได้
จอยยังแสดงความกังวลเกี่ยวกับพลังการประมวลผลของคอมพิวเตอร์ที่เพิ่มขึ้นเรื่อยๆ เขากังวลว่าในที่สุดคอมพิวเตอร์จะฉลาดกว่ามนุษย์ ทำให้เกิดสถานการณ์เลวร้าย อย่างเช่น การก่อกบฏของหุ่นยนต์ เขายกตัวอย่าง เท็ด คาซินสกี (ยูนาบอมเบอร์) มาอ้างอิง
จอยแสดงความกังวลว่าในที่สุดแล้วคนรวยจะเป็นเพียงกลุ่มเดียวที่มีอำนาจในการควบคุมหุ่นยนต์ ในอนาคต ที่จะถูกสร้างขึ้น และคนเหล่านี้อาจตัดสินใจที่จะควบคุมชีวิตของตนเองและควบคุมวิธีการที่มนุษย์จะเพิ่มจำนวนและสืบพันธุ์ต่อไป[ 2 ]เขาเริ่มทำการวิจัยเพิ่มเติมเกี่ยวกับหุ่นยนต์และผู้เชี่ยวชาญด้านหุ่นยนต์และนอกเหนือจากความคิดของเขาเองแล้ว เขายังพยายามขอความคิดเห็นจากผู้อื่นในหัวข้อนี้ด้วยร็อดนีย์ บรูคส์ผู้เชี่ยวชาญด้านหุ่นยนต์ เชื่อว่าในอนาคตจะมีการหลอมรวมกันระหว่างมนุษย์และหุ่นยนต์[ 3 ]จอยกล่าวถึงหนังสือของฮันส์ โมราเวคเรื่อง " Robot: Mere Machine to Transcendent Mind "ซึ่งเขาเชื่อว่าในอนาคตจะมีการเปลี่ยนแปลงที่หุ่นยนต์จะเข้ามาแทนที่กิจกรรมปกติของมนุษย์ แต่เมื่อเวลาผ่านไป มนุษย์จะยอมรับการใช้ชีวิตแบบนั้นได้[ 4 ]
การวิจารณ์
ในหนังสือ The Singularity Is Nearเรย์ เคิร์ซไวล์ตั้งคำถามเกี่ยวกับการควบคุมเทคโนโลยีที่อาจเป็นอันตราย โดยถามว่า "เราควรบอกคนหลายล้านคนที่ป่วยเป็นมะเร็งและโรคร้ายแรงอื่นๆ ว่าเรากำลังยกเลิกการพัฒนาการ รักษาด้วยวิศวกรรม ชีวภาพ ทั้งหมด เพราะมีความเสี่ยงที่เทคโนโลยีเหล่านี้อาจถูกนำไปใช้ในทางที่ชั่วร้ายในอนาคตหรือไม่?" อย่างไรก็ตามจอห์น เซอร์ซานและเชลลิส เกล็นดินนิงเชื่อว่าเทคโนโลยีสมัยใหม่เป็นสิ่งที่ไม่ดีทั้งต่อเสรีภาพและปัญหามะเร็ง และทั้งสองประเด็นนี้มีความเชื่อมโยงกัน[ 5 ] [ 6 ] [ 7 ]
ใน บทความ "การตอบโต้ Bill Joy และนักอนาคตศาสตร์เชิงเทคโนโลยีที่มองโลกในแง่ร้าย" ในAAAS Science and Technology Policy Yearbook ปี 2001 John Seely Brownและ Paul Duguid ได้วิจารณ์ Joy ว่ามีวิสัยทัศน์แคบด้าน เทคโนโลยี ในการคาดการณ์ของเขา โดยไม่พิจารณาปัจจัยทางสังคม[ 8 ]
จอห์น แม็กกินนิสโต้แย้งว่าข้อเสนอของจอยเรื่อง "การสละสิทธิ์" ของเทคโนโลยีที่อาจนำไปสู่ปัญญาประดิษฐ์ทั่วไป (AGI) จะล้มเหลว เพราะ "การห้าม อย่างน้อยภายใต้เทคโนโลยีและภูมิรัฐศาสตร์ในปัจจุบัน จะไม่มีประสิทธิภาพอย่างแน่นอน" การตรวจสอบข้อตกลงการจำกัด AGI จะทำได้ยากเนื่องจาก ลักษณะ การใช้งานแบบสองด้าน ของ AGI และความง่ายในการซ่อนเร้น ในทำนองเดียวกัน เขารู้สึกว่าข้อเสนอ "คำปฏิญาณฮิปโปเครติส" ของจอยเกี่ยวกับการงดเว้นโดยสมัครใจของนักวิทยาศาสตร์จากการวิจัยที่เป็นอันตรายจะไม่มีประสิทธิภาพเช่นกัน เพราะนักวิทยาศาสตร์อาจถูกกดดันจากรัฐบาล ถูกล่อลวงด้วยผลกำไร ไม่แน่ใจว่าเทคโนโลยีใดจะนำไปสู่อันตรายในอนาคต หรือต่อต้านสมมติฐานของจอยตั้งแต่แรก แทนที่จะสละสิทธิ์ใน AGI แม็กกินนิสโต้แย้งถึงการพัฒนาเทคโนโลยีที่แตกต่างกันซึ่งปัญญาประดิษฐ์ที่เป็นมิตรจะก้าวหน้าเร็วกว่าประเภทอื่น[ 9 ]
นักอนาคตนิยมแบบเอ็กซ์โทรเปียนMax Moreมีมุมมองเดียวกับ Kurzweil ในเรื่องธรรมชาติที่ไม่สามารถปฏิบัติได้จริงและไร้ประสิทธิภาพของ "การสละเทคโนโลยี" แต่เพิ่มองค์ประกอบทางศีลธรรมและปรัชญาที่ใหญ่กว่าให้กับข้อโต้แย้ง โดยโต้แย้งว่าความสมบูรณ์แบบและวิวัฒนาการของมนุษยชาติไม่ใช่ "การสูญเสียความเป็นมนุษย์ของเรา" และความสามารถที่เพิ่มขึ้นที่แสวงหาโดยสมัครใจในโดเมนใด ๆ ก็ไม่ได้แสดงถึง "การสูญเสีย" ใด ๆ ด้วยซ้ำ[ 10 ]
ใน บทความของ Zac Goldsmithเกี่ยวกับการสัมภาษณ์ของ Bill Joy เขาอ้างคำพูดของ Bill Joy ว่าความกังวลบางประการเกี่ยวกับเทคโนโลยีใหม่ที่กำลังพัฒนานั้นอันตรายกว่าที่เขาแสดงออกในบทความ เพราะ Goldsmith อ้างว่าผู้พัฒนาเครื่องจักรเหล่านี้ให้พลังมากเกินไป[ 11 ] Goldsmith ระบุว่าเขาเชื่อว่านักวิทยาศาสตร์ไม่ได้คิดถึงสิ่งต่างๆ มากมายที่อาจผิดพลาดได้เมื่อพวกเขาเริ่มประดิษฐ์สิ่งต่างๆ เพราะนั่นจะนำไปสู่การได้รับเงินทุนน้อยลง
ในบทวิจารณ์ของโซฟี ไทซอมเกี่ยวกับบทความของบิล จอย เธอกล่าวว่าจอยไม่ควรมีทัศนคติแบบเดียวเมื่อพูดถึงเทคโนโลยีใหม่ ๆ และควรพิจารณาด้วยว่าอาจมี "การประนีประนอม" ระหว่างเขากับเทคโนโลยีใหม่เหล่านั้นได้[ 12 ]เธอยังเห็นด้วยว่าเขามีเหตุผลที่กังวลเกี่ยวกับสิ่งที่จะเกิดขึ้นในระยะยาว แต่ไม่คิดว่าเทคโนโลยีเหล่านี้จะพยายามควบคุมเราในอนาคต จอยตอบโต้เรื่องนี้โดยระบุว่าเขาชอบที่ผู้คนเริ่มตอบสนองต่อบทความของเขา เพราะมันทำให้พวกเขามีส่วนร่วมในเรื่องนี้[ 13 ]
ควันหลง
หลังจากบทความดังกล่าวได้รับการตีพิมพ์ บิล จอย ได้เสนอแนะให้ประเมินเทคโนโลยีเพื่อวัดอันตรายที่แฝงอยู่ รวมถึงให้นักวิทยาศาสตร์ปฏิเสธที่จะทำงานเกี่ยวกับเทคโนโลยีที่มีศักยภาพที่จะก่อให้เกิดอันตราย
ในฉบับครบรอบ 15 ปีของWiredในปี 2008 บทความของ Lucas Graves รายงานว่าเทคโนโลยีพันธุศาสตร์ นาโนเทคโนโลยี และหุ่นยนต์ยังไม่ถึงระดับที่จะทำให้สถานการณ์ของ Bill Joy เป็นจริงได้[ 14 ]
อเล็กซ์ โจนส์นักทฤษฎีสมคบคิด ชื่อดังอ้างถึงบทความนี้ระหว่างการสนทนาเกี่ยวกับผลกระทบของทรานส์ฮิวแมนิสม์กับพอดแคสเตอร์โจ โรแกนและทิม ดิลลอน ในรายการ The Joe Rogan Experienceตอนวันที่ 27 ตุลาคม 2020 [ 15 ]
อ่านเพิ่มเติม
- เมสเซอร์ลี, จอห์น จี. "ฉันดีใจที่อนาคตไม่ต้องการเรา: บทวิจารณ์ลัทธิอนาคตนิยมมองโลกในแง่ร้ายของจอย" ACM SIGCAS Computers and Society , เล่มที่ 33, ฉบับที่ 2, (มิถุนายน 2546) ISSN 0095-2737
ลิงก์ภายนอก
- จอย, บิล. "ทำไมอนาคตจึงไม่ต้องการเรา" . Wired . ISSN 1059-1028 .
- บทวิจารณ์และข้อติชม: "ทำไมอนาคตจึงไม่ต้องการเรา"
- บิล จอย หวังว่าเหตุผลจะได้รับชัยชนะ