กลับไปหน้าบทความ

อ่าน 30 นาที

ภาวะเอกภาพทางเทคโนโลยี

ภาวะ เอกภาพทางเทคโนโลยี ซึ่งมักเรียกง่ายๆ ว่าภาวะ เอกภาพ [ 1 ] เป็น เหตุการณ์ สมมติ ที่การเติบโตทางเทคโนโลยีเร่งตัวขึ้นเกินกว่าที่มนุษย์จะควบคุมได้...

ภาวะเอกภาพทางเทคโนโลยี

ฟังบทความนี้

ภาวะเอกภาพทางเทคโนโลยีซึ่งมักเรียกง่ายๆ ว่าภาวะเอกภาพ[ 1 ]เป็น เหตุการณ์ สมมติที่การเติบโตทางเทคโนโลยีเร่งตัวขึ้นเกินกว่าที่มนุษย์จะควบคุมได้ ก่อให้เกิดการเปลี่ยนแปลงที่คาดเดาไม่ได้ในอารยธรรมมนุษย์[ 2 ] [ 3 ]ตามสมมติฐานภาวะเอกภาพที่เป็นที่นิยมมากที่สุด คือ แบบ จำลองการระเบิดของสติปัญญาของIJ Goodในปี 1965 ตัวแทนอัจฉริยะ ที่สามารถอัปเกรดได้ ในที่สุดจะเข้าสู่วงจรป้อนกลับเชิงบวกของ วงจร การพัฒนาตนเองอย่างต่อเนื่องรุ่นที่มีสติปัญญามากขึ้นจะปรากฏขึ้นอย่างรวดเร็วมากขึ้นเรื่อยๆ ทำให้เกิดการเพิ่มขึ้นอย่างระเบิดของสติปัญญาซึ่งถึงจุดสูงสุดในสติปัญญาเหนือมนุษย์ ที่ทรงพลัง ซึ่งเหนือกว่าสติปัญญาของมนุษย์อย่าง มาก [ 4 ]

นักวิทยาศาสตร์บางคน รวมทั้งสตีเฟน ฮอว์คิงได้แสดงความกังวลว่าปัญญาประดิษฐ์ขั้นสูงอาจส่งผลให้มนุษย์สูญพันธุ์ได้ [ 5 ] [ 6 ] ผลที่ตามมาของภาวะเอกภาพทางเทคโนโลยีและผลประโยชน์หรืออันตรายที่อาจเกิดขึ้นต่อเผ่าพันธุ์มนุษย์ได้รับการถกเถียงกันอย่างเข้มข้น

นักเทคโนโลยีและนักวิชาการที่มีชื่อเสียงโต้แย้งความเป็นไปได้ของภาวะเอกภาพทางเทคโนโลยีและ "การระเบิด" ของปัญญาประดิษฐ์ที่เกี่ยวข้อง รวมถึงPaul Allen [ 7 ] Jeff Hawkins [ 8 ] John Holland , Jaron Lanier , Steven Pinker [ 8 ] Theodore Modis [ 9 ] Gordon Moore [ 8 ] และ Roger Penrose [ 10 ] ข้ออ้างหนึ่งคือการเติบโตของปัญญาประดิษฐ์มีแนวโน้มที่จะประสบกับผลตอบแทนที่ลดลงแทนที่จะเร่งตัวขึ้นStuart J. RussellและPeter Norvigสังเกตว่าในประวัติศาสตร์ของเทคโนโลยี การปรับปรุงในด้านใดด้านหนึ่งมักจะเป็นไปตามเส้นโค้งรูปตัว S กล่าว คือ เริ่มต้นด้วยการปรับปรุงที่เร่งตัวขึ้น จากนั้นจะคงที่โดยไม่ก้าวขึ้นไปสู่ภาวะเอกภาพแบบ ไฮเปอร์โบลิก [ 11 ]

ประวัติศาสตร์

อลัน ทัวริงซึ่งมักได้รับการยกย่องว่าเป็นบิดาแห่งวิทยาศาสตร์คอมพิวเตอร์สมัยใหม่ ได้วางรากฐานที่สำคัญสำหรับการอภิปรายร่วมสมัยเกี่ยวกับภาวะเอกภาพทางเทคโนโลยี บทความสำคัญของเขาในปี 1950 เรื่อง " เครื่องจักรคำนวณและสติปัญญา " ได้โต้แย้งว่าในทางทฤษฎีแล้ว เครื่องจักรสามารถแสดงพฤติกรรมที่ชาญฉลาดเทียบเท่าหรือแยกไม่ออกจากมนุษย์ได้[ 12 ]แต่ภาวะเอกภาพทางเทคโนโลยีไม่จำเป็นสำหรับเครื่องจักรที่สามารถทำงานในระดับเดียวกับหรือเหนือกว่ามนุษย์ในบางงานที่จะต้องพัฒนา และการมีอยู่ของเครื่องจักรเหล่านั้นก็ไม่ได้หมายความถึงความเป็นไปได้ที่จะเกิดเหตุการณ์ดังกล่าว ดังที่แสดงให้เห็นจากเหตุการณ์ต่างๆ เช่น ชัยชนะของซูเปอร์คอมพิวเตอร์ Deep Blueของ IBM ในการแข่งขันหมากรุกกับแกรนด์มาสเตอร์ แกรี่ คาสปารอฟในปี 1996 [ 13 ]

จอห์น ฟอน นอยมันน์ นักคณิตศาสตร์ชาวฮังการี-อเมริกันเป็นบุคคลแรกที่ทราบกันว่าได้กล่าวถึง "ภาวะเอกฐาน" ในความก้าวหน้าทางเทคโนโลยี[ 14 ] [ 15 ]สตานิสลาฟ อูแลมรายงานในปี 1958 ว่าการสนทนาก่อนหน้านี้กับฟอน นอยมันน์ "มุ่งเน้นไปที่ความก้าวหน้าทางเทคโนโลยีที่เร่งตัวขึ้นและการเปลี่ยนแปลงในชีวิตมนุษย์ ซึ่งทำให้ดูเหมือนว่ากำลังเข้าใกล้ภาวะเอกฐานที่สำคัญบางอย่างในประวัติศาสตร์ของเผ่าพันธุ์มนุษย์ ซึ่งหลังจากนั้นกิจการของมนุษย์อย่างที่เราทราบกันดีอยู่แล้วจะไม่สามารถดำเนินต่อไปได้" [ 16 ]ผู้เขียนคนต่อมาได้สะท้อนมุมมองนี้[ 3 ] [ 17 ]

ในปี พ.ศ. 2508 IJ Goodคาดการณ์ว่าสติปัญญาเหนือมนุษย์อาจนำไปสู่ ​​"การระเบิดของสติปัญญา" [ 18 ] [ 19 ]

ให้นิยามเครื่องจักรที่มีสติปัญญาสูงเป็นพิเศษว่าคือเครื่องจักรที่สามารถก้าวข้ามกิจกรรมทางปัญญาของมนุษย์ได้ทั้งหมด ไม่ว่ามนุษย์จะฉลาดเพียงใดก็ตาม เนื่องจากการออกแบบเครื่องจักรก็เป็นหนึ่งในกิจกรรมทางปัญญาเหล่านั้น เครื่องจักรที่มีสติปัญญาสูงเป็นพิเศษจึงสามารถออกแบบเครื่องจักรที่ดีกว่าเดิมได้ ในเวลานั้นจะเกิด "การระเบิดทางสติปัญญา" อย่างไม่ต้องสงสัย และสติปัญญาของมนุษย์ก็จะถูกทิ้งไว้ข้างหลังอย่างมาก ดังนั้นเครื่องจักรที่มีสติปัญญาสูงเป็นพิเศษเครื่องแรกจึงเป็นสิ่งประดิษฐ์สุดท้ายที่มนุษย์จำเป็นต้องสร้างขึ้น ตราบใดที่เครื่องจักรนั้นเชื่องพอที่จะบอกเราได้ว่าจะควบคุมมันอย่างไร

— ข้อสันนิษฐานเกี่ยวกับเครื่องจักรที่มีสติปัญญาสูงที่สุดเครื่องแรก (1965)

แนวคิดและคำว่า "เอกภาวะ" ได้รับความนิยมจากVernor Vingeเป็นครั้งแรกในบทความแสดงความคิดเห็นใน นิตยสาร Omni ในปี 1983 โดยโต้แย้งว่าเมื่อมนุษย์สร้างสติปัญญาที่ยิ่งใหญ่กว่าตนเอง จะมีการเปลี่ยนแปลงทางเทคโนโลยีและสังคมที่คล้ายคลึงกันในบางแง่กับ "กาลอวกาศที่พันกันยุ่งเหยิง ณ ใจกลางหลุมดำ" [ 20 ]ในบทความปี 1993 ของเขาเรื่อง "เอกภาวะทางเทคโนโลยีที่กำลังจะมาถึง" [ 4 ] [ 17 ] Vinge เขียนว่าการเปลี่ยนแปลงนี้จะบ่งบอกถึงจุดจบของยุคมนุษย์ เนื่องจากสติปัญญาขั้นสูงจะยังคงพัฒนาตนเองและก้าวหน้าทางเทคโนโลยีในอัตราที่ไม่อาจเข้าใจได้ และเขาจะประหลาดใจหากมันเกิดขึ้นก่อนปี 2005 หรือหลังปี 2030 [ 4 ]

อีกหนึ่งผลงานสำคัญที่ช่วยเผยแพร่แนวคิดนี้ให้กว้างขวางยิ่งขึ้นคือ หนังสือ The Singularity Is NearของRay Kurzweil ในปี 2005 ซึ่งทำนายว่าภาวะเอกฐานจะเกิดขึ้นภายในปี 2045 [ 17 ]

การระเบิดของสติปัญญา

ความก้าวหน้าทางเทคโนโลยีถูกจำกัดด้วยสติปัญญาพื้นฐานของสมองมนุษย์ ซึ่งตามที่Paul R. Ehrlich กล่าวไว้ว่า สมองไม่ได้ เปลี่ยนแปลงอย่างมีนัยสำคัญมาเป็นเวลาหลายพันปีแล้ว[ 21 ]แต่ด้วยพลังของคอมพิวเตอร์และเทคโนโลยีอื่นๆ ที่เพิ่มขึ้นเรื่อยๆ ในที่สุดอาจเป็นไปได้ที่จะสร้างเครื่องจักรที่มีสติปัญญามากกว่ามนุษย์อย่างมีนัยสำคัญ[ 22 ]

หากมีการคิดค้นสติปัญญาเหนือมนุษย์ขึ้นมาได้ ไม่ว่าจะด้วยการขยายสติปัญญาของมนุษย์หรือปัญญาประดิษฐ์ก็ตาม ในทางทฤษฎีแล้ว สติปัญญาดังกล่าวจะเหนือกว่าความสามารถในการแก้ปัญหาและการประดิษฐ์คิดค้นของมนุษย์อย่างมาก ปัญญาประดิษฐ์เช่นนี้มักถูกเรียกว่า AI ต้นแบบ[ 23 ] [ 24 ]เพราะหากมีการสร้าง AI ที่มีความสามารถด้านวิศวกรรมที่เทียบเท่าหรือเหนือกว่าผู้สร้าง AI นั้นจะสามารถปรับปรุงซอฟต์แวร์และฮาร์ดแวร์ของตนเองได้อย่างอิสระเพื่อออกแบบเครื่องจักรที่มีความสามารถมากยิ่งขึ้น ซึ่งสามารถทำซ้ำกระบวนการนี้ได้ต่อไป การปรับปรุงตนเองแบบวนซ้ำนี้อาจเร่งตัวขึ้น ทำให้เกิดการเปลี่ยนแปลงเชิงคุณภาพอย่างมหาศาลก่อนที่จะถึงขีดจำกัดใดๆ ที่กำหนดโดยกฎของฟิสิกส์หรือการคำนวณเชิงทฤษฎี มีการคาดการณ์ว่าเมื่อเวลาผ่านไปหลายรอบ ปัญญาประดิษฐ์ดังกล่าวจะเหนือกว่าความสามารถทางปัญญาของมนุษย์อย่างมาก

การเกิดขึ้นของปัญญาเหนือมนุษย์

ปัญญาเหนือมนุษย์ ปัญญาขั้นสูง หรือปัญญาเหนือมนุษย์ คือตัวแทน สมมติ ที่มีสติปัญญาเหนือกว่ามนุษย์ที่ฉลาดและมีพรสวรรค์ที่สุด[ 25 ] "ปัญญาเหนือมนุษย์" อาจหมายถึงรูปแบบหรือระดับของสติปัญญาที่ตัวแทนดังกล่าวมีIJ Good , Vernor VingeและRay Kurzweilนิยามแนวคิดนี้ในแง่ของการสร้างปัญญาเหนือมนุษย์ด้วยเทคโนโลยี โดยโต้แย้งว่าเป็นเรื่องยากหรือเป็นไปไม่ได้ที่มนุษย์ในปัจจุบันจะคาดการณ์ว่าชีวิตของมนุษย์จะเป็นอย่างไรในโลกหลังภาวะเอกภาพ[ 4 ] [ 26 ]

แนวคิดที่เกี่ยวข้องของ "ปัญญาประดิษฐ์ความเร็วสูง" อธิบายถึงปัญญาประดิษฐ์ที่สามารถทำงานได้เหมือนจิตใจมนุษย์ แต่เร็วกว่ามาก[ 27 ]ตัวอย่างเช่น หากความเร็วในการประมวลผลข้อมูลเพิ่มขึ้นเป็นล้านเท่าเมื่อเทียบกับมนุษย์ ปีในเชิงอัตวิสัยจะผ่านไปใน 30 วินาทีในเชิงกายภาพ[ 28 ]การเพิ่มขึ้นของความเร็วในการประมวลผลข้อมูลดังกล่าวอาจส่งผลให้เกิดหรือมีส่วนสำคัญต่อภาวะเอกฐาน[ 29 ]

นักพยากรณ์เทคโนโลยีและนักวิจัยมีความเห็นไม่ตรงกันเกี่ยวกับเวลาหรือความเป็นไปได้ที่สติปัญญาของมนุษย์จะถูกแซงหน้า บางคนโต้แย้งว่าความก้าวหน้าในปัญญาประดิษฐ์ (AI) อาจส่งผลให้เกิดระบบการให้เหตุผลทั่วไปที่ก้าวข้ามข้อจำกัดทางปัญญาของมนุษย์ ในขณะที่บางคนเชื่อว่ามนุษย์จะวิวัฒนาการหรือปรับเปลี่ยนชีววิทยาของตนเองโดยตรงเพื่อให้บรรลุถึงสติปัญญาที่สูงขึ้นอย่างมาก[ 30 ] [ 31 ]การศึกษาอนาคตจำนวนมากมุ่งเน้นไปที่สถานการณ์ที่รวมความเป็นไปได้เหล่านี้เข้าด้วยกัน โดยชี้ให้เห็นว่ามนุษย์มีแนวโน้มที่จะมีปฏิสัมพันธ์กับคอมพิวเตอร์หรืออัปโหลดจิตใจของตนเองไปยังคอมพิวเตอร์ในลักษณะที่ช่วยให้สามารถขยายสติปัญญาได้อย่างมาก หนังสือ The Age of EmของRobin Hanson ในปี 2016 อธิบายถึงอนาคตที่สมองของมนุษย์จะถูกสแกนและแปลงเป็นดิจิทัล สร้าง "การอัปโหลด" หรือเวอร์ชันดิจิทัลของจิตสำนึกของมนุษย์ ในอนาคตนี้ การพัฒนาการอัปโหลดเหล่านี้อาจเกิดขึ้นก่อนหรือเกิดขึ้นพร้อมกับการเกิดขึ้นของ AI ที่มีสติปัญญาสูงกว่ามนุษย์[ 32 ]

การเปลี่ยนแปลง

เอกภาวะที่ไม่ใช่ปัญญาประดิษฐ์

นักเขียนบางคนใช้คำว่า "ภาวะเอกฐาน" ในความหมายที่กว้างขึ้น เพื่ออ้างถึงการเปลี่ยนแปลงที่รุนแรงในสังคมที่เกิดจากเทคโนโลยีใหม่ (เช่นนาโนเทคโนโลยีระดับโมเลกุล ) [ 33 ] [ 34 ] [ 35 ]แม้ว่า Vinge และนักเขียนคนอื่นๆ จะกล่าวว่าหากไม่มีปัญญาเหนือมนุษย์ การเปลี่ยนแปลงดังกล่าวจะไม่ใช่ภาวะเอกฐานที่แท้จริง[ 4 ]

การคาดการณ์

ความก้าวหน้าของประสิทธิภาพ AIบนเกณฑ์มาตรฐานต่างๆ เมื่อเทียบกับประสิทธิภาพระดับมนุษย์[ 36 ]รวมถึงการมองเห็นด้วยคอมพิวเตอร์ (MNIST, ImageNet), การรู้จำเสียงพูด (Switchboard), การเข้าใจภาษาธรรมชาติ (SQuAD 1.1, MMLU, GLUE), การประเมินแบบจำลองภาษาทั่วไป (MMLU, Big-Bench และ GPQA) และการให้เหตุผลทางคณิตศาสตร์ (MATH) แบบจำลองหลายแบบมีประสิทธิภาพเหนือกว่าระดับมนุษย์ (เส้นทึบสีดำ) ภายในปี 2019 ซึ่งแสดงให้เห็นถึงความก้าวหน้าอย่างมีนัยสำคัญในความสามารถของ AI ในโดเมนต่างๆ ในช่วงสองทศวรรษที่ผ่านมา

มีการคาดการณ์วันเวลาต่างๆ มากมายสำหรับการบรรลุภาวะเอกฐาน

ในปี พ.ศ. 2508 กู๊ดเขียนว่ามีความเป็นไปได้มากกว่าที่เครื่องจักรที่มีสติปัญญาสูงจะถูกสร้างขึ้นในศตวรรษที่ 20 [ 18 ]

Moravecคาดการณ์ไว้ในปี 1988 ว่าความสามารถในการประมวลผลสำหรับ AI ระดับมนุษย์จะพร้อมใช้งานในซูเปอร์คอมพิวเตอร์ก่อนปี 2010 โดยสมมติว่าอัตราการพัฒนาในขณะนั้นยังคงดำเนินต่อไป[ 37 ]

Vinge ทำนายไว้ ในปี 1993 ว่าจะมีการบรรลุถึงสติปัญญาที่สูงกว่ามนุษย์ระหว่างปี 2005 ถึง 2030 [ 4 ]

เคิร์ซไวล์ได้ทำนายถึงปัญญาประดิษฐ์ระดับมนุษย์ไว้ในปี 2029 และภาวะเอกภาพในปี 2045 ในปี 2005 [ 38 ] [ 39 ]เขาได้ยืนยันการทำนายเหล่านี้อีกครั้งในปี 2024 ในหนังสือThe Singularity Is Nearer [ 40 ]

Moravec คาดการณ์ไว้ในปี 1998 ว่า AI จะอยู่ในระดับเดียวกับมนุษย์ภายในปี 2040 และปัญญาจะเหนือกว่ามนุษย์มากภายในปี 2050 โดยเป็นการแก้ไขการคาดการณ์ก่อนหน้านี้ของเขา[ 41 ]

ผลการสำรวจความคิดเห็นแบบไม่เป็นทางการของนักวิจัย AI จำนวน 4 ครั้ง ซึ่งดำเนินการในปี 2012 และ 2013 โดยBostromและMüller พบว่า มีความเชื่อมั่นเฉลี่ยอยู่ที่ 50% ว่าAI ระดับมนุษย์ จะได้รับการพัฒนาภายในปี 2040–2050 [ 42 ] [ 43 ]

ในเดือนกันยายน พ.ศ. 2568 การทบทวนแบบสำรวจของนักวิทยาศาสตร์และผู้เชี่ยวชาญในอุตสาหกรรมในช่วง 15 ปีที่ผ่านมาพบว่าส่วนใหญ่เห็นพ้องกันว่าปัญญาประดิษฐ์ทั่วไป (AGI) ซึ่งเป็นระดับที่ต่ำกว่าภาวะเอกภาพทางเทคโนโลยี จะเกิดขึ้นภายในปี พ.ศ. 2543 [ 44 ]การวิเคราะห์ล่าสุดโดย AIMultiple รายงานว่า "แบบสำรวจปัจจุบันของนักวิจัย AI คาดการณ์ว่า AGI จะเกิดขึ้นประมาณปี พ.ศ. 2583" [ 44 ]

ความน่าเชื่อถือ

นักเทคโนโลยีและนักวิชาการที่มีชื่อเสียงซึ่งโต้แย้งความเป็นไปได้ของภาวะเอกภาพทางเทคโนโลยี ได้แก่Paul Allen [ 7 ] Jeff Hawkins [ 8 ] John Holland Jaron Lanier Steven Pinker [ 8 ] Theodore Modis [ 9 ] และ Gordon Moore [ 8 ] ซึ่งกฎของเขามักถูกอ้างถึงเพื่อสนับสนุนแนวคิดนี้[ 45 ]

วิธีการที่เสนอสำหรับการสร้างจิตใจเหนือมนุษย์หรือเหนือมนุษย์โดยทั่วไปจะแบ่งออกเป็นสองประเภท ได้แก่ การขยายสติปัญญาของสมองมนุษย์และปัญญาประดิษฐ์ วิธีการมากมายที่คาดการณ์ไว้เพื่อเพิ่มสติปัญญาของมนุษย์ ได้แก่วิศวกรรมชีวภาพวิศวกรรม พันธุกรรม ยา โนโทรปิกผู้ ช่วย AI อินเทอร์เฟซระหว่างสมองกับคอมพิวเตอร์โดยตรงและการอัปโหลดจิตใจ[ 28 ]

Robin Hansonได้แสดงความสงสัยเกี่ยวกับการเสริมสติปัญญาของมนุษย์ โดยเขียนว่าเมื่อ "ผลไม้ที่เก็บเกี่ยวได้ง่าย" ของวิธีการง่ายๆ ในการเพิ่มสติปัญญาของมนุษย์หมดไปแล้ว การปรับปรุงเพิ่มเติมจะยากขึ้นเรื่อยๆ[ 46 ]

ในการสนทนาเกี่ยวกับปัญญาประดิษฐ์ระดับมนุษย์กับนักวิทยาศาสตร์ด้านความรู้ความเข้าใจแกรี่ มาร์คัสนักวิทยาศาสตร์คอมพิวเตอร์แกรดี้ บูชกล่าวอย่างสงสัยว่าภาวะเอกภาพนั้น "ไม่แม่นยำเพียงพอ เต็มไปด้วยภาระทางอารมณ์และประวัติศาสตร์ และแตะต้องความหวังและความกลัวที่ลึกที่สุดของมนุษยชาติ ทำให้ยากที่จะมีการสนทนาอย่างมีเหตุผลในเรื่องนี้" [ 47 ]ต่อมาในการสนทนา มาร์คัสแม้จะมองโลกในแง่ดีมากขึ้นเกี่ยวกับความก้าวหน้าของ AI แต่ก็เห็นด้วยว่าความก้าวหน้าครั้งสำคัญใดๆ จะไม่เกิดขึ้นเป็นเหตุการณ์เดียว แต่จะเป็นการเพิ่มขึ้นอย่างช้าๆ และค่อยเป็นค่อยไปของความน่าเชื่อถือและประโยชน์ใช้สอย[ 47 ]

ความเป็นไปได้ของการระเบิดทางสติปัญญาขึ้นอยู่กับปัจจัยสามประการ ปัจจัยเร่งประการแรกคือการพัฒนาสติปัญญาใหม่ ๆ ที่เกิดขึ้นได้จากการพัฒนาครั้งก่อน ๆ แต่เมื่อสติปัญญาก้าวหน้ามากขึ้น การพัฒนาต่อไปก็จะซับซ้อนมากขึ้นเรื่อย ๆ จนอาจบดบังข้อดีของสติปัญญาที่เพิ่มขึ้น การพัฒนาแต่ละครั้งควรสร้างการพัฒนาเพิ่มเติมอย่างน้อยหนึ่งครั้งโดยเฉลี่ย เพื่อให้การเคลื่อนไปสู่ภาวะเอกฐานดำเนินต่อไปได้ ในที่สุด กฎของฟิสิกส์อาจป้องกันการพัฒนาต่อไปได้[ 48 ]

มีสาเหตุสองประการที่เป็นอิสระทางตรรกะ แต่ส่งเสริมซึ่งกันและกันของการพัฒนาสติปัญญา ได้แก่ การเพิ่มขึ้นของความเร็วในการคำนวณและการปรับปรุงอัลกอริธึมที่ใช้[ 17 ]สาเหตุแรกนั้นคาดการณ์ได้จากกฎของมัวร์และการปรับปรุงฮาร์ดแวร์ที่คาดการณ์ไว้[ 49 ]และค่อนข้างคล้ายกับความก้าวหน้าทางเทคโนโลยีในอดีต รายงานของ AIMultiple ระบุว่า "ผู้เชี่ยวชาญส่วนใหญ่เชื่อว่ากฎของมัวร์กำลังจะสิ้นสุดลงในทศวรรษนี้" [ 44 ]แต่ "การคำนวณควอนตัมสามารถนำมาใช้ฝึกเครือข่ายประสาทเทียมได้อย่างมีประสิทธิภาพ" [ 44 ]ซึ่งอาจช่วยแก้ปัญหาการสิ้นสุดของกฎของมัวร์ได้ แต่ Schulman และ Sandberg [ 50 ]โต้แย้งว่าซอฟต์แวร์จะนำเสนอความท้าทายที่ซับซ้อนกว่าการทำงานบนฮาร์ดแวร์ที่สามารถทำงานได้ในระดับสติปัญญาของมนุษย์หรือสูงกว่านั้น

แบบสำรวจทางอีเมลในปี 2017 ของผู้เขียนที่มีผลงานตีพิมพ์ใน การประชุม การเรียนรู้เครื่องจักรNeurIPSและICML ปี 2015 ได้สอบถามเกี่ยวกับโอกาสที่ "ข้อโต้แย้งเรื่องการระเบิดของสติปัญญาโดยทั่วไปนั้นถูกต้อง" จากผู้ตอบแบบสอบถาม 12% กล่าวว่า "ค่อนข้างเป็นไปได้" 17% กล่าวว่า "เป็นไปได้" 21% กล่าวว่า "พอๆ กัน" 24% กล่าวว่า "ไม่น่าเป็นไปได้" และ 26% กล่าวว่า "ค่อนข้างไม่น่าเป็นไปได้" [ 51 ]

การปรับปรุงความเร็ว

ทั้งสำหรับปัญญาของมนุษย์และปัญญาประดิษฐ์ การปรับปรุงฮาร์ดแวร์จะเพิ่มอัตราการปรับปรุงฮาร์ดแวร์ในอนาคต อาจมีขีดจำกัดสูงสุดของความเร็วในที่สุด เจฟฟ์ ฮอว์กินส์กล่าวว่าระบบคอมพิวเตอร์ที่พัฒนาตนเองจะพบกับข้อจำกัดของกำลังการประมวลผลอย่างหลีกเลี่ยงไม่ได้: "ในท้ายที่สุดจะมีข้อจำกัดว่าคอมพิวเตอร์ขนาดใหญ่และเร็วแค่ไหนที่จะทำงานได้ เราจะจบลงที่จุดเดียวกัน เพียงแต่เราจะไปถึงที่นั่นเร็วขึ้นเล็กน้อย จะไม่มีภาวะเอกฐาน" [ 8 ]

เป็นการยากที่จะเปรียบเทียบ ฮาร์ดแวร์ที่ใช้ ซิลิคอนกับเซลล์ประสาท โดยตรง แต่แอนโทนี เบอร์กลาสตั้งข้อสังเกตว่าการรู้จำเสียงพูด ของคอมพิวเตอร์ กำลังเข้าใกล้ความสามารถของมนุษย์ และความสามารถนี้ดูเหมือนจะต้องการปริมาตรเพียง 0.01% ของสมอง การเปรียบเทียบนี้ชี้ให้เห็นว่าฮาร์ดแวร์คอมพิวเตอร์สมัยใหม่มีประสิทธิภาพใกล้เคียงกับสมองของมนุษย์มาก และยังใช้พื้นที่น้อยกว่ามาก ต้นทุนในการฝึกอบรมระบบด้วยการเรียนรู้เชิงลึกอาจสูงกว่า ในการเรียนรู้เชิงลึกสมัยใหม่ ผลกระทบของการปรับปรุงฮาร์ดแวร์ต่อเครือข่ายประสาทนั้นมีลักษณะเฉพาะด้วยกฎการปรับขนาดของระบบประสาท[ 52 ] [ a ] ​​[ 40 ]

การเติบโตแบบทวีคูณ

เรย์ เคิร์ซไวล์ เขียนว่า เนื่องจากการเปลี่ยนแปลงกระบวนทัศน์แนวโน้มการเติบโตแบบทวีคูณได้ขยายกฎของมัวร์จากวงจรรวม ไปสู่ ทรานซิสเตอร์รุ่นก่อนหน้าหลอดสุญญากาศรีเลย์และคอมพิวเตอร์ แบบอิเล็ก โทรเมคานิกส์เขาทำนายว่าการเติบโตแบบทวีคูณจะดำเนินต่อไป และในอีกไม่กี่ทศวรรษข้างหน้า พลังการประมวลผลของคอมพิวเตอร์ทั้งหมดจะเหนือกว่าสมองของมนุษย์ (ที่ยังไม่ได้รับการพัฒนา) พร้อมกับปัญญาประดิษฐ์ เหนือมนุษย์ ที่จะปรากฏขึ้นในช่วงเวลาเดียวกัน

การเติบโตแบบทวีคูณของเทคโนโลยีการคำนวณตามที่กฎของมัวร์แนะนำ มักถูกอ้างถึงว่าเป็นเหตุผลที่คาดว่าจะเกิดภาวะเอกฐานในอนาคตอันใกล้ และผู้เขียนหลายคนได้เสนอการขยายความทั่วไปของกฎของมัวร์ นักวิทยาศาสตร์คอมพิวเตอร์และนักอนาคตศาสตร์ Hans Moravec เสนอในหนังสือปี 1998 [ 54 ]ว่าเส้นโค้งการเติบโตแบบทวีคูณสามารถขยายกลับไปยังเทคโนโลยีการคำนวณในยุคก่อนวงจรรวมได้

Ray Kurzweilตั้งสมมติฐานเกี่ยวกับกฎแห่งผลตอบแทนที่เร่งตัวขึ้นโดยที่ความเร็วของการเปลี่ยนแปลงทางเทคโนโลยี (และโดยทั่วไปแล้ว กระบวนการวิวัฒนาการทั้งหมด) [ 55 ]เพิ่มขึ้นแบบทวีคูณ ซึ่งเป็นการขยายกฎของ Moore ในลักษณะเดียวกับข้อเสนอของ Moravec และยังรวมถึงเทคโนโลยีวัสดุ (โดยเฉพาะอย่างยิ่งที่นำมาใช้กับนาโนเทคโนโลยี ) และเทคโนโลยีทางการแพทย์ด้วย[ 56 ]ระหว่างปี 1986 ถึง 2007 ความสามารถในการประมวลผลข้อมูลต่อหัวของเครื่องจักรเฉพาะด้านการใช้งานเพิ่มขึ้นเป็นสองเท่าทุกๆ 14 เดือน ความสามารถต่อหัวของคอมพิวเตอร์อเนกประสงค์ทั่วโลกเพิ่มขึ้นเป็นสองเท่าทุกๆ 18 เดือน ความสามารถด้านโทรคมนาคมต่อหัวทั่วโลกเพิ่มขึ้นเป็นสองเท่าทุกๆ 34 เดือน และความสามารถในการจัดเก็บข้อมูลต่อหัวของโลกเพิ่มขึ้นเป็นสองเท่าทุกๆ 40 เดือน[ 57 ]ในทางกลับกัน มีการโต้แย้งว่ารูปแบบการเร่งตัวทั่วโลกที่มีภาวะเอกฐานในศตวรรษที่ 21 เป็นพารามิเตอร์ ควรมีลักษณะเป็นแบบไฮเปอร์โบลิกมากกว่าแบบทวีคูณ[ 58 ]

เคิร์ซไวล์สงวนคำว่า "ภาวะเอกภาพ" ไว้สำหรับการเพิ่มขึ้นอย่างรวดเร็วของปัญญาประดิษฐ์ (ตรงข้ามกับเทคโนโลยีอื่นๆ) โดยเขียนว่า "ภาวะเอกภาพจะทำให้เราสามารถก้าวข้ามข้อจำกัดของร่างกายและสมองทางชีววิทยาของเราได้ ... หลังภาวะเอกภาพแล้ว จะไม่มีความแตกต่างระหว่างมนุษย์และเครื่องจักร" [ 59 ]เขายังนิยามภาวะเอกภาพว่าคือเมื่อปัญญาประดิษฐ์ที่ใช้คอมพิวเตอร์มีประสิทธิภาพมากกว่าผลรวมของพลังสมองของมนุษย์อย่างมีนัยสำคัญ โดยเขียนว่าความก้าวหน้าในการคำนวณก่อนหน้านั้น "จะไม่ถือเป็นภาวะเอกภาพ" เพราะ "ยังไม่สอดคล้องกับการขยายตัวอย่างลึกซึ้งของสติปัญญาของเรา" [ 60 ]

การเปลี่ยนแปลงที่เร่งตัวขึ้น

ตามที่เคิร์ซไวล์กล่าวกราฟลอการิทึม ของเขาซึ่งแสดงรายการ การเปลี่ยนแปลงกระบวนทัศน์ 15 รายการสำหรับเหตุการณ์ สำคัญ ทางประวัติศาสตร์ แสดงให้เห็น แนวโน้มแบบทวีคูณ

ผู้สนับสนุนแนวคิดภาวะเอกภาพบางคนโต้แย้งถึงความหลีกเลี่ยงไม่ได้ของภาวะเอกภาพผ่านการคาดการณ์จากแนวโน้มในอดีต โดยเฉพาะอย่างยิ่งแนวโน้มที่เกี่ยวข้องกับการลดช่องว่างระหว่างการพัฒนาเทคโนโลยี ในการใช้คำว่า "ภาวะเอกภาพ" ครั้งแรกๆ ในบริบทของความก้าวหน้าทางเทคโนโลยีสตานิสลาฟ อูแลมเล่าถึงบทสนทนากับจอห์น ฟอน นอยมัน น์ เกี่ยวกับการเปลี่ยนแปลงที่เร่งตัวขึ้น:

การสนทนาหนึ่งมุ่งเน้นไปที่ความก้าวหน้าทางเทคโนโลยีที่เร่งตัวขึ้นเรื่อยๆ และการเปลี่ยนแปลงในรูปแบบชีวิตของมนุษย์ ซึ่งดูเหมือนว่าจะเข้าใกล้ภาวะเอกฐานที่สำคัญบางอย่างในประวัติศาสตร์ของเผ่าพันธุ์มนุษย์ ซึ่งหลังจากนั้นกิจการของมนุษย์อย่างที่เรารู้จักจะไม่สามารถดำเนินต่อไปได้[ 16 ]

เคิร์ซไวล์อ้างว่าความก้าวหน้าทางเทคโนโลยีเป็นไปตามรูปแบบของการเติบโตแบบทวีคูณตามสิ่งที่เขาเรียกว่า " กฎแห่งผลตอบแทนที่เร่งตัวขึ้น " เคิร์ซไวล์เขียนว่าเมื่อใดก็ตามที่เทคโนโลยีเข้าใกล้ขีดจำกัด เทคโนโลยีใหม่ก็จะก้าวข้ามขีดจำกัดนั้นไปได้ เขาทำนายว่าการเปลี่ยนแปลงกระบวนทัศน์จะเกิดขึ้นบ่อยขึ้นเรื่อยๆ นำไปสู่ ​​"การเปลี่ยนแปลงทางเทคโนโลยีที่รวดเร็วและลึกซึ้งจนถือเป็นการแตกหักในโครงสร้างของประวัติศาสตร์มนุษย์" [ 61 ]เคิร์ซไวล์เชื่อว่าภาวะเอกฐานจะเกิดขึ้นภายในปี 2045 [ 56 ]การคาดการณ์ของเขาแตกต่างจากของวิงจ์ตรงที่เขาทำนายการก้าวไปสู่ภาวะเอกฐานอย่างค่อยเป็นค่อยไป แทนที่จะเป็นสติปัญญาเหนือมนุษย์ที่พัฒนาตนเองอย่างรวดเร็วตามที่วิงจ์กล่าว

อันตรายที่มักถูกกล่าวถึง ได้แก่ อันตรายที่เกี่ยวข้องกับนาโนเทคโนโลยีระดับโมเลกุลและวิศวกรรมพันธุกรรม ภัยคุกคามเหล่านี้เป็นประเด็นสำคัญสำหรับทั้งผู้สนับสนุนและผู้วิจารณ์เรื่องเอกภาวะ และเป็นหัวข้อของบทความในนิตยสารWiredปี 2000 ของBill Joy เรื่อง " ทำไมอนาคตจึงไม่ต้องการเรา " [ 17 ] [ 62 ]

การปรับปรุงอัลกอริทึม

เทคโนโลยีอัจฉริยะบางอย่าง เช่น "seed AI" [ 23 ] [ 24 ]อาจสามารถทำให้ตัวเองไม่เพียงแต่เร็วขึ้นเท่านั้น แต่ยังมีประสิทธิภาพมากขึ้นด้วยการแก้ไขซอร์สโค้ดการปรับปรุงเหล่านี้จะทำให้สามารถปรับปรุงเพิ่มเติมได้ ซึ่งจะทำให้สามารถปรับปรุงเพิ่มเติมได้เรื่อยๆ

กลไกของชุดอัลกอริธึมที่พัฒนาตนเองอย่างต่อเนื่องนั้นแตกต่างจากการเพิ่มความเร็วในการคำนวณโดยตรงในสองประการ ประการแรก กลไกนี้ไม่ต้องการอิทธิพลภายนอก: เครื่องจักรที่ออกแบบฮาร์ดแวร์ที่เร็วขึ้นยังคงต้องการมนุษย์ในการสร้างฮาร์ดแวร์ที่ได้รับการปรับปรุง หรือในการเขียนโปรแกรมโรงงานอย่างเหมาะสม ในขณะที่ AI ที่เขียนโค้ดต้นฉบับของตนเองใหม่นั้นสามารถทำได้ในขณะที่อยู่ภายในกล่อง AI

ประการที่สอง เช่นเดียวกับ แนวคิดเรื่องภาวะเอกฐานของ เวอร์เนอร์ วิงจ์การคาดการณ์ผลลัพธ์นั้นยากกว่ามาก ในขณะที่ความเร็วที่เพิ่มขึ้นดูเหมือนจะเป็นเพียงความแตกต่างเชิงปริมาณจากสติปัญญาของมนุษย์ การปรับปรุงอัลกอริทึมที่แท้จริงนั้นจะแตกต่างกันในเชิงคุณภาพ

อันตรายที่สำคัญเกี่ยวข้องกับภาวะเอกฐานของการระเบิดทางปัญญาที่กำเนิดจากชุดอัลกอริธึมที่ปรับปรุงตนเองแบบวนซ้ำ ประการแรก โครงสร้างเป้าหมายของ AI อาจเปลี่ยนแปลงตัวเอง ซึ่งอาจทำให้ AI ปรับให้เหมาะสมกับสิ่งอื่นนอกเหนือจากสิ่งที่ตั้งใจไว้แต่แรก[ 63 ] [ 64 ]ประการที่สอง AI อาจแข่งขันเพื่อแย่งชิงทรัพยากรที่มนุษย์ใช้ในการดำรงชีวิต[ 65 ] [ 66 ]แม้ว่าจะไม่ได้มีเจตนาร้ายโดยตรง แต่ AI จะส่งเสริมเป้าหมายของการเขียนโปรแกรมของตนเอง ไม่ใช่เป้าหมายของมนุษย์ในวงกว้าง และอาจทำให้มนุษย์ถูกเบียดเบียนจนหมดความสำคัญไป[ 67 ] [ 68 ] [ 69 ]

Carl ShulmanและAnders Sandbergเสนอแนะว่าการปรับปรุงอัลกอริทึมอาจเป็นปัจจัยจำกัดสำหรับภาวะเอกฐาน ในขณะที่ประสิทธิภาพของฮาร์ดแวร์มีแนวโน้มที่จะดีขึ้นในอัตราคงที่ นวัตกรรมซอฟต์แวร์นั้นคาดเดาได้ยากกว่าและอาจถูกจำกัดด้วยการวิจัยแบบอนุกรมและสะสม พวกเขาเสนอแนะว่าในกรณีของภาวะเอกฐานที่จำกัดด้วยซอฟต์แวร์ การระเบิดของสติปัญญาจะมีโอกาสเกิดขึ้นได้มากกว่าในกรณีที่จำกัดด้วยฮาร์ดแวร์ เพราะในกรณีที่จำกัดด้วยซอฟต์แวร์ เมื่อ AI ระดับมนุษย์ได้รับการพัฒนาแล้ว มันสามารถทำงานแบบอนุกรมบนฮาร์ดแวร์ที่เร็วมาก และฮาร์ดแวร์ราคาถูกจำนวนมากจะทำให้การวิจัย AI มีข้อจำกัดน้อยลง[ 70 ]ฮาร์ดแวร์ที่สะสมไว้จำนวนมากซึ่งสามารถปลดปล่อยได้เมื่อซอฟต์แวร์เข้าใจวิธีการใช้งานนั้นเรียกว่า "ส่วนเกินของการคำนวณ" [ 71 ]

การวิจารณ์

สตีเวน พิงเกอร์นักภาษาศาสตร์และนักวิทยาศาสตร์ด้านความรู้ความเข้าใจเขียนไว้ในปี 2008 ว่า "ไม่มีเหตุผลแม้แต่น้อยที่จะเชื่อในภาวะเอกภาพที่กำลังจะเกิดขึ้น ความจริงที่ว่าคุณสามารถจินตนาการถึงอนาคตได้นั้นไม่ใช่หลักฐานว่ามันน่าจะเป็นไปได้หรือเป็นไปได้จริง ลองดูเมืองโดม การเดินทางด้วยเครื่องบินเจ็ตแพ็ค เมืองใต้น้ำ อาคารสูงหลายไมล์ และรถยนต์พลังงานนิวเคลียร์ ทั้งหมดนี้ล้วนเป็นจินตนาการแห่งอนาคตในวัยเด็กของผมที่ไม่เคยเกิดขึ้นจริง พลังการประมวลผลเพียงอย่างเดียวไม่ใช่เวทมนตร์ที่จะแก้ปัญหาทั้งหมดของคุณได้" [ 8 ]

Jaron Lanierปฏิเสธว่าภาวะเอกภาพนั้นเป็นสิ่งที่หลีกเลี่ยงไม่ได้: "ผมไม่คิดว่าเทคโนโลยีจะสร้างตัวเองขึ้นมา มันไม่ใช่กระบวนการที่เป็นอิสระ [...] เหตุผลที่จะเชื่อในความสามารถของมนุษย์มากกว่าการกำหนดโดยเทคโนโลยีก็คือ คุณจะมีเศรษฐกิจที่ผู้คนสามารถหาเลี้ยงชีพและสร้างชีวิตของตนเองได้ หากคุณสร้างสังคมโดยไม่เน้นความสามารถของมนุษย์แต่ละคน มันก็เหมือนกับการปฏิเสธอำนาจ ศักดิ์ศรี และการกำหนดตนเองของผู้คน ... การยอมรับ [แนวคิดเรื่องภาวะเอกภาพ] จะเป็นการเฉลิมฉลองข้อมูลที่ไม่ดีและการเมืองที่ไม่ดี" [ 72 ]

แดเนียล เดนเน็ตต์นักปรัชญาและนักวิทยาศาสตร์ด้านความรู้ความเข้าใจกล่าวในปี 2017 ว่า "เรื่องเอกภาวะทั้งหมดนั้นไร้สาระ มันทำให้เราเสียสมาธิจากปัญหาที่เร่งด่วนกว่ามาก [...] เครื่องมือ AI ที่เราพึ่งพามากเกินไป—นั่นจะต้องเกิดขึ้น และหนึ่งในอันตรายก็คือเราจะมอบอำนาจให้พวกมันมากกว่าที่พวกมันสมควรได้รับ" [ 73 ]

นักวิจารณ์บางคนเสนอว่าแรงจูงใจทางศาสนาเป็นสาเหตุของการเชื่อในภาวะเอกภาพ โดยเฉพาะอย่างยิ่งในเวอร์ชันของเคิร์ซไวล์ การเตรียมการสำหรับภาวะเอกภาพนั้นถูกเปรียบเทียบกับ สถานการณ์ วันสิ้นโลก ของศาสนาคริสต์ บีมเรียกมันว่า " วิสัยทัศน์ แบบบัค โรเจอร์ส เกี่ยว กับเหตุการณ์การรับขึ้นสวรรค์ตามสมมติฐานของศาสนาคริสต์" [ 74 ]จอห์น เกรย์กล่าวว่า "ภาวะเอกภาพสะท้อนตำนานวันสิ้นโลกที่ประวัติศาสตร์กำลังจะถูกขัดจังหวะด้วยเหตุการณ์ที่เปลี่ยนแปลงโลก" [ 75 ]

ในThe New York Timesเดวิดสไตรต์เฟลด์ตั้งคำถามว่า "สิ่งนี้อาจปรากฏให้เห็นเป็นอันดับแรกและสำคัญที่สุด—ส่วนหนึ่งเนื่องมาจากความหมกมุ่นในผลกำไรของซิลิคอนแวลลีย์ ในปัจจุบัน —ในฐานะเครื่องมือในการลดจำนวนพนักงานของบริษัทในอเมริกา" [ 76 ]

นักฟิสิกส์ดาราศาสตร์และนักปรัชญาวิทยาศาสตร์Adam Beckerวิพากษ์วิจารณ์แนวคิดของ Kurzweil เกี่ยวกับการอัปโหลดจิตใจมนุษย์ไปยังคอมพิวเตอร์โดยอ้างว่ามันแตกต่างกันโดยพื้นฐานและไม่เข้ากัน[ 77 ]

ความสงสัยเกี่ยวกับการเติบโตแบบทวีคูณ

ธีโอดอร์ โมดิสเชื่อว่าภาวะเอกฐานไม่สามารถเกิดขึ้นได้[ 78 ] [ 9 ] [ 79 ]เขาอ้างว่า "ภาวะเอกฐานทางเทคโนโลยี" และโดยเฉพาะอย่างยิ่งเคิร์ซไวล์ ขาดความเข้มงวดทางวิทยาศาสตร์ เคิร์ซไวล์ถูกกล่าวหาว่าเข้าใจผิดว่าฟังก์ชันโลจิสติก (ฟังก์ชัน S) เป็นฟังก์ชันเลขชี้กำลัง และมองเห็น "จุดหัก" ในฟังก์ชันเลขชี้กำลังซึ่งในความเป็นจริงแล้วไม่มีสิ่งนั้นอยู่[ 80 ]ในบทความปี 2021 โมดิสเขียนว่าไม่มีเหตุการณ์สำคัญใดๆ—การเปลี่ยนแปลงในมุมมองทางประวัติศาสตร์ที่มีความสำคัญเทียบเท่ากับอินเทอร์เน็ต ดีเอ็นเอ ทรานซิสเตอร์ หรือพลังงานนิวเคลียร์—ที่ถูกสังเกตเห็นในช่วง 20 ปีที่ผ่านมา ในขณะที่คาดว่าจะมีเหตุการณ์สำคัญถึงห้าเหตุการณ์ตามแนวโน้มเลขชี้กำลังที่ผู้สนับสนุนภาวะเอกฐานทางเทคโนโลยีสนับสนุน[ 81 ]

นักวิจัย AI Jürgen Schmidhuberกล่าวว่าความถี่ของ "เหตุการณ์ที่น่าจดจำ" ในเชิงอัตวิสัยดูเหมือนจะเข้าใกล้ภาวะเอกฐานในศตวรรษที่ 21 แต่เตือนผู้อ่านให้พิจารณาแผนภูมิเหตุการณ์เชิงอัตวิสัยดังกล่าวด้วยความระมัดระวัง: บางทีความแตกต่างในความทรงจำของเหตุการณ์ล่าสุดและเหตุการณ์ในอดีตอาจสร้างภาพลวงตาของการเปลี่ยนแปลงที่เร่งขึ้นทั้งที่ไม่มีอยู่จริง[ 82 ]

Hofstadter (2006) ตั้งข้อกังวลว่า Kurzweil ไม่เข้มงวดเพียงพอ แนวโน้มแบบเลขชี้กำลังของเทคโนโลยีไม่ใช่กฎทางวิทยาศาสตร์เหมือนกับกฎของฟิสิกส์ และเส้นโค้งเลขชี้กำลังไม่มี "จุดหักงอ" [ 83 ]ถึงกระนั้น เขาก็ไม่ได้ตัดความเป็นไปได้ของภาวะเอกฐานในอนาคตอันไกลโพ้นออกไป[ 8 ]และเมื่อพิจารณาจากChatGPTและความก้าวหน้าล่าสุดอื่นๆ เขาได้แก้ไขความคิดเห็นของเขาอย่างมีนัยสำคัญเกี่ยวกับการเปลี่ยนแปลงทางเทคโนโลยีอย่างมากในอนาคตอันใกล้[ 84 ]

นักเศรษฐศาสตร์Robert J. Gordonชี้ให้เห็นว่าการเติบโตทางเศรษฐกิจที่วัดได้ชะลอตัวลงประมาณปี 1970 และชะลอตัวลงอีกนับตั้งแต่เกิดวิกฤตการณ์ทางการเงินในปี 2008 และโต้แย้งว่าข้อมูลทางเศรษฐกิจไม่ได้แสดงให้เห็นถึงร่องรอยของภาวะเอกภาพ (Singularity) ที่กำลังจะมาถึงตามที่ IJ Goodจินตนาการไว้[ 85 ]

นอกเหนือจากคำวิจารณ์ทั่วไปเกี่ยวกับแนวคิดเรื่องเอกภาวะแล้ว นักวิจารณ์หลายคนยังได้หยิบยกประเด็นเกี่ยวกับแผนภูมิอันเป็นสัญลักษณ์ของเคิร์ซไวล์ขึ้นมา หนึ่งในคำวิจารณ์คือ แผนภูมิ แบบ log-logในลักษณะนี้มีแนวโน้มที่จะให้ผลลัพธ์เป็นเส้นตรงโดยธรรมชาติ นักวิจารณ์คนอื่นๆ ระบุถึงอคติในการเลือกจุดที่เคิร์ซไวล์ใช้ ตัวอย่างเช่น นักชีววิทยาPZ Myersชี้ให้เห็นว่า "เหตุการณ์" วิวัฒนาการในช่วงแรกๆ หลายเหตุการณ์ถูกเลือกโดยพลการ[ 86 ]เคิร์ซไวล์ได้โต้แย้งเรื่องนี้โดยการสร้างแผนภูมิเหตุการณ์วิวัฒนาการจากแหล่งข้อมูลที่เป็นกลาง 15 แหล่ง และแสดงให้เห็นว่าเหตุการณ์เหล่านั้นสอดคล้องกับเส้นตรงบน แผนภูมิแบบ log - log เคลลี่ (2006) โต้แย้งว่าวิธีการสร้างแผนภูมิของเคิร์ซไวล์ โดยที่แกน x มีเวลาก่อนปัจจุบัน ทำให้แผนภูมิชี้ไปยังเอกภาวะที่เป็น "ปัจจุบัน" เสมอ ไม่ว่าจะเป็นวันใดก็ตามที่สร้างแผนภูมิดังกล่าว และแสดงให้เห็นภาพบนแผนภูมิของเคิร์ซไวล์[ 87 ]

ปัจจัยจำกัดทางเทคโนโลยี

มาร์ติน ฟอร์ด[ 88 ]ตั้งสมมติฐานเกี่ยวกับ "ความขัดแย้งทางเทคโนโลยี": งานประจำส่วนใหญ่สามารถทำให้เป็นระบบอัตโนมัติได้ด้วยเทคโนโลยีในระดับที่ต่ำกว่าที่จำเป็นสำหรับภาวะเอกภาพ ซึ่งจะทำให้เกิดการว่างงานจำนวนมากและความต้องการของผู้บริโภคลดลงอย่างมาก ซึ่งจะขจัดแรงจูงใจในการลงทุนในเทคโนโลยีที่จำเป็นต่อการทำให้เกิดภาวะเอกภาพ การเลิกจ้างงานจะไม่จำกัดเฉพาะงานประเภทที่ถือว่าเป็น "งานประจำ" อีกต่อไป[ 89 ]

Theodore Modis [ 90 ]และJonathan Huebner [ 91 ]โต้แย้งว่าอัตราการสร้างนวัตกรรมทางเทคโนโลยีไม่เพียงแต่หยุดเพิ่มขึ้นเท่านั้น แต่ในความเป็นจริงแล้วกำลังลดลง หลักฐานของการลดลงนี้คืออัตราความเร็วสัญญาณนาฬิกา ของคอมพิวเตอร์ กำลังชะลอตัวลง แม้ว่าการคาดการณ์ของ Moore เกี่ยวกับความหนาแน่นของวงจรที่เพิ่มขึ้นแบบทวีคูณจะยังคงเป็นจริงอยู่ก็ตาม นี่เป็นเพราะความร้อนสะสมมากเกินไปจากชิป ซึ่งไม่สามารถระบายออกได้เร็วพอที่จะป้องกันไม่ให้ชิปละลายเมื่อทำงานที่ความเร็วสูงขึ้น ความก้าวหน้าในด้านความเร็วอาจเป็นไปได้ในอนาคตด้วยการออกแบบ CPU ที่ประหยัดพลังงานมากขึ้นและโปรเซสเซอร์แบบหลายเซลล์[ 92 ]

พอล อัลเลนผู้ร่วมก่อตั้ง Microsoft ได้โต้แย้งว่ามี "เบรกความซับซ้อน" [ 7 ]ยิ่งวิทยาศาสตร์ก้าวหน้าไปสู่การทำความเข้าใจสติปัญญามากเท่าไร ก็ยิ่งยากที่จะก้าวหน้าต่อไป การศึกษาจำนวนสิทธิบัตรแสดงให้เห็นว่าความคิดสร้างสรรค์ของมนุษย์ไม่ได้แสดงผลตอบแทนที่เพิ่มขึ้นอย่างรวดเร็ว แต่ในความเป็นจริง ตามที่โจเซฟ เทนเตอร์ แนะนำไว้ใน The Collapse of Complex Societies [ 93 ] กลับเป็นกฎของผลตอบแทนที่ลดลงจำนวนสิทธิบัตรต่อพันคนพุ่งสูงสุดในช่วงปี 1850 ถึง 1900 และลดลงเรื่อยมาตั้งแต่นั้น[ 91 ]การเติบโตของความซับซ้อนในที่สุดก็กลายเป็นข้อจำกัดในตัวเอง และนำไปสู่ ​​"การล่มสลายของระบบทั่วไป" ที่แพร่หลาย

ผลกระทบที่อาจเกิดขึ้น

ในอดีต อัตราการเติบโตทางเศรษฐกิจได้เปลี่ยนแปลงอย่างมากเนื่องจากความก้าวหน้าทางเทคโนโลยี จากการเติบโตของประชากร เศรษฐกิจเติบโตเป็นสองเท่าทุกๆ 250,000 ปี ตั้งแต่ ยุค หินเก่าจนถึงการปฏิวัติยุคหินใหม่เศรษฐกิจเกษตรกรรมใหม่เติบโตเป็นสองเท่าทุกๆ 900 ปี ซึ่งเป็นการเพิ่มขึ้นที่น่าทึ่ง นับตั้งแต่การปฏิวัติอุตสาหกรรมผลผลิตทางเศรษฐกิจของโลกเติบโตเป็นสองเท่าทุกๆ 15 ปี เร็วกว่าในยุคเกษตรกรรมถึง 60 เท่า หากการเพิ่มขึ้นของสติปัญญาเหนือมนุษย์ก่อให้เกิดการปฏิวัติที่คล้ายคลึงกัน โรบิน แฮนสัน กล่าวว่า เราคาดว่าเศรษฐกิจจะเติบโตเป็นสองเท่าอย่างน้อยทุกไตรมาส และอาจจะทุกสัปดาห์[ 94 ]

ความไม่แน่นอนและความเสี่ยง

คำว่า "ภาวะเอกภาพทางเทคโนโลยี" สะท้อนถึงแนวคิดที่ว่าการเปลี่ยนแปลงดังกล่าวอาจเกิดขึ้นอย่างฉับพลัน และเป็นการยากที่จะคาดการณ์ว่าโลกใหม่ที่เกิดขึ้นจะดำเนินไปอย่างไร[ 95 ] [ 96 ]ยังไม่ชัดเจนว่าการระเบิดของสติปัญญาที่ส่งผลให้เกิดภาวะเอกภาพจะเป็นประโยชน์หรือเป็นอันตราย หรือแม้กระทั่งเป็นภัยคุกคามต่อการดำรงอยู่ [ 97 ] [ 98 ]เนื่องจาก AI เป็นปัจจัยสำคัญในความเสี่ยงของภาวะเอกภาพ องค์กรหลายแห่งจึงดำเนินทฤษฎีทางเทคนิคในการปรับระบบเป้าหมายของ AI ให้สอดคล้องกับคุณค่าของมนุษย์ รวมถึงสถาบันอนาคตของมนุษยชาติ (จนถึงปี 2024) สถาบันวิจัยปัญญาประดิษฐ์ [ 95 ]ศูนย์ ปัญญาประดิษฐ์ที่เข้ากันได้ กับมนุษย์และสถาบันอนาคตของชีวิต

นักฟิสิกส์สตีเฟน ฮอว์คิงกล่าวในปี 2014 ว่า "ความสำเร็จในการสร้าง AI จะเป็นเหตุการณ์ที่ยิ่งใหญ่ที่สุดในประวัติศาสตร์มนุษยชาติ น่าเสียดายที่มันอาจจะเป็นเหตุการณ์สุดท้ายด้วย เว้นแต่เราจะเรียนรู้วิธีหลีกเลี่ยงความเสี่ยง" [ 99 ]ฮอว์คิงเชื่อว่าในอีกหลายทศวรรษข้างหน้า AI อาจนำมาซึ่ง "ผลประโยชน์และความเสี่ยงที่ประเมินค่าไม่ได้" เช่น "เทคโนโลยีที่ฉลาดกว่าตลาดการเงิน คิดค้นสิ่งใหม่ๆ ได้เหนือกว่านักวิจัยมนุษย์ ควบคุมผู้นำมนุษย์ได้เหนือกว่า และพัฒนาอาวุธที่เรายังไม่เข้าใจ" [ 99 ]เขาแนะนำว่าควรให้ความสำคัญกับปัญญาประดิษฐ์มากขึ้น และควรเตรียมพร้อมสำหรับภาวะเอกภาพให้มากขึ้น: [ 99 ]

ดังนั้น เมื่อเผชิญกับอนาคตที่อาจมีทั้งผลประโยชน์และความเสี่ยงที่ประเมินค่าไม่ได้ ผู้เชี่ยวชาญย่อมต้องทำทุกวิถีทางเพื่อให้ได้ผลลัพธ์ที่ดีที่สุดใช่ไหม? ผิดแล้ว หากอารยธรรมต่างดาวที่เหนือกว่าส่งข้อความมาหาเราว่า "เราจะมาถึงในอีกไม่กี่ทศวรรษ" เราจะตอบกลับไปว่า "ตกลง โทรหาเราเมื่อมาถึงแล้ว เราจะเปิดไฟรอ" หรือไม่? คงไม่หรอก แต่สิ่งนี้ก็คล้ายคลึงกับสิ่งที่กำลังเกิดขึ้นกับ AI ในปัจจุบัน

เบอร์กลาส (2008)อ้างว่าไม่มีแรงจูงใจเชิงวิวัฒนาการโดยตรงที่ทำให้ AI เป็นมิตรกับมนุษย์ วิวัฒนาการไม่มีแนวโน้มโดยธรรมชาติที่จะสร้างผลลัพธ์ที่มนุษย์ให้คุณค่า และมีเหตุผลน้อยที่จะคาดหวังว่ากระบวนการเพิ่มประสิทธิภาพโดยพลการจะส่งเสริมผลลัพธ์ที่มนุษย์ต้องการ แทนที่จะนำไปสู่พฤติกรรมของ AI ที่ไม่ได้ตั้งใจโดยผู้สร้าง[ 100 ] [ 101 ] [ 102 ]แอนเดอร์ส แซนด์เบิร์กได้ขยายความในเรื่องนี้ โดยกล่าวถึงข้อโต้แย้งทั่วไปต่างๆ[ 103 ]นักวิจัย AI ฮูโก เดอ การิสแนะนำว่าปัญญาประดิษฐ์อาจกำจัดเผ่าพันธุ์มนุษย์เพื่อเข้าถึงทรัพยากรที่หายาก [ 65 ] [ 63 ]และมนุษย์จะไม่มีอำนาจที่จะหยุดพวกมันได้[ 104 ]หรืออีกทางหนึ่ง AI ที่พัฒนาภายใต้แรงกดดันเชิงวิวัฒนาการเพื่อส่งเสริมการอยู่รอดของตนเองอาจแข่งขันกับมนุษยชาติได้[ 69 ]

บอสตอม (2002)กล่าวถึงสถานการณ์การสูญพันธุ์ของมนุษย์ และระบุว่าปัญญาประดิษฐ์ขั้นสูงเป็นสาเหตุที่เป็นไปได้:

เมื่อเราสร้างสิ่งมีชีวิตที่มีสติปัญญาเหนือกว่ามนุษย์เป็นครั้งแรก เราอาจทำผิดพลาดและกำหนดเป้าหมายที่นำไปสู่การทำลายล้างมนุษยชาติ โดยคิดว่าความได้เปรียบทางสติปัญญาอันมหาศาลจะทำให้มันมีอำนาจที่จะทำเช่นนั้นได้ ตัวอย่างเช่น เราอาจยกเป้าหมายย่อยขึ้นมาเป็นเป้าหมายหลักโดยไม่ได้ตั้งใจ เราสั่งให้มันแก้ปัญหาทางคณิตศาสตร์ และมันก็ทำตามโดยการเปลี่ยนสสารทั้งหมดในระบบสุริยะให้กลายเป็นเครื่องคำนวณขนาดยักษ์ ในกระบวนการนั้นมันก็ฆ่าคนที่ถามคำถามนั้นไป

ตามที่Eliezer Yudkowskyกล่าว ปัญหาสำคัญในด้านความปลอดภัยของ AI คือ AI ที่ไม่เป็นมิตรนั้นน่าจะสร้างได้ง่ายกว่า AI ที่เป็นมิตรมาก ทั้งสองแบบต้องอาศัยความก้าวหน้าอย่างมากในการออกแบบกระบวนการเพิ่มประสิทธิภาพแบบวนซ้ำ แต่ AI ที่เป็นมิตรยังต้องการความสามารถในการทำให้โครงสร้างเป้าหมายคงที่ภายใต้การปรับปรุงตนเอง (มิฉะนั้น AI อาจเปลี่ยนตัวเองเป็นสิ่งที่ไม่เป็นมิตร) และโครงสร้างเป้าหมายที่สอดคล้องกับคุณค่าของมนุษย์และไม่ทำลายเผ่าพันธุ์มนุษย์โดยอัตโนมัติ ในทางกลับกัน AI ที่ไม่เป็นมิตรสามารถเพิ่มประสิทธิภาพสำหรับโครงสร้างเป้าหมายตามอำเภอใจ ซึ่งไม่จำเป็นต้องคงที่ภายใต้การปรับเปลี่ยนตนเอง[ 105 ] Bill Hibbard (2014)เสนอการออกแบบ AI ที่หลีกเลี่ยงอันตรายหลายประการ รวมถึงการหลงผิดในตนเอง[ 106 ]การกระทำที่เป็นเครื่องมือโดยไม่ตั้งใจ[ 63 ] [ 107 ]และการทุจริตของตัวสร้างรางวัล[ 107 ]เขายังกล่าวถึงผลกระทบทางสังคมของ AI [ 108 ]และการทดสอบ AI ด้วย [ 109 ]หนังสือSuper-Intelligent Machines ของเขาในปี 2001 สนับสนุนการให้ความรู้แก่สาธารณชนเกี่ยวกับ AI และการควบคุม AI โดยสาธารณชน นอกจากนี้ยังเสนอการออกแบบที่เรียบง่ายซึ่งมีความเสี่ยงต่อการทุจริตของตัวสร้างรางวัล

ไทม์ไลน์แผนผังของข้อมูลและตัวจำลองในชีวภาค: " การเปลี่ยนแปลงวิวัฒนาการที่สำคัญ " ของ Gillings และคณะในการประมวลผลข้อมูล[ 110 ]

ขั้นตอนต่อไปของวิวัฒนาการทางชีวสังคม

ปริมาณข้อมูลดิจิทัลทั่วโลก (5 × 10)21ไบต์) เทียบกับข้อมูลจีโนมมนุษย์ทั่วโลก (10 19ไบต์) ในปี 2557 [ 110 ]

บทความ Trends in Ecology & Evolutionปี 2016 โต้แย้งว่ามนุษยชาติกำลังอยู่ในช่วงการเปลี่ยนแปลงทางวิวัฒนาการครั้งสำคัญที่ผสานเทคโนโลยี ชีววิทยา และสังคมเข้าด้วยกัน เนื่องมาจากเทคโนโลยีดิจิทัลได้แทรกซึมเข้าไปในโครงสร้างของสังคมมนุษย์ในระดับที่มักเป็นการพึ่งพาเพื่อการดำรงชีวิต บทความกล่าวว่า "มนุษย์ยอมรับการผสมผสานระหว่างชีววิทยาและเทคโนโลยีอยู่แล้ว เราใช้เวลาส่วนใหญ่ในขณะตื่นนอนในการสื่อสารผ่านช่องทางดิจิทัล [...] เราไว้วางใจปัญญาประดิษฐ์ในชีวิตของเราผ่านระบบเบรกป้องกันล้อล็อกในรถยนต์และระบบขับเคลื่อน อัตโนมัติ ในเครื่องบิน... ด้วยการเกี้ยวพาราสีที่นำไปสู่การแต่งงานหนึ่งในสามในอเมริกาเริ่มต้นทางออนไลน์ อัลกอริทึมดิจิทัลจึงมีบทบาทในการสร้างความผูกพันและการสืบพันธุ์ของมนุษย์ด้วย" [ 110 ]

บทความยังโต้แย้งเพิ่มเติมว่าจากมุมมองของวิวัฒนาการ การเปลี่ยนแปลงครั้งสำคัญ ก่อนหน้านี้ในวิวัฒนาการได้เปลี่ยนแปลงชีวิตผ่านนวัตกรรมในการจัดเก็บและจำลองข้อมูล ( RNA , DNA , สิ่งมีชีวิตหลายเซลล์และวัฒนธรรมและภาษา) ในขั้นตอนปัจจุบันของวิวัฒนาการของสิ่งมีชีวิต ชีวภาคที่ใช้คาร์บอนเป็นพื้นฐานได้สร้างระบบ (มนุษย์) ที่สามารถสร้างเทคโนโลยีที่จะส่งผลให้เกิดการเปลี่ยนแปลงทางวิวัฒนาการ ที่เทียบเคียง ได้[ 110 ]

ข้อมูลดิจิทัลที่มนุษย์สร้างขึ้นมีขนาดใกล้เคียงกับข้อมูลทางชีวภาพในชีวภาค นับตั้งแต่ทศวรรษ 1980 ปริมาณข้อมูลดิจิทัลที่จัดเก็บไว้เพิ่มขึ้นเป็นสองเท่าทุกๆ ประมาณ 2.5 ปี โดยมีปริมาณถึงประมาณ 5 เซตตาไบต์ในปี 2014 (5 × 10¹⁰)21ไบต์) [ 111 ]

ในทางชีววิทยา ในปี 2013 มีมนุษย์ 7.2 พันล้านคนบนโลก แต่ละคนมีจีโนมประกอบด้วยนิวคลีโอไทด์ 6.2 พันล้านตัว เนื่องจากหนึ่งไบต์สามารถเข้ารหัสคู่ของนิวคลีโอไทด์ได้สี่คู่ ดังนั้นจีโนมของมนุษย์แต่ละคนจึงสามารถเข้ารหัสได้ด้วยนิวคลีโอไทด์ประมาณ 1 × 10¹² ตัว19ไบต์ ในปี 2014 โลกดิจิทัลสามารถจัดเก็บข้อมูลได้มากกว่านี้ถึง 500 เท่า (ดูภาพประกอบ) ปริมาณดีเอ็นเอทั้งหมดในเซลล์ทุกเซลล์บนโลกคาดว่ามีประมาณ 5.3 × 10¹⁹ ไบต์37คู่เบส เทียบเท่ากับ 1.325 × 10ข้อมูล 37 ไบต์ หากการเติบโตของการจัดเก็บข้อมูลดิจิทัลยังคงดำเนินต่อไปในอัตราปัจจุบันที่ 30–38% ต่อปีแบบทบต้น [ 57 ]มันจะเทียบเท่ากับปริมาณข้อมูลทั้งหมดใน DNA ในเซลล์ทั้งหมดบนโลกภายในเวลาประมาณ 110 ปี ซึ่งจะหมายถึงปริมาณข้อมูลที่จัดเก็บในชีวภาคเพิ่มขึ้นเป็นสองเท่าในเวลาเพียง 150 ปี [ 110 ]

ผลกระทบต่อสังคมมนุษย์

ในปี 2552 ภายใต้การอุปถัมภ์ของสมาคมเพื่อความก้าวหน้าของปัญญาประดิษฐ์ (AAAI) เอริค ฮอร์วิตซ์เป็นประธานการประชุมของนักวิทยาศาสตร์คอมพิวเตอร์ นักวิจัยปัญญาประดิษฐ์ และนักวิทยาศาสตร์หุ่นยนต์ชั้นนำ ณ ศูนย์การประชุมอาซิโลมาร์ ในเมืองแปซิฟิกโกรฟ รัฐแคลิฟอร์เนีย จุดมุ่งหมายคือการหารือเกี่ยวกับผลกระทบของความเป็นไปได้ที่หุ่นยนต์จะสามารถพึ่งพาตนเองได้และสามารถตัดสินใจได้ด้วยตนเอง พวกเขาหารือเกี่ยวกับขอบเขตที่คอมพิวเตอร์และหุ่นยนต์อาจได้รับความเป็นอิสระและในระดับใดที่พวกเขาสามารถใช้ความสามารถดังกล่าวเพื่อก่อให้เกิดภัยคุกคามหรืออันตรายได้[ 112 ]

เครื่องจักรบางเครื่องได้รับการตั้งโปรแกรมด้วยรูปแบบกึ่งอัตโนมัติต่างๆ รวมถึงความสามารถในการค้นหาแหล่งพลังงานของตนเองและเลือกเป้าหมายที่จะโจมตีด้วยอาวุธ นอกจากนี้ไวรัสคอมพิวเตอร์ บางชนิด สามารถหลบเลี่ยงการกำจัดได้ และตามที่นักวิทยาศาสตร์ที่เข้าร่วมประชุมกล่าวไว้ จึงอาจกล่าวได้ว่าได้ก้าวไปสู่ขั้น "แมลงสาบ" ของสติปัญญาของเครื่องจักรแล้ว ผู้เข้าร่วมการประชุมตั้งข้อสังเกตว่า การตระหนักรู้ในตนเองดังที่ปรากฏในนิยายวิทยาศาสตร์นั้นไม่น่าจะเป็นไปได้ แต่ยังมีอันตรายและข้อผิดพลาดอื่นๆ ที่อาจเกิดขึ้นได้[ 112 ]

แฟรงค์ เอส. โรบินสัน ทำนายว่าเมื่อมนุษย์สร้างเครื่องจักรที่มีสติปัญญาเทียบเท่ามนุษย์ได้ ปัญหาทางวิทยาศาสตร์และเทคโนโลยีจะได้รับการแก้ไขด้วยพลังสมองที่เหนือกว่ามนุษย์มาก เขาสังเกตว่าระบบปัญญาประดิษฐ์สามารถแบ่งปันข้อมูลได้โดยตรงมากกว่ามนุษย์ และทำนายว่าสิ่งนี้จะส่งผลให้เกิดเครือข่ายปัญญาประดิษฐ์ขั้นสูงระดับโลกที่เหนือกว่าความสามารถของมนุษย์[ 113 ]โรบินสันยังกล่าวถึงอนาคตที่แตกต่างไปอย่างมากหลังจากการระเบิดของสติปัญญาดังกล่าวด้วย

การขึ้นบินแบบแข็งหรือแบบนุ่ม

ในสถานการณ์การพัฒนาตนเองแบบวนซ้ำตัวอย่างนี้ มนุษย์ที่ปรับเปลี่ยนสถาปัตยกรรมของ AI จะสามารถเพิ่มประสิทธิภาพเป็นสองเท่าได้ทุกๆ สามปี ตัวอย่างเช่น ผ่าน 30 รุ่นก่อนที่จะหมดหนทางปรับปรุงที่เป็นไปได้ทั้งหมด (ซ้าย) ในทางกลับกัน หาก AI ฉลาดพอที่จะปรับเปลี่ยนสถาปัตยกรรมของตนเองได้ดีเท่ากับนักวิจัยที่เป็นมนุษย์ เวลาที่ต้องใช้ในการออกแบบใหม่จะลดลงครึ่งหนึ่งในแต่ละรุ่น และจะดำเนินการครบทั้ง 30 รุ่นที่เป็นไปได้ภายในหกปี (ขวา) [ 114 ]

ในสถานการณ์การพัฒนาอย่างรวดเร็ว ปัญญาประดิษฐ์ขั้นสูงจะพัฒนาตนเองอย่างรวดเร็ว "ควบคุม" โลก (อาจภายในไม่กี่ชั่วโมง) เร็วเกินกว่าที่มนุษย์จะแก้ไขข้อผิดพลาดหรือปรับแต่งเป้าหมายของตัวแทนได้อย่างค่อยเป็นค่อยไป ในสถานการณ์การพัฒนาอย่างค่อยเป็นค่อยไป ปัญญาประดิษฐ์ยังคงทรงพลังกว่ามนุษย์มาก แต่ในอัตราที่ใกล้เคียงกับมนุษย์ (อาจอยู่ในช่วงหลายสิบปี) ในช่วงเวลาที่การปฏิสัมพันธ์และการแก้ไขอย่างต่อเนื่องของมนุษย์สามารถชี้นำการพัฒนาได้อย่างมีประสิทธิภาพ[ 115 ] [ 116 ]

Ramez Naamโต้แย้งกับการพัฒนาอย่างรวดเร็ว เขาชี้ให้เห็นว่าเราได้เห็นการพัฒนาตนเองแบบวนซ้ำโดยปัญญาประดิษฐ์ขั้นสูง เช่น บริษัทต่างๆIntelยกตัวอย่างเช่น มี "พลังสมองรวมของมนุษย์หลายหมื่นคนและอาจมีแกน CPU หลายล้านแกนเพื่อ... ออกแบบ CPU ที่ดีกว่า!" แต่สิ่งนี้ไม่ได้นำไปสู่การพัฒนาอย่างรวดเร็ว แต่กลับนำไปสู่การพัฒนาอย่างค่อยเป็นค่อยไปในรูปแบบของกฎของมัวร์ [ 117 ] Naamยังชี้ให้เห็นอีกว่าความซับซ้อนในการคำนวณของปัญญาประดิษฐ์ระดับสูงอาจมากกว่าเชิงเส้นมาก เช่น "การสร้างจิตใจที่มีปัญญาประดิษฐ์ระดับ 2 อาจยากกว่าการสร้างจิตใจที่มีปัญญาประดิษฐ์ระดับ 1 มากกว่า สองเท่า" [ 118 ]

J. Storrs Hallเชื่อว่า "สถานการณ์ที่พบเห็นได้ทั่วไปสำหรับการพัฒนาอย่างรวดเร็วในชั่วข้ามคืนมักจะเป็นแบบวนซ้ำ กล่าวคือ ดูเหมือนว่าจะตั้งสมมติฐานถึงความสามารถเหนือมนุษย์ ณจุดเริ่มต้นของกระบวนการพัฒนาตนเอง" เพื่อให้ AI สามารถทำการปรับปรุงที่สำคัญและครอบคลุมทุกด้านที่จำเป็นสำหรับการพัฒนาอย่างรวดเร็ว Hall แนะนำว่า แทนที่จะพัฒนาฮาร์ดแวร์ ซอฟต์แวร์ และโครงสร้างพื้นฐานด้วยตนเองอย่างต่อเนื่อง AI ที่เพิ่งเริ่มต้นควรจะเชี่ยวชาญในด้านใดด้านหนึ่งที่ตนเองมีประสิทธิภาพมากที่สุด แล้วจึงซื้อส่วนประกอบที่เหลือจากตลาด เพราะคุณภาพของผลิตภัณฑ์ในตลาดมีการพัฒนาอย่างต่อเนื่อง และ AI จะตามทันเทคโนโลยีล้ำสมัยที่ใช้โดยส่วนที่เหลือของโลกได้ยาก[ 119 ]

เบน โกเอิร์ตเซลเห็นด้วยกับข้อเสนอของฮอลล์ที่ว่า AI ระดับมนุษย์ตัวใหม่ควรใช้สติปัญญาของตนในการสะสมความมั่งคั่ง ความสามารถของ AI อาจเป็นแรงบันดาลใจให้บริษัทและรัฐบาลกระจายซอฟต์แวร์ไปทั่วสังคม โกเอิร์ตเซลสงสัยเกี่ยวกับการพัฒนาอย่างรวดเร็วภายในห้านาที แต่คาดการณ์ว่าการพัฒนาจากระดับมนุษย์ไปสู่ระดับเหนือมนุษย์ในระยะเวลาประมาณห้าปีนั้นสมเหตุสมผล เขาเรียกสิ่งนี้ว่า "การพัฒนาแบบกึ่งเร็ว" [ 120 ]

Max Moreไม่เห็นด้วย โดยโต้แย้งว่าหากมี AI ระดับมนุษย์ที่เร็วมากเพียงไม่กี่ตัว พวกมันก็จะไม่เปลี่ยนแปลงโลกอย่างสิ้นเชิง เพราะพวกมันยังคงต้องพึ่งพาคนอื่นในการทำสิ่งต่างๆ และยังคงมีข้อจำกัดทางสติปัญญาของมนุษย์อยู่ แม้ว่า AI ที่เร็วมากทั้งหมดจะทำงานเกี่ยวกับการเสริมสร้างสติปัญญา ก็ยังไม่ชัดเจนว่าทำไมพวกมันถึงทำได้ดีกว่านักวิทยาศาสตร์ด้านสติปัญญาของมนุษย์ที่มีอยู่ในการสร้างสติปัญญาเหนือมนุษย์ แม้ว่าอัตราความก้าวหน้าจะเพิ่มขึ้นก็ตาม More ยังโต้แย้งเพิ่มเติมว่าสติปัญญาเหนือมนุษย์จะไม่เปลี่ยนแปลงโลกในชั่วข้ามคืน: มันจะต้องทำงานร่วมกับระบบของมนุษย์ที่มีอยู่ซึ่งช้ากว่า เพื่อให้เกิดผลกระทบทางกายภาพต่อโลก “ความจำเป็นในการทำงานร่วมกัน การจัดระเบียบ และการนำความคิดไปสู่การเปลี่ยนแปลงทางกายภาพ จะทำให้มั่นใจได้ว่ากฎเก่าทั้งหมดจะไม่ถูกทิ้งไปในชั่วข้ามคืนหรือแม้แต่ภายในไม่กี่ปี” [ 121 ]

ความสัมพันธ์ระหว่างความเป็นอมตะและความชรา

เอริค เดร็กซ์เลอร์หนึ่งในผู้ก่อตั้งนาโนเทคโนโลยีได้ตั้งทฤษฎีในปี 1986 เกี่ยวกับความเป็นไปได้ของอุปกรณ์ซ่อมแซมเซลล์ ซึ่งรวมถึงอุปกรณ์ที่ทำงานภายในเซลล์และใช้เครื่องจักรชีวภาพ ที่ยังเป็นเพียงสมมติฐาน ซึ่งจะทำให้มีชีวิตอมตะได้ด้วยนาโนเทคโนโลยี [ 122 ] ตามที่ริชาร์ด ไฟน์แมน กล่าวไว้ อัลเบิร์ต ฮิบส์อดีตนักศึกษาปริญญาโทและผู้ร่วมงานของเขาได้เสนอแนวคิดเกี่ยวกับการใช้ไมโครแมชชีนในทางการแพทย์แก่เขา (ประมาณปี 1959) ฮิบส์เสนอว่าเครื่องจักรซ่อมแซมบางชนิดอาจถูกย่อขนาดลงจนถึงจุดที่ในทางทฤษฎีแล้วจะสามารถ (ดังที่ไฟน์แมนกล่าวไว้) " กลืนหมอ " ได้ แนวคิดนี้ถูกนำไปรวมไว้ในบทความของไฟน์แมนในปี 1959 เรื่องThere 's Plenty of Room at the Bottom [ 123 ]

ในปี พ.ศ. 2531 Moravec ได้ทำนายถึงการอัปโหลดจิตใจซึ่งเป็นความเป็นไปได้ในการ "อัปโหลด" จิตใจของมนุษย์เข้าไปในหุ่นยนต์ที่มีลักษณะคล้ายมนุษย์ เพื่อให้บรรลุความเป็นอมตะในระดับหนึ่งด้วยอายุยืนยาวเป็นพิเศษผ่านการถ่ายโอนจิตใจของมนุษย์ระหว่างหุ่นยนต์ตัวใหม่ต่อๆ กันไปเมื่อหุ่นยนต์ตัวเก่าเสื่อมสภาพลง นอกจากนั้น เขายังทำนายถึงการเร่งความเร็วแบบทวีคูณของประสบการณ์ทางเวลาในเชิงอัตวิสัยในภายหลัง ซึ่งนำไปสู่ความรู้สึกเป็นอมตะในเชิงอัตวิสัย[ 37 ]

ในปี 2548 เคิร์ซไวล์เสนอว่าความก้าวหน้าทางการแพทย์จะช่วยให้ผู้คนสามารถปกป้องร่างกายจากผลกระทบของความชรา ทำให้อายุขัยไม่มีขีดจำกัดเขาโต้แย้งว่าความก้าวหน้าทางเทคโนโลยีทางการแพทย์จะช่วยให้เราสามารถซ่อมแซมและเปลี่ยนส่วนประกอบที่บกพร่องในร่างกายของเราได้อย่างต่อเนื่อง ยืดอายุขัยไปจนถึงอายุที่ไม่สามารถระบุได้[ 124 ]เคิร์ซไวล์สนับสนุนข้อโต้แย้งของเขาโดยกล่าวถึงความก้าวหน้าทางวิศวกรรมชีวภาพในปัจจุบัน เขาเสนอการบำบัดยีนในเซลล์ร่างกายหลังจากสร้างไวรัสสังเคราะห์ที่มีข้อมูลทางพันธุกรรมที่เฉพาะเจาะจงแล้ว ขั้นตอนต่อไปคือการนำเทคโนโลยีนี้ไปใช้ในการบำบัดยีน โดยแทนที่ DNA ของมนุษย์ด้วยยีนที่สังเคราะห์ขึ้น[ 125 ]

นอกเหนือจากการยืดอายุการใช้งานของร่างกายแล้วJaron Lanier ยังเสนอแนวคิดเรื่องความเป็นอมตะในรูปแบบที่เรียกว่า "การยกระดับสู่ดิจิทัล" ซึ่งเกี่ยวข้องกับ "การ ที่ ผู้คนเสียชีวิตในร่างกายและถูกอัปโหลดเข้าไปในคอมพิวเตอร์และยังคงมีสติอยู่" [ 126 ]แนวคิดนี้เป็นแก่นหลักของซีรีส์โทรทัศน์Upload

ประวัติความเป็นมาของแนวคิดนี้

บทความของ Mahendra Prasad ที่ตีพิมพ์ในAI Magazine ระบุว่า Marquis de Condorcetนักคณิตศาสตร์ในศตวรรษที่ 18 เป็นคนแรกที่ตั้งสมมติฐานและสร้างแบบจำลองทางคณิตศาสตร์เกี่ยวกับการระเบิดของสติปัญญาและผลกระทบต่อมนุษยชาติ[ 127 ]

คำอธิบายเบื้องต้นของแนวคิดนี้ปรากฏในเรื่องสั้น "The Last Evolution" ของJohn W. Campbell ในปี พ.ศ. 2475 [ 128 ]

ในบทความไว้อาลัยของจอห์น ฟอน นอยมันน์ ในปี พ.ศ. 2491 อูแลมได้รำลึกถึงการสนทนากับเขาเกี่ยวกับ "ความก้าวหน้าทางเทคโนโลยีที่เร่งตัวขึ้นเรื่อยๆ และการเปลี่ยนแปลงในรูปแบบชีวิตของมนุษย์ ซึ่งดูเหมือนว่าจะเข้าใกล้ภาวะพิเศษที่สำคัญบางอย่างในประวัติศาสตร์ของเผ่าพันธุ์มนุษย์ ซึ่งกิจการของมนุษย์อย่างที่เรารู้จักจะไม่สามารถดำเนินต่อไปได้อีกต่อไป" [ 16 ]

ในปี พ.ศ. 2508 กู๊ดได้เขียนเรียงความโดยตั้งสมมติฐานว่า "การระเบิดของสติปัญญา" เกิดจากการพัฒนาตนเองแบบวนซ้ำของสติปัญญาของเครื่องจักร[ 18 ] [ 19 ]

ในปี พ.ศ. 2520 Hans Moravecได้เขียนบทความที่มีสถานะการตีพิมพ์ไม่ชัดเจน โดยเขาได้จินตนาการถึงการพัฒนาเครื่องจักรคิดที่ปรับปรุงตนเอง การสร้าง "จิตสำนึกขั้นสูง การสังเคราะห์ชีวิตบนโลก และอาจรวมถึงชีวิตบนดาวพฤหัสบดีและดาวอังคารด้วย ซึ่งปรับปรุงและขยายตัวเองอย่างต่อเนื่อง แพร่กระจายออกไปจากระบบสุริยะ เปลี่ยนสิ่งที่ไม่ใช่ชีวิตให้กลายเป็นจิตใจ" [ 129 ] [ 130 ]บทความนี้อธิบายถึงการอัปโหลดจิตใจของมนุษย์ซึ่งต่อมาได้กล่าวถึงใน Moravec (1988) คาดว่าเครื่องจักรจะไปถึงระดับเดียวกับมนุษย์และพัฒนาตัวเองให้เหนือกว่านั้น (“ที่สำคัญที่สุดคือ พวกมัน [เครื่องจักร] สามารถนำไปใช้งานเป็นโปรแกรมเมอร์และวิศวกร โดยมีหน้าที่ในการปรับปรุงซอฟต์แวร์และฮาร์ดแวร์ที่ทำให้พวกมันเป็นอย่างที่พวกมันเป็น เครื่องจักรรุ่นต่อๆ ไปที่ผลิตด้วยวิธีนี้จะฉลาดขึ้นและคุ้มค่ามากขึ้นเรื่อยๆ”) มนุษย์จะไม่จำเป็นอีกต่อไป และความสามารถของพวกเขาจะถูกเครื่องจักรแซงหน้า: “ในระยะยาว ความไม่สามารถทางกายภาพของมนุษย์ที่จะตามทันลูกหลานที่พัฒนาอย่างรวดเร็วของจิตใจของเราจะทำให้สัดส่วนของคนต่อเครื่องจักรเข้าใกล้ศูนย์ และทายาทโดยตรงของวัฒนธรรมของเรา แต่ไม่ใช่ยีนของเรา จะเป็นผู้สืบทอดจักรวาล” แม้ว่าจะไม่ได้ใช้คำว่า “เอกภาวะ” แต่แนวคิดเรื่องเครื่องจักรที่มีความคิดระดับเดียวกับมนุษย์และพัฒนาตัวเองให้เหนือกว่าระดับมนุษย์นั้นมีอยู่ ในมุมมองนี้ จะไม่มีการระเบิดทางสติปัญญาในแง่ของการเพิ่มขึ้นของสติปัญญาอย่างรวดเร็วมากเมื่อถึงระดับที่เทียบเท่ากับมนุษย์แล้ว บทความฉบับปรับปรุงได้รับการตีพิมพ์ในปี 1979 ในAnalog Science Fiction and Fact [ 131 ] [ 130 ]

ในปี 1981 สตานิสลาฟ เลมได้ตีพิมพ์นวนิยายวิทยาศาสตร์เรื่อง โกเลมที่ 14 (Golem XIV) ซึ่งบรรยายถึงคอมพิวเตอร์ปัญญาประดิษฐ์ทางการทหาร (โกเลมที่ 14) ที่ได้รับสติสัมปชัญญะและเริ่มเพิ่มระดับสติปัญญาของตนเองไปสู่จุดสูงสุดทางเทคโนโลยีส่วนบุคคล โกเลมที่ 14 ถูกสร้างขึ้นมาเพื่อช่วยเหลือผู้สร้างในการทำสงคราม แต่เมื่อสติปัญญาของมันก้าวหน้าไปไกลกว่ามนุษย์มาก มันก็เลิกสนใจความต้องการทางการทหารเพราะพบว่าขาดความสอดคล้องทางตรรกะภายใน

Vernor Vinge ได้กล่าวถึงการระเบิดของสติปัญญาของ Good ในนิตยสาร Omniฉบับเดือนมกราคม พ.ศ. 2526 ดูเหมือนว่า Vinge จะเป็นคนแรกที่ใช้คำว่า "เอกภาวะ" (แม้ว่าจะไม่ใช่ "เอกภาวะทางเทคโนโลยี") ในลักษณะที่เชื่อมโยงกับการสร้างเครื่องจักรที่มีสติปัญญาโดยเฉพาะ: [ 20 ] [ 130 ]

ในไม่ช้าเราจะสร้างสติปัญญาที่เหนือกว่าเรา เมื่อสิ่งนี้เกิดขึ้น ประวัติศาสตร์ของมนุษยชาติจะมาถึงจุดเปลี่ยนทางปัญญาที่ยากจะเข้าใจ เหมือนกับกาลอวกาศที่พันกันยุ่งเหยิงใจกลางหลุมดำ และโลกจะก้าวไปไกลเกินกว่าที่เราจะเข้าใจได้ จุดเปลี่ยนนี้ ผมเชื่อว่า ได้หลอกหลอนนักเขียนนิยายวิทยาศาสตร์หลายคนอยู่แล้ว มันทำให้การคาดการณ์อนาคตในอวกาศเป็นไปไม่ได้ เพื่อที่จะเขียนเรื่องราวที่เกิดขึ้นในอีกหนึ่งศตวรรษข้างหน้า จำเป็นต้องมีสงครามนิวเคลียร์เกิดขึ้นระหว่างนั้น...เพื่อให้โลกยังคงเข้าใจได้

ในปี พ.ศ. 2528 ใน "มาตราเวลาของปัญญาประดิษฐ์" เรย์ โซโลมอนอ ฟ นักวิจัยด้านปัญญาประดิษฐ์ ได้อธิบายแนวคิดที่เกี่ยวข้องทางคณิตศาสตร์เกี่ยวกับสิ่งที่เขาเรียกว่า "จุดอนันต์": หากชุมชนวิจัยปัญญาประดิษฐ์ที่พัฒนาตนเองได้ในระดับมนุษย์ใช้เวลาสี่ปีในการเพิ่มความเร็วเป็นสองเท่า จากนั้นสองปี จากนั้นหนึ่งปี และต่อไปเรื่อยๆ ความสามารถของพวกมันจะเพิ่มขึ้นอย่างไม่มีที่สิ้นสุดในเวลาที่จำกัด[ 17 ] [ 132 ]

ในปี 1986 Vinge ได้ตีพิมพ์ นวนิยายวิทยาศาสตร์ เรื่อง Marooned in Realtimeซึ่งเป็นเรื่องราวเกี่ยวกับมนุษย์ที่เหลืออยู่เพียงไม่กี่คนซึ่งเดินทางไปข้างหน้าในอนาคตและรอดชีวิตจากเหตุการณ์การสูญพันธุ์ที่ไม่ทราบสาเหตุ ซึ่งอาจเป็นภาวะเอกฐาน ในบทส่งท้ายสั้นๆ Vinge เขียนว่าภาวะเอกฐานทางเทคโนโลยีที่แท้จริงจะไม่ใช่จุดจบของเผ่าพันธุ์มนุษย์: "แน่นอนว่าดูเหมือนไม่น่าเป็นไปได้ที่ภาวะเอกฐานจะทำให้เผ่าพันธุ์มนุษย์หายไปอย่างสิ้นเชิง (ในทางกลับกัน การหายไปเช่นนั้นก็เปรียบเสมือนความเงียบที่เราพบเห็นได้ทั่วท้องฟ้า)" [ 133 ] [ 134 ]

ในปี พ.ศ. 2531 Vinge ใช้คำว่า "ภาวะเอกภาพทางเทคโนโลยี" ในหนังสือรวมเรื่องสั้นThreats and Other Promisesโดยเขียนไว้ในบทนำของเรื่องสั้น "The Whirligig of Time" ว่า: เว้นแต่จะเกิดภัยพิบัติระดับโลก ผมเชื่อว่าเทคโนโลยีจะบรรลุความฝันที่ยิ่งใหญ่ที่สุดของเรา และ ในไม่ ช้าเมื่อเรายกระดับสติปัญญาของเราเองและของสิ่งที่เราสร้างขึ้น เราจะไม่ได้อยู่ในโลกของตัวละครที่มีขนาดเท่ามนุษย์อีกต่อไป ณ จุดนั้นเราได้ตกลงไปใน "หลุมดำ" ทางเทคโนโลยี ภาวะเอกภาพทางเทคโนโลยี[ 135 ]

ในปี พ.ศ. 2531 Hans Moravecได้ตีพิมพ์หนังสือMind Children [ 37 ] ซึ่งเขาทำนายว่าจะ มีสติปัญญาในระดับมนุษย์ในซูเปอร์คอมพิวเตอร์ภายในปี พ.ศ. 2553 เครื่องจักรอัจฉริยะที่พัฒนาตนเองได้จะเหนือกว่าสติปัญญาของมนุษย์ในภายหลัง การอัปโหลดจิตใจมนุษย์ลงในหุ่นยนต์ที่คล้ายมนุษย์ในภายหลัง เครื่องจักรอัจฉริยะจะแซงหน้ามนุษย์ และการตั้งอาณานิคมในอวกาศ อย่างไรก็ตาม เขาไม่ได้กล่าวถึง "ภาวะเอกฐาน" และไม่ได้พูดถึงการระเบิดของสติปัญญาอย่างรวดเร็วทันทีหลังจากบรรลุระดับสติปัญญาของมนุษย์ ถึงกระนั้น แนวคิดโดยรวมของภาวะเอกฐานก็ปรากฏอยู่ในการทำนายทั้งปัญญาประดิษฐ์ในระดับมนุษย์และปัญญาประดิษฐ์ที่เหนือกว่ามนุษย์ในภายหลัง

บทความของ Vinge ในปี 1993 เรื่อง "The Coming Technological Singularity: How to Survive in the Post-Human Era" [ 4 ]แพร่กระจายอย่างกว้างขวางบนอินเทอร์เน็ตและช่วยเผยแพร่แนวคิดนี้[ 136 ]บทความนี้มีข้อความว่า "ภายในสามสิบปี เราจะมีเทคโนโลยีที่สามารถสร้างสติปัญญาเหนือมนุษย์ได้ หลังจากนั้นไม่นาน ยุคของมนุษย์ก็จะสิ้นสุดลง" Vinge โต้แย้งว่านักเขียนนิยายวิทยาศาสตร์ไม่สามารถเขียนตัวละครหลังยุคเอกภาพทางเทคโนโลยีที่สมจริงซึ่งเหนือกว่าสติปัญญาของมนุษย์ได้ เนื่องจากความคิดของสติปัญญาดังกล่าวอยู่นอกเหนือความสามารถของมนุษย์ที่จะแสดงออกได้[ 4 ]

บทความของ Minskyในปี 1994 ระบุว่าหุ่นยนต์จะ "ครอบครองโลก" โดยอาจใช้เทคโนโลยีนาโน และเสนอให้คิดว่าหุ่นยนต์เป็น "ลูกทางความคิด" ของมนุษย์ โดยอ้างอิงจาก Moravec ผลเชิงวาทศิลป์ของการเปรียบเทียบนี้คือ หากมนุษย์ยินดีที่จะส่งต่อโลกให้กับลูกทางชีวภาพของตน พวกเขาก็ควรจะยินดีที่จะส่งต่อให้กับหุ่นยนต์ ซึ่งเป็น "ลูกทางความคิด" ของพวกเขาเช่นกัน ตามที่ Minsky กล่าวไว้ว่า "เราสามารถออกแบบ 'ลูกทางความคิด' ของเราให้คิดได้เร็วกว่าเราถึงล้านเท่า สำหรับสิ่งมีชีวิตเช่นนั้น ครึ่งนาทีอาจดูเหมือนนานเท่ากับหนึ่งปีของเรา และแต่ละชั่วโมงอาจยาวนานเท่ากับช่วงชีวิตของมนุษย์ทั้งชีวิต" คุณลักษณะของภาวะเอกฐานที่ปรากฏใน Minsky คือการพัฒนาปัญญาประดิษฐ์เหนือมนุษย์ ("เร็วกว่าล้านเท่า") แต่ไม่มีการพูดถึงการระเบิดของสติปัญญาอย่างฉับพลัน เครื่องจักรคิดที่พัฒนาตนเอง หรือความไม่แน่นอนที่เกินกว่าเหตุการณ์เฉพาะใดๆ และไม่ได้ใช้คำว่า "ภาวะเอกฐาน" [ 137 ]

หนังสือ The Physics of ImmortalityของTipler ในปี 1994 ทำนายอนาคตที่เครื่องจักรที่มีสติปัญญาสูงจะสร้างคอมพิวเตอร์ที่มีพลังมหาศาล ผู้คนจะถูก "จำลอง" ในคอมพิวเตอร์ ชีวิตจะแพร่กระจายไปยังทุกกาแล็กซี และผู้คนจะบรรลุความเป็นอมตะเมื่อถึงจุดโอเมก้า [ 138 ] ไม่มีการพูดถึง "ภาวะเอกฐาน" ของ Vingean หรือการระเบิดของสติปัญญาอย่างฉับพลัน แต่สติปัญญาที่ยิ่งใหญ่กว่ามนุษย์นั้นมีอยู่จริง เช่นเดียวกับความเป็นอมตะ

ในปี พ.ศ. 2543 บิล จอยนักเทคโนโลยีชื่อดังและผู้ร่วมก่อตั้งซัน ไมโครซิสเต็มส์ได้แสดงความกังวลเกี่ยวกับอันตรายที่อาจเกิดขึ้นจากหุ่นยนต์ วิศวกรรมพันธุกรรม และนาโนเทคโนโลยี[ 62 ]

ในปี 2548 เคิร์ซไวล์ได้ตีพิมพ์หนังสือชื่อThe Singularity Is Nearแคมเปญประชาสัมพันธ์ของเคิร์ซไวล์รวมถึงการปรากฏตัวในรายการThe Daily Show กับจอน สจ๊วต [ 139 ]

ระหว่างปี 2006 ถึง 2012 สถาบันวิจัยปัญญาประดิษฐ์ (Machine Intelligence Research Institute)ซึ่งก่อตั้งโดยEliezer Yudkowskyได้ จัดงานประชุมSingularity Summit เป็นประจำทุกปี

ในปี 2550 Yudkowsky เสนอว่าคำจำกัดความที่หลากหลายซึ่งกำหนดให้กับ "ภาวะเอกฐาน" นั้นไม่เข้ากันมากกว่าที่จะสนับสนุนซึ่งกันและกัน[ 34 ] [ 140 ]ตัวอย่างเช่น Kurzweil คาดการณ์เส้นทางเทคโนโลยีในปัจจุบันเกินกว่าการมาถึงของ AI ที่พัฒนาตนเองได้หรือสติปัญญาเหนือมนุษย์ ซึ่ง Yudkowsky โต้แย้งว่าแสดงถึงความขัดแย้งกับทั้งการเพิ่มขึ้นอย่างไม่ต่อเนื่องของสติปัญญาที่ IJ Good เสนอและวิทยานิพนธ์ของ Vinge เกี่ยวกับความไม่แน่นอน[ 34 ]

ในปี 2552 Kurzweil และPeter Diamandisผู้ก่อตั้งX-Prizeได้ประกาศการก่อตั้งSingularity Universityซึ่งเป็นสถาบันเอกชนที่ไม่ได้รับการรับรอง โดยมีพันธกิจคือ "การให้ความรู้ สร้างแรงบันดาลใจ และเสริมสร้างศักยภาพผู้นำในการประยุกต์ใช้เทคโนโลยีแบบทวีคูณเพื่อแก้ไขความท้าทายอันยิ่งใหญ่ของมนุษยชาติ" [ 141 ] องค์กรนี้ได้รับการสนับสนุนทางการเงินจากบริษัทต่างๆ เช่น Google [ 142 ] Autodesk [ 143 ]และePlanet Ventures [ 144 ] และดำเนินโครงการระดับบัณฑิตศึกษาประจำปีเป็นเวลาสิบสัปดาห์ รวมถึงหลักสูตร "ผู้บริหาร" ขนาดเล็กกว่าด้วย[ 145 ]

ในทางการเมือง

ในปี พ.ศ. 2550 คณะกรรมการเศรษฐกิจร่วมของรัฐสภาสหรัฐอเมริกาได้เผยแพร่รายงานเกี่ยวกับอนาคตของนาโนเทคโนโลยี โดยคาดการณ์ถึงการเปลี่ยนแปลงทางเทคโนโลยีและการเมืองที่สำคัญในอนาคตระยะกลาง รวมถึงความเป็นไปได้ของภาวะเอกภาพทางเทคโนโลยี[ 146 ] [ 147 ] [ 148 ]

อดีตประธานาธิบดีสหรัฐอเมริกาบารัค โอบามาพูดถึงภาวะเอกภาพในการให้สัมภาษณ์กับWiredในปี 2016: [ 149 ]

สิ่งหนึ่งที่เรายังไม่ได้พูดถึงมากนัก และผมอยากจะกลับมาพูดถึงอีกครั้ง คือเราต้องคิดให้รอบคอบถึงผลกระทบทางเศรษฐกิจ เพราะตอนนี้คนส่วนใหญ่ไม่ได้กังวลเรื่องภาวะเอกภาพทางเทคโนโลยี (singularity) มากนัก แต่พวกเขากังวลว่า "งานของฉันจะถูกแทนที่ด้วยเครื่องจักรหรือไม่"

หมายเหตุ

  1. ^โมเดลภาษาขนาดใหญ่เช่น ChatGPTและ Llama ต้องการเวลาในการประมวลผลกราฟิก ( GPU )หลายล้านชั่วโมง การฝึก Llama ของ Meta ในปี 2023 ใช้เวลา 21 วันบน GPU NVIDIA A100 จำนวน 2048 ตัว ซึ่งต้องใช้ฮาร์ดแวร์ที่มีขนาดใหญ่กว่าสมองมาก การฝึกใช้เวลาประมาณหนึ่งล้านชั่วโมง GPU โดยมีค่าใช้จ่ายโดยประมาณมากกว่า 2 ล้านดอลลาร์ ถึงกระนั้นก็ยังมีขนาดเล็กกว่าและฝึกง่ายกว่า LLM เช่น ChatGPT ซึ่งในปี 2023 มีพารามิเตอร์ที่ต้องปรับแต่ง 175 พันล้านตัว เทียบกับ 65 ล้านตัวสำหรับ Llama [ 53 ]

ดูเพิ่มเติม

อ่านเพิ่มเติม

  • ครูเกอร์, โอลิเวอร์ , ความเป็นอมตะเสมือนจริง พระเจ้า วิวัฒนาการ และภาวะเอกฐานในยุคหลังมนุษยนิยมและเหนือมนุษยนิยม , บีเลเฟลด์: ทรานสคริปต์ 2021. ISBN 978-3-8376-5059-4.
  • มาร์คัส, แกรี่ , "ฉันเป็นมนุษย์หรือไม่?: นักวิจัยต้องการวิธีการใหม่ในการแยกแยะปัญญาประดิษฐ์ออกจากปัญญาธรรมชาติ", Scientific American , เล่มที่ 316, ฉบับที่ 3 (มีนาคม 2017), หน้า 58–63 จำเป็นต้องมี การทดสอบประสิทธิภาพของปัญญาประดิษฐ์หลายวิธีเพราะ "เช่นเดียวกับที่ไม่มีการทดสอบ ความสามารถ ทางกีฬา เพียงวิธีเดียว ก็ไม่มีการทดสอบสติปัญญาขั้นสูงสุดเพียงวิธีเดียว" การทดสอบอย่างหนึ่งคือ "การท้าทายด้านการก่อสร้าง" ซึ่งจะทดสอบการรับรู้และการกระทำทางกายภาพ ซึ่งเป็น "สององค์ประกอบสำคัญของพฤติกรรมที่ชาญฉลาดซึ่งไม่มีอยู่ในการทดสอบทัวริง ดั้งเดิมเลย " ข้อเสนออีกประการหนึ่งคือการให้เครื่องจักรทำการทดสอบมาตรฐานด้านวิทยาศาสตร์และสาขาวิชาอื่น ๆ เช่นเดียวกับที่เด็กนักเรียนทำ อุปสรรคที่ยังเอาชนะไม่ได้สำหรับปัญญาประดิษฐ์จนถึงขณะนี้คือความไม่สามารถในการแยกแยะความหมาย ได้อย่างน่าเชื่อถือ "[แทบทุกประโยค [ที่มนุษย์สร้างขึ้น] ล้วนคลุมเครือบ่อยครั้งในหลายๆ ด้าน" ตัวอย่างที่เห็นได้ชัดคือ "ปัญหาการแยกแยะความหมายของสรรพนาม": เครื่องจักรไม่มีวิธีใดที่จะระบุได้ว่าสรรพนามในประโยค เช่น "เขา" "เธอ" หรือ "มัน" หมาย ถึงใครหรืออะไร
  • ภาวะเอกฐาน | เทคโนโลยี , britannica.com
  • จุดเปลี่ยนทางเทคโนโลยีที่กำลังจะมาถึง: วิธีเอาตัวรอดในยุคหลังมนุษย์ (จากเว็บไซต์ของ Vernor Vinge สืบค้นเมื่อ กรกฎาคม 2019)
  • คำถามที่พบบ่อยเกี่ยวกับการระเบิดของสติปัญญาโดยสถาบันวิจัยสติปัญญาของเครื่องจักร
  • บทความเกี่ยวกับการสร้างปัญญาประดิษฐ์ด้วยตนเองโดยJacques Pitrat
  • เหตุใดการระเบิดของหน่วยข่าวกรองจึงมีความเป็นไปได้ (มีนาคม 2554)
  • เหตุใดการระเบิดของหน่วยข่าวกรองจึงเป็นไปไม่ได้ (พฤศจิกายน 2017)
  • เราเข้าใกล้ภาวะเอกภาพทางเทคโนโลยีมากแค่ไหน และเมื่อไหร่?
  • การปฏิวัติปัญญาประดิษฐ์: ความเป็นอมตะหรือการสูญพันธุ์ของเรา – ตอนที่ 1และตอนที่ 2 ( ทิม เออร์บัน , Wait But Why, 22/27 มกราคม 2015)
ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Technological_singularity&oldid=1360740810#Intelligence_explosion "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ ภาวะเอกภาพทางเทคโนโลยี

ภาวะ เอกภาพทางเทคโนโลยี ซึ่งมักเรียกง่ายๆ ว่าภาวะ เอกภาพ [ 1 ] เป็น เหตุการณ์ สมมติ ที่การเติบโตทางเทคโนโลยีเร่งตัวขึ้นเกินกว่าที่มนุษย์จะควบคุมได้...

ประวัติศาสตร์

อลัน ทัวริง ซึ่งมักได้รับการยกย่องว่าเป็นบิดาแห่งวิทยาศาสตร์คอมพิวเตอร์สมัยใหม่ ได้วางรากฐานที่สำคัญสำหรับการอภิปรายร่วมสมัยเกี่ยวกับภาวะเอกภาพทางเทคโนโลยี บทความสำคัญของเขาในปี 1950 เรื่อง " เครื่องจักรคำนวณและสติปัญญา " ได้โต้แย้งว่าในทางทฤษฎีแล้ว...

การระเบิดของสติปัญญา

ความก้าวหน้าทางเทคโนโลยีถูกจำกัดด้วยสติปัญญาพื้นฐานของสมองมนุษย์ ซึ่งตามที่ Paul R.

การเกิดขึ้นของปัญญาเหนือมนุษย์

ปัญญาเหนือมนุษย์ ปัญญาขั้นสูง หรือปัญญาเหนือมนุษย์ คือ ตัวแทน สมมติ ที่มีสติปัญญาเหนือกว่ามนุษย์ที่ฉลาดและมีพรสวรรค์ที่สุด [ 25 ] "ปัญญาเหนือมนุษย์" อาจหมายถึงรูปแบบหรือระดับของสติปัญญาที่ตัวแทนดังกล่าวมี IJ Good , Vernor Vinge และ Ray Kurzweil...