การแทรกแซงที่ร้ายแรง
| ส่วนหนึ่งของชุดบทความเกี่ยวกับ |
| การเรียนรู้ของเครื่องจักรและการขุดข้อมูล |
|---|
การรบกวนที่ร้ายแรง หรือที่รู้จักกันในชื่อการลืมที่ ร้ายแรง คือแนวโน้มของเครือข่ายประสาทเทียมที่จะลืมข้อมูลที่เรียนรู้ก่อนหน้านี้อย่างกะทันหันและรุนแรงเมื่อเรียนรู้ข้อมูลใหม่[ 1 ] [ 2 ]
เครือข่ายประสาทเป็นส่วนสำคัญของ แนวทาง การเชื่อมโยงในวิทยาศาสตร์การรู้คิด ปัญหาของการรบกวนที่ร้ายแรงเมื่อสร้างแบบจำลองความทรงจำของมนุษย์ด้วยแบบจำลองการเชื่อมโยงนั้น เดิมทีได้รับความสนใจจากชุมชนวิทยาศาสตร์จากการวิจัยของ McCloskey และ Cohen (1989) [ 1 ]และ Ratcliff (1990) [ 2 ]มันเป็นการแสดงออกที่รุนแรงของภาวะกลืนไม่เข้าคายไม่ออกระหว่าง 'ความไวและความเสถียร' [ 3 ]หรือภาวะกลืนไม่เข้าคายไม่ออกระหว่าง 'ความเสถียรและความยืดหยุ่น' [ 4 ]โดยเฉพาะอย่างยิ่ง ปัญหาเหล่านี้หมายถึงความท้าทายในการสร้างเครือข่ายประสาทเทียมที่ไวต่อข้อมูลใหม่ แต่ไม่ถูกรบกวนจากข้อมูลใหม่
ตารางค้นหาและเครือข่ายการเชื่อมต่ออยู่ตรงข้ามกันในสเปกตรัมความยืดหยุ่นของความเสถียร[ 5 ]แบบแรกยังคงเสถียรอย่างสมบูรณ์เมื่อมีข้อมูลใหม่ แต่ขาดความสามารถในการสรุปผล กล่าวคือ อนุมานหลักการทั่วไปจากข้อมูลป้อนเข้าใหม่ ในทางกลับกัน เครือข่ายการเชื่อมต่อเช่น เครือข่าย การแพร่กระจายย้อนกลับ มาตรฐาน สามารถสรุปผลไปยังข้อมูลป้อนเข้าที่ไม่เคยเห็นมาก่อนได้ แต่มีความไวต่อข้อมูลใหม่ โมเดลการแพร่กระจายย้อนกลับสามารถเปรียบเทียบได้กับความจำของมนุษย์เนื่องจากมีความสามารถในการสรุปผลที่คล้ายคลึงกันแต่เครือข่ายเหล่านี้มักแสดงความเสถียรน้อยกว่าความจำของมนุษย์ ที่น่าสังเกตคือ เครือข่ายการแพร่กระจายย้อนกลับเหล่านี้มีความอ่อนไหวต่อการรบกวนแบบหายนะ นี่เป็นปัญหาเมื่อสร้างแบบจำลองความจำของมนุษย์ เพราะต่างจากเครือข่ายเหล่านี้ มนุษย์โดยทั่วไปไม่แสดงการลืมแบบหายนะ[ 6 ]
การค้นพบ
คำว่า "การแทรกแซงที่ร้ายแรง" เดิมทีถูกบัญญัติโดย McCloskey และ Cohen (1989) แต่ก็ได้รับความสนใจจากชุมชนวิทยาศาสตร์จากการวิจัยของ Ratcliff (1990) เช่นกัน[ 2 ]
ปัญหาการเรียนรู้ตามลำดับ : McCloskey และ Cohen (1989)
McCloskey และ Cohen (1989) ตั้งข้อสังเกตถึงปัญหาการรบกวนที่ร้ายแรงในระหว่างการทดลองสองครั้งที่แตกต่างกันเกี่ยวกับการสร้างแบบจำลองเครือข่ายประสาทแบบย้อนกลับ
- การทดลองที่ 1: การเรียนรู้ข้อเท็จจริงเกี่ยวกับการบวกเลขหนึ่งและเลขสอง
ในการทดลองครั้งแรก พวกเขาฝึกโครงข่ายประสาทเทียมแบบ backpropagation มาตรฐานบนชุดข้อมูลฝึกฝนชุดเดียวที่ประกอบด้วยโจทย์เลขหลักเดียว 17 ข้อ (เช่น 1 + 1 ถึง 9 + 1 และ 1 + 2 ถึง 1 + 9) จนกระทั่งโครงข่ายสามารถแสดงผลและตอบสนองได้อย่างถูกต้องกับโจทย์ทั้งหมด ค่าความคลาดเคลื่อนระหว่างผลลัพธ์จริงและผลลัพธ์ที่ต้องการลดลงอย่างต่อเนื่องตลอดช่วงการฝึกฝน ซึ่งสะท้อนให้เห็นว่าโครงข่ายเรียนรู้ที่จะแสดงผลลัพธ์เป้าหมายได้ดีขึ้นในแต่ละครั้ง ต่อมา พวกเขาฝึกโครงข่ายบนชุดข้อมูลฝึกฝนชุดเดียวที่ประกอบด้วยโจทย์เลขหลักเดียว 17 ข้อ (เช่น 2 + 1 ถึง 2 + 9 และ 1 + 2 ถึง 9 + 2) จนกระทั่งโครงข่ายสามารถแสดงผลและตอบสนองได้อย่างถูกต้องกับโจทย์ทั้งหมด พวกเขาตั้งข้อสังเกตว่าขั้นตอนของพวกเขานั้นคล้ายกับวิธีที่เด็กเรียนรู้ข้อเท็จจริงเกี่ยวกับการบวก หลังจากแต่ละรอบการเรียนรู้ข้อเท็จจริงเกี่ยวกับการบวกเลขสอง โครงข่ายจะถูกทดสอบความรู้เกี่ยวกับข้อเท็จจริงเกี่ยวกับการบวกเลขหลักเดียวและเลขสอง เช่นเดียวกับข้อเท็จจริงเกี่ยวกับการบวกเลขหลักเดียว ข้อเท็จจริงเกี่ยวกับการบวกเลขสองก็ถูกเรียนรู้โดยโครงข่ายได้อย่างง่ายดาย อย่างไรก็ตาม แมคคลอสกีและโคเฮนตั้งข้อสังเกตว่า เครือข่ายไม่สามารถตอบคำถามการบวกเลขหนึ่งได้อย่างถูกต้องอีกต่อไป แม้หลังจากทดลองเรียนรู้การบวกเลขสองเพียงครั้งเดียว รูปแบบผลลัพธ์ที่ได้จากการตอบคำถามการบวกเลขหนึ่งมักจะคล้ายกับรูปแบบผลลัพธ์ของตัวเลขที่ไม่ถูกต้องมากกว่ารูปแบบผลลัพธ์ของตัวเลขที่ถูกต้อง ซึ่งถือว่าเป็นข้อผิดพลาดที่ร้ายแรง นอกจากนี้ ปัญหา 2+1 และ 1+2 ซึ่งรวมอยู่ในชุดข้อมูลฝึกฝนทั้งสองชุด ยังแสดงให้เห็นถึงความผิดปกติอย่างมากในระหว่างการทดลองเรียนรู้การบวกเลขสองครั้งแรกด้วย
- การทดลองที่ 2: การจำลองการศึกษาของ Barnes และ Underwood (1959) [ 7 ]
ในแบบจำลองโครงข่ายประสาทเทียมแบบที่สอง McCloskey และ Cohen พยายามจำลองการศึกษาเกี่ยวกับการรบกวนแบบย้อนกลับในมนุษย์โดย Barnes และ Underwood (1959) พวกเขาฝึกแบบจำลองด้วยรายการ AB และ AC และใช้รูปแบบบริบทในเวกเตอร์อินพุต (รูปแบบอินพุต) เพื่อแยกความแตกต่างระหว่างรายการ โดยเฉพาะอย่างยิ่ง เครือข่ายได้รับการฝึกให้ตอบสนองด้วยคำตอบ B ที่ถูกต้องเมื่อแสดงสิ่งเร้า A และรูปแบบบริบท AB และตอบสนองด้วยคำตอบ C ที่ถูกต้องเมื่อแสดงสิ่งเร้า A และรูปแบบบริบท AC เมื่อแบบจำลองได้รับการฝึกพร้อมกันในรายการ AB และ AC เครือข่ายจะเรียนรู้ความสัมพันธ์ทั้งหมดได้อย่างถูกต้อง ในการฝึกแบบลำดับ รายการ AB จะถูกฝึกก่อน ตามด้วยรายการ AC หลังจากการนำเสนอรายการ AC แต่ละครั้ง ประสิทธิภาพจะถูกวัดสำหรับทั้งรายการ AB และ AC พวกเขาพบว่าปริมาณการฝึกในรายการ AC ในการศึกษาของ Barnes และ Underwood ที่นำไปสู่การตอบสนองที่ถูกต้อง 50% นั้น นำไปสู่การตอบสนองที่ถูกต้องเกือบ 0% โดยเครือข่ายการแพร่กระจายย้อนกลับ นอกจากนี้ พวกเขายังพบว่าเครือข่ายมีแนวโน้มที่จะแสดงการตอบสนองที่ดูเหมือนรูปแบบการตอบสนองแบบ C เมื่อเครือข่ายถูกกระตุ้นให้แสดงรูปแบบการตอบสนองแบบ B ซึ่งบ่งชี้ว่ารายการ AC ได้เขียนทับรายการ AB ไปแล้ว สิ่งนี้อาจเปรียบได้กับการเรียนรู้คำว่า สุนัข ตามด้วยการเรียนรู้คำว่า อุจจาระ แล้วพบว่าเมื่อได้รับคำว่า สุนัข เราจะนึกถึงคำว่า อุจจาระ
แมคคลอสกีและโคเฮนพยายามลดการรบกวนผ่านการปรับแต่งหลายอย่าง รวมถึงการเปลี่ยนจำนวนหน่วยที่ซ่อนอยู่ การเปลี่ยนค่าพารามิเตอร์อัตราการเรียนรู้ การฝึกฝนมากเกินไปบนรายการ AB การตรึงน้ำหนักการเชื่อมต่อบางอย่าง การเปลี่ยนค่าเป้าหมายจาก 0 และ 1 เป็น 0.1 และ 0.9 อย่างไรก็ตาม การปรับแต่งเหล่านี้ไม่มีวิธีใดที่สามารถลดการรบกวนที่รุนแรงซึ่งเกิดขึ้นในเครือข่ายได้อย่างน่าพอใจ
โดยสรุปแล้ว McCloskey และ Cohen (1989) ได้สรุปว่า:
- อย่างน้อยที่สุดจะเกิดการรบกวนขึ้นบ้างทุกครั้งที่การเรียนรู้ใหม่เปลี่ยนแปลงค่าน้ำหนักที่เกี่ยวข้องกับการแสดงการเรียนรู้เก่า
- ยิ่งมีการเรียนรู้ใหม่มากเท่าไร การเปลี่ยนแปลงในความรู้เดิมก็จะยิ่งมากขึ้นเท่านั้น
- การรบกวนก่อให้เกิดความเสียหายร้ายแรงในเครือข่ายการแพร่กระจายย้อนกลับเมื่อการเรียนรู้เป็นแบบเรียงลำดับแต่ไม่ใช่แบบพร้อมกัน
ข้อจำกัดที่เกิดจากฟังก์ชันการเรียนรู้และการลืม : แรตคลิฟฟ์ (1990)
Ratcliff (1990) ใช้โมเดล backpropagation หลายชุดที่นำไปใช้กับขั้นตอนหน่วยความจำการรับรู้มาตรฐาน ซึ่งรายการต่างๆ จะถูกเรียนรู้ตามลำดับ[ 2 ]หลังจากตรวจสอบโมเดลประสิทธิภาพการรับรู้แล้ว เขาพบปัญหาหลักสองประการ:
- ข้อมูลที่เรียนรู้มาอย่างดีกลับถูกลืมไปอย่างรวดเร็วเมื่อมีการเรียนรู้ข้อมูลใหม่ ทั้งในเครือข่ายแบ็กโพรพาเกชันขนาดเล็กและขนาดใหญ่
แม้แต่การทดลองเรียนรู้เพียงครั้งเดียวด้วยข้อมูลใหม่ก็ส่งผลให้ข้อมูลเก่าสูญหายไปอย่างมีนัยสำคัญ ซึ่งสอดคล้องกับผลการค้นพบของ McCloskey และ Cohen (1989) [ 1 ] Ratcliff ยังพบว่าผลลัพธ์ที่ได้มักจะเป็นการผสมผสานระหว่างข้อมูลป้อนเข้าก่อนหน้าและข้อมูลป้อนเข้าใหม่ ในเครือข่ายขนาดใหญ่ รายการที่เรียนรู้เป็นกลุ่ม (เช่น AB จากนั้น CD) จะทนต่อการลืมได้มากกว่ารายการที่เรียนรู้ทีละรายการ (เช่น A จากนั้น B จากนั้น C...) อย่างไรก็ตาม การลืมรายการที่เรียนรู้เป็นกลุ่มก็ยังคงมีมาก การเพิ่มหน่วยที่ซ่อนอยู่ใหม่ลงในเครือข่ายไม่ได้ช่วยลดการรบกวน
- ความสามารถในการแยกแยะระหว่างสิ่งของที่ศึกษาแล้วกับสิ่งของที่ไม่เคยเห็นมาก่อนลดลงเมื่อเครือข่ายเรียนรู้มากขึ้น
ผลการค้นพบนี้ขัดแย้งกับการศึกษาเกี่ยวกับความจำของมนุษย์ ซึ่งระบุว่าความสามารถในการจำแนกจะเพิ่มขึ้นเมื่อเรียนรู้มากขึ้น แรตคลิฟฟ์พยายามแก้ไขปัญหานี้โดยการเพิ่ม "โหนดตอบสนอง" ที่จะตอบสนองต่อข้อมูลเก่าและใหม่โดยเฉพาะ อย่างไรก็ตาม วิธีนี้ไม่ได้ผล เนื่องจากโหนดตอบสนองเหล่านี้จะทำงานสำหรับข้อมูลทุกประเภท โมเดลที่ใช้รูปแบบบริบทก็ล้มเหลวในการเพิ่มความสามารถในการจำแนกระหว่างสิ่งใหม่และสิ่งเก่าเช่นกัน
แนวทางแก้ไขที่เสนอ
สาเหตุหลักของการรบกวนที่ร้ายแรงดูเหมือนจะเป็นการทับซ้อนกันในการแสดงผลที่ชั้นซ่อนของเครือข่ายประสาทแบบกระจาย[ 8 ] [ 9 ] [ 10 ]ในการแสดงผลแบบกระจาย อินพุตแต่ละรายการมีแนวโน้มที่จะสร้างการเปลี่ยนแปลงในน้ำหนักของโหนดจำนวนมาก การลืมที่ร้ายแรงเกิดขึ้นเนื่องจากเมื่อน้ำหนักจำนวนมากที่ "เก็บความรู้" ไว้มีการเปลี่ยนแปลง ความรู้เดิมจึงไม่น่าจะคงอยู่ครบถ้วน ในระหว่างการเรียนรู้แบบลำดับ อินพุตจะผสมกัน โดยอินพุตใหม่จะถูกซ้อนทับอยู่บนอินพุตเก่า[ 9 ]อีกวิธีหนึ่งในการทำความเข้าใจเรื่องนี้คือการมองเห็นภาพการเรียนรู้เป็นการเคลื่อนที่ผ่านพื้นที่น้ำหนัก[ 11 ]พื้นที่น้ำหนักนี้สามารถเปรียบได้กับการแสดงผลเชิงพื้นที่ของชุดค่าผสมน้ำหนักที่เป็นไปได้ทั้งหมดที่เครือข่ายสามารถมีได้ เมื่อเครือข่ายเรียนรู้ที่จะแสดงชุดรูปแบบเป็นครั้งแรก มันจะพบจุดในพื้นที่น้ำหนักที่ทำให้มันสามารถจดจำรูปแบบเหล่านั้นทั้งหมดได้[ 10 ]อย่างไรก็ตาม เมื่อเครือข่ายเรียนรู้ชุดรูปแบบใหม่แล้ว มันจะย้ายไปยังตำแหน่งในพื้นที่น้ำหนักซึ่งสนใจเฉพาะการจดจำรูปแบบใหม่เท่านั้น[ 10 ]เพื่อจดจำทั้งสองชุดรูปแบบ เครือข่ายจะต้องหาตำแหน่งในพื้นที่น้ำหนักที่เหมาะสมสำหรับการจดจำทั้งรูปแบบใหม่และรูปแบบเก่า
ด้านล่างนี้คือเทคนิคจำนวนหนึ่งที่ได้รับการสนับสนุนเชิงประจักษ์ว่าสามารถลดการรบกวนที่ร้ายแรงในเครือข่ายประสาทแบบแบ็กโพรพาเกชันได้อย่างมีประสิทธิภาพ:
ความตั้งฉาก
เทคนิคแรกๆ หลายอย่างในการลดการทับซ้อนของการแสดงผลเกี่ยวข้องกับการทำให้เวกเตอร์อินพุตหรือรูปแบบการกระตุ้นหน่วยที่ซ่อนอยู่ตั้งฉากกัน Lewandowsky และ Li (1995) [ 12 ]ตั้งข้อสังเกตว่าการรบกวนระหว่างรูปแบบที่เรียนรู้ตามลำดับจะลดลงเหลือน้อยที่สุดหากเวกเตอร์อินพุตตั้งฉากกัน เวกเตอร์อินพุตจะตั้งฉากกันหากผลคูณแบบคู่ขององค์ประกอบในเวกเตอร์ทั้งสองรวมกันเป็นศูนย์ ตัวอย่างเช่น รูปแบบ [0,0,1,0] และ [0,1,0,0] จะตั้งฉากกันเพราะ (0×0 + 0×1 + 1×0 + 0×0) = 0 หนึ่งในเทคนิคที่สามารถสร้างการแสดงผลแบบตั้งฉากที่ชั้นที่ซ่อนอยู่เกี่ยวข้องกับการเข้ารหัสคุณลักษณะแบบไบโพลาร์ (เช่น การเข้ารหัสโดยใช้ -1 และ 1 แทนที่จะเป็น 0 และ 1) [ 10 ]รูปแบบที่ตั้งฉากกันมักจะสร้างการรบกวนระหว่างกันน้อยลง อย่างไรก็ตาม ปัญหาการเรียนรู้ทั้งหมดไม่สามารถแสดงได้โดยใช้เวกเตอร์ประเภทนี้ และบางการศึกษารายงานว่าระดับการรบกวนยังคงเป็นปัญหากับเวกเตอร์ตั้งฉาก[ 2 ]
เทคนิคการปรับความคมชัดของโหนด
ตามที่ French (1991) [ 8 ] กล่าวไว้ การรบกวนที่ร้ายแรงเกิดขึ้นในเครือข่ายการแพร่กระจายย้อนกลับแบบฟีดฟอร์เวิร์ด เนื่องจากการโต้ตอบของการเปิดใช้งานโหนดหรือการทับซ้อนของการเปิดใช้งานที่เกิดขึ้นในการแสดงแบบกระจายที่ชั้นซ่อน เครือข่ายประสาทที่ใช้การแสดงแบบเฉพาะที่มากจะไม่แสดงการรบกวนที่ร้ายแรงเนื่องจากการไม่มีการทับซ้อนที่ชั้นซ่อน ดังนั้น French จึงแนะนำว่าการลดค่าการทับซ้อนของการเปิดใช้งานที่ชั้นซ่อนจะช่วยลดการรบกวนที่ร้ายแรงในเครือข่ายแบบกระจาย โดยเฉพาะอย่างยิ่งเขาเสนอว่าสามารถทำได้โดยการเปลี่ยนการแสดงแบบกระจายที่ชั้นซ่อนเป็นการแสดงแบบ 'กึ่งกระจาย' การแสดงแบบ 'กึ่งกระจาย' มีโหนดซ่อนที่ใช้งานอยู่น้อยกว่า และ/หรือค่าการเปิดใช้งานที่ต่ำกว่าสำหรับโหนดเหล่านี้สำหรับการแสดงแต่ละครั้ง ซึ่งจะทำให้การแสดงของอินพุตที่แตกต่างกันทับซ้อนกันน้อยลงที่ชั้นซ่อน เฟรนช์แนะนำว่าสามารถทำได้โดยใช้เทคนิค 'การเพิ่มความคมชัดของการกระตุ้น' ซึ่งเป็นเทคนิคที่เพิ่มการกระตุ้นเล็กน้อยให้กับโหนดที่มีการกระตุ้นมากที่สุดจำนวนหนึ่งในชั้นซ่อน ลดการกระตุ้นของหน่วยอื่นๆ ทั้งหมดลงเล็กน้อย จากนั้นจึงเปลี่ยนน้ำหนักจากอินพุตไปยังชั้นซ่อนเพื่อให้สะท้อนถึงการเปลี่ยนแปลงการกระตุ้นเหล่านี้ (คล้ายกับการแพร่กระจายข้อผิดพลาดแบบย้อนกลับ)
กฎใหม่
Kortge (1990) [ 13 ]เสนอกฎการเรียนรู้สำหรับการฝึกโครงข่ายประสาทเทียมที่เรียกว่า 'กฎความแปลกใหม่' เพื่อช่วยบรรเทาการรบกวนที่ร้ายแรง ดังที่ชื่อบ่งบอก กฎนี้ช่วยให้โครงข่ายประสาทเทียมเรียนรู้เฉพาะส่วนประกอบของอินพุตใหม่ที่แตกต่างจากอินพุตเก่าเท่านั้น ผลที่ตามมาคือ กฎความแปลกใหม่จะเปลี่ยนเฉพาะน้ำหนักที่ไม่ได้จัดสรรไว้ก่อนหน้านี้สำหรับการจัดเก็บข้อมูล ซึ่งจะช่วยลดการทับซ้อนในการแสดงผลที่หน่วยซ่อน ในการใช้กฎความแปลกใหม่ ในระหว่างการเรียนรู้ รูปแบบอินพุตจะถูกแทนที่ด้วยเวกเตอร์ความแปลกใหม่ที่แสดงถึงส่วนประกอบที่แตกต่างกัน เมื่อใช้กฎความแปลกใหม่ในโครงข่ายแบ็กโพรพาเกชันมาตรฐาน จะไม่มีหรือมีการลืมรายการเก่าน้อยลงเมื่อมีการนำเสนอรายการใหม่ตามลำดับ[ 13 ]อย่างไรก็ตาม ข้อจำกัดคือ กฎนี้สามารถใช้ได้กับโครงข่ายออโตเอนโคเดอร์หรือออโตแอสโซซิเอทีฟเท่านั้น ซึ่งการตอบสนองเป้าหมายสำหรับเลเยอร์เอาต์พุตจะเหมือนกับรูปแบบอินพุต
เครือข่ายการฝึกอบรมเบื้องต้น
McRae และ Hetherington (1993) [ 9 ]โต้แย้งว่ามนุษย์ไม่เหมือนกับเครือข่ายประสาทส่วนใหญ่ ที่ไม่รับงานการเรียนรู้ใหม่ด้วยชุดน้ำหนักแบบสุ่ม แต่คนเรามักจะนำความรู้ที่มีอยู่ก่อนหน้ามาใช้ในงาน และสิ่งนี้ช่วยหลีกเลี่ยงปัญหาการรบกวน พวกเขาแสดงให้เห็นว่าเมื่อเครือข่ายได้รับการฝึกฝนล่วงหน้าด้วยตัวอย่างข้อมูลแบบสุ่มก่อนที่จะเริ่มงานการเรียนรู้แบบลำดับ ความรู้ก่อนหน้านี้จะจำกัดวิธีการรวมข้อมูลใหม่โดยธรรมชาติ สิ่งนี้จะเกิดขึ้นเพราะตัวอย่างข้อมูลแบบสุ่มจากโดเมนที่มีโครงสร้างภายในสูง เช่น ภาษาอังกฤษ การฝึกฝนจะจับความสม่ำเสมอหรือรูปแบบที่เกิดขึ้นซ้ำๆ ภายในโดเมนนั้น เนื่องจากโดเมนนั้นขึ้นอยู่กับความสม่ำเสมอ รายการที่เรียนรู้ใหม่จึงมีแนวโน้มที่จะคล้ายกับข้อมูลที่เรียนรู้ก่อนหน้านี้ ซึ่งจะช่วยให้เครือข่ายสามารถรวมข้อมูลใหม่ได้โดยมีการรบกวนข้อมูลที่มีอยู่เพียงเล็กน้อย โดยเฉพาะอย่างยิ่ง เวกเตอร์อินพุตที่ตามรูปแบบความสม่ำเสมอเดียวกันกับข้อมูลที่ฝึกฝนก่อนหน้านี้ไม่ควรทำให้เกิดรูปแบบการกระตุ้นที่แตกต่างกันอย่างมากในเลเยอร์ที่ซ่อนอยู่หรือเปลี่ยนแปลงน้ำหนักอย่างมาก
การซ้อม
Robins (1995) [ 14 ]อธิบายว่าการลืมอย่างหายนะสามารถป้องกันได้ด้วยกลไกการฝึกซ้อม ซึ่งหมายความว่าเมื่อมีการเพิ่มข้อมูลใหม่ เครือข่ายประสาทจะได้รับการฝึกฝนใหม่โดยใช้ข้อมูลที่เรียนรู้ก่อนหน้านี้บางส่วน อย่างไรก็ตาม โดยทั่วไปแล้ว ข้อมูลที่เรียนรู้ก่อนหน้านี้ อาจไม่พร้อมสำหรับการฝึกฝนใหม่ดังกล่าว วิธีแก้ปัญหานี้คือ "การฝึกซ้อมเสมือน" ซึ่งเครือข่ายจะไม่ได้รับการฝึกฝนใหม่โดยใช้ข้อมูลก่อนหน้าจริง แต่ใช้การแสดงแทนของข้อมูลเหล่านั้น วิธีการหลายวิธีนั้นอิงตามกลไกทั่วไปนี้
เครือข่ายแบบวนซ้ำเทียม
French (1997) เสนอเครือข่ายการแพร่กระจายย้อนกลับแบบเสมือนวนซ้ำ (ดูรูปที่ 2) [ 5 ]ในแบบจำลองนี้ เครือข่ายจะถูกแยกออกเป็นสองเครือข่ายย่อยที่มีหน้าที่แตกต่างกันแต่มีการโต้ตอบกัน แบบจำลองนี้ได้รับแรงบันดาลใจจากชีววิทยาและอิงตามงานวิจัยของ McClelland et al. (1995) [ 15 ] McClelland และเพื่อนร่วมงานแนะนำว่าฮิปโปแคมปัสและนีโอคอร์เทกซ์ทำหน้าที่เป็นระบบความจำที่แยกจากกันได้แต่เสริมกัน โดยฮิปโปแคมปัสทำหน้าที่ เก็บ ความจำระยะสั้นและนีโอคอร์เทกซ์ทำหน้าที่ เก็บ ความจำระยะยาวข้อมูลที่เก็บไว้ในฮิปโปแคมปัสในตอนแรกสามารถ "ถ่ายโอน" ไปยังนีโอคอร์เทกซ์ได้โดยการกระตุ้นหรือเล่นซ้ำ ในเครือข่ายแบบเสมือนวนซ้ำ เครือข่ายย่อยหนึ่งทำหน้าที่เป็นพื้นที่ประมวลผลเบื้องต้น คล้ายกับฮิปโปแคมปัส และทำหน้าที่เรียนรู้รูปแบบอินพุตใหม่ เครือข่ายย่อยอีกเครือข่ายหนึ่งทำหน้าที่เป็นพื้นที่จัดเก็บขั้นสุดท้าย คล้ายกับนีโอคอร์เทกซ์ อย่างไรก็ตาม ต่างจากในแบบจำลองของ McClelland et al. (1995) พื้นที่จัดเก็บขั้นสุดท้ายจะส่งการแสดงผลที่สร้างขึ้นภายในกลับไปยังพื้นที่ประมวลผลช่วงต้น ซึ่งจะสร้างเครือข่ายแบบวนซ้ำ French เสนอว่าการสลับการแสดงผลเก่ากับการแสดงผลใหม่นี้เป็นวิธีเดียวที่จะลดการลืมอย่างรุนแรง เนื่องจากสมองอาจไม่สามารถเข้าถึงรูปแบบอินพุตดั้งเดิมได้ รูปแบบที่จะถูกส่งกลับไปยังนีโอคอร์เทกซ์จะเป็นการแสดงผลที่สร้างขึ้นภายในที่เรียกว่ารูปแบบเทียมรูปแบบเทียมเหล่านี้เป็นการประมาณค่าของอินพุตก่อนหน้า[ 14 ]และสามารถสลับกับการเรียนรู้อินพุตใหม่ได้
หน่วยความจำที่รีเฟรชตัวเองได้
ได้รับแรงบันดาลใจจาก Robins (1995) [ 14 ]และเป็นอิสระจาก French (1997) [ 5 ] Ans และ Rousset (1997) [ 16 ]ยังได้เสนอสถาปัตยกรรมโครงข่ายประสาทเทียมแบบสองเครือข่ายที่มีการรีเฟรชหน่วยความจำด้วยตนเองซึ่งเอาชนะการรบกวนที่ร้ายแรงเมื่อดำเนินการเรียนรู้ตามลำดับในเครือข่ายแบบกระจายที่ฝึกฝนโดยการแพร่กระจายย้อนกลับ หลักการคือการเรียนรู้รูปแบบภายนอกใหม่พร้อมกันกับรูปแบบเทียมที่สร้างขึ้นภายใน หรือ 'หน่วยความจำเทียม' ที่สะท้อนข้อมูลที่เรียนรู้ก่อนหน้านี้ สิ่งที่ทำให้โมเดลนี้แตกต่างจากโมเดลที่ใช้การฝึกซ้อมเทียมแบบคลาสสิก[ 14 ] [ 5 ]ในเครือข่ายหลายชั้นแบบฟีดฟอร์เวิร์ดคือกระบวนการสะท้อนที่ใช้สำหรับการสร้างรูปแบบเทียม หลังจากการฉีดกิจกรรมซ้ำหลายครั้งจากเมล็ดสุ่มเพียงเมล็ดเดียว กระบวนการนี้มีแนวโน้มที่จะนำไปสู่ตัวดึงดูด เครือข่ายที่ไม่เป็นเชิงเส้น ซึ่งเหมาะสมกว่าสำหรับการจับภาพโครงสร้างเชิงลึกของความรู้ที่กระจายอยู่ภายในน้ำหนักการเชื่อมต่อได้อย่างเหมาะสมมากกว่าการส่งผ่านกิจกรรมไปข้างหน้าเพียงครั้งเดียวที่ใช้ในการฝึกซ้อมจำลอง ขั้นตอนการรีเฟรชหน่วยความจำด้วยตนเองนั้นมีประสิทธิภาพมากในกระบวนการถ่ายโอน[ 17 ]และในการเรียนรู้ลำดับเวลาของรูปแบบโดยไม่ลืมอย่างร้ายแรง[ 18 ]
การเล่นซ้ำแบบสร้างสรรค์
ในช่วงไม่กี่ปีที่ผ่านมา การฝึกซ้อมจำลองกลับมาได้รับความนิยมอีกครั้งเนื่องจากความก้าวหน้าในความสามารถของแบบจำลองเชิง กำเนิดเชิงลึก เมื่อใช้แบบจำลองเชิงกำเนิดเชิงลึกดังกล่าวเพื่อสร้าง "ข้อมูลจำลอง" ที่จะฝึกซ้อม วิธีนี้มักเรียกว่าการเล่นซ้ำแบบสร้าง[ 19 ]การเล่นซ้ำแบบสร้างดังกล่าวสามารถป้องกันการลืมอย่างร้ายแรงได้อย่างมีประสิทธิภาพ โดยเฉพาะอย่างยิ่งเมื่อการเล่นซ้ำดำเนินการในเลเยอร์ที่ซ่อนอยู่แทนที่จะเป็นระดับอินพุต[ 20 ] [ 21 ]
การเล่นซ้ำโดยธรรมชาติ
ข้อมูลเชิงลึกเกี่ยวกับกลไกการรวมความทรงจำระหว่างกระบวนการนอนหลับในสมองของมนุษย์และสัตว์นำไปสู่แนวทางอื่นๆ ที่ได้รับแรงบันดาลใจจากชีววิทยา ในขณะที่ความทรงจำแบบประกาศในภาพคลาสสิกจะถูกรวมเข้าด้วยกันโดยการสนทนาระหว่างฮิปโปแคมปัสและนีโอคอร์เท็กซ์ในช่วงระยะ NREM ของการนอนหลับ (ดูข้างต้น) ความทรงจำเชิงกระบวนการบางประเภทได้รับการเสนอแนะว่าไม่จำเป็นต้องพึ่งพาฮิปโปแคมปัสและเกี่ยวข้องกับระยะ REM ของการนอนหลับ (เช่น McDevitt et al. (2015), [ 22 ]แต่ดู MacDonald and Cote (2021) [ 23 ]สำหรับความซับซ้อนของหัวข้อนี้) สิ่งนี้เป็นแรงบันดาลใจให้เกิดแบบจำลองที่การแสดงภายใน (ความทรงจำ) ที่สร้างขึ้นจากการเรียนรู้ก่อนหน้านี้จะถูกเล่นซ้ำโดยอัตโนมัติในช่วงเวลาที่คล้ายกับการนอนหลับในเครือข่ายเอง[ 24 ] [ 25 ] (เช่น โดยไม่ต้องอาศัยเครือข่ายรองที่ดำเนินการโดยวิธีการเล่นซ้ำแบบสร้างสรรค์ที่กล่าวถึงข้างต้น)
การเรียนรู้แฝง
การเรียนรู้แฝงเป็นเทคนิคที่ Gutstein & Stump (2015) [ 26 ] ใช้ เพื่อลดผลกระทบจากการรบกวนอย่างรุนแรงโดยใช้ประโยชน์จากการเรียนรู้แบบถ่ายโอนแนวทางนี้พยายามค้นหาการเข้ารหัสที่เหมาะสมที่สุดสำหรับคลาสใหม่ที่จะเรียนรู้ เพื่อให้มีโอกาสน้อยที่สุดที่จะรบกวนการตอบสนองที่มีอยู่ เมื่อเครือข่ายได้เรียนรู้ที่จะแยกแยะความแตกต่างระหว่างชุดคลาสหนึ่งโดยใช้รหัสเอาต์พุตแก้ไขข้อผิดพลาด (ECOC) [ 27 ] (ตรงข้ามกับรหัส 1 hot ) การเข้ารหัสที่เหมาะสมที่สุดสำหรับคลาสใหม่จะถูกเลือกโดยการสังเกตการตอบสนองเฉลี่ยของเครือข่ายต่อคลาสเหล่านั้น เนื่องจากค่าเฉลี่ยการตอบสนองเหล่านี้เกิดขึ้นในขณะที่เรียนรู้ชุดคลาสเดิมโดยไม่มีการสัมผัสกับคลาสใหม่จึงเรียกว่า 'การเข้ารหัสที่เรียนรู้แฝง' คำศัพท์นี้ยืมมาจากแนวคิดการเรียนรู้แฝงตามที่ Tolman แนะนำในปี พ.ศ. 2473 [ 28 ]โดยหลักการแล้ว เทคนิคนี้ใช้การเรียนรู้แบบถ่ายโอนเพื่อหลีกเลี่ยงการรบกวนที่ร้ายแรง โดยทำให้การตอบสนองของเครือข่ายต่อคลาสใหม่มีความสอดคล้องกับการตอบสนองที่มีอยู่ต่อคลาสที่เรียนรู้แล้วมากที่สุดเท่าที่จะเป็นไปได้
การรวมน้ำหนักยืดหยุ่น
Kirkpatrick et al. (2017) [ 29 ]เสนอการรวมน้ำหนักแบบยืดหยุ่น (EWC) ซึ่งเป็นวิธีการฝึกเครือข่ายประสาทเทียมเดี่ยวแบบต่อเนื่องสำหรับงานหลายงาน เทคนิคนี้ถือว่าน้ำหนักบางส่วนของเครือข่ายประสาทที่ได้รับการฝึกฝนนั้นมีความสำคัญมากกว่าสำหรับงานที่เรียนรู้ก่อนหน้านี้ ในระหว่างการฝึกเครือข่ายประสาทในงานใหม่ การเปลี่ยนแปลงน้ำหนักของเครือข่ายจะเกิดขึ้นได้ยากขึ้นหากน้ำหนักนั้นมีความสำคัญมากขึ้น ในการประเมินความสำคัญของน้ำหนักเครือข่าย EWC ใช้กลไกความน่าจะเป็น โดยเฉพาะอย่างยิ่งเมทริกซ์ข้อมูลของ Fisher แต่ก็สามารถทำได้ด้วยวิธีอื่นเช่นกัน[ 30 ] [ 31 ] [ 32 ]
การจดจำที่หายนะ
การจดจำหายนะ หรือเรียกอีกอย่างว่าการสรุปเกินจริงและเดจาวู สุด ขั้ว [ 33 ] หมายถึงแนวโน้มของเครือข่ายประสาทเทียมที่จะสูญเสียความสามารถในการแยกแยะระหว่างข้อมูลเก่าและข้อมูลใหม่โดยฉับพลัน เมื่อมีรูปแบบจำนวนมากเข้ามาเกี่ยวข้อง และเครือข่ายไม่ได้เรียนรู้ที่จะสร้างรูปแบบเฉพาะขึ้นมาใหม่ แต่เรียนรู้ที่จะ "ผ่าน" อินพุตใดๆ ที่ได้รับ[ 34 ]การจดจำหายนะมักเกิดขึ้นเป็นผลมาจากการกำจัดสิ่งรบกวนหายนะโดยใช้ชุดฝึกอบรมตัวแทนขนาดใหญ่หรือชุดหน่วยความจำตามลำดับที่เพียงพอ (การเล่นซ้ำหน่วยความจำหรือการฝึกซ้อมข้อมูล) ซึ่งนำไปสู่การล้มเหลวในการแยกแยะระหว่างรูปแบบอินพุตที่เรียนรู้แล้วและรูปแบบที่ยังไม่ได้เรียนรู้[ 33 ]ปัญหานี้ได้รับการตรวจสอบครั้งแรกโดย Sharkey และ Sharkey (1995) [ 33 ] Robins (1993) [ 34 ]และ Ratcliff (1990) [ 2 ]และ French (1999) [ 10 ]