กลับไปหน้าบทความ

อ่าน 6 นาที

ชุดข้อมูลสำหรับการฝึกอบรม การตรวจสอบ และการทดสอบ

ใน การเรียนรู้ของเครื่องจักร งาน ทั่วไปอย่างหนึ่งคือการศึกษาและสร้าง อัลกอริธึม ที่สามารถเรียนรู้และทำนาย ข้อมูล ได้ [ 1 ] อัลกอริธึมดังกล่าวทำงานโดยการทำนายหรือตัดสินใจตามข้อมูล...

ชุดข้อมูลสำหรับการฝึกอบรม การตรวจสอบ และการทดสอบ

ในการเรียนรู้ของเครื่องจักร งานทั่วไปอย่างหนึ่งคือการศึกษาและสร้างอัลกอริธึมที่สามารถเรียนรู้และทำนายข้อมูลได้[ 1 ]อัลกอริธึมดังกล่าวทำงานโดยการทำนายหรือตัดสินใจตามข้อมูล[ 2 ]โดยการสร้างแบบจำลองทางคณิตศาสตร์จากข้อมูลป้อนเข้า ข้อมูลป้อนเข้าที่ใช้ในการสร้างแบบจำลองมักจะถูกแบ่งออกเป็นชุดข้อมูล หลาย ชุด โดยเฉพาะอย่างยิ่ง ชุดข้อมูลสามชุดที่ใช้กันทั่วไปในขั้นตอนต่างๆ ของการสร้างแบบจำลอง ได้แก่ ชุดฝึกอบรม ชุดตรวจสอบ และชุดทดสอบ

แบบจำลองจะถูกปรับให้เหมาะสมกับชุดข้อมูลฝึกฝนในขั้นต้น[ 3 ] ซึ่งเป็นชุดตัวอย่างที่ใช้ในการปรับพารามิเตอร์ (เช่น น้ำหนักของการเชื่อมต่อระหว่างเซลล์ประสาทในเครือข่ายประสาทเทียม ) ของแบบจำลอง[ 4 ]แบบจำลอง (เช่นตัวจำแนกแบบ Naive Bayes ) จะถูกฝึกฝนบนชุดข้อมูลฝึกฝนโดยใช้ วิธี การเรียนรู้แบบมีผู้กำกับดูแลเช่น การใช้วิธีการเพิ่มประสิทธิภาพ เช่นการไล่ระดับความชันหรือการไล่ระดับความชันแบบสุ่มในทางปฏิบัติ ชุดข้อมูลฝึกฝนมักประกอบด้วยคู่ของเวกเตอร์ อินพุต (หรือสเกลาร์) และเวกเตอร์เอาต์พุต (หรือสเกลาร์) ที่สอดคล้องกัน โดยที่คำตอบมักจะถูกกำหนดให้เป็นเป้าหมาย (หรือป้ายกำกับ ) แบบจำลองปัจจุบันจะถูกเรียกใช้กับชุดข้อมูลฝึกฝนและสร้างผลลัพธ์ ซึ่งจะถูกนำไปเปรียบเทียบกับเป้าหมายสำหรับแต่ละเวกเตอร์อินพุตในชุดข้อมูลฝึกฝน พารามิเตอร์ของแบบจำลองจะถูกปรับตามผลลัพธ์ของการเปรียบเทียบและอัลกอริทึมการเรียนรู้เฉพาะที่ใช้ การปรับแบบจำลองอาจรวมถึงการเลือกตัวแปรและการประมาณ ค่า พารามิเตอร์

จากนั้น โมเดลที่ปรับให้เหมาะสมจะถูกนำมาใช้เพื่อทำนายการตอบสนองสำหรับการสังเกตในชุดข้อมูลที่สองที่เรียกว่าชุดข้อมูลตรวจสอบ[ 3 ]ชุดข้อมูลตรวจสอบจะให้การประเมินที่ไม่ลำเอียงของโมเดลที่ปรับให้เหมาะสมกับชุดข้อมูลฝึกอบรมในขณะที่ปรับพารามิเตอร์ ของโมเดล [ 5 ] (เช่น จำนวนหน่วยที่ซ่อนอยู่—เลเยอร์และความกว้างของเลเยอร์—ในเครือข่ายประสาท[ 4 ] ) ชุดข้อมูลตรวจสอบสามารถใช้สำหรับการควบคุมโดยการหยุดก่อนกำหนด (หยุดการฝึกอบรมเมื่อข้อผิดพลาดในชุดข้อมูลตรวจสอบเพิ่มขึ้น เนื่องจากนี่เป็นสัญญาณของการปรับให้เหมาะสมกับชุดข้อมูลฝึกอบรมมากเกินไป) [ 6 ] ขั้นตอนง่ายๆ นี้มีความซับซ้อนในทางปฏิบัติเนื่องจากข้อผิดพลาดของชุดข้อมูลตรวจสอบอาจผันผวนระหว่างการฝึกอบรม ทำให้เกิดจุดต่ำสุดเฉพาะที่หลายจุด ความซับซ้อนนี้ทำให้เกิดกฎเฉพาะกิจมากมายสำหรับการตัดสินใจว่าเมื่อใดที่การปรับให้เหมาะสมมากเกินไปได้เริ่มต้นขึ้นอย่างแท้จริง[ 6 ]

สุดท้ายชุดข้อมูลทดสอบคือชุดข้อมูลที่ใช้เพื่อประเมินความเหมาะสมของแบบจำลองกับชุดข้อมูลฝึกฝนอย่างเป็นกลาง[ 5 ]เมื่อข้อมูลในชุดข้อมูลทดสอบไม่เคยถูกใช้มาก่อน (เช่น ในการตรวจสอบแบบไขว้ ) ชุดข้อมูลทดสอบจะเรียกว่าชุดข้อมูลแยก (holdout data set ) บางครั้งมีการใช้คำว่า "ชุดตรวจสอบ" (validation set) แทนคำว่า "ชุดทดสอบ" (test set) ในเอกสารบางฉบับ (เช่น หากชุดข้อมูลดั้งเดิมถูกแบ่งออกเป็นเพียงสองชุดย่อย ชุดทดสอบอาจถูกเรียกว่าชุดตรวจสอบ) [ 5 ]

การตัดสินใจเกี่ยวกับขนาดและกลยุทธ์ในการแบ่งชุดข้อมูลในชุดฝึกอบรม ชุดทดสอบ และชุดตรวจสอบความถูกต้องนั้นขึ้นอยู่กับปัญหาและข้อมูลที่มีอยู่เป็นอย่างมาก[ 7 ]

ชุดข้อมูลฝึกฝน

ตัวอย่างอย่างง่ายของการฝึกโครงข่ายประสาทเทียมในการตรวจจับวัตถุ: โครงข่ายได้รับการฝึกฝนด้วยภาพหลายภาพที่ทราบว่าเป็นภาพของปลาดาวและเม่นทะเลซึ่งมีความสัมพันธ์กับ "โหนด" ที่แสดงถึงคุณลักษณะ ทางภาพ ปลาดาวจะตรงกับพื้นผิวที่เป็นวงแหวนและโครงร่างรูปดาว ในขณะที่เม่นทะเลส่วนใหญ่จะตรงกับพื้นผิวที่เป็นลายเส้นและรูปทรงวงรี อย่างไรก็ตาม กรณีของเม่นทะเลที่มีพื้นผิวเป็นวงแหวนจะสร้างความสัมพันธ์ที่มีน้ำหนักอ่อนระหว่างพวกมัน
การรันเครือข่ายครั้งถัดไปบนภาพอินพุต (ซ้าย): [ 8 ]เครือข่ายตรวจจับดาวทะเลได้อย่างถูกต้อง อย่างไรก็ตาม การเชื่อมโยงที่มีน้ำหนักน้อยระหว่างพื้นผิววงแหวนและเม่นทะเลยังให้สัญญาณที่อ่อนแอแก่เม่นทะเลจากโหนดกลางหนึ่งในสองโหนด นอกจากนี้ เปลือกหอยที่ไม่ได้รวมอยู่ในการฝึกอบรมยังให้สัญญาณที่อ่อนแอสำหรับรูปร่างวงรี ซึ่งส่งผลให้สัญญาณที่อ่อนแอสำหรับเอาต์พุตเม่นทะเลด้วย สัญญาณที่อ่อนแอเหล่านี้อาจส่งผลให้เกิด ผลลัพธ์ ที่เป็นบวกเท็จสำหรับเม่นทะเลในความเป็นจริง พื้นผิวและโครงร่างจะไม่ถูกแทนด้วยโหนดเดียว แต่จะถูกแทนด้วยรูปแบบน้ำหนักที่เชื่อมโยงกันของหลายโหนด

ชุดข้อมูลฝึกฝนคือชุดข้อมูลตัวอย่างที่ใช้ในระหว่างกระบวนการเรียนรู้และใช้เพื่อปรับพารามิเตอร์ (เช่น น้ำหนัก) ของตัวจำแนกประเภทเป็นต้น[ 9 ] [ 10 ]

สำหรับงานจำแนกประเภท อัลกอริทึมการเรียนรู้แบบมีผู้กำกับดูแลจะพิจารณาชุดข้อมูลการฝึกอบรมเพื่อกำหนดหรือเรียนรู้ชุดค่าผสมที่เหมาะสมที่สุดของตัวแปรที่จะสร้างแบบจำลองการทำนายที่ ดี [ 11 ]เป้าหมายคือการสร้างแบบจำลองที่ได้รับการฝึกฝน (ปรับให้เหมาะสม) ซึ่งสามารถสรุปผลได้ดีกับข้อมูลใหม่ที่ไม่รู้จัก[ 12 ]แบบจำลองที่ปรับให้เหมาะสมจะได้รับการประเมินโดยใช้ตัวอย่าง "ใหม่" จากชุดข้อมูลที่แยกไว้ (ชุดข้อมูลการตรวจสอบและการทดสอบ) เพื่อประเมินความแม่นยำของแบบจำลองในการจำแนกข้อมูลใหม่ [ 5 ] เพื่อลดความเสี่ยงของปัญหาต่างๆ เช่น การปรับให้เหมาะสมมากเกินไป ตัวอย่างในชุดข้อมูลการตรวจสอบและการทดสอบไม่ควรนำมาใช้ในการฝึกแบบจำลอง[ 5 ]

วิธีการส่วนใหญ่ที่ค้นหาความสัมพันธ์เชิงประจักษ์ในข้อมูลฝึกฝนมีแนวโน้มที่จะเกิดการโอเวอร์ฟิตข้อมูล ซึ่งหมายความว่าวิธีการเหล่านั้นสามารถระบุและใช้ประโยชน์จากความสัมพันธ์ที่ปรากฏในข้อมูลฝึกฝนซึ่งไม่เป็นจริงโดยทั่วไปได้

การเรียนรู้แบบเพิ่มพูน (Incremental Learning ) คือการเรียนรู้ที่ขยายชุดข้อมูลฝึกฝนอย่างต่อเนื่องด้วยข้อมูลใหม่

ชุดข้อมูลตรวจสอบความถูกต้อง

ชุดข้อมูลการตรวจสอบความถูกต้องคือชุดข้อมูลตัวอย่างที่ใช้ในการปรับแต่งไฮเปอร์พารามิเตอร์ (เช่น สถาปัตยกรรม) ของโมเดล บางครั้งเรียกว่าชุดพัฒนาหรือ "ชุดพัฒนา" [ 13 ]ตัวอย่างของไฮเปอร์พารามิเตอร์สำหรับโครงข่ายประสาท เทียม ได้แก่ จำนวนหน่วยที่ซ่อนอยู่ในแต่ละชั้น[ 9 ] [ 10 ]ทั้งชุดข้อมูลนี้และชุดทดสอบ (ดังที่กล่าวไว้ด้านล่าง) ควรมีการกระจายความน่าจะเป็นแบบเดียวกันกับชุดข้อมูลการฝึกอบรม

เพื่อหลีกเลี่ยงการเกิดภาวะโอเวอร์ฟิตติ้ง (overfitting) เมื่อใดก็ตามที่ จำเป็นต้องปรับพารามิเตอร์ การจำแนกประเภทจำเป็นต้องมีชุดข้อมูลตรวจสอบ (validation data set) เพิ่มเติมจากชุดข้อมูลฝึกฝน (training data set) และชุดข้อมูลทดสอบ (test data set) ตัวอย่างเช่น หากต้องการหาตัวจำแนกประเภทที่เหมาะสมที่สุดสำหรับปัญหา ชุดข้อมูลฝึกฝนจะถูกใช้เพื่อฝึกฝนตัวจำแนกประเภทต่างๆ ที่เป็นไปได้ ชุดข้อมูลตรวจสอบจะถูกใช้เพื่อเปรียบเทียบประสิทธิภาพและตัดสินใจว่าจะเลือกตัวใด และสุดท้าย ชุดข้อมูลทดสอบจะถูกใช้เพื่อหาคุณลักษณะด้านประสิทธิภาพ เช่นความแม่นยำความไวความจำเพาะ ค่าF-measureเป็นต้น ชุดข้อมูลตรวจสอบทำหน้าที่เป็นแบบผสมผสาน กล่าวคือ เป็นข้อมูลฝึกฝนที่ใช้สำหรับการทดสอบ แต่ไม่ใช่ส่วนหนึ่งของ การฝึกฝนระดับต่ำหรือส่วนหนึ่งของการทดสอบขั้นสุดท้าย

กระบวนการพื้นฐานของการใช้ชุดข้อมูลตรวจสอบความถูกต้องสำหรับการเลือกโมเดล (เป็นส่วนหนึ่งของชุดข้อมูลฝึกอบรม ชุดข้อมูลตรวจสอบความถูกต้อง และชุดข้อมูลทดสอบ) คือ: [ 10 ] [ 14 ]

เนื่องจากเป้าหมายของเราคือการค้นหาเครือข่ายที่มีประสิทธิภาพดีที่สุดบนข้อมูลใหม่ วิธีที่ง่ายที่สุดในการเปรียบเทียบเครือข่ายต่างๆ คือการประเมินฟังก์ชันข้อผิดพลาดโดยใช้ข้อมูลที่เป็นอิสระจากข้อมูลที่ใช้ในการฝึกฝน เครือข่ายต่างๆ จะถูกฝึกฝนโดยการลดฟังก์ชันข้อผิดพลาดที่เหมาะสมซึ่งกำหนดขึ้นโดยอ้างอิงจากชุดข้อมูลการฝึกฝน จากนั้นจะเปรียบเทียบประสิทธิภาพของเครือข่ายโดยการประเมินฟังก์ชันข้อผิดพลาดโดยใช้ชุดข้อมูลตรวจสอบที่เป็นอิสระ และเลือกเครือข่ายที่มีข้อผิดพลาดน้อยที่สุดเมื่อเทียบกับชุดข้อมูลตรวจสอบ วิธีนี้เรียกว่า วิธี การแยกชุดข้อมูล (holdout method) เนื่องจากกระบวนการนี้เองอาจนำไปสู่การโอเวอร์ฟิตติ้งกับชุดข้อมูลตรวจสอบได้ ประสิทธิภาพของเครือข่ายที่เลือกจึงควรได้รับการยืนยันโดยการวัดประสิทธิภาพบนชุดข้อมูลอิสระชุดที่สามที่เรียกว่าชุดข้อมูลทดสอบ

การประยุกต์ใช้กระบวนการนี้อย่างหนึ่งคือการหยุดการฝึกฝนก่อนกำหนดโดยแบบจำลองที่ใช้จะเป็นแบบจำลองที่พัฒนาต่อยอดมาจากเครือข่ายเดียวกัน และการฝึกฝนจะหยุดลงเมื่อค่าความคลาดเคลื่อนในชุดข้อมูลตรวจสอบเพิ่มขึ้น โดยจะเลือกแบบจำลองก่อนหน้า (แบบจำลองที่มีค่าความคลาดเคลื่อนน้อยที่สุด)

ชุดข้อมูลทดสอบ

ชุดข้อมูลทดสอบคือชุดข้อมูลที่เป็นอิสระจากชุดข้อมูลฝึกฝน แต่มีการกระจายความน่าจะ เป็นแบบเดียวกัน กับชุดข้อมูลฝึกฝน ดังนั้น ชุดทดสอบจึงเป็นชุดตัวอย่างที่ใช้เพื่อประเมินประสิทธิภาพ (เช่น การสรุปผล) ของตัวจำแนกประเภทที่กำหนดไว้บนข้อมูลที่ไม่เคยเห็นมาก่อนเท่านั้น[ 9 ] [ 10 ]ในการทำเช่นนี้ โมเดลจะถูกใช้เพื่อทำนายการจำแนกประเภทของตัวอย่างในชุดทดสอบ การทำนายเหล่านั้นจะถูกเปรียบเทียบกับการจำแนกประเภทที่แท้จริงของตัวอย่างเพื่อประเมินความแม่นยำของโมเดล[ 11 ]หากโมเดลที่เหมาะสมกับชุดข้อมูลฝึกฝนและชุดข้อมูลตรวจสอบความถูกต้องเหมาะสมกับชุดข้อมูลทดสอบได้ดี แสดงว่า มี การโอเวอร์ฟิต น้อยที่สุด (ดูรูปด้านล่าง) การที่โมเดลเหมาะสมกับชุดข้อมูลฝึกฝนหรือชุดข้อมูลตรวจสอบความถูกต้องได้ดีกว่าชุดข้อมูลทดสอบ มักบ่งชี้ถึงการโอเวอร์ฟิต

ในกรณีที่ชุดข้อมูลมีจำนวนตัวอย่างน้อย มักจะแบ่งออกเป็นชุดข้อมูลฝึกฝนและชุดข้อมูลตรวจสอบ โดยที่แบบจำลองจะถูกฝึกฝนบนชุดข้อมูลฝึกฝนและปรับปรุงโดยใช้ชุดข้อมูลตรวจสอบเพื่อเพิ่มความแม่นยำ แต่แนวทางนี้จะนำไปสู่การโอเวอร์ฟิตติ้งวิธีการโฮลด์เอาต์[ 15 ]ก็สามารถนำมาใช้ได้เช่นกัน โดยใช้ชุดข้อมูลทดสอบในตอนท้ายหลังจากฝึกฝนบนชุดข้อมูลฝึกฝนแล้ว เทคนิคอื่นๆ เช่น การตรวจสอบแบบไขว้และการบูตสแตรปใช้กับชุดข้อมูลขนาดเล็ก วิธีการบูตสแตรปสร้างชุดข้อมูลจำลองจำนวนมากที่มีขนาดเท่ากันโดยการสุ่มตัวอย่างแบบสุ่มโดยมีการแทนที่จากข้อมูลต้นฉบับ ทำให้จุดข้อมูลแบบสุ่มทำหน้าที่เป็นชุดข้อมูลทดสอบสำหรับการประเมินประสิทธิภาพของแบบจำลอง การตรวจสอบแบบไขว้จะแบ่งชุดข้อมูลออกเป็นหลายส่วน โดยใช้ส่วนย่อยเพียงส่วนเดียวเป็นข้อมูลทดสอบ แบบจำลองจะถูกฝึกฝนบนส่วนที่เหลือ และทุกส่วนจะถูกตรวจสอบแบบไขว้ (โดยเฉลี่ยผลลัพธ์และรวมแบบจำลองเข้าด้วยกัน) เพื่อประเมินประสิทธิภาพของแบบจำลองขั้นสุดท้าย โปรดทราบว่าแหล่งข้อมูลบางแห่งแนะนำไม่ให้ใช้การแบ่งเพียงครั้งเดียว เนื่องจากอาจนำไปสู่การโอเวอร์ฟิตติ้ง รวมถึงการประมาณประสิทธิภาพของโมเดลที่มีอคติ[ 12 ]

ด้วยเหตุนี้ ชุดข้อมูลจึงถูกแบ่งออกเป็นสามส่วน ได้แก่ ชุดข้อมูลสำหรับการฝึกอบรม ชุดข้อมูลสำหรับการตรวจสอบ และชุดข้อมูลสำหรับการทดสอบ แนวทางปฏิบัติมาตรฐานของการเรียนรู้ของเครื่องคือการฝึกอบรมบนชุดข้อมูลสำหรับการฝึกอบรมและปรับพารามิเตอร์โดยใช้ชุดข้อมูลสำหรับการตรวจสอบ ซึ่งกระบวนการตรวจสอบจะเลือกโมเดลที่มีค่าความสูญเสียในการตรวจสอบต่ำที่สุด จากนั้นจึงทดสอบโมเดลนั้นบนชุดข้อมูลสำหรับการทดสอบ (โดยปกติจะแยกไว้ต่างหาก) เพื่อประเมินโมเดลสุดท้าย วิธีการแยกชุดข้อมูลสำหรับการทดสอบช่วยลดการคำนวณโดยหลีกเลี่ยงการใช้ชุดข้อมูลสำหรับการทดสอบหลังจากแต่ละรอบการฝึกอบรม ชุดข้อมูลสำหรับการทดสอบไม่ควรใช้สำหรับการตรวจสอบโมเดลการฝึกอบรมหรือการปรับพารามิเตอร์อย่างละเอียด เนื่องจากเป็นการประเมินประสิทธิภาพขั้นสุดท้ายของโมเดลบนข้อมูลที่ไม่เคยเห็นมาก่อนได้อย่างแม่นยำและตรงไปตรงมา แต่สามารถใช้ได้หลายครั้งเพื่อกำหนดประสิทธิภาพของโมเดลที่ได้รับการอัปเดตและตรวจจับการโอเวอร์ฟิตติ้งหรือความจำเป็นในการฝึกอบรมเพิ่มเติมหรือการหยุดก่อนกำหนด[ 16 ]วิธีการต่างๆ เช่นการตรวจสอบแบบไขว้ (cross-validation)ถูกนำมาใช้ โดยชุดข้อมูลสำหรับการทดสอบจะถูกแยกออก และชุดข้อมูลสำหรับการฝึกอบรมจะถูกแบ่งออกเป็นส่วนย่อย โดยส่วนย่อยหนึ่งทำหน้าที่เป็นชุดข้อมูลสำหรับการตรวจสอบเพื่อฝึกโมเดล วิธีนี้มีประสิทธิภาพในการลดอคติและความแปรปรวนในแบบจำลอง[ 5 ] [ 12 ]มีวิธีการตรวจสอบแบบไขว้หลายวิธี เช่น การตรวจ สอบ แบบไขว้ซ้อน

ชุดข้อมูลฝึกฝน (ซ้าย) และชุดข้อมูลทดสอบ (ขวา) จากประชากรทางสถิติเดียวกันแสดงด้วยจุดสีน้ำเงิน มีการสร้างแบบจำลองการทำนายสองแบบกับข้อมูลฝึกฝน แบบจำลองทั้งสองแบบถูกพล็อตโดยใช้ทั้งชุดข้อมูลฝึกฝนและชุดข้อมูลทดสอบ ในชุดข้อมูลฝึกฝน ค่าMSEของแบบจำลองที่แสดงด้วยสีส้มคือ 4 ในขณะที่ค่า MSE ของแบบจำลองที่แสดงด้วยสีเขียวคือ 9 ในชุดข้อมูลทดสอบ ค่า MSE ของแบบจำลองที่แสดงด้วยสีส้มคือ 15 และค่า MSE ของแบบจำลองที่แสดงด้วยสีเขียวคือ 13 เส้นโค้งสีส้มแสดงถึงการโอเวอร์ฟิตข้อมูลฝึกฝนอย่างมาก เนื่องจากค่า MSE เพิ่มขึ้นเกือบสี่เท่าเมื่อเปรียบเทียบชุดข้อมูลทดสอบกับชุดข้อมูลฝึกฝน ส่วนเส้นโค้งสีเขียวแสดงถึงการโอเวอร์ฟิตข้อมูลฝึกฝนน้อยกว่ามาก เนื่องจากค่า MSE เพิ่มขึ้นน้อยกว่า 2 เท่า

ความสับสนในคำศัพท์

การทดสอบคือการลองทำบางสิ่งบางอย่างเพื่อค้นหาเกี่ยวกับมัน ("เพื่อพิสูจน์; เพื่อพิสูจน์ความจริง ความแท้จริง หรือคุณภาพโดยการทดลอง" ตามพจนานุกรมภาษาอังกฤษนานาชาติ) และการตรวจสอบความถูกต้องคือการพิสูจน์ว่าบางสิ่งบางอย่างถูกต้อง ("เพื่อยืนยัน; เพื่อทำให้ถูกต้อง" ตามพจนานุกรมภาษาอังกฤษนานาชาติ) ด้วยมุมมองนี้ การใช้คำว่าชุดทดสอบและชุดตรวจสอบความ ถูกต้องที่พบบ่อยที่สุด คือแบบที่อธิบายไว้ที่นี่ อย่างไรก็ตาม ทั้งในอุตสาหกรรมและสถาบันการศึกษา บางครั้งก็มีการใช้คำเหล่านี้สลับกัน โดยพิจารณาว่ากระบวนการภายในคือการทดสอบโมเดลต่างๆ เพื่อปรับปรุง (ชุดทดสอบเป็นชุดพัฒนา) และโมเดลสุดท้ายคือโมเดลที่ต้องได้รับการตรวจสอบความถูกต้องก่อนใช้งานจริงกับข้อมูลที่ไม่เคยเห็นมาก่อน (ชุดตรวจสอบความถูกต้อง) "วรรณกรรมเกี่ยวกับการเรียนรู้ของเครื่องมักจะสลับความหมายของชุด 'ตรวจสอบความถูกต้อง' และ 'ทดสอบ' นี่เป็นตัวอย่างที่ชัดเจนที่สุดของความสับสนทางศัพท์ที่แพร่หลายในการวิจัยปัญญาประดิษฐ์" [ 17 ]อย่างไรก็ตาม แนวคิดสำคัญที่ต้องรักษาไว้คือ ชุดสุดท้าย ไม่ว่าจะเรียกว่าชุดทดสอบหรือชุดตรวจสอบความถูกต้อง ควรใช้เฉพาะในการทดลองขั้นสุดท้ายเท่านั้น

สาเหตุของข้อผิดพลาด

การ์ตูนช่องแสดงผลลัพธ์คอมพิวเตอร์ที่ผิดพลาดสมมติ (การทำกาแฟที่อุณหภูมิ 5 ล้านองศาจากคำจำกัดความก่อนหน้าของ "ร้อนมาก") ซึ่งสามารถจัดเป็นทั้งความล้มเหลวในตรรกะและความล้มเหลวในการรวมเงื่อนไขสิ่งแวดล้อมที่เกี่ยวข้องต่างๆ[ 18 ]

การละเว้นในการฝึกอัลกอริธึมเป็นสาเหตุหลักของผลลัพธ์ที่ผิดพลาด[ 18 ]ประเภทของการละเว้นดังกล่าวได้แก่: [ 18 ]

  • สถานการณ์หรือความแตกต่างเฉพาะบางประการไม่ได้ถูกนำมาพิจารณาด้วย
  • ข้อมูลที่ล้าสมัย
  • ข้อมูลป้อนเข้าที่ไม่ชัดเจน
  • ความไม่สามารถปรับตัวให้เข้ากับสภาพแวดล้อมใหม่ได้
  • ไม่สามารถขอความช่วยเหลือจากมนุษย์หรือระบบ AI อื่นได้เมื่อจำเป็น

ตัวอย่างของการละเว้นสถานการณ์เฉพาะคือกรณีที่เด็กชายสามารถปลดล็อกโทรศัพท์ได้เพราะแม่ของเขาลงทะเบียนใบหน้าของเธอภายใต้แสงไฟในร่มในเวลากลางคืน ซึ่งเป็นเงื่อนไขที่ไม่ได้รวมอยู่ในการฝึกอบรมระบบอย่างเหมาะสม[ 18 ] [ 19 ]

การใช้ข้อมูลป้อนเข้าที่ไม่เกี่ยวข้องอาจรวมถึงสถานการณ์ที่อัลกอริทึมใช้พื้นหลังแทนวัตถุที่สนใจในการตรวจจับวัตถุเช่น การฝึกฝนด้วยภาพแกะบนทุ่งหญ้า ซึ่งนำไปสู่ความเสี่ยงที่วัตถุอื่นจะถูกตีความว่าเป็นแกะหากอยู่ในทุ่งหญ้า[ 18 ]

ดูเพิ่มเติม

ดึงข้อมูลมาจาก " https://en.wikipedia.org/w/index.php?title=Training,_validation,_and_test_data_sets&oldid=1331597891 "

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ ชุดข้อมูลสำหรับการฝึกอบรม การตรวจสอบ และการทดสอบ

ใน การเรียนรู้ของเครื่องจักร งาน ทั่วไปอย่างหนึ่งคือการศึกษาและสร้าง อัลกอริธึม ที่สามารถเรียนรู้และทำนาย ข้อมูล ได้ [ 1 ] อัลกอริธึมดังกล่าวทำงานโดยการทำนายหรือตัดสินใจตามข้อมูล...

ชุดข้อมูลฝึกฝน

ชุดข้อมูลฝึกฝนคือ ชุดข้อมูล ตัวอย่างที่ใช้ในระหว่างกระบวนการเรียนรู้และใช้เพื่อปรับพารามิเตอร์ (เช่น น้ำหนัก) ของตัว จำแนกประเภท เป็นต้น [ 9 ] [ 10 ]

ชุดข้อมูลตรวจสอบความถูกต้อง

ชุดข้อมูลการตรวจสอบความถูกต้องคือ ชุดข้อมูล ตัวอย่างที่ใช้ในการปรับแต่ง ไฮเปอร์พารามิเตอร์ (เช่น สถาปัตยกรรม) ของโมเดล บางครั้งเรียกว่าชุดพัฒนาหรือ "ชุดพัฒนา" [ 13 ] ตัวอย่างของไฮเปอร์พารามิเตอร์สำหรับ โครงข่ายประสาท เทียม ได้แก่...

ชุดข้อมูลทดสอบ

ชุดข้อมูลทดสอบคือ ชุดข้อมูล ที่เป็น อิสระ จากชุดข้อมูลฝึกฝน แต่มี การกระจายความน่าจะ เป็นแบบเดียวกัน กับชุดข้อมูลฝึกฝน ดังนั้น ชุดทดสอบจึงเป็นชุดตัวอย่างที่ใช้เพื่อประเมินประสิทธิภาพ (เช่น การสรุปผล)...