โครงข่ายประสาทเทียมที่ได้รับข้อมูลทางฟิสิกส์

ใน การเรียนรู้ ของเครื่องเครือข่ายประสาทเทียมที่ให้ข้อมูลทางฟิสิกส์ ( PINNs ) [ 1 ]หรือที่เรียกว่าเครือข่ายประสาทเทียมที่ฝึกฝนตามทฤษฎี ( TTNs ) [ 2 ] เป็น ตัวประมาณฟังก์ชันสากลประเภทหนึ่งที่สามารถฝังความรู้เกี่ยวกับกฎทางฟิสิกส์ใดๆ ที่ควบคุมชุดข้อมูลที่กำหนดในกระบวนการเรียนรู้ และสามารถอธิบายได้ด้วยสมการเชิงอนุพันธ์ย่อย (PDEs) ความพร้อมใช้งานของข้อมูลที่ต่ำสำหรับปัญหาทางชีววิทยาและวิศวกรรมบางอย่างจำกัดความแข็งแกร่งของแบบจำลองการเรียนรู้ของเครื่องแบบดั้งเดิมที่ใช้สำหรับแอปพลิเคชันเหล่านี้[ 1 ]ความรู้ก่อนหน้าเกี่ยวกับกฎทางฟิสิกส์ทั่วไปทำหน้าที่ในการฝึกอบรมเครือข่ายประสาทเทียม (NNs) ในฐานะ ตัวแทน การปรับให้เรียบที่จำกัดพื้นที่ของโซลูชันที่ยอมรับได้ เพิ่มความสามารถในการสรุปผลของการประมาณฟังก์ชัน ด้วยวิธีนี้ การฝังข้อมูลก่อนหน้านี้ลงในเครือข่ายประสาทเทียมส่งผลให้เพิ่มเนื้อหาข้อมูลของข้อมูลที่มีอยู่ อำนวยความสะดวกให้อัลกอริธึมการเรียนรู้สามารถจับโซลูชันที่ถูกต้องและสรุปผลได้ดีแม้จะมีตัวอย่างการฝึกอบรมจำนวนน้อย เนื่องจากพวกมันประมวลผลพิกัดเชิงพื้นที่และเวลาอย่างต่อเนื่อง และส่งออกคำตอบของสมการอนุพันธ์ย่อยแบบต่อเนื่อง จึงสามารถจัดประเภทพวกมันเป็นสนามประสาทได้
การประมาณฟังก์ชัน
กฎทางฟิสิกส์ส่วนใหญ่ที่ควบคุมพลวัตของระบบสามารถอธิบายได้ด้วยสมการเชิงอนุพันธ์ย่อย ตัวอย่างเช่น สมการนาเวียร์-สโตกส์[ 3 ]เป็นชุดสมการเชิงอนุพันธ์ย่อยที่ได้มาจากกฎการอนุรักษ์ ( เช่น การอนุรักษ์มวลโมเมนตัมและพลังงาน ) ที่ควบคุมกลศาสตร์ของไหลการแก้สมการนาเวียร์-สโตกส์ด้วยเงื่อนไขเริ่มต้นและเงื่อนไขขอบเขต ที่เหมาะสม ช่วยให้สามารถวัดพลวัตการไหลในรูปทรงเรขาคณิตที่กำหนดไว้อย่างแม่นยำ อย่างไรก็ตาม สมการเหล่านี้ไม่สามารถแก้ได้อย่างแม่นยำ ดังนั้นจึงต้องใช้วิธีการเชิงตัวเลข (เช่นวิธีผลต่างจำกัดวิธีองค์ประกอบจำกัดและวิธีปริมาตรจำกัด ) ในการตั้งค่านี้ สมการควบคุมเหล่านี้จะต้องได้รับการแก้ไขโดยคำนึงถึงสมมติฐานเบื้องต้น การทำให้เป็นเชิงเส้น และการแบ่งส่วนเวลาและพื้นที่ที่เหมาะสม
เมื่อเร็วๆ นี้ การแก้สมการเชิงอนุพันธ์ย่อยที่ควบคุมปรากฏการณ์ทางกายภาพโดยใช้การเรียนรู้เชิงลึกได้กลายเป็นสาขาใหม่ของการเรียนรู้ของเครื่องจักรทางวิทยาศาสตร์ (SciML) โดยใช้ประโยชน์จากทฤษฎีบทการประมาณค่าสากล[ 4 ]และความสามารถในการแสดงออกสูงของเครือข่ายประสาทเทียม โดยทั่วไป เครือข่ายประสาทเทียมเชิงลึกสามารถประมาณค่าฟังก์ชันมิติสูงใดๆ ก็ได้หากมีข้อมูลการฝึกอบรมเพียงพอ[ 5 ]อย่างไรก็ตาม เครือข่ายดังกล่าวไม่ได้พิจารณาลักษณะทางกายภาพที่อยู่เบื้องหลังปัญหา และระดับความแม่นยำในการประมาณค่าที่ได้รับยังคงขึ้นอยู่กับข้อกำหนดอย่างระมัดระวังของรูปทรงเรขาคณิตของปัญหา ตลอดจนเงื่อนไขเริ่มต้นและเงื่อนไขขอบเขต หากไม่มีข้อมูลเบื้องต้นนี้ คำตอบจะไม่เป็นเอกลักษณ์และอาจสูญเสียความถูกต้องทางกายภาพ
เพื่อแก้ไขปัญหานี้ เครือข่ายประสาทเทียมที่อิงตามฟิสิกส์ (PINNs) ใช้ประโยชน์จากสมการทางฟิสิกส์ที่ควบคุมในการฝึกเครือข่ายประสาทเทียม กล่าวคือ PINNs ได้รับการออกแบบให้ฝึกฝนเพื่อตอบสนองข้อมูลการฝึกที่กำหนด รวมถึงสมการควบคุมที่กำหนดไว้ ในลักษณะนี้ เครือข่ายประสาทเทียมสามารถถูกชี้นำด้วยชุดข้อมูลการฝึกที่ไม่จำเป็นต้องมีขนาดใหญ่หรือสมบูรณ์[ 5 ]อาจสามารถหาคำตอบที่แม่นยำของสมการเชิงอนุพันธ์ย่อยได้โดยไม่ต้องทราบเงื่อนไขขอบเขต[ 6 ]ดังนั้น ด้วยความรู้บางอย่างเกี่ยวกับลักษณะทางกายภาพของปัญหาและข้อมูลการฝึกบางรูปแบบ (แม้จะกระจัดกระจายและไม่สมบูรณ์) PINNs อาจถูกนำมาใช้เพื่อค้นหาคำตอบที่เหมาะสมที่สุดด้วยความแม่นยำสูง
PINN สามารถนำไปใช้กับปัญหาต่างๆ มากมายในวิทยาศาสตร์การคำนวณและเป็นเทคโนโลยีบุกเบิกที่นำไปสู่การพัฒนาตัวแก้ปัญหาเชิงตัวเลขประเภทใหม่สำหรับ PDE PINN สามารถคิดได้ว่าเป็นทางเลือกที่ไม่ต้องใช้ตาข่ายแทนวิธีการแบบดั้งเดิม (เช่นCFDสำหรับพลศาสตร์ของไหล) และวิธีการใหม่ที่ขับเคลื่อนด้วยข้อมูลสำหรับการผกผันแบบจำลองและ การ ระบุระบบ[ 7 ]ที่น่าสังเกตคือ เครือข่าย PINN ที่ได้รับการฝึกฝนแล้วสามารถใช้ในการทำนายค่าบนกริดจำลองที่มีความละเอียดต่างกันโดยไม่จำเป็นต้องฝึกฝนใหม่[ 8 ]นอกจากนี้ อนุพันธ์ที่ใช้ในสมการเชิงอนุพันธ์ย่อยสามารถคำนวณได้โดยใช้การหาอนุพันธ์อัตโนมัติ (AD) [ 9 ]ซึ่งได้รับการประเมินว่าเหนือกว่า การหาอนุพันธ์ เชิงตัวเลขหรือเชิง สัญลักษณ์
การสร้างแบบจำลองและการคำนวณ
สมการเชิงอนุพันธ์ย่อยแบบไม่เชิงเส้นทั่วไปสามารถเขียนได้ดังนี้:
โดยที่แทนคำตอบเป็นตัวดำเนินการไม่เชิงเส้นที่มีพารามิเตอร์เป็นและเป็นเซตย่อยของรูปแบบทั่วไปของสมการควบคุมนี้สรุปปัญหาที่หลากหลายในฟิสิกส์เชิงคณิตศาสตร์ เช่น กฎการอนุรักษ์ กระบวนการแพร่ ระบบการพาและการแพร่ และสมการจลนศาสตร์ เมื่อพิจารณาจากการวัดที่มีสัญญาณรบกวนของระบบไดนามิกทั่วไปที่อธิบายโดยสมการข้างต้น เครือข่ายประสาทเทียมแบบพิน (PINN) สามารถออกแบบมาเพื่อแก้ปัญหาได้สองประเภท:
- วิธีแก้ปัญหาเชิงข้อมูลของสมการเชิงอนุพันธ์ย่อย
- การค้นพบสมการเชิงอนุพันธ์ย่อยโดยใช้ข้อมูลเป็นพื้นฐาน
การแก้สมการเชิงอนุพันธ์ย่อยโดยใช้ข้อมูล
วิธีแก้ปัญหา PDE ที่ขับเคลื่อนด้วยข้อมูล[ 1 ]คำนวณสถานะที่ซ่อนอยู่ของระบบโดยพิจารณาจากข้อมูลขอบเขตและ/หรือการวัดและพารามิเตอร์แบบจำลองคงที่เราแก้ปัญหา:
.
โดยกำหนดค่าส่วนเหลือดังนี้:
,
และประมาณค่าโดยใช้โครงข่ายประสาทเทียมเชิงลึกโครงข่ายนี้สามารถหาอนุพันธ์ได้โดยใช้การหาอนุพันธ์อัตโนมัติจากนั้นสามารถเรียนรู้พารามิเตอร์ของและ ได้โดยการลด ฟังก์ชันความสูญเสีย ต่อไปนี้ให้เหลือน้อยที่สุด :
ที่ไหน:
- คือค่าความคลาดเคลื่อนระหว่างค่า PINN กับชุดเงื่อนไขขอบเขตและข้อมูลที่วัดได้ ณ ชุดจุดที่กำหนดเงื่อนไขขอบเขตและข้อมูลเหล่านั้นไว้
- คือค่าความคลาดเคลื่อนกำลังสองเฉลี่ยของฟังก์ชันส่วนเหลือ พจน์ที่สองนี้ช่วยกระตุ้นให้ PINN เรียนรู้ข้อมูลเชิงโครงสร้างที่แสดงโดย PDE ในระหว่างกระบวนการฝึกฝน
แนวทางนี้ถูกนำมาใช้เพื่อสร้างแบบจำลองตัวแทนทางฟิสิกส์ที่มีประสิทธิภาพในการคำนวณ โดยมีการประยุกต์ใช้ในการพยากรณ์กระบวนการทางกายภาพ การควบคุมแบบทำนายแบบจำลอง การสร้างแบบจำลองหลายฟิสิกส์และหลายระดับ และการจำลอง[ 10 ]แสดงให้เห็นว่าลู่เข้าสู่คำตอบของ PDE [ 11 ]
การค้นพบสมการเชิงอนุพันธ์ย่อยโดยใช้ข้อมูลเป็นพื้นฐาน
เมื่อพิจารณาการวัด สถานะของระบบที่มีเสียงรบกวนและไม่สมบูรณ์การค้นพบ PDE ที่ขับเคลื่อนด้วยข้อมูล[ 7 ]ส่งผลให้สามารถคำนวณสถานะที่ไม่ทราบและเรียนรู้พารามิเตอร์ของแบบจำลองที่อธิบายข้อมูลที่สังเกตได้ดีที่สุด:
โดยกำหนดความหมายดังนี้:
,
และการประมาณค่าโดยใช้โครงข่ายประสาทเทียมเชิงลึกส่งผลให้ได้ PINN โครงข่ายนี้สามารถสร้างขึ้นได้โดยใช้การหาอนุพันธ์อัตโนมัติ พารามิเตอร์ของและพร้อมกับพารามิเตอร์ของตัวดำเนินการอนุพันธ์สามารถเรียนรู้ได้โดยการลดฟังก์ชันความสูญเสีย ต่อไปนี้ให้เหลือน้อยที่สุด :
ที่ไหน:
- โดยมีโซลูชันและการวัดสถานะที่ตำแหน่งกระจัดกระจายตามลำดับ
- คือฟังก์ชันส่วนเหลือ เทอมที่สองนี้ต้องการให้ข้อมูลที่มีโครงสร้างซึ่งแสดงโดยสมการเชิงอนุพันธ์ย่อยเป็นไปตามเงื่อนไขในกระบวนการฝึกฝน
กลยุทธ์นี้ช่วยให้สามารถค้นพบแบบจำลองไดนามิกที่อธิบายโดย PDE แบบไม่เชิงเส้น ซึ่งประกอบเป็นแบบจำลองตัวแทนที่มีประสิทธิภาพในการคำนวณและสามารถหาอนุพันธ์ได้อย่างสมบูรณ์ ซึ่งอาจนำไปประยุกต์ใช้ในการพยากรณ์ การควบคุม และการบูรณาการข้อมูล[ 12 ] [ 13 ] [ 14 ] [ 15 ] [ 16 ]
ส่วนขยายและการใช้งาน
สำหรับการประมาณฟังก์ชันแบบแบ่งช่วง
PINN ไม่สามารถประมาณ PDE ที่มีความไม่เป็นเชิงเส้นสูงหรือความชันสูง (เช่นที่มักเกิดขึ้นในปัญหาการไหลของของเหลวในทางปฏิบัติ) การประมาณแบบแบ่งส่วนเป็นแนวปฏิบัติเก่าแก่ในสาขาการประมาณเชิงตัวเลข ด้วยความสามารถในการประมาณความไม่เป็นเชิงเส้นสูง PINN ที่มีน้ำหนักเบามากจึงถูกนำมาใช้เพื่อแก้ PDE ในโดเมนย่อยแบบไม่ต่อเนื่องที่ใหญ่กว่ามาก ซึ่งเพิ่มความแม่นยำอย่างมากและลดภาระการคำนวณลงด้วย[ 17 ] [ 18 ] DPINN (เครือข่ายประสาทแบบกระจายที่ให้ข้อมูลทางฟิสิกส์) และ DPIELM (เครื่องเรียนรู้แบบสุดขั้วแบบกระจายที่ให้ข้อมูลทางฟิสิกส์) ใช้การแบ่งส่วนโดเมนเวลาและพื้นที่แบบทั่วไปเพื่อการประมาณที่ดีขึ้น[ 17 ] DPIELM เป็นตัวประมาณที่รวดเร็วและน้ำหนักเบามากพร้อมความแม่นยำที่แข่งขันได้ การปรับขนาดโดเมนด้านบนมีผลพิเศษ[ 18 ]แนวคิดอีกประการหนึ่งคือการแบ่งส่วนย่อยสำหรับการคำนวณแบบขนานเพื่อใช้ประโยชน์จากทรัพยากรการคำนวณที่มีอยู่
XPINNs [ 19 ] เป็นวิธีการแบ่งโดเมนเวลาและพื้นที่แบบทั่วไปสำหรับเครือข่ายประสาทเทียมที่ให้ข้อมูลทางฟิสิกส์ (PINNs) เพื่อแก้สมการเชิงอนุพันธ์ย่อยแบบไม่เชิงเส้นบนโดเมนเรขาคณิตเชิงซ้อนใดๆ XPINNs ยังผลักดันขอบเขตของทั้ง PINNs และ PINNs แบบอนุรักษ์ (cPINNs) [ 20 ]ซึ่งเป็นวิธีการแบ่งโดเมนเชิงพื้นที่ในกรอบงาน PINN ที่ปรับให้เข้ากับกฎการอนุรักษ์ เมื่อเปรียบเทียบกับ PINNs แล้ว XPINNs มีความสามารถในการแสดงผลและขนานการทำงานที่สูงกว่าเนื่องจากคุณสมบัติโดยธรรมชาติของการใช้งานเครือข่ายประสาทเทียมหลายเครือข่ายในโดเมนย่อยที่เล็กกว่า ต่างจาก cPINNs XPINNs สามารถขยายไปยัง PDE ทุกประเภทได้ นอกจากนี้ โดเมนยังสามารถแบ่งได้ในทุกรูปแบบ (ทั้งในพื้นที่และเวลา) ซึ่งเป็นไปไม่ได้กับ cPINNs ดังนั้น XPINNs จึงเสนอการขนานการทำงานทั้งในพื้นที่และเวลา ซึ่งช่วยลดต้นทุนการฝึกอบรมได้อย่างมีประสิทธิภาพมากขึ้น XPINN มีประสิทธิภาพเป็นพิเศษสำหรับปัญหาขนาดใหญ่ (ที่เกี่ยวข้องกับชุดข้อมูลขนาดใหญ่) เช่นเดียวกับปัญหาที่มีมิติสูงซึ่ง PINN ที่ใช้เครือข่ายเดียวไม่เพียงพอ ขอบเขตที่เข้มงวดของข้อผิดพลาดที่เกิดจากการประมาณ PDE แบบไม่เชิงเส้น (สมการ Navier–Stokes ที่ไม่สามารถอัดได้) ด้วย PINN และ XPINN ได้รับการพิสูจน์แล้ว[ 15 ]อย่างไรก็ตาม DPINN หักล้างการใช้การจับคู่ส่วนเหลือ (ฟลักซ์) ที่ส่วนต่อประสานโดเมน เนื่องจากดูเหมือนว่าจะไม่ช่วยปรับปรุงการเพิ่มประสิทธิภาพ[ 18 ]
ทฤษฎีการเชื่อมต่อเชิงฟังก์ชัน

ในกรอบงาน PINN เงื่อนไขเริ่มต้นและเงื่อนไขขอบเขตไม่เป็นไปตามการวิเคราะห์ ดังนั้นจึงจำเป็นต้องรวมเงื่อนไขเหล่านี้ไว้ในฟังก์ชันการสูญเสียของเครือข่ายเพื่อให้เรียนรู้พร้อมกันกับ ฟังก์ชันที่ไม่ทราบค่าของ สมการเชิงอนุพันธ์ (DE) การมีวัตถุประสงค์ที่แข่งขันกันในระหว่างการฝึกอบรมเครือข่ายอาจนำไปสู่การไล่ระดับที่ไม่สมดุลในขณะที่ใช้เทคนิคที่อิงตามการไล่ระดับ ซึ่งทำให้ PINN มักจะประสบปัญหาในการเรียนรู้โซลูชัน DE พื้นฐานได้อย่างแม่นยำ ข้อเสียนี้ได้รับการแก้ไขโดยการใช้เทคนิคการแทรกสอดฟังก์ชัน เช่น การแสดงออกที่ถูกจำกัด ของทฤษฎีการเชื่อมต่อฟังก์ชัน (TFC) ในกรอบงาน Deep-TFC [ 21 ]ซึ่งลดพื้นที่การค้นหาโซลูชันของปัญหาที่ถูกจำกัดไปยังพื้นที่ย่อยของเครือข่ายประสาทที่ตรงตามข้อจำกัดในเชิงวิเคราะห์[ 22 ] การปรับปรุงเพิ่มเติมของ PINN และวิธีการแทรกสอดฟังก์ชันนั้นได้มาจากกรอบงานทฤษฎีการเชื่อมต่อฟังก์ชันแบบสุดขั้ว (X-TFC) ซึ่ง ใช้เครือข่ายประสาทชั้นเดียวและ อัลกอริธึมการฝึกอบรม เครื่องจักรการเรียนรู้แบบสุดขั้ว[ 23 ] X-TFC ช่วยให้ปรับปรุงความแม่นยำและประสิทธิภาพของ PINN ทั่วไป และความทนทานและความน่าเชื่อถือได้รับการพิสูจน์แล้วสำหรับปัญหาที่ซับซ้อนการควบคุมที่เหมาะสมการบินและอวกาศ และการใช้งานด้านพลศาสตร์ของก๊าซเบาบาง[ 24 ] [ 25 ] [ 26 ]
โครงข่ายจุดข้อมูลทางฟิสิกส์ (PIPN) สำหรับชุดรูปทรงเรขาคณิตที่ไม่สม่ำเสมอหลายชุด
PINN ทั่วไปสามารถหาคำตอบของปัญหาไปข้างหน้าหรือย้อนกลับได้ เฉพาะ บนรูปทรงเรขาคณิตเดียวเท่านั้น นั่นหมายความว่าสำหรับรูปทรงเรขาคณิตใหม่ใดๆ (โดเมนการคำนวณ) จะต้องฝึก PINN ใหม่ ข้อจำกัดนี้ของ PINN ทั่วไปทำให้ต้นทุนการคำนวณสูง โดยเฉพาะอย่างยิ่งสำหรับการตรวจสอบพารามิเตอร์ทางเรขาคณิตอย่างครอบคลุมในการออกแบบอุตสาหกรรม Physics-informed PointNet (PIPN) [ 27 ]เป็นผลมาจากการรวมฟังก์ชันการสูญเสียของ PINN กับ PointNet [ 28 ]ในความเป็นจริง แทนที่จะใช้โครงข่ายประสาทเทียมแบบเชื่อมต่อเต็มรูปแบบธรรมดา PIPN ใช้ PointNet เป็นแกนหลักของโครงข่ายประสาทเทียม PointNet ได้รับการออกแบบมาเป็นหลักสำหรับการเรียนรู้เชิงลึกของการจำแนกและการแบ่งส่วนวัตถุ 3 มิติโดยกลุ่มวิจัยของLeonidas J. Guibas PointNet สกัดคุณลักษณะทางเรขาคณิตของโดเมนการคำนวณอินพุตใน PIPN ดังนั้น PIPN จึงสามารถแก้สมการควบคุมบนโดเมนการคำนวณหลายโดเมน (แทนที่จะเป็นเพียงโดเมนเดียว) ที่มีรูปทรงเรขาคณิตไม่สม่ำเสมอได้พร้อมกัน ประสิทธิภาพของ PIPN ได้รับการแสดงให้เห็นแล้วสำหรับการไหลที่ไม่สามารถอัดได้การถ่ายเทความร้อนและความยืดหยุ่นเชิงเส้น[ 27 ] [ 29 ]
การกำหนดสูตรกึ่งลากรางจ์ของ PINN
เครือข่ายประสาทเทียมแบบกึ่งลากรางจ์ที่ได้รับข้อมูลทางฟิสิกส์ (SL-PINNs) เป็นคลาสของ PINNs ที่ออกแบบมาสำหรับสมการเชิงอนุพันธ์ย่อยแบบไฮเปอร์โบลิกและแบบที่การขนส่งครอบงำ เช่น สมการ Vlasov-Poisson [ 30 ]แทนที่จะประมาณฟิลด์คำตอบโดยตรง SL-PINNs จะเรียนรู้แผนที่การไหลลักษณะผกผันที่ขนส่งพิกัดพื้นที่เฟสย้อนกลับไปยังตำแหน่งเริ่มต้น ทำให้สามารถสร้างคำตอบขึ้นใหม่จากเงื่อนไขเริ่มต้นได้ วิธีการนี้รวมการแสดงแบบลากรางจ์ของพลวัตการขนส่งเข้ากับการจัดการแบบออยเลอร์ของสมการสนาม และอาจรวมการทำให้เป็นระเบียบแบบรักษาปริมาตรเพื่อปรับปรุงการอนุรักษ์ปริมาณทางกายภาพ เช่น มวล โมเมนตัม และพลังงาน วิธีนี้ถูกนำไปใช้กับระบบจลนศาสตร์รวมถึงสมการ Vlasov–Poisson และมีรายงานว่าช่วยปรับปรุงเสถียรภาพในระยะยาวและลดการแพร่กระจายเชิงตัวเลขเมื่อเทียบกับสูตร PINN แบบดั้งเดิม [ 30 ]
สำหรับการคำนวณผกผัน
เครือข่ายประสาทเทียมที่ให้ข้อมูลทางฟิสิกส์ (PINNs) ได้รับการพิสูจน์แล้วว่ามีประสิทธิภาพเป็นพิเศษในการแก้ปัญหาผกผันภายในสมการเชิงอนุพันธ์[ 31 ]ซึ่งแสดงให้เห็นถึงการประยุกต์ใช้ในวิทยาศาสตร์ วิศวกรรม และเศรษฐศาสตร์ นอกจากนี้ยังแสดงให้เห็นว่ามีประโยชน์ในการแก้ปัญหาผกผันในหลากหลายสาขา รวมถึงนาโนออปติกส์[ 32 ]การเพิ่มประสิทธิภาพ/ลักษณะเฉพาะของโทโพโลยี[ 33 ]การไหลหลายเฟสในตัวกลางที่มีรูพรุน[ 34 ] [ 35 ]และการไหลของของเหลวความเร็วสูง[ 36 ] [ 13 ] PINNs ได้แสดงให้เห็นถึงความยืดหยุ่นเมื่อต้องรับมือกับชุดข้อมูลการสังเกตที่มีสัญญาณรบกวนและไม่แน่นอน และยังแสดงให้เห็นถึงข้อได้เปรียบที่ชัดเจนในการคำนวณพารามิเตอร์ผกผันสำหรับชุดข้อมูลที่มีความแม่นยำหลายระดับ ซึ่งหมายถึงชุดข้อมูลที่มีคุณภาพ ปริมาณ และประเภทของการสังเกตที่แตกต่างกัน ความไม่แน่นอนในการคำนวณสามารถประเมินได้โดยใช้การคำนวณแบบอิงกลุ่มหรือแบบอิงเบย์เซียน[ 37 ] [ 38 ]
PINN ยังสามารถใช้ร่วมกับการถดถอยเชิงสัญลักษณ์เพื่อค้นหาการแสดงออกทางคณิตศาสตร์ที่เกี่ยวข้องกับการค้นหาพารามิเตอร์และฟังก์ชัน ตัวอย่างหนึ่งของการประยุกต์ใช้ดังกล่าวคือการศึกษาเกี่ยวกับการเสื่อมสภาพทางเคมีของวัสดุฉนวนเซลลูโลส[ 39 ]ในตัวอย่างนี้ PINN ถูกใช้เพื่อค้นหาพารามิเตอร์สำหรับชุดสมการเชิงอนุพันธ์สามัญ (ODE) ก่อน จากนั้นจึงค้นหาฟังก์ชันแก้ปัญหา ซึ่งต่อมาใช้เพื่อค้นหาการแสดงออกที่เหมาะสมยิ่งขึ้นโดยใช้การถดถอยเชิงสัญลักษณ์ร่วมกับตัวดำเนินการ
สำหรับปัญหาเรื่องความยืดหยุ่น
ชุดของเครือข่ายประสาทเทียมที่ได้รับข้อมูลทางฟิสิกส์ถูกนำมาใช้เพื่อแก้ปัญหาความยืดหยุ่นของระนาบ เครือข่ายตัวแทนมีไว้สำหรับฟังก์ชันที่ไม่ทราบค่า ได้แก่ ส่วนประกอบของเทนเซอร์ความเครียดและความเค้น รวมถึงสนามการกระจัดที่ไม่ทราบค่า ตามลำดับ เครือข่ายส่วนเหลือจะให้ส่วนเหลือของสมการเชิงอนุพันธ์ย่อย (PDEs) และเงื่อนไขขอบเขต วิธีการคำนวณนี้ขึ้นอยู่กับหลักการของปัญญาประดิษฐ์[ 40 ]วิธีการนี้สามารถขยายไปยังปัญหาความยืดหยุ่นแบบไม่เชิงเส้น ซึ่งสมการเชิงโครงสร้างเป็นแบบไม่เชิงเส้น PINN ยังสามารถใช้สำหรับปัญหาการดัดแผ่น Kirchhoff ที่มีภาระกระจายตามขวางและแบบจำลองการสัมผัสที่มีฐานราก Winkler แบบยืดหยุ่น[ 41 ] การเปรียบเทียบ PINN กับวิธีการประมาณค่าแบบคลาสสิกในกลศาสตร์ โดยเฉพาะอย่างยิ่งวิธีไฟไน ต์ เอเลเมนต์กำลังสองน้อยที่สุด ได้ถูกสรุปไว้ใน[ 42 ]
สำหรับวัสดุเพียโซอิเล็กทริกแบบลัดวงจร
เครือข่ายประสาทเทียมที่ให้ข้อมูลฟิสิกส์หลายด้าน (multi-PINN) ถูกนำมาใช้เพื่อแก้ปัญหาการระงับการสั่นสะเทือนทางกลไฟฟ้าแบบคงที่และแบบไดนามิกที่มีวงจรขนานได้อย่างมีประสิทธิภาพ ปัญหาทางกลไฟฟ้า เช่น ปัญหาที่เกี่ยวข้องกับคานเพียโซอิเล็กทริกแบบคานยื่น สามารถแปลงเป็นสูตร PINN ที่เหมาะสมได้ วิธีการแบ่งเวลาช่วยลดต้นทุนการคำนวณของปัญหาไดนามิก ระบบสมการเชิงอนุพันธ์สามัญ (ODE) ที่ได้จะได้รับการแก้ไขโดยใช้ multi-PINN เพื่อทำนายการตอบสนองแบบไดนามิกต่อการกระตุ้นเรโซแนนซ์โหมดหลักได้อย่างแม่นยำ[ 43 ]
ด้วยสมการเชิงอนุพันธ์สุ่มแบบย้อนกลับ
วิธีการสมการเชิงอนุพันธ์สุ่มแบบย้อนกลับเชิงลึก (Deep Backward Stochastic Differential Equation: BSDE) เป็นวิธีการเชิงตัวเลขที่ผสมผสานการเรียนรู้เชิงลึกเข้ากับสมการเชิงอนุพันธ์สุ่มแบบย้อนกลับ (BSDE) เพื่อแก้ปัญหาที่มีมิติสูงในคณิตศาสตร์การเงิน โดยการใช้ประโยชน์จากความสามารถในการประมาณฟังก์ชันอันทรงพลังของโครงข่ายประสาทเทียมเชิงลึก วิธีการ BSDE เชิงลึกจะจัดการกับความท้าทายในการคำนวณที่วิธีการเชิงตัวเลขแบบดั้งเดิม เช่น วิธีผลต่างจำกัดหรือการจำลองมอนเตคาร์โล เผชิญ ซึ่งประสบปัญหาจากคำสาปของมิติวิธีการ BSDE เชิงลึกใช้โครงข่ายประสาทเทียมเพื่อประมาณคำตอบของสมการเชิงอนุพันธ์ย่อย (PDE) ที่มีมิติสูง ซึ่งช่วยลดภาระการคำนวณได้อย่างมีประสิทธิภาพ นอกจากนี้ การบูรณาการโครงข่ายประสาทเทียมที่ได้รับข้อมูลทางฟิสิกส์ (Physics-informed Neural Networks: PINNs) เข้ากับกรอบงาน BSDE เชิงลึกยังช่วยเพิ่มความสามารถโดยการฝังกฎทางฟิสิกส์พื้นฐานลงในสถาปัตยกรรมโครงข่ายประสาทเทียม ทำให้มั่นใจได้ว่าคำตอบเป็นไปตามสมการเชิงอนุพันธ์สุ่มที่ควบคุม ส่งผลให้ได้คำตอบที่แม่นยำและน่าเชื่อถือมากขึ้น[ 44 ]
สำหรับชีววิทยา
เครือข่ายประสาทเทียมที่ให้ข้อมูลทางชีววิทยา (BINN) เป็นส่วนขยายหรือการปรับตัวของ PINN BINN นำเสนอการปรับตัวที่สำคัญสองประการให้กับกรอบงาน PINN ทั่วไป ได้แก่ (i) เงื่อนไขเชิงกลไกของ PDE ที่ควบคุมถูกแทนที่ด้วยเครือข่ายประสาทเทียม และ (ii) ฟังก์ชันการสูญเสียได้รับการแก้ไขให้รวมเงื่อนไขที่ใช้ในการรวมความรู้เฉพาะโดเมนที่ช่วยบังคับใช้การประยุกต์ใช้ทางชีววิทยา สำหรับ (i) การปรับตัวนี้มีข้อดีคือช่วยลดความจำเป็นในการระบุสมการเชิงอนุพันธ์ที่ควบคุมไว้ล่วงหน้า ไม่ว่าจะโดยชัดแจ้งหรือโดยการใช้ไลบรารีของเงื่อนไขที่เป็นไปได้ นอกจากนี้ วิธีการนี้ยังช่วยหลีกเลี่ยงปัญหาที่อาจเกิดขึ้นจากการระบุเงื่อนไขการปรับค่าผิดพลาดในกรณีที่ได้รับข้อมูลทางทฤษฎีที่เข้มงวดกว่า[ 45 ] [ 46 ]
ตัวอย่างตามธรรมชาติของ BINN สามารถพบได้ในพลวัตของเซลล์ ซึ่งความหนาแน่นของเซลล์ถูกควบคุมโดยสมการปฏิกิริยา-การแพร่กระจาย โดยมีฟังก์ชันการแพร่กระจายและการเติบโตเป็นและตามลำดับ:
ในกรณีนี้ ส่วนประกอบของอาจเป็นสำหรับซึ่งจะลงโทษค่าของที่อยู่นอกช่วงการแพร่กระจายที่เกี่ยวข้องทางชีววิทยาซึ่งกำหนดโดยยิ่งไปกว่านั้น สถาปัตยกรรม BINN เมื่อใช้มัลติเลเยอร์เพอร์เซปตรอน (MLP) จะทำงานดังนี้: MLP ถูกใช้เพื่อสร้างจากอินพุตของแบบจำลองซึ่งทำหน้าที่เป็นแบบจำลองทดแทนสำหรับความหนาแน่นของเซลล์จากนั้นแบบจำลองทดแทนนี้จะถูกป้อนเข้าสู่ MLP เพิ่มเติมอีกสองตัว คือและ ซึ่งจำลองฟังก์ชันการแพร่กระจายและการเติบโต จากนั้นสามารถใช้การหาอนุพันธ์อัตโนมัติเพื่อคำนวณอนุพันธ์ที่จำเป็นของและเพื่อสร้างสมการปฏิกิริยา-การแพร่กระจายที่ควบคุม[ 45 ]
โปรดทราบว่า เนื่องจากเป็นตัวแทนของความหนาแน่นของเซลล์ จึงอาจมีข้อผิดพลาด โดยเฉพาะในบริเวณที่สมการอนุพันธ์ย่อยไม่เป็นไปตามเงื่อนไขอย่างสมบูรณ์ ดังนั้น สมการปฏิกิริยา-การแพร่กระจายอาจแก้ได้ด้วยวิธีเชิงตัวเลข เช่น การใช้วิธีเส้น (method-of-lines )
ข้อจำกัด
การแปลและพฤติกรรมที่ไม่ต่อเนื่องนั้นยากที่จะประมาณโดยใช้ PINN [ 18 ]พวกมันล้มเหลวเมื่อแก้สมการเชิงอนุพันธ์ที่มีการครอบงำแบบแอดเวกทีฟเล็กน้อย และด้วยเหตุนี้พฤติกรรมเชิงเส้นกำกับจึงทำให้วิธีการล้มเหลว สมการเชิงอนุพันธ์ย่อยดังกล่าวสามารถแก้ไขได้โดยการปรับขนาดตัวแปร[ 18 ] ความยากลำบากในการฝึก PINN ในสมการเชิงอนุพันธ์ย่อยที่มีการครอบงำแบบแอดเวกทีฟสามารถอธิบายได้ด้วย ความกว้าง n ของ Kolmogorov ของคำตอบ[ 47 ] พวกมันยังล้มเหลวในการแก้ระบบของระบบพลวัต และด้วยเหตุนี้จึงไม่ประสบความสำเร็จในการแก้สมการอลวน[ 48 ] [ 49 ]หนึ่งในเหตุผลที่อยู่เบื้องหลังความล้มเหลวของ PINN ปกติคือการจำกัดแบบอ่อนของเงื่อนไขขอบเขต Dirichlet และ Neumann ซึ่งก่อให้เกิด ปัญหา การเพิ่มประสิทธิภาพแบบหลายวัตถุประสงค์ซึ่งต้องชั่งน้ำหนักเงื่อนไขการสูญเสียด้วยตนเองเพื่อให้สามารถเพิ่มประสิทธิภาพได้[ 18 ] [ 50 ] โดยทั่วไป การกำหนดวิธีแก้ปัญหาของ PDE เป็นปัญหาการหาค่าเหมาะสมที่สุดจะนำมาซึ่งปัญหาทั้งหมดที่พบในโลกของการหาค่าเหมาะสมที่สุด ซึ่งปัญหาหลักคือการติดอยู่ในค่าเหมาะสมที่สุดเฉพาะที่[ 18 ] [ 51 ]โดยเฉพาะอย่างยิ่ง พบว่าค่าเหมาะสมที่สุดเฉพาะที่บางส่วนเชื่อมโยงกับวิธีแก้ปัญหาที่ไม่เสถียรของ PDE ที่กำหนด[ 52 ]
ลิงก์ภายนอก
- PINN – คลังเก็บโค้ดสำหรับสร้างโครงข่ายประสาทเทียมที่ใช้หลักการทางฟิสิกส์ในภาษา Python
- XPINN – คลังเก็บโค้ดสำหรับนำโครงข่ายประสาทเทียมที่ปรับปรุงด้วยหลักการทางฟิสิกส์ (XPINN) มาเขียนด้วยภาษา Python
- PIPN [2] – คลังเก็บข้อมูลเพื่อนำ PointNet ที่ใช้ข้อมูลทางฟิสิกส์ (PIPN) มาใช้ใน Python