อ่าน 7 นาที
ทฤษฎีบทของเมอร์เซอร์
ในคณิตศาสตร์โดยเฉพาะการวิเคราะห์เชิงฟังก์ชันทฤษฎีบทของเมอร์เซอร์เป็นการแสดงฟังก์ชันสมมาตรบวกแน่นอนบนกำลังสองในรูปผลรวมของลำดับลู่เข้าของฟังก์ชันผลคูณ ทฤษฎีบทนี้ซึ่งนำเสนอใน (...
ทฤษฎีบทของเมอร์เซอร์
ในคณิตศาสตร์โดยเฉพาะการวิเคราะห์เชิงฟังก์ชันทฤษฎีบทของเมอร์เซอร์เป็นการแสดงฟังก์ชันสมมาตรบวกแน่นอนบนกำลังสองในรูปผลรวมของลำดับลู่เข้าของฟังก์ชันผลคูณ ทฤษฎีบทนี้ซึ่งนำเสนอใน ( Mercer 1909 ) เป็นหนึ่งในผลลัพธ์ที่โดดเด่นที่สุดของงานของเจมส์ เมอร์เซอร์ (1883–1932) มันเป็นเครื่องมือทางทฤษฎีที่สำคัญในทฤษฎีสมการเชิงอินทิกรัลมันถูกใช้ใน ทฤษฎีปริภูมิ ฮิลเบิร์ตของกระบวนการสุ่มเช่นทฤษฎีบท Karhunen–Loèveและมันยังถูกใช้ใน ทฤษฎี ปริภูมิฮิลเบิร์ตเคอร์เนลแบบสร้างซ้ำซึ่งมันกำหนดลักษณะของเคอร์เนลสมมาตรบวกแน่นอนเป็นเคอร์เนลแบบสร้างซ้ำ[ 1 ]
การแนะนำ
เพื่ออธิบายทฤษฎีบทของเมอร์เซอร์ เราจะพิจารณากรณีพิเศษที่สำคัญก่อน ดูราย ละเอียด เพิ่มเติมในสูตรทั่วไปด้านล่าง ในบริบทนี้ เคอร์เนลคือฟังก์ชันต่อเนื่อง สมมาตร
ที่สำหรับทุกคน
กล่าวได้ว่าK เป็น เคอร์เนลบวกแน่นอนก็ต่อเมื่อ
สำหรับลำดับจุดจำกัดทั้งหมดx 1 , ..., x nของ [ a , b ] และตัวเลือกทั้งหมดของจำนวนจริงc 1 , ..., c nโปรดทราบว่าคำว่า "บวกแน่นอน" ได้รับการยอมรับอย่างดีในวรรณกรรม แม้ว่าจะไม่เท่ากันอย่างอ่อนในคำจำกัดความก็ตาม[ 2 ] [ 3 ]
ลักษณะพื้นฐานของเคอร์เนลบวกแน่นอนแบบอยู่กับที่ (โดยที่) นั้นกำหนดโดยทฤษฎีบทของ Bochnerซึ่งกล่าวว่าฟังก์ชันต่อเนื่องจะเป็นบวกแน่นอนก็ต่อเมื่อสามารถแสดงได้ในรูปการแปลงฟูริเยร์ของมาตรวัดที่ไม่เป็นลบแบบจำกัด:
การแสดงผลเชิงสเปกตรัมนี้เผยให้เห็นความเชื่อมโยงระหว่างความเป็นบวกแน่นอนและการวิเคราะห์ฮาร์มอนิก ซึ่งให้ลักษณะเฉพาะของความเป็นบวกแน่นอนที่ชัดเจนและตรงไปตรงมามากกว่าคำจำกัดความเชิงนามธรรมในแง่ของอสมการเมื่อเคอร์เนลอยู่นิ่ง เช่น เมื่อสามารถแสดงเป็นฟังก์ชันตัวแปรเดียวของระยะห่างระหว่างจุดแทนที่จะเป็นฟังก์ชันตัวแปรสองตัวของตำแหน่งของคู่จุด
Kเกี่ยวข้องกับตัวดำเนินการเชิงเส้น (โดยเฉพาะอย่างยิ่งตัวดำเนินการปริพันธ์ฮิลเบิร์ต-ชมิดต์เมื่อช่วงนั้นเป็นช่วงกระชับ) บนฟังก์ชันที่กำหนดโดยปริพันธ์
เราสมมติว่าสามารถครอบคลุมพื้นที่ของฟังก์ชันที่มีค่าจริงที่สามารถหาปริพันธ์กำลังสองได้L 2 [ a , b ]; อย่างไรก็ตาม ในหลายกรณีพื้นที่ฮิลเบิร์ตเคอร์เนลการสร้างซ้ำ ที่เกี่ยวข้อง อาจมีขนาดใหญ่กว่าL 2 [ a , b ] อย่างเคร่งครัด เนื่องจากT Kเป็นตัวดำเนินการเชิงเส้นค่าลักษณะเฉพาะและฟังก์ชันลักษณะเฉพาะของT Kจึงมีอยู่
ทฤษฎีบทสมมติว่าKเป็นเคอร์เนลสมมาตรต่อเนื่องบวกแน่นอน แล้วจะมีฐานเชิงตั้งฉากปกติ { e i } iของL 2 [ a , b ] ซึ่งประกอบด้วยฟังก์ชันเฉพาะของT Kโดยที่ลำดับของค่าเฉพาะ {λ i } i ที่สอดคล้องกันนั้น ไม่เป็นลบ ฟังก์ชันเฉพาะที่สอดคล้องกับค่าเฉพาะที่ไม่เป็นศูนย์นั้นต่อเนื่องบน [ a , b ] และKมีการแสดงแทนดังนี้
โดยที่การลู่เข้าเป็นไปอย่างสมบูรณ์และสม่ำเสมอ
รายละเอียด
ต่อไปนี้เราจะอธิบายโครงสร้างของการพิสูจน์ทฤษฎีบทของเมอร์เซอร์โดยละเอียดมากขึ้น โดยเฉพาะอย่างยิ่งความสัมพันธ์กับทฤษฎีสเปกตรัมของตัวดำเนินการกระชับ
- แผนที่K ↦ T Kเป็น แผนที่หนึ่งต่อหนึ่ง (injective )
- T Kเป็นตัวดำเนินการสมมาตรขนาดกะทัดรัดที่ไม่เป็นลบบนL 2 [ a , b ] ยิ่งไปกว่านั้นK ( x , x ) ≥ 0
เพื่อแสดงความกะทัดรัด ให้แสดงว่าภาพของลูกบอลหน่วยของL 2 [ a , b ] ภายใต้T Kมีความต่อเนื่องสม่ำเสมอและใช้ทฤษฎีบทของ Ascoliเพื่อแสดงว่าภาพของลูกบอลหน่วยมีความกะทัดรัดสัมพัทธ์ใน C([ a , b ]) ที่มีบรรทัดฐานสม่ำเสมอและยิ่งไปกว่านั้นในL 2 [ a , b ]
ตอนนี้ใช้ทฤษฎีบทสเปกตรัมสำหรับตัวดำเนินการกระชับบนปริภูมิฮิลเบิร์ตกับT Kเพื่อแสดงให้เห็นถึงการมีอยู่ของฐานออร์โทนอร์มอล { e i } iของ L 2 [ a , b ]
ถ้า λ i ≠ 0 เวกเตอร์ลักษณะเฉพาะ ( ฟังก์ชันลักษณะเฉพาะ ) e iจะต่อเนื่องบน [ a , b ] ตอนนี้
ซึ่งแสดงให้เห็นว่าลำดับ
ลู่เข้าอย่างสมบูรณ์และสม่ำเสมอไปยังเคอร์เนลK 0ซึ่งเห็นได้ง่ายว่ากำหนดตัวดำเนินการเดียวกันกับเคอร์เนลKดังนั้นK = K 0ซึ่งเป็นที่มาของทฤษฎีบทของเมอร์เซอร์
สุดท้าย เพื่อแสดงให้เห็นว่าค่าไอเกนไม่เป็นลบ เราสามารถเขียนและแสดงด้านขวามือเป็นปริพันธ์ที่ประมาณได้ดีด้วยผลรวมรีมันน์ ซึ่งไม่เป็นลบเนื่องจากK เป็นเมทริกซ์บวกแน่นอน ซึ่งหมายความว่าซึ่งหมายความว่า
ติดตาม
สิ่งต่อไปนี้เกิดขึ้นทันที:
ทฤษฎีบทสมมติว่าKเป็นเคอร์เนลสมมาตรต่อเนื่องบวก แน่นอน T Kมีลำดับของค่าลักษณะเฉพาะที่ไม่เป็นลบ {λ i } iแล้ว
สิ่งนี้แสดงให้เห็นว่าตัวดำเนินการT Kเป็น ตัวดำเนินการ คลาสร่องรอยและ
การสรุปโดยทั่วไป
ทฤษฎีบทของเมอร์เซอร์เป็นการสรุปทั่วไปของผลลัพธ์ที่ว่าเมทริกซ์สมมาตรบวกกึ่งกำหนดใดๆ ก็ตามเป็นเมทริกซ์แกรมเมียนของเซตของเวกเตอร์
การสรุปทั่วไปครั้งแรกจะแทนที่ช่วง [ a , b ] ด้วยปริภูมิเฮาส์ดอร์ฟแบบกระชับ ใดๆ และ แทนที่การวัดแบบเลเบสบน [ a , b ] ด้วยการวัดแบบบวกที่นับได้แบบจำกัด μ บน พีชคณิตบอเรลของXซึ่งมีส่วนรองรับคือXนั่นหมายความว่า μ( U ) > 0 สำหรับเซตย่อยเปิด ที่ ไม่ว่างใดๆUของX
การสรุปโดยทั่วไปล่าสุดได้แทนที่เงื่อนไขเหล่านี้ด้วยเงื่อนไขต่อไปนี้: เซตXเป็น ปริภูมิเชิงทอพอโลยีที่ นับได้เป็นอันดับแรกซึ่งมีมาตรวัดบอเรล (สมบูรณ์) μ Xเป็นส่วนรองรับของ μ และสำหรับทุกxในXจะมีเซตเปิดUที่บรรจุxและมีมาตรวัดจำกัด ดังนั้นผลลัพธ์ที่เหมือนกันโดยพื้นฐานจึงยังคงใช้ได้:
ทฤษฎีบทสมมติว่าKเป็นเคอร์เนลสมมาตรต่อเนื่องบวกแน่นอนบนXถ้าฟังก์ชัน κ คือL 1 μ ( X ) โดยที่ κ(x) := K(x,x) สำหรับทุกxในXแล้วจะมีเซตออร์โทนอร์มอล { e i } iของL 2 μ ( X ) ซึ่งประกอบด้วยฟังก์ชันเฉพาะของT Kโดยที่ลำดับของค่าเฉพาะ {λ i } i ที่สอดคล้องกันนั้น ไม่เป็นลบ ฟังก์ชันเฉพาะที่สอดคล้องกับค่าเฉพาะที่ไม่เป็นศูนย์นั้นต่อเนื่องบนXและKมีการแสดงแทน ดังนี้
โดยที่การลู่เข้าเป็นแบบสัมบูรณ์และสม่ำเสมอในเซตย่อยกระชับของ X
ข้อสรุปทั่วไปถัดไปเกี่ยวข้องกับการแสดงแทนของเคอร์เนล ที่วัดได้
ให้ ( X , M , μ) เป็นปริภูมิการวัดแบบ σ-finite เคอร์เนลL² (หรือเคอร์เนลที่หาปริพันธ์กำลังสองได้) บนXคือฟังก์ชัน
เคอร์เนล L 2กำหนดตัวดำเนินการที่มีขอบเขตT Kโดยใช้สูตร
T Kเป็นตัวดำเนินการกระชับ (ที่จริงแล้วมันเป็นตัวดำเนินการฮิลเบิร์ต-ชมิดต์ ด้วยซ้ำ ) ถ้าเคอร์เนลKสมมาตร ตามทฤษฎีบทสเปกตรัม T K จะ มีฐานเวกเตอร์ลักษณะเฉพาะแบบตั้งฉากกัน เวกเตอร์ลักษณะเฉพาะเหล่านั้นที่สอดคล้องกับค่าลักษณะเฉพาะที่ไม่เป็นศูนย์สามารถจัดเรียงเป็นลำดับ { e i } iได้ (โดยไม่คำนึงถึงความสามารถในการแยกส่วน)
ทฤษฎีบท . ถ้าKเป็นเคอร์เนลสมมาตรบวกแน่นอนบน ( X , M , μ) แล้ว
โดยที่การลู่เข้า อยู่ใน บรรทัดฐาน L2โปรดทราบว่าเมื่อไม่ได้สมมติความต่อเนื่องของเคอร์เนล การขยายจะไม่ลู่เข้าอย่างสม่ำเสมออีกต่อไป
อาการของเมอร์เซอร์
ฟังก์ชันค่าจริงK ( x , y ) กล่าวได้ว่าสอดคล้องกับเงื่อนไขของเมอร์เซอร์ถ้าสำหรับฟังก์ชันg ( x ) ที่สามารถหาปริพันธ์กำลังสองได้ทั้งหมด จะมีเงื่อนไข ว่า
อนาล็อกแบบแยกส่วน
นี่เป็นสิ่งที่คล้ายคลึงกับนิยามของเมทริกซ์กึ่งบวกกำหนด (positive-semidefinite matrix ) ซึ่งเป็นเมทริกซ์ที่มีมิติ n และมีคุณสมบัติ n = n สำหรับเวกเตอร์ n ทุกตัว
- .
ตัวอย่าง
ฟังก์ชันค่าคงที่บวก
ตรงตามเงื่อนไขของเมอร์เซอร์ เพราะในกรณีนั้นปริพันธ์จะกลายเป็นตามทฤษฎีบทของฟูบินี
ซึ่งแน่นอนว่าไม่ใช่ค่าลบ
ดูเพิ่มเติม
หมายเหตุ
- ^ Bartlett, Peter (2008). "การสร้าง Kernel Hilbert Spaces ขึ้นใหม่" (PDF) . เอกสารประกอบการบรรยายวิชา CS281B/Stat241B ทฤษฎีการเรียนรู้เชิงสถิติ . มหาวิทยาลัยแคลิฟอร์เนีย เบิร์กลีย์.
- ^ Mohri, Mehryar (2018). พื้นฐานของการเรียนรู้ของเครื่องจักร . Afshin Rostamizadeh, Ameet Talwalkar (ฉบับพิมพ์ครั้งที่สอง). เคมบริดจ์, แมสซาชูเซตส์. ISBN 978-0-262-03940-6. OCLC 1041560990 .
{{cite book}}: CS1 maint: ไม่พบตำแหน่งผู้เผยแพร่ ( ลิงก์ ) - ^ Berlinet, A. (2004). การสร้างพื้นที่ฮิลเบิร์ตเคอร์เนลซ้ำในความน่าจะเป็นและสถิติ . Christine Thomas-Agnan. นิวยอร์ก: Springer Science+Business Media. ISBN 1-4419-9096-8. OCLC 844346520 .
สรุปเนื้อหา
ข้อมูลสำคัญจากบทความ
ข้อมูลสำคัญเกี่ยวกับ ทฤษฎีบทของเมอร์เซอร์
ในคณิตศาสตร์โดยเฉพาะการวิเคราะห์เชิงฟังก์ชันทฤษฎีบทของเมอร์เซอร์เป็นการแสดงฟังก์ชันสมมาตรบวกแน่นอนบนกำลังสองในรูปผลรวมของลำดับลู่เข้าของฟังก์ชันผลคูณ ทฤษฎีบทนี้ซึ่งนำเสนอใน (...
การแนะนำ
เพื่ออธิบายทฤษฎีบทของเมอร์เซอร์ เราจะพิจารณากรณีพิเศษที่สำคัญก่อน ดูราย ละเอียด เพิ่มเติมในสูตรทั่วไป ด้านล่าง ในบริบทนี้ เคอร์เนล คือฟังก์ชันต่อเนื่อง สมมาตร
รายละเอียด
ต่อไปนี้เราจะอธิบายโครงสร้างของการพิสูจน์ทฤษฎีบทของเมอร์เซอร์โดยละเอียดมากขึ้น โดยเฉพาะอย่างยิ่งความสัมพันธ์กับ ทฤษฎีสเปกตรัมของตัวดำเนินการ กระชับ
การสรุปโดยทั่วไป
ทฤษฎีบทของเมอร์เซอร์เป็นการสรุปทั่วไปของผลลัพธ์ที่ว่าเมทริกซ์สมมาตรบวกกึ่งกำหนดใดๆ ก็ตาม เป็น เมท ริก ซ์แกรมเมียน ของเซตของเวกเตอร์