ปัญหาข้อที่ห้าของฮิลเบิร์ตเป็นปัญหาทางคณิตศาสตร์ข้อที่ห้าจากรายการปัญหาที่นักคณิตศาสตร์เดวิด ฮิลเบิร์ต เผยแพร่ในปี ค.ศ. 1900 และเกี่ยวข้องกับการจำแนกลักษณะของกลุ่มลี (Lie groups )

ทฤษฎีกลุ่มลี (Lie group theory) อธิบายถึงสมมาตรต่อเนื่องในทางคณิตศาสตร์ ความสำคัญของทฤษฎีนี้ทั้งในทางคณิตศาสตร์และฟิสิกส์เชิงทฤษฎี (เช่นทฤษฎีควาร์ก ) เพิ่มขึ้นอย่างต่อเนื่องในศตวรรษที่ 20 โดยคร่าวๆ แล้ว ทฤษฎีกลุ่มลีเป็นพื้นฐานร่วมกันของทฤษฎีกลุ่มและทฤษฎีของแมนิโฟลด์เชิงทอพอโลยี คำถามที่ฮิลเบิร์ตถามนั้นเป็นคำถามที่เฉียบคมเกี่ยวกับการทำให้เรื่องนี้ชัดเจนยิ่งขึ้น นั่นคือ จะมีความแตกต่างกันหรือไม่หากมีการกำหนดข้อจำกัดไว้ที่แมนิโฟลด์เรียบ ?

คำตอบที่คาดหวังคือเชิงลบ ( กลุ่มคลาสสิกซึ่งเป็นตัวอย่างสำคัญที่สุดในทฤษฎีกลุ่มลี เป็นแมนิโฟลด์เรียบ) สิ่งนี้ได้รับการยืนยันในที่สุดในต้นทศวรรษ 1950 เนื่องจากฮิลเบิร์ตยังไม่รู้จักแนวคิดที่แน่ชัดของ "แมนิโฟลด์" จึงมีประเด็นให้ถกเถียงกันเกี่ยวกับการกำหนดปัญหาในภาษาคณิตศาสตร์ร่วมสมัย

การกำหนดปัญหาในรูปแบบที่ทันสมัย ​​(ในการตีความที่ง่ายที่สุด) มีดังนี้: ^{[ 1 ]}

การกำหนดปัญหาที่เทียบเท่ากันซึ่งใกล้เคียงกับของฮิลเบิร์ตในแง่ของกฎการประกอบมีดังนี้: ^{[ 2 ]}

ปัญหาดังกล่าวได้รับการแก้ไขในรูปแบบนี้โดย Montgomery–Zippin และ Gleason

การตีความที่แข็งแกร่งกว่า (โดยมองGเป็นกลุ่มการแปลงแทนที่จะเป็นกลุ่มนามธรรม) ส่งผลให้เกิดสมมติฐานของฮิลเบิร์ต-สมิธเกี่ยวกับการกระทำของกลุ่มบนแมนิโฟลด์ ซึ่งโดยทั่วไปแล้วยังคงเปิดอยู่ เป็นที่ทราบกันดีในเชิงคลาสสิกสำหรับการกระทำบนแมนิโฟลด์ 2 มิติ และเพิ่งได้รับการแก้ไขสำหรับสามมิติโดยจอห์น พาร์ดอน^{[ 3 ]}

ผลลัพธ์สำคัญแรกคือผลงานของJohn von Neumannในปี 1933 ^{[ 4 ]}ซึ่งให้คำตอบยืนยันสำหรับกลุ่มกระชับ กรณี ของกลุ่มอาเบลียนกระชับเฉพาะที่ได้รับการแก้ไขในปี 1934 โดยLev Pontryaginการแก้ปัญหาขั้นสุดท้าย อย่างน้อยก็ในการตีความสิ่งที่ Hilbert หมายถึงดังที่กล่าวมาข้างต้น มาจากผลงานของAndrew Gleason , Deane MontgomeryและLeo Zippinในช่วงทศวรรษ 1950

ในปี พ.ศ. 2496 ฮิเดฮิโกะ ยามาเบะได้ผลลัพธ์เพิ่มเติมเกี่ยวกับกลุ่มโทโพโลยีที่อาจไม่ใช่แมนิโฟลด์: ^{[ a ]}

จากทฤษฎีบทของแวน แดนท์ซิก (ข้อความสุดท้ายนี้เรียกว่าทฤษฎีบทเกลสัน-ยามาเบะในTao (2014 , ทฤษฎีบท 1.1.17)) จะเห็นได้ว่าทุกกลุ่มที่กระชับในระดับท้องถิ่นจะมีกลุ่มย่อยเปิดที่เป็นลิมิตเชิงโปรเจกทีฟของกลุ่มลี

เงื่อนไขสำคัญในทฤษฎีนี้คือไม่มีกลุ่มย่อยขนาดเล็กกลุ่มทางทอพอโลยีGหรือส่วนย่อยของกลุ่มเช่นFข้างต้น กล่าวได้ว่าไม่มีกลุ่มย่อยขนาดเล็กหากมีบริเวณใกล้เคียงNของeที่ไม่มีกลุ่มย่อยใดใหญ่กว่า{ e }ตัวอย่างเช่นกลุ่มวงกลม ตรง ตามเงื่อนไขนี้ ในขณะที่จำนวนเต็มp -adic Z ในฐานะกลุ่มบวกไม่ตรงตามเงื่อนไขนี้ เพราะNจะมีกลุ่มย่อย: p ^k Z สำหรับจำนวนเต็มk ขนาดใหญ่ทั้งหมด นี่แสดงให้เห็นถึงความยากลำบากในปัญหา ในกรณีของสมมติฐานฮิลเบิร์ต-สมิธ มันเป็นเรื่องของการลดทอนที่ทราบกันดีว่าZ สามารถกระทำอย่างซื่อสัตย์บนแมนิโฟลด์ปิดได้ หรือ ไม่ เกลสัน มอนต์โกเมอรี และซิปปิน ได้จำแนกกลุ่มลีในกลุ่มที่กะทัดรัดเฉพาะที่ว่าเป็นกลุ่มที่ไม่มีกลุ่มย่อยขนาดเล็ก

นักวิจัยยังได้พิจารณาปัญหาข้อที่ห้าของฮิลเบิร์ตโดยไม่สมมติว่ามีมิติจำกัดซึ่งเป็นหัวข้อวิทยานิพนธ์ระดับปริญญาเอกของเพอร์ เอนฟโล และมีการกล่าวถึงผลงานของเขาใน เบนยามินีและลินเดนสเตราส (2000บทที่ 17)

• กลุ่มที่ขาดการเชื่อมต่อโดยสิ้นเชิง