แบบจำลองเชิงเส้นทั่วไป
| ส่วนหนึ่งของชุดบทความเกี่ยวกับ |
| การวิเคราะห์การถดถอย |
|---|
| นางแบบ |
| การประมาณการ |
| พื้นหลัง |
แบบจำลองเชิงเส้นทั่วไปหรือแบบจำลองการถดถอยหลายตัวแปรทั่วไปเป็นวิธีที่กระชับในการเขียน แบบจำลอง การถดถอยเชิงเส้นหลายตัวพร้อม กันหลายแบบ ในแง่นั้นมันไม่ใช่แบบจำลองเชิงเส้นทาง สถิติที่แยกต่างหาก แบบจำลองการถดถอยเชิงเส้นหลายตัวต่างๆ สามารถเขียนได้อย่างกระชับดังนี้[ 1 ]
โดยที่Yคือเมทริกซ์ที่มีชุดการวัดแบบหลายตัวแปร (แต่ละคอลัมน์เป็นชุดการวัดของตัวแปรตามตัวใด ตัวหนึ่ง ) Xคือเมทริกซ์ของการสังเกตตัวแปรอิสระซึ่งอาจเป็นเมทริกซ์การออกแบบ (แต่ละคอลัมน์เป็นชุดการสังเกตของตัวแปรอิสระตัวใดตัวหนึ่ง) Bคือเมทริกซ์ที่มีพารามิเตอร์ที่มักจะต้องประมาณค่า และUคือเมทริกซ์ที่มีข้อผิดพลาด (สัญญาณรบกวน) โดยทั่วไปจะถือว่าข้อผิดพลาดไม่มีความสัมพันธ์กันระหว่างการวัด และเป็นไปตามการแจกแจงปกติแบบหลายตัวแปรหากข้อผิดพลาดไม่เป็นไปตามการแจกแจงปกติแบบหลายตัวแปรอาจใช้แบบจำลองเชิงเส้นทั่วไปเพื่อลดข้อสมมติเกี่ยวกับYและU
แบบจำลองเชิงเส้นทั่วไป (GLM) ครอบคลุมแบบจำลองทางสถิติหลายแบบ รวมถึงANOVA , ANCOVA , MANOVA , MANCOVAและการถดถอยเชิงเส้นแบบ ธรรมดา ภายในกรอบนี้ สามารถใช้ การทดสอบtและการทดสอบFได้ แบบจำลองเชิงเส้นทั่วไปเป็นการขยายความของการถดถอยเชิงเส้นหลายตัวแปรไปยังกรณีที่มีตัวแปรตามมากกว่าหนึ่งตัว หากY , BและUเป็นเวกเตอร์คอลัมน์สมการเมทริกซ์ข้างต้นจะแสดงถึงการถดถอยเชิงเส้นหลายตัวแปร
การทดสอบสมมติฐานด้วยแบบจำลองเชิงเส้นทั่วไปสามารถทำได้สองวิธี คือแบบหลายตัวแปรหรือ แบบทดสอบ ตัวแปร เดียวอิสระหลายๆ ครั้ง ในการทดสอบแบบหลายตัวแปรนั้น คอลัมน์ของYจะถูกทดสอบพร้อมกัน ในขณะที่ในการทดสอบแบบตัวแปรเดียว คอลัมน์ของYจะถูกทดสอบอย่างอิสระ กล่าวคือ เป็นการทดสอบตัวแปรเดียวหลายๆ ครั้งโดยใช้เมทริกซ์การออกแบบเดียวกัน
การเปรียบเทียบกับการวิเคราะห์การถดถอยเชิงเส้นหลายตัวแปร
การถดถอยเชิงเส้นหลายตัวแปรเป็นการขยายผลของการถดถอยเชิงเส้นอย่างง่ายไปสู่กรณีที่มีตัวแปรอิสระมากกว่าหนึ่งตัว และเป็นกรณีพิเศษของแบบจำลองเชิงเส้นทั่วไปที่จำกัดไว้ที่ตัวแปรตามเพียงตัวเดียว แบบจำลองพื้นฐานสำหรับการถดถอยเชิงเส้นหลายตัวแปรคือ
- หรือกระชับยิ่งขึ้น
สำหรับการสังเกตแต่ละครั้งi = 1, ... , n
ในสูตรข้างต้น เราพิจารณา การสังเกต nครั้งของตัวแปรตามหนึ่งตัว และ ตัวแปรอิสระ pตัว ดังนั้นY คือ การสังเกต ครั้งที่iของตัวแปรตาม, X คือ การสังเกต ครั้งที่iของตัวแปรอิสระตัวที่k , k = 1, 2, ..., pค่าβkแทนพารามิเตอร์ที่จะประมาณค่า และε คือค่าความคลาดเคลื่อนปกติที่มีการแจกแจงเหมือนกันและเป็นอิสระตัวที่i
ในการวิเคราะห์การถดถอยเชิงเส้นหลายตัวแปรแบบทั่วไป จะมีสมการหนึ่งสมการในรูปแบบข้างต้นสำหรับ ตัวแปรตาม m > 1 ตัว ซึ่งแต่ละตัวมีชุดตัวแปรอิสระเดียวกัน และดังนั้นจึงได้รับการประมาณค่าพร้อมกัน:
- หรือกระชับยิ่งขึ้น
สำหรับ ข้อมูลสังเกตการณ์ทั้งหมดที่มีดัชนีเป็นi = 1, ... , nและสำหรับตัวแปรตามทั้งหมดที่มีดัชนีเป็นj = 1 , ... , m
โปรดทราบว่า เนื่องจากตัวแปรตามแต่ละตัวมีชุดพารามิเตอร์การถดถอยของตนเองที่จะต้องปรับให้เหมาะสม จากมุมมองทางด้านการคำนวณ การถดถอยพหุตัวแปรทั่วไปจึงเป็นเพียงลำดับของการถดถอยเชิงเส้นหลายตัวแปรมาตรฐานโดยใช้ตัวแปรอธิบายเดียวกัน
การเปรียบเทียบกับแบบจำลองเชิงเส้นทั่วไป
แบบจำลองเชิงเส้นทั่วไปและแบบจำลองเชิงเส้นทั่วไป (GLM) [ 2 ] [ 3 ]เป็นสองตระกูลของวิธีการทางสถิติ ที่ใช้กันทั่วไปในการเชื่อม โยงตัวทำนายแบบต่อเนื่องและ/หรือแบบจัดกลุ่มจำนวนหนึ่งกับตัวแปรผลลัพธ์เดียว
ความแตกต่างหลักระหว่างสองแนวทางนี้คือแบบจำลองเชิงเส้นทั่วไปถือว่าค่าตกค้างจะมีการกระจายแบบปกติแบบมีเงื่อนไข อย่างเคร่งครัด [ 4 ]ในขณะที่ GLM ผ่อนคลายข้อสมมตินี้และอนุญาตให้มีการกระจาย อื่นๆ ที่หลากหลาย จากตระกูลเอกซ์โพเนนเชียลสำหรับค่าตกค้าง[ 2 ]แบบจำลองเชิงเส้นทั่วไปเป็นกรณีพิเศษของ GLM ซึ่งการกระจายของค่าตกค้างมีการกระจายแบบปกติแบบมีเงื่อนไข
การกระจายตัวของค่าตกค้างส่วนใหญ่ขึ้นอยู่กับประเภทและการกระจายตัวของตัวแปรผลลัพธ์ ตัวแปรผลลัพธ์ประเภทต่างๆ นำไปสู่ความหลากหลายของแบบจำลองภายในตระกูล GLM แบบจำลองที่ใช้กันทั่วไปในตระกูล GLM ได้แก่การถดถอยโลจิสติกแบบไบนารี[ 5 ]สำหรับผลลัพธ์แบบไบนารีหรือแบบสองทางการถดถอยปัวซอง[ 6 ]สำหรับผลลัพธ์แบบนับ และการถดถอยเชิงเส้นสำหรับผลลัพธ์แบบต่อเนื่องที่มีการกระจายแบบปกติ ซึ่งหมายความว่า GLM อาจถูกกล่าวถึงว่าเป็นตระกูลทั่วไปของแบบจำลองทางสถิติหรือเป็นแบบจำลองเฉพาะสำหรับประเภทผลลัพธ์เฉพาะ
| แบบจำลองเชิงเส้นทั่วไป | แบบจำลองเชิงเส้นทั่วไป | |
|---|---|---|
| วิธีการประมาณค่าทั่วไป | วิธีการกำลังสองน้อยที่สุด (Least squares)คือการทำนายเชิงเส้นที่ไม่เอนเอียงที่ดีที่สุด | ความน่าจะเป็นสูงสุดหรือแบบเบย์เซียน |
| ตัวอย่าง | ANOVA , ANCOVA , การถดถอยเชิงเส้น | การถดถอยเชิงเส้น , การถดถอยโลจิสติก , การถดถอยปัวซอง , การถดถอยแกมมา, [ 7 ]แบบจำลองเชิงเส้นทั่วไป |
| ส่วนขยายและวิธีการที่เกี่ยวข้อง | MANOVA , MANCOVA , แบบจำลองผสมเชิงเส้น | แบบจำลองเชิงเส้นผสมทั่วไป (GLMM), สมการประมาณค่าทั่วไป (GEE) |
| แพ็คเกจและฟังก์ชันR | lm()ในแพ็คเกจ stats (R พื้นฐาน) | glm()ในแพ็คเกจสถิติ (R พื้นฐาน) manova |
| ฟังก์ชันMATLAB | เอ็มวีเรเกรส() | glmfit() |
| ขั้นตอนSAS | PROC GLM , PROC REG | PROC GENMOD , PROC LOGISTIC (สำหรับผลลัพธ์แบบไบนารี และผลลัพธ์เชิงหมวดหมู่ที่มีลำดับหรือไม่มีลำดับ) |
| คำสั่งStata | ถอยหลัง | จีแอลเอ็ม |
| คำสั่งSPSS | การถดถอย , glm | เจนลิน โลจิสติกส์ |
| ฟังก์ชันWolfram Language & Mathematica | LinearModelFit[] [ 8 ] | GeneralizedLinearModelFit[] [ 9 ] |
| คำสั่งEViews | ls [ 10 ] | glm [ 11 ] |
| แพ็คเกจ statsmodels สำหรับ Python | แบบจำลองการถดถอยและเชิงเส้น | จีแอลเอ็ม |
แอปพลิเคชัน
การประยุกต์ใช้แบบจำลองเชิงเส้นทั่วไปปรากฏในการวิเคราะห์การสแกนสมอง หลายครั้ง ในการทดลองทางวิทยาศาสตร์ โดยที่Yประกอบด้วยข้อมูลจากเครื่องสแกนสมอง และXประกอบด้วยตัวแปรการออกแบบการทดลองและตัวแปรแทรกซ้อน โดยปกติจะทดสอบในรูปแบบตัวแปรเดียว (โดยทั่วไปเรียกว่าmass-univariateในบริบทนี้) และมักเรียกว่า การ ทำแผนที่พารามิเตอร์ทางสถิติ[ 12 ]
ดูเพิ่มเติม
หมายเหตุ
- ↑ Mardia, KV ; Kent, JT; Bibby, JM (1979). การวิเคราะห์หลายตัวแปรสำนักพิมพ์ Academic Press ISBN 0-12-471252-5.
- 1 2 McCullagh, P. ; Nelder, JA (1 มกราคม 1983). "โครงร่างของแบบจำลองเชิงเส้นทั่วไป". แบบจำลองเชิงเส้นทั่วไป . Springer US. หน้า21–47 . doi : 10.1007/978-1-4899-3242-6_2 (ไม่ใช้งาน 12 กรกฎาคม 2025). ISBN 9780412317606.
{{cite book}}: CS1 maint: DOI ไม่ใช้งานแล้วตั้งแต่เดือนกรกฎาคม 2025 ( ลิงก์ ) - ↑ Fox, J. (2015).การวิเคราะห์การถดถอยประยุกต์และแบบจำลองเชิงเส้นทั่วไป . สำนักพิมพ์ Sage.
- ↑ Cohen, J.; Cohen, P.; West, SG; Aiken, LS (2003). การวิเคราะห์การถดถอย/สหสัมพันธ์หลายตัวแปรประยุกต์สำหรับวิทยาศาสตร์พฤติกรรม (รายงาน)
- ↑ Hosmer Jr, DW, Lemeshow, S., & Sturdivant, RX (2013).การถดถอยโลจิสติกประยุกต์ (เล่มที่ 398). John Wiley & Sons.
- ↑ Gardner, W.; Mulvey, EP; Shaw, EC (1995). "การวิเคราะห์การถดถอยของจำนวนและอัตรา: แบบจำลองปัวซง ปัวซงแบบกระจายเกิน และแบบจำลองทวินามเชิงลบ" Psychological Bulletin . 118 (3): 392– 404. doi : 10.1037/0033-2909.118.3.392 . PMID 7501743 .
- ↑ McCullagh, Peter ; Nelder, John (1989). แบบจำลองเชิงเส้นทั่วไป ( ฉบับที่ 2). โบคา ราตัน: Chapman and Hall/CRC. ISBN 978-0-412-31760-6.
- ↑ LinearModelFit , ศูนย์เอกสารภาษา Wolfram
- ↑ GeneralizedLinearModelFit , Wolfram Language Documentation Center.
- ↑ ls , ความช่วยเหลือของ EViews
- ↑ glm , ความช่วยเหลือของ EViews
- ↑ Friston, KJ; Holmes, AP; Worsley, KJ; Poline, J.-B.; Frith, CD; Frackowiak, RSJ (1995). "แผนที่พารามิเตอร์ทางสถิติในการถ่ายภาพการทำงาน: แนวทางเชิงเส้นทั่วไป" การทำแผนที่สมองมนุษย์2 (4): 189– 210. doi : 10.1002/hbm.460020402 . S2CID 9898609 .
ลิงก์ภายนอก
- แบบจำลองเชิงเส้นทั่วไป: คู่มือปฏิบัติสำหรับการตัดสินใจโดยใช้ข้อมูล