แบบจำลองนี้พยายามอธิบายชุดของ${\displaystyle p}$การสังเกตในแต่ละ${\displaystyle n}$บุคคลที่มีชุดของ${\displaystyle k}$ปัจจัยร่วม (${\displaystyle f_{i,j}}$) โดยที่จำนวนปัจจัยต่อหน่วยมีน้อยกว่าจำนวนการสังเกตต่อหน่วย (${\displaystyle k<p}$แต่ละบุคคลมี${\displaystyle k}$ของปัจจัยร่วมของตนเอง และปัจจัยเหล่านี้เกี่ยวข้องกับการสังเกตผ่านเมทริกซ์การโหลด ปัจจัย (${\displaystyle L\in \mathbb {R} ^{p\times k}}$) สำหรับการสังเกตเพียงครั้งเดียว ตาม

${\displaystyle x_{i,m}-\mu _{i}=l_{i,1}f_{1,m}+\dots +l_{i,k}f_{k,m}+\varepsilon _{i,m}}$

ที่ไหน

• ${\displaystyle x_{i,m}}$คือค่าของ${\displaystyle i}$การสังเกตครั้งที่ th ของ${\displaystyle m}$บุคคลนั้น
• ${\displaystyle \mu _{i}}$คือค่าเฉลี่ยของการสังเกตสำหรับ${\displaystyle i}$การสังเกตครั้งที่ th
• ${\displaystyle l_{i,j}}$คือการโหลดสำหรับ${\displaystyle i}$การสังเกตครั้งที่ th ของ${\displaystyle j}$ปัจจัยที่ th
• ${\displaystyle f_{j,m}}$คือค่าของ${\displaystyle j}$ปัจจัยที่ th ของ${\displaystyle m}$บุคคลนั้น และ
• ${\displaystyle \varepsilon _{i,m}}$คือ${\displaystyle (i,m)}$เทอมความคลาดเคลื่อนสุ่มที่ไม่สามารถสังเกตได้ซึ่งมีค่าเฉลี่ยเป็นศูนย์และค่าความแปรปรวนจำกัด

ในรูปแบบเมทริกซ์

${\displaystyle X-\mathrm {M} =LF+\varepsilon }$

โดยที่เมทริกซ์การสังเกต${\displaystyle X\in \mathbb {R} ^{p\times n}}$เมทริกซ์การโหลด${\displaystyle L\in \mathbb {R} ^{p\times k}}$เมทริกซ์ปัจจัย${\displaystyle F\in \mathbb {R} ^{k\times n}}$เมทริกซ์พจน์ความคลาดเคลื่อน${\displaystyle \varepsilon \in \mathbb {R} ^{p\times n}}$และเมทริกซ์ค่าเฉลี่ย${\displaystyle \mathrm {M} \in \mathbb {R} ^{p\times n}}$โดยที่${\displaystyle (i,m)}$องค์ประกอบนั้นก็คือ...${\displaystyle \mathrm {M} _{i,m}=\mu _{i}}$.

นอกจากนี้ เราจะกำหนดข้อสมมติฐานต่อไปนี้ด้วย${\displaystyle F}$:

1. ${\displaystyle F}$และ${\displaystyle \varepsilon }$เป็นอิสระต่อกัน
2. ${\displaystyle \mathrm {E} (F)=0}$; ที่ไหน${\displaystyle \mathrm {E} }$ คือความคาดหวัง
3. ${\displaystyle \mathrm {Cov} (F)=I}$ที่ไหน${\displaystyle \mathrm {Cov} }$ คือเมทริกซ์ความแปรปรวนร่วมเพื่อให้แน่ใจว่าปัจจัยต่างๆ ไม่มีความสัมพันธ์กัน และ${\displaystyle I}$คือเมทริกซ์เอกลักษณ์

สมมติ${\displaystyle \mathrm {Cov} (X-\mathrm {M} )=\Sigma }$. แล้ว

${\displaystyle \Sigma =\mathrm {Cov} (X-\mathrm {M} )=\mathrm {Cov} (LF+\varepsilon ),\,}$

และด้วยเหตุนี้ จากเงื่อนไขข้อที่ 1 และ 2 ที่กำหนดไว้${\displaystyle F}$ข้างบน,${\displaystyle E[LF]=LE[F]=0}$และ${\displaystyle \mathrm {Cov} (LF+\epsilon )=\mathrm {Cov} (LF)+\mathrm {Cov} (\epsilon )}$การให้

${\displaystyle \Sigma =L\mathrm {Cov} (F)L^{T}+\mathrm {Cov} (\varepsilon ),\,}$

หรือการตั้งค่า${\displaystyle \Psi$ :=\mathrm {Cov} (\varepsilon )} ,

${\displaystyle \Sigma =LL^{T}+\Psi .\,}$

สำหรับเมทริกซ์เชิงตั้งฉาก ใดๆ${\displaystyle Q}$ถ้าเราตั้งค่า${\displaystyle L^{\prime }=\ LQ}$และ${\displaystyle F^{\prime }=Q^{T}F}$เกณฑ์สำหรับการเป็นปัจจัยและค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยยังคงใช้ได้ ดังนั้น ชุดของปัจจัยและค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยจึงมีเอกลักษณ์เฉพาะตัวเท่านั้น ยกเว้นการแปลงเชิงตั้งฉาก

สมมติว่านักจิตวิทยามีสมมติฐานว่ามีสติปัญญา อยู่สองประเภท คือ "สติปัญญาด้านภาษา" และ "สติปัญญาด้านคณิตศาสตร์" ซึ่งทั้งสองประเภทนี้ไม่สามารถสังเกตได้โดยตรง^{[หมายเหตุ 1 ]}หลักฐานสำหรับสมมติฐานนี้ได้มาจากการพิจารณาคะแนนสอบของนักเรียน 1,000 คนจาก 10 สาขาวิชาที่แตกต่างกัน หากนักเรียนแต่ละคนถูกเลือกแบบสุ่มจากประชากร ขนาดใหญ่ คะแนนสอบทั้ง 10 ครั้งของนักเรียนแต่ละคนจะเป็นตัวแปรสุ่ม สมมติฐานของนักจิตวิทยาอาจกล่าวว่า สำหรับแต่ละสาขาวิชาทั้ง 10 สาขา คะแนนเฉลี่ยของกลุ่มนักเรียนทั้งหมดที่มีค่าสติปัญญาด้านภาษาและคณิตศาสตร์ร่วมกันบางค่า จะเป็นค่าคงที่คูณด้วยระดับสติปัญญาด้านภาษาของพวกเขา บวกกับค่าคงที่อีกค่าหนึ่งคูณด้วยระดับสติปัญญาด้านคณิตศาสตร์ของพวกเขา กล่าวคือ เป็นผลรวมเชิงเส้นของ "ปัจจัย" ทั้งสองนี้ ตัวเลขสำหรับวิชาใดวิชาหนึ่ง ซึ่งนำค่าความฉลาดทั้งสองประเภทมาคูณกันเพื่อให้ได้คะแนนที่คาดหวังนั้น ตามสมมติฐานแล้วจะต้องมีค่าเท่ากันสำหรับทุกคู่ระดับความฉลาด และเรียกว่า"ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัย" (factor loading)สำหรับวิชานั้น ตัวอย่างเช่น สมมติฐานอาจกล่าวว่า ความถนัดโดยเฉลี่ยของนักเรียนในสาขาดาราศาสตร์ ที่คาดการณ์ไว้ คือ

{10 × ความฉลาดทางภาษาของนักเรียน} + {6 × ความฉลาดทางคณิตศาสตร์ของนักเรียน}

ตัวเลข 10 และ 6 คือค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยที่เกี่ยวข้องกับดาราศาสตร์ วิชาการอื่นๆ อาจมีค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยที่แตกต่างกัน

นักเรียนสองคนซึ่งสันนิษฐานว่ามีระดับสติปัญญาด้านภาษาและคณิตศาสตร์ที่เหมือนกัน อาจมีความถนัดด้านดาราศาสตร์ที่วัดได้แตกต่างกัน เนื่องจากความถนัดของแต่ละบุคคลแตกต่างจากความถนัดเฉลี่ย (ที่คาดการณ์ไว้ข้างต้น) และเนื่องจากข้อผิดพลาดในการวัดเอง ความแตกต่างเหล่านี้รวมกันเรียกว่า "ข้อผิดพลาด" ซึ่งเป็นศัพท์ทางสถิติที่หมายถึงปริมาณที่แต่ละบุคคลวัดได้แตกต่างจากค่าเฉลี่ยหรือค่าที่คาดการณ์ได้จากระดับสติปัญญาของเขาหรือเธอ (ดูข้อผิดพลาดและค่าตกค้างในสถิติ )

ข้อมูลที่สังเกตได้ซึ่งจะนำมาใช้ในการวิเคราะห์ปัจจัยนั้น จะประกอบด้วยคะแนน 10 คะแนนของนักเรียนแต่ละคนจากทั้งหมด 1,000 คน รวมเป็นตัวเลขทั้งหมด 10,000 ตัว ค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัยและระดับของสติปัญญา 2 ประเภทของแต่ละนักเรียนจะต้องอนุมานจากข้อมูลเหล่านั้น

ต่อไปนี้ เมทริกซ์จะถูกระบุด้วยตัวแปรที่มีดัชนี ดัชนี "วิชาเรียน" จะถูกระบุด้วยตัวอักษร${\displaystyle a}$,${\displaystyle b}$และ${\displaystyle c}$โดยมีค่าตั้งแต่${\displaystyle 1}$ถึง${\displaystyle p}$ซึ่งเท่ากับ${\displaystyle 10}$ในตัวอย่างข้างต้น ดัชนี "ปัจจัย" จะถูกระบุด้วยตัวอักษร${\displaystyle p}$,${\displaystyle q}$และ${\displaystyle r}$โดยมีค่าตั้งแต่${\displaystyle 1}$ถึง${\displaystyle k}$ซึ่งเท่ากับ${\displaystyle 2}$ในตัวอย่างข้างต้น ดัชนี "อินสแตนซ์" หรือ "ตัวอย่าง" จะระบุด้วยตัวอักษร${\displaystyle i}$,${\displaystyle j}$และ${\displaystyle k}$โดยมีค่าตั้งแต่${\displaystyle 1}$ถึง${\displaystyle N}$ในตัวอย่างข้างต้น หากตัวอย่างของ${\displaystyle N=1000}$นักเรียนได้เข้าร่วมในกิจกรรม${\displaystyle p=10}$การสอบ${\displaystyle i}$คะแนนของนักเรียนคนที่...${\displaystyle a}$การสอบนี้จัดโดย${\displaystyle x_{ai}}$วัตถุประสงค์ของการวิเคราะห์ปัจจัยคือการระบุลักษณะความสัมพันธ์ระหว่างตัวแปรต่างๆ${\displaystyle x_{a}}$ซึ่งของ${\displaystyle x_{ai}}$คือตัวอย่างเฉพาะ หรือชุดของการสังเกต เพื่อให้ตัวแปรอยู่ในระดับเดียวกัน จึงต้องทำการแปลงให้เป็นคะแนนมาตรฐาน${\displaystyle z}$:

${\displaystyle z_{ai}={\frac {x_{ai}-{\hat {\mu }}_{a}}{{\hat {\sigma }}_{a}}}}$

โดยที่ค่าเฉลี่ยของกลุ่มตัวอย่างคือ:

${\displaystyle {\hat {\mu }}_{a}={\tfrac {1}{N}}\sum _{i}x_{ai}}$

และค่าความแปรปรวนของตัวอย่างคำนวณได้จากสูตร:

${\displaystyle {\hat {\sigma }}_{a}^{2}={\tfrac {1}{N-1}}\sum _{i}(x_{ai}-{\hat {\mu }}_{a})^{2}}$

ดังนั้นแบบจำลองการวิเคราะห์ปัจจัยสำหรับกลุ่มตัวอย่างนี้จึงเป็นดังนี้:

${\displaystyle {\begin{matrix}z_{1,i}&=&\ell _{1,1}F_{1,i}&+&\ell _{1,2}F_{2,i}&+&\varepsilon _{1,i}\\\vdots &&\vdots &&\vdots &&\vdots \\z_{10,i}&=&\ell _{10,1}F_{1,i}&+&\ell _{10,2}F_{2,i}&+&\varepsilon _{10,i}\end{matrix}}}$

หรือกล่าวโดยย่อ:

${\displaystyle z_{ai}=\sum _{p}\ell _{ap}F_{pi}+\varepsilon _{ai}}$

ที่ไหน

• ${\displaystyle F_{1i}}$คือ${\displaystyle i}$"ความฉลาดทางด้านภาษา" ของนักเรียน
• ${\displaystyle F_{2i}}$คือ${\displaystyle i}$ความฉลาดทางคณิตศาสตร์ของนักเรียน
• ${\displaystyle \ell _{ap}}$ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยสำหรับ${\displaystyle a}$หัวข้อที่ th สำหรับ${\displaystyle p=1,2}$.

ใน สัญลักษณ์ เมทริกซ์ เรามี

${\displaystyle Z=LF+\varepsilon }$

สังเกตว่าเมื่อเพิ่มมาตราส่วนเป็นสองเท่าสำหรับ "ความฉลาดทางภาษา" ซึ่งเป็นองค์ประกอบแรกในแต่ละคอลัมน์ของ${\displaystyle F}$—มีการวัดค่า และในขณะเดียวกัน การลดค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยสำหรับสติปัญญาทางวาจาลงครึ่งหนึ่งก็ไม่มีผลกระทบต่อแบบจำลอง ดังนั้น การสมมติว่าค่าเบี่ยงเบนมาตรฐานของปัจจัยสำหรับสติปัญญาทางวาจาคือ จึงไม่ทำให้สูญเสียความทั่วไปไป${\displaystyle 1}$เช่นเดียวกันกับความฉลาดทางคณิตศาสตร์ นอกจากนี้ ด้วยเหตุผลที่คล้ายคลึงกัน การสมมติว่าปัจจัยทั้งสองไม่มีความสัมพันธ์กันก็ไม่ได้ทำให้เสียความทั่วไปไปแต่อย่างใด กล่าวอีกนัยหนึ่งคือ:

${\displaystyle \sum _{i}F_{pi}F_{qi}=\delta _{pq}}$

ที่ไหน${\displaystyle \delta _{pq}}$คือเดลต้าโครเนกเกอร์ (${\displaystyle 0}$เมื่อไร${\displaystyle p\neq q}$และ${\displaystyle 1}$เมื่อไร${\displaystyle p=q}$ข้อผิดพลาดเหล่านี้ถือว่าไม่ขึ้นอยู่กับปัจจัยต่างๆ:

${\displaystyle \sum _{i}F_{pi}\varepsilon _{ai}=0}$

เนื่องจากการหมุนของคำตอบใดๆ ก็ถือเป็นคำตอบเช่นกัน ทำให้การตีความปัจจัยต่างๆ เป็นเรื่องยาก ดูข้อเสียด้านล่าง ในตัวอย่างนี้ หากเราไม่ทราบล่วงหน้าว่าสติปัญญาทั้งสองประเภทนั้นไม่สัมพันธ์กัน เราก็ไม่สามารถตีความปัจจัยทั้งสองว่าเป็นสติปัญญาที่แตกต่างกันสองประเภทได้ แม้ว่าพวกมันจะไม่สัมพันธ์กัน เราก็ไม่สามารถบอกได้ว่าปัจจัยใดสอดคล้องกับสติปัญญาด้านภาษา และปัจจัยใดสอดคล้องกับสติปัญญาด้านคณิตศาสตร์โดยปราศจากข้อโต้แย้งภายนอก

ค่าของน้ำหนักบรรทุก${\displaystyle L}$ค่าเฉลี่ย${\displaystyle \mu }$และความแปรปรวนของ "ข้อผิดพลาด"${\displaystyle \varepsilon }$ต้องทำการประมาณค่าโดยพิจารณาจากข้อมูลที่สังเกตได้${\displaystyle X}$และ${\displaystyle F}$(สมมติฐานเกี่ยวกับระดับของปัจจัยต่างๆ นั้นคงที่สำหรับค่าที่กำหนด)${\displaystyle F}$). "ทฤษฎีบทพื้นฐาน" สามารถอนุมานได้จากเงื่อนไขข้างต้น:

${\displaystyle \sum _{i}z_{ai}z_{bi}=\sum _{j}\ell _{aj}\ell _{bj}+\sum _{i}\varepsilon _{ai}\varepsilon _{bi}}$

คำทางด้านซ้ายคือ${\displaystyle (a,b)}$-เทอมของเมทริกซ์สหสัมพันธ์ (a)${\displaystyle p\times p}$เมทริกซ์ที่ได้มาจากผลคูณของ${\displaystyle p\times N}$เมทริกซ์ของการสังเกตที่ได้มาตรฐาน (พร้อมทรานสโพส) ของข้อมูลที่สังเกตได้ และเมทริกซ์นั้น${\displaystyle p}$องค์ประกอบแนวทแยงจะเป็น${\displaystyle 1}$s. พจน์ที่สองทางด้านขวาจะเป็นเมทริกซ์แนวทแยงที่มีค่าในพจน์น้อยกว่าหนึ่ง พจน์แรกทางด้านขวาคือ "เมทริกซ์สหสัมพันธ์ลดรูป" ซึ่งจะเท่ากับเมทริกซ์สหสัมพันธ์ ยกเว้นค่าในแนวทแยงซึ่งจะมีค่าน้อยกว่าหนึ่ง ค่าในแนวทแยงของเมทริกซ์สหสัมพันธ์ลดรูปนี้เรียกว่า "ค่าร่วม" (ซึ่งแสดงถึงสัดส่วนของความแปรปรวนในตัวแปรที่สังเกตได้ซึ่งอธิบายได้ด้วยปัจจัยต่างๆ)

${\displaystyle h_{a}^{2}=1-\psi _{a}=\sum _{j}\ell _{aj}\ell _{aj}}$

ข้อมูลตัวอย่าง${\displaystyle z_{ai}}$ผลลัพธ์อาจไม่เป็นไปตามสมการพื้นฐานที่กล่าวมาข้างต้นอย่างแม่นยำ เนื่องจากข้อผิดพลาดในการสุ่มตัวอย่าง ความไม่เหมาะสมของแบบจำลอง ฯลฯ เป้าหมายของการวิเคราะห์แบบจำลองข้างต้นคือการค้นหาปัจจัยต่างๆ${\displaystyle F_{pi}}$และการโหลด${\displaystyle \ell _{ap}}$ซึ่งให้ "ความพอดีที่ดีที่สุด" กับข้อมูล ในการวิเคราะห์ปัจจัย ความพอดีที่ดีที่สุดจะถูกกำหนดเป็นค่าต่ำสุดของข้อผิดพลาดกำลังสองเฉลี่ยในส่วนที่เหลือที่อยู่นอกแนวทแยงของเมทริกซ์สหสัมพันธ์: ^{[ 3 ]}

${\displaystyle \varepsilon ^{2}=\sum _{a\neq b}\left[\sum _{i}z_{ai}z_{bi}-\sum _{j}\ell _{aj}\ell _{bj}\right]^{2}}$

สิ่งนี้เทียบเท่ากับการลดส่วนประกอบนอกแนวทแยงของความแปรปรวนร่วมของข้อผิดพลาด ซึ่งในสมการแบบจำลองจะมีค่าที่คาดหวังเป็นศูนย์ สิ่งนี้จะแตกต่างจากการวิเคราะห์ส่วนประกอบหลักซึ่งพยายามลดข้อผิดพลาดกำลังสองเฉลี่ยของส่วนที่เหลือทั้งหมด^{[ 3 ]}ก่อนการมาถึงของคอมพิวเตอร์ความเร็วสูง ความพยายามอย่างมากถูกทุ่มเทให้กับการค้นหาวิธีแก้ปัญหาโดยประมาณ โดยเฉพาะอย่างยิ่งในการประมาณค่าความสัมพันธ์ร่วมกันโดยวิธีการอื่น ซึ่งจะทำให้ปัญหาง่ายขึ้นอย่างมากโดยการให้เมทริกซ์สหสัมพันธ์ที่ลดลงที่ทราบ จากนั้นจึงใช้เมทริกซ์นี้ในการประมาณปัจจัยและค่าสัมประสิทธิ์ ด้วยการมาถึงของคอมพิวเตอร์ความเร็วสูง ปัญหาการลดค่าสามารถแก้ไขได้แบบวนซ้ำด้วยความเร็วที่เพียงพอ และค่าความสัมพันธ์ร่วมกันจะถูกคำนวณในกระบวนการ แทนที่จะต้องทราบล่วงหน้า อัลกอริทึม MinResเหมาะสมอย่างยิ่งสำหรับปัญหานี้ แต่ก็ไม่ใช่เพียงวิธีการวนซ้ำเดียวในการหาคำตอบ

หากอนุญาตให้ปัจจัยการแก้ปัญหามีความสัมพันธ์กัน (เช่นในการหมุนแบบ 'oblimin' เป็นต้น) แบบจำลองทางคณิตศาสตร์ที่เกี่ยวข้องจะใช้พิกัดเฉียงแทนที่จะใช้พิกัดตั้งฉาก

พารามิเตอร์และตัวแปรของการวิเคราะห์ปัจจัยสามารถตีความได้ในเชิงเรขาคณิต ข้อมูล (${\displaystyle z_{ai}}$ปัจจัย (${\displaystyle F_{pi}}$) และข้อผิดพลาด (${\displaystyle \varepsilon _{ai}}$) สามารถมองได้ว่าเป็นเวกเตอร์ใน${\displaystyle N}$ปริภูมิยุคลิดมิติ (ปริภูมิของตัวอย่าง) แสดงได้ดังนี้${\displaystyle \mathbf {z} _{a}}$,${\displaystyle \mathbf {F} _{p}}$และ${\displaystyle {\boldsymbol {\varepsilon }}_{a}}$ตามลำดับ เนื่องจากข้อมูลได้รับการทำให้เป็นมาตรฐานแล้ว เวกเตอร์ข้อมูลจึงมีความยาวหนึ่งหน่วย (${\displaystyle ||\mathbf {z} _{a}||=1}$เวกเตอร์ปัจจัยกำหนด${\displaystyle k}$ระนาบย่อยเชิงเส้นมิติ - ในปริภูมินี้ ซึ่งเวกเตอร์ข้อมูลถูกฉายลงบนระนาบนั้นในแนวตั้งฉาก ซึ่งเป็นผลมาจากสมการแบบจำลอง

${\displaystyle \mathbf {z} _{a}=\sum _{p}\ell _{ap}\mathbf {F} _{p}+{\boldsymbol {\varepsilon }}_{a}}$

และความเป็นอิสระของปัจจัยและข้อผิดพลาด:${\displaystyle \mathbf {F} _{p}\cdot {\boldsymbol {\varepsilon }}_{a}=0}$ในตัวอย่างข้างต้น ไฮเปอร์เพลนเป็นเพียงระนาบ 2 มิติที่กำหนดโดยเวกเตอร์ปัจจัยสองตัว การฉายภาพของเวกเตอร์ข้อมูลลงบนไฮเปอร์เพลนนั้นกำหนดโดย

${\displaystyle {\hat {\mathbf {z} }}_{a}=\sum _{p}\ell _{ap}\mathbf {F} _{p}}$

และข้อผิดพลาดคือเวกเตอร์จากจุดที่ฉายไปยังจุดข้อมูลและตั้งฉากกับระนาบไฮเปอร์เพลน เป้าหมายของการวิเคราะห์ปัจจัยคือการหาระนาบไฮเปอร์เพลนที่ "เหมาะสมที่สุด" กับข้อมูลในบางแง่ ดังนั้นจึงไม่สำคัญว่าเวกเตอร์ปัจจัยที่กำหนดระนาบไฮเปอร์เพลนนี้จะถูกเลือกอย่างไร ตราบใดที่เวกเตอร์เหล่านั้นเป็นอิสระและอยู่ในระนาบไฮเปอร์เพลน เราสามารถระบุเวกเตอร์เหล่านั้นว่าเป็นแบบตั้งฉากและแบบปกติได้ (${\displaystyle \mathbf {F} _{p}\cdot \mathbf {F} _{q}=\delta _{pq}}$) โดยไม่สูญเสียความเป็นทั่วไป หลังจากที่พบชุดปัจจัยที่เหมาะสมแล้ว ปัจจัยเหล่านั้นอาจถูกหมุนอย่างอิสระภายในระนาบไฮเปอร์เพลนได้เช่นกัน ดังนั้นการหมุนเวกเตอร์ของปัจจัยใดๆ ก็จะกำหนดระนาบไฮเปอร์เพลนเดียวกัน และยังคงเป็นคำตอบได้เช่นกัน ผลก็คือ ในตัวอย่างข้างต้น ซึ่งระนาบไฮเปอร์เพลนที่เหมาะสมเป็นสองมิติ หากเราไม่ทราบล่วงหน้าว่าสติปัญญาทั้งสองประเภทนั้นไม่มีความสัมพันธ์กัน เราก็ไม่สามารถตีความปัจจัยทั้งสองว่าเป็นสติปัญญาที่แตกต่างกันสองประเภทได้ แม้ว่าปัจจัยเหล่านั้นจะไม่มีความสัมพันธ์กัน เราก็ไม่สามารถบอกได้ว่าปัจจัยใดสอดคล้องกับสติปัญญาด้านภาษา และปัจจัยใดสอดคล้องกับสติปัญญาด้านคณิตศาสตร์ หรือว่าปัจจัยเหล่านั้นเป็นผลรวมเชิงเส้นของทั้งสองอย่าง โดยปราศจากข้อโต้แย้งภายนอก

เวกเตอร์ข้อมูล${\displaystyle \mathbf {z} _{a}}$มีความยาวหนึ่งหน่วย ค่าในเมทริกซ์สหสัมพันธ์สำหรับข้อมูลกำหนดโดย${\displaystyle r_{ab}=\mathbf {z} _{a}\cdot \mathbf {z} _{b}}$เมทริกซ์สหสัมพันธ์สามารถตีความในเชิงเรขาคณิตได้ว่าเป็นค่าโคไซน์ของมุมระหว่างเวกเตอร์ข้อมูลทั้งสอง${\displaystyle \mathbf {z} _{a}}$และ${\displaystyle \mathbf {z} _{b}}$องค์ประกอบแนวทแยงจะชัดเจน${\displaystyle 1}$และองค์ประกอบนอกแนวทแยงจะมีค่าสัมบูรณ์น้อยกว่าหรือเท่ากับหนึ่ง "เมทริกซ์สหสัมพันธ์ลดรูป" ถูกกำหนดดังนี้

${\displaystyle {\hat {r}}_{ab}={\hat {\mathbf {z} }}_{a}\cdot {\hat {\mathbf {z} }}_{b}}$.

เป้าหมายของการวิเคราะห์ปัจจัยคือการเลือกไฮเปอร์เพลนที่เหมาะสมเพื่อให้เมทริกซ์สหสัมพันธ์ที่ลดลงสามารถจำลองเมทริกซ์สหสัมพันธ์ได้ใกล้เคียงที่สุด ยกเว้นองค์ประกอบแนวทแยงของเมทริกซ์สหสัมพันธ์ซึ่งทราบว่ามีค่าเป็นหนึ่ง กล่าวอีกนัยหนึ่ง เป้าหมายคือการจำลองความสัมพันธ์ไขว้ในข้อมูลให้แม่นยำที่สุดเท่าที่จะเป็นไปได้ โดยเฉพาะอย่างยิ่งสำหรับไฮเปอร์เพลนที่เหมาะสม ค่าความคลาดเคลื่อนกำลังสองเฉลี่ยในองค์ประกอบนอกแนวทแยงจะต้องอยู่ในเกณฑ์ที่กำหนด

${\displaystyle \varepsilon ^{2}=\sum _{a\neq b}\left(r_{ab}-{\hat {r}}_{ab}\right)^{2}}$

จะต้องลดค่าให้น้อยที่สุด ซึ่งทำได้โดยการลดค่าให้น้อยที่สุดเมื่อเทียบกับชุดเวกเตอร์ตัวประกอบเชิงตั้งฉาก จะเห็นได้ว่า

${\displaystyle r_{ab}-{\hat {r}}_{ab}={\boldsymbol {\varepsilon }}_{a}\cdot {\boldsymbol {\varepsilon }}_{b}}$

เทอมทางด้านขวาคือค่าความแปรปรวนร่วมของข้อผิดพลาด ในแบบจำลอง ค่าความแปรปรวนร่วมของข้อผิดพลาดระบุว่าเป็นเมทริกซ์แนวทแยง ดังนั้นปัญหาการหาค่าต่ำสุดข้างต้นจะให้ผลลัพธ์ที่ "เหมาะสมที่สุด" กับแบบจำลอง กล่าวคือ จะให้ค่าประมาณตัวอย่างของค่าความแปรปรวนร่วมของข้อผิดพลาดที่มีส่วนประกอบนอกแนวทแยงมีค่าน้อยที่สุดในแง่ของค่าเฉลี่ยกำลังสอง จะเห็นได้ว่าเนื่องจาก${\displaystyle {\hat {z}}_{a}}$เวกเตอร์ข้อมูลเหล่านี้คือภาพฉายเชิงตั้งฉาก ซึ่งความยาวของภาพฉายเหล่านี้จะน้อยกว่าหรือเท่ากับความยาวของเวกเตอร์ข้อมูลที่ฉาย ซึ่งก็คือหนึ่ง กำลังสองของความยาวเหล่านี้ก็คือองค์ประกอบแนวทแยงของเมทริกซ์สหสัมพันธ์ที่ลดรูปแล้ว องค์ประกอบแนวทแยงของเมทริกซ์สหสัมพันธ์ที่ลดรูปแล้วนี้เรียกว่า "ค่าร่วม" (communalities):

${\displaystyle {h_{a}}^{2}=||{\hat {\mathbf {z} }}_{a}||^{2}=\sum _{p}{\ell _{ap}}^{2}}$

ค่าสัมประสิทธิ์ความร่วมมือ (communalities) ที่สูงจะบ่งชี้ว่าระนาบการปรับให้เหมาะสม (fitting hyperplane) นั้นจำลองเมทริกซ์ความสัมพันธ์ได้อย่างแม่นยำ นอกจากนี้ ค่าเฉลี่ยของปัจจัยต่างๆ จะต้องเป็นศูนย์ ซึ่งหมายความว่าค่าเฉลี่ยของค่าความคลาดเคลื่อนก็จะเป็นศูนย์เช่นกัน

การวิเคราะห์องค์ประกอบหลัก (PCA) เป็นวิธีการที่ใช้กันอย่างแพร่หลายสำหรับการสกัดปัจจัย ซึ่งเป็นขั้นตอนแรกของ EFA ^{[ 4 ]}น้ำหนักปัจจัยจะถูกคำนวณเพื่อสกัดความแปรปรวนสูงสุดที่เป็นไปได้ โดยการแยกปัจจัยจะดำเนินต่อไปจนกว่าจะไม่มีความแปรปรวนที่มีความหมายเหลืออยู่^{[ 4 ]}จากนั้นแบบจำลองปัจจัยจะต้องถูกหมุนเพื่อการวิเคราะห์^{[ 4 ]}

การวิเคราะห์ปัจจัยเชิงแคนอนิก หรือที่เรียกว่าการวิเคราะห์ปัจจัยเชิงแคนอนิกของราโอ เป็นวิธีการคำนวณแบบจำลองที่แตกต่างจาก PCA ซึ่งใช้วิธีแกนหลัก การวิเคราะห์ปัจจัยเชิงแคนอนิกจะค้นหาปัจจัยที่มีความสัมพันธ์เชิงแคนอนิกสูงสุดกับตัวแปรที่สังเกตได้ การวิเคราะห์ปัจจัยเชิงแคนอนิกจะไม่ได้รับผลกระทบจากการปรับขนาดข้อมูลโดยพลการ

การวิเคราะห์ปัจจัยร่วม หรือที่เรียกว่าการวิเคราะห์ปัจจัยหลัก (PFA) หรือการวิเคราะห์ปัจจัยแกนหลัก (PAF) คือการค้นหาปัจจัยน้อยที่สุดที่สามารถอธิบายความแปรปรวนร่วม (ความสัมพันธ์) ของชุดตัวแปรได้

การวิเคราะห์ภาพนั้นอาศัยเมทริกซ์ความสัมพันธ์ของตัวแปรที่คาดการณ์ไว้ แทนที่จะเป็นตัวแปรจริง โดยที่แต่ละตัวแปรจะถูกคาดการณ์จากตัวแปรอื่นๆ โดยใช้การถดถอยพหุตัวแปร

การหาค่าตัวประกอบอัลฟา (Alpha factoring) อาศัยหลักการเพิ่มความน่าเชื่อถือของค่าตัวประกอบให้สูงสุด โดยสมมติว่าตัวแปรต่างๆ ถูกสุ่มเลือกมาจากกลุ่มตัวแปรทั้งหมด วิธีการอื่นๆ ทั้งหมดนั้นสมมติว่ากรณีต่างๆ ถูกสุ่มเลือกมา และตัวแปรต่างๆ คงที่

แบบจำลองการถดถอยปัจจัยเป็นแบบจำลองเชิงผสมของแบบจำลองปัจจัยและแบบจำลองการถดถอย หรืออีกทางหนึ่ง สามารถมองได้ว่าเป็นแบบจำลองปัจจัยแบบผสม^{[ 5 ]}ซึ่งปัจจัยต่างๆ เป็นที่ทราบเพียงบางส่วน

ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัย

ค่า Communality คือค่ากำลังสองของค่าสัมประสิทธิ์การถ่วงน้ำหนักภายนอกที่ได้มาตรฐานของตัวแปรนั้นๆ คล้ายกับ ค่า r -squared ของ Pearson ค่ากำลังสองของค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัยคือเปอร์เซ็นต์ของความแปรปรวนในตัวแปรบ่งชี้ที่อธิบายได้ด้วยปัจจัยนั้น ในการหาเปอร์เซ็นต์ของความแปรปรวนในตัวแปรทั้งหมดที่อธิบายได้ด้วยแต่ละปัจจัย ให้บวกผลรวมของค่ากำลังสองของค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัยสำหรับปัจจัยนั้น (คอลัมน์) แล้วหารด้วยจำนวนตัวแปร (จำนวนตัวแปรเท่ากับผลรวมของความแปรปรวนของตัวแปรเหล่านั้น เนื่องจากความแปรปรวนของตัวแปรที่ได้มาตรฐานคือ 1) ซึ่งก็เหมือนกับการหารค่าeigenvalue ของปัจจัย ด้วยจำนวนตัวแปรนั่นเอง

ในการตีความผลลัพธ์จากการวิเคราะห์ปัจจัยเชิงยืนยัน ตามหลักการคร่าวๆ ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยควรอยู่ที่ 0.7 หรือสูงกว่า เพื่อยืนยันว่าตัวแปรอิสระที่ระบุไว้ล่วงหน้าได้รับการแสดงโดยปัจจัยนั้นๆ โดยมีเหตุผลว่าระดับ 0.7 สอดคล้องกับความแปรปรวนประมาณครึ่งหนึ่งของตัวบ่งชี้ที่ถูกอธิบายโดยปัจจัยนั้น อย่างไรก็ตาม มาตรฐาน 0.7 เป็นมาตรฐานที่สูง และข้อมูลในชีวิตจริงอาจไม่ตรงตามเกณฑ์นี้ ซึ่งเป็นเหตุผลว่าทำไมผู้วิจัยบางคน โดยเฉพาะอย่างยิ่งเพื่อวัตถุประสงค์ในการสำรวจ จะใช้ระดับที่ต่ำกว่า เช่น 0.4 สำหรับปัจจัยหลัก และ 0.25 สำหรับปัจจัยอื่นๆ ไม่ว่าในกรณีใด ค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยจะต้องได้รับการตีความโดยพิจารณาจากทฤษฎี ไม่ใช่จากระดับการตัดที่กำหนดขึ้นเองโดยพลการ

ใน การหมุน แบบเฉียงนักวิจัยสามารถตรวจสอบได้ทั้งเมทริกซ์รูปแบบและเมทริกซ์โครงสร้าง เมทริกซ์โครงสร้างเป็นเพียงเมทริกซ์การโหลดปัจจัยเช่นเดียวกับการหมุนแบบตั้งฉาก ซึ่งแสดงถึงความแปรปรวนในตัวแปรที่วัดได้ซึ่งอธิบายโดยปัจจัยทั้งในส่วนของการมีส่วนร่วมที่ไม่ซ้ำกันและการมีส่วนร่วมร่วมกัน ในทางตรงกันข้าม เมทริกซ์รูปแบบประกอบด้วยสัมประสิทธิ์ซึ่งแสดงถึงการมีส่วนร่วมที่ไม่ซ้ำกันเท่านั้น ยิ่งมีปัจจัยมากเท่าใด สัมประสิทธิ์รูปแบบก็จะยิ่งต่ำลงตามหลักการ เนื่องจากจะมีส่วนร่วมร่วมกันมากขึ้นในการอธิบายความแปรปรวน สำหรับการหมุนแบบเฉียง นักวิจัยจะพิจารณาทั้งสัมประสิทธิ์โครงสร้างและสัมประสิทธิ์รูปแบบเมื่อกำหนดป้ายกำกับให้กับปัจจัย หลักการของการหมุนแบบเฉียงสามารถได้มาจากทั้งเอนโทรปีไขว้และเอนโทรปีคู่^{[ 6 ]}

ความเป็นชุมชน

ผลรวมของกำลังสองของค่าสัมประสิทธิ์การถ่วงน้ำหนักของปัจจัยทั้งหมดสำหรับตัวแปรที่กำหนด (แถว) คือความแปรปรวนของตัวแปรนั้นที่อธิบายได้โดยปัจจัยทั้งหมด ค่าสัมประสิทธิ์ความร่วมมือ (Communality) วัดเปอร์เซ็นต์ของความแปรปรวนในตัวแปรที่กำหนดซึ่งอธิบายได้โดยปัจจัยทั้งหมดร่วมกัน และอาจตีความได้ว่าเป็นความน่าเชื่อถือของตัวบ่งชี้ในบริบทของปัจจัยที่กำลังกล่าวถึง

วิธีแก้ปัญหาที่ไม่ถูกต้อง

หากค่าความสัมพันธ์ร่วม (communality) เกิน 1.0 แสดงว่ามีคำตอบที่ไม่ถูกต้อง ซึ่งอาจเกิดจากขนาดตัวอย่างที่เล็กเกินไป หรือการเลือกสกัดปัจจัยมากเกินไปหรือน้อยเกินไป

ความเป็นเอกลักษณ์ของตัวแปร

ค่าความแปรปรวนของตัวแปร ลบด้วยค่าร่วมของตัวแปรนั้น

ค่าลักษณะเฉพาะ/รากคุณลักษณะ

ค่าไอเกน (Eigenvalues) เป็นตัววัดปริมาณความแปรปรวนในตัวอย่างทั้งหมดที่แต่ละปัจจัยสามารถอธิบายได้ อัตราส่วนของค่าไอเกนคืออัตราส่วนของความสำคัญในการอธิบายของปัจจัยเมื่อเทียบกับตัวแปร หากปัจจัยใดมีค่าไอเกนต่ำ แสดงว่าปัจจัยนั้นมีส่วนช่วยในการอธิบายความแปรปรวนของตัวแปรน้อย และอาจถูกละเลยได้เนื่องจากมีความสำคัญน้อยกว่าปัจจัยที่มีค่าไอเกนสูงกว่า

ผลรวมการสกัดของค่ากำลังสอง

ค่าไอเกนเริ่มต้นและค่าไอเกนหลังการสกัด (แสดงใน SPSS ว่า "ผลรวมกำลังสองของค่าสัมประสิทธิ์การสกัด") จะเหมือนกันสำหรับการสกัดแบบ PCA แต่สำหรับวิธีการสกัดอื่นๆ ค่าไอเกนหลังการสกัดจะต่ำกว่าค่าเริ่มต้น SPSS ยังแสดง "ผลรวมกำลังสองของค่าสัมประสิทธิ์การหมุน" และแม้แต่สำหรับ PCA ค่าไอเกนเหล่านี้ก็จะแตกต่างจากค่าไอเกนเริ่มต้นและค่าไอเกนหลังการสกัด แม้ว่าผลรวมทั้งหมดจะเท่ากันก็ตาม

คะแนนปัจจัย

คะแนนองค์ประกอบ (ใน PCA)

คะแนนของแต่ละกรณี (แถว) ในแต่ละปัจจัย (คอลัมน์) ในการคำนวณคะแนนปัจจัยสำหรับกรณีที่กำหนดสำหรับปัจจัยที่กำหนด จะทำได้โดยการนำคะแนนมาตรฐานของกรณีนั้นในแต่ละตัวแปร มาคูณด้วยค่าสัมประสิทธิ์การถ่วงน้ำหนักที่สอดคล้องกันของตัวแปรสำหรับปัจจัยที่กำหนด แล้วนำผลคูณเหล่านั้นมาบวกกัน การคำนวณคะแนนปัจจัยช่วยให้สามารถค้นหาค่าผิดปกติของปัจจัยได้ นอกจากนี้ คะแนนปัจจัยยังสามารถใช้เป็นตัวแปรในการสร้างแบบจำลองในขั้นตอนต่อไปได้

นักวิจัยต้องการหลีกเลี่ยงเกณฑ์การคงไว้ซึ่งปัจจัยที่เป็นอัตวิสัยหรือตามอำเภอใจ เช่น "มันสมเหตุสมผลสำหรับฉัน" วิธีการที่เป็นกลางหลายวิธีได้รับการพัฒนาขึ้นเพื่อแก้ปัญหานี้ ทำให้ผู้ใช้สามารถกำหนดช่วงของโซลูชันที่เหมาะสมในการตรวจสอบได้^{[ 7 ]}อย่างไรก็ตาม วิธีการที่แตกต่างกันเหล่านี้มักไม่สอดคล้องกันในเรื่องจำนวนปัจจัยที่ควรคงไว้ ตัวอย่างเช่นการวิเคราะห์แบบขนานอาจแนะนำ 5 ปัจจัย ในขณะที่ MAP ของ Velicer แนะนำ 6 ปัจจัย ดังนั้นนักวิจัยอาจขอโซลูชันทั้งแบบ 5 และ 6 ปัจจัย และอภิปรายแต่ละแบบในแง่ของความสัมพันธ์กับข้อมูลภายนอกและทฤษฎี

ผลลัพธ์ของ PCA จะเน้นการอธิบายความแปรปรวนของปัจจัยแรกให้มากที่สุดก่อน จากนั้นจึงเป็นปัจจัยที่สอง และต่อไปเรื่อยๆ ข้อเสียของวิธีการนี้คือ คำถามส่วนใหญ่จะมีค่าการถ่วงน้ำหนัก (loading) สูงในปัจจัยแรกๆ ในขณะที่มีคำถามเพียงไม่กี่ข้อเท่านั้นที่มีค่าการถ่วงน้ำหนักสูงในตัวแปรหลังๆ ทำให้การตีความปัจจัยโดยการอ่านรายการคำถามและค่าการถ่วงน้ำหนักทำได้ยาก เนื่องจากคำถามทุกข้อมีความสัมพันธ์อย่างมากกับองค์ประกอบแรกๆ ในขณะที่มีคำถามเพียงไม่กี่ข้อเท่านั้นที่มีความสัมพันธ์อย่างมากกับองค์ประกอบสุดท้ายๆ

การหมุนช่วยให้ผลลัพธ์ตีความได้ง่ายขึ้น โดยการเลือกฐานที่แตกต่างกันสำหรับส่วนประกอบหลักเดียวกันกล่าวคือ การเลือกปัจจัยที่แตกต่างกันเพื่อแสดงโครงสร้างความสัมพันธ์เดียวกันจะทำให้สามารถสร้างตัวแปรที่ตีความได้ง่ายขึ้น  

การหมุนอาจเป็นแบบตั้งฉากหรือแบบเฉียง การหมุนแบบเฉียงช่วยให้ปัจจัยต่างๆ มีความสัมพันธ์กัน^{[ 24 ]}ความยืดหยุ่นที่เพิ่มขึ้นนี้หมายความว่าสามารถหมุนได้มากขึ้น ซึ่งบางการหมุนอาจทำได้ดีกว่าในการบรรลุเป้าหมายที่กำหนดไว้ อย่างไรก็ตาม สิ่งนี้อาจทำให้การตีความปัจจัยต่างๆ ยากขึ้น เนื่องจากข้อมูลบางส่วนถูก "นับซ้ำ" และรวมอยู่ในส่วนประกอบต่างๆ หลายครั้ง ปัจจัยบางอย่างอาจดูเหมือนเป็นของซ้ำกันด้วยซ้ำ

การวิเคราะห์ปัจจัยลำดับสูงเป็นวิธีการทางสถิติที่ประกอบด้วยขั้นตอนซ้ำๆ ได้แก่ การวิเคราะห์ปัจจัย – การหมุนแบบเฉียง – การวิเคราะห์ปัจจัยของปัจจัยที่หมุนแล้ว ข้อดีของวิธีนี้คือช่วยให้นักวิจัยเห็นโครงสร้างลำดับชั้นของปรากฏการณ์ที่ศึกษา การตีความผลลัพธ์นั้น สามารถทำได้โดยการคูณเมทริกซ์รูปแบบปัจจัยหลักด้วยเมทริกซ์รูปแบบปัจจัยลำดับสูง (Gorsuch, 1983) และอาจใช้การหมุนแบบ Varimaxกับผลลัพธ์ (Thompson, 1990) หรือโดยการใช้โซลูชัน Schmid-Leiman (SLS, Schmid & Leiman, 1957 หรือที่รู้จักกันในชื่อการแปลง Schmid-Leiman) ซึ่งกำหนดความแปรปรวนจากปัจจัยหลักไปยังปัจจัยลำดับที่สอง

Fabrigar et al. (1999) ^{[ 34 ]}กล่าวถึงเหตุผลหลายประการที่ใช้ในการแนะนำว่า PCA ไม่เทียบเท่ากับการวิเคราะห์ปัจจัย:

1. บางครั้งมีการกล่าวอ้างว่า PCA ประมวลผลได้เร็วกว่าและใช้ทรัพยากรน้อยกว่าการวิเคราะห์ปัจจัย อย่างไรก็ตาม Fabrigar และคณะได้เสนอว่าทรัพยากรคอมพิวเตอร์ที่มีอยู่มากมายในปัจจุบันทำให้ข้อกังวลในทางปฏิบัติข้อนี้หมดความสำคัญไปแล้ว
2. PCA และการวิเคราะห์ปัจจัยอาจให้ผลลัพธ์ที่คล้ายคลึงกัน ประเด็นนี้ได้รับการกล่าวถึงโดย Fabrigar et al. ด้วยเช่นกัน ในบางกรณีที่ค่าความร่วมมือต่ำ (เช่น 0.4) เทคนิคทั้งสองจะให้ผลลัพธ์ที่แตกต่างกัน อันที่จริง Fabrigar et al. โต้แย้งว่าในกรณีที่ข้อมูลสอดคล้องกับข้อสมมติของแบบจำลองปัจจัยร่วม ผลลัพธ์ของ PCA จะไม่ถูกต้อง
3. ในบางกรณี การวิเคราะห์ปัจจัยนำไปสู่ ​​"กรณีเฮย์วูด" ซึ่งหมายถึงสถานการณ์ที่ ประมาณ ค่าความแปรปรวนของตัวแปรที่วัดได้มากกว่า 100% ได้จากแบบจำลอง Fabrigar และคณะเสนอว่ากรณีเหล่านี้ให้ข้อมูลที่เป็นประโยชน์แก่ผู้วิจัย โดยบ่งชี้ว่าแบบจำลองนั้นถูกกำหนดไม่ถูกต้อง หรือมีการละเมิดแบบจำลองปัจจัยร่วม การที่ไม่มีกรณีเฮย์วูดในวิธีการวิเคราะห์องค์ประกอบหลัก (PCA) อาจทำให้ปัญหาเหล่านี้ไม่ถูกสังเกตเห็น
4. นักวิจัยได้รับข้อมูลเพิ่มเติมจากวิธีการวิเคราะห์องค์ประกอบหลัก (PCA) เช่น คะแนนของแต่ละบุคคลในองค์ประกอบบางอย่าง ซึ่งข้อมูลดังกล่าวไม่สามารถหาได้จากการวิเคราะห์ปัจจัย อย่างไรก็ตาม ดังที่ Fabrigar และคณะได้กล่าวไว้ เป้าหมายทั่วไปของการวิเคราะห์ปัจจัย นั่นคือ การหาปัจจัยที่อธิบายโครงสร้างของความสัมพันธ์ระหว่างตัวแปรที่วัดได้ ไม่จำเป็นต้องทราบคะแนนปัจจัย ดังนั้นข้อได้เปรียบนี้จึงหมดไป นอกจากนี้ยังสามารถคำนวณคะแนนปัจจัยจากการวิเคราะห์ปัจจัยได้อีกด้วย

การวิเคราะห์ปัจจัยคำนึงถึงข้อผิดพลาดแบบสุ่มที่มีอยู่ในการวัด ในขณะที่ PCA ไม่ได้คำนึงถึงเรื่องนี้ จุดนี้ได้รับการยกตัวอย่างโดย Brown (2009) ^{[ 38 ]}ซึ่งระบุว่า ในส่วนที่เกี่ยวกับเมทริกซ์สหสัมพันธ์ที่เกี่ยวข้องกับการคำนวณ:

"ใน PCA ค่า 1.00 จะถูกใส่ไว้ในแนวทแยง ซึ่งหมายความว่าค่า 1.00 จะครอบคลุมความแปรปรวนทั้งหมดในเมทริกซ์ (รวมถึงความแปรปรวนเฉพาะของแต่ละตัวแปร ความแปรปรวนที่เหมือนกันระหว่างตัวแปร และความแปรปรวนของข้อผิดพลาด) ดังนั้น ตามนิยามแล้ว นั่นจะรวมถึงความแปรปรวนทั้งหมดในตัวแปร ในทางตรงกันข้าม ใน EFA ค่า communalities จะถูกใส่ไว้ในแนวทแยง ซึ่งหมายความว่าค่า 1.00 จะครอบคลุมเฉพาะความแปรปรวนที่ใช้ร่วมกับตัวแปรอื่น ๆ เท่านั้น (ไม่รวมความแปรปรวนเฉพาะของแต่ละตัวแปรและความแปรปรวนของข้อผิดพลาด) ดังนั้น ตามนิยามแล้ว นั่นจะรวมถึงเฉพาะความแปรปรวนที่เหมือนกันระหว่างตัวแปรเท่านั้น"

ด้วยเหตุนี้ บราวน์ (2009) จึงแนะนำให้ใช้การวิเคราะห์ปัจจัยเมื่อมีแนวคิดเชิงทฤษฎีเกี่ยวกับความสัมพันธ์ระหว่างตัวแปร ในขณะที่ควรใช้ PCA หากเป้าหมายของนักวิจัยคือการสำรวจรูปแบบในข้อมูลของตน

ความแตกต่างระหว่าง PCA และการวิเคราะห์ปัจจัย (FA) ได้รับการอธิบายเพิ่มเติมโดย Suhr (2009): ^{[ 35 ]}

• PCA ให้ผลลัพธ์เป็นส่วนประกอบหลักที่สามารถอธิบายความแปรปรวนสูงสุดของตัวแปรที่สังเกตได้ ในขณะที่ FA อธิบายถึง ความแปรปรวน ร่วมกันในข้อมูล
• PCA จะแทรกเลข 1 ลงในแนวทแยงของเมทริกซ์สหสัมพันธ์ ในขณะที่ FA จะปรับแนวทแยงของเมทริกซ์สหสัมพันธ์ด้วยปัจจัยเฉพาะ
• PCA มีเป้าหมายเพื่อลดผลรวมของกำลังสองของระยะทางตั้งฉากกับแกนองค์ประกอบให้เหลือน้อยที่สุด ในขณะที่ FA มีเป้าหมายเพื่อประมาณปัจจัยที่มีอิทธิพลต่อการตอบสนองต่อตัวแปรที่สังเกตได้
• คะแนนองค์ประกอบใน PCA แสดงถึงการรวมกันเชิงเส้นของตัวแปรที่สังเกตได้ โดยถ่วงน้ำหนักด้วยเวกเตอร์ลักษณะเฉพาะในขณะที่ตัวแปรที่สังเกตได้ใน FA เป็นการรวมกันเชิงเส้นของปัจจัยพื้นฐานและปัจจัยเฉพาะ
• ใน PCA ส่วนประกอบที่ได้นั้นไม่สามารถตีความได้ กล่าวคือ ไม่ได้แสดงถึง 'โครงสร้าง' ที่แท้จริง ในขณะที่ใน FA โครงสร้างพื้นฐานสามารถระบุชื่อและตีความได้ง่าย หากมีการกำหนดแบบจำลองที่ถูกต้อง

Charles Spearmanเป็นนักจิตวิทยาคนแรกที่กล่าวถึงการวิเคราะห์ปัจจัยร่วม^{[ 39 ]}และได้ทำเช่นนั้นในบทความปี 1904 ของเขา^{[ 40 ]}ซึ่งให้รายละเอียดเกี่ยวกับวิธีการของเขาน้อยมากและเกี่ยวข้องกับแบบจำลองปัจจัยเดียว^{[ 41 ]}เขาค้นพบว่าคะแนนของเด็กนักเรียนในวิชาต่างๆ ที่ดูเหมือนไม่เกี่ยวข้องกันนั้นมีความสัมพันธ์เชิงบวก ซึ่งทำให้เขาสันนิษฐานว่าความสามารถทางจิตทั่วไปเพียงอย่างเดียว หรือgนั้นเป็นพื้นฐานและกำหนดรูปแบบการทำงานทางปัญญาของมนุษย์

การพัฒนาเบื้องต้นของการวิเคราะห์ปัจจัยร่วมที่มีหลายปัจจัยนั้นได้รับการนำเสนอโดยLouis Thurstoneในเอกสารสองฉบับในช่วงต้นทศวรรษ 1930 ^{[ 42 ] [ 43 ]}ซึ่งสรุปไว้ในหนังสือของเขาในปี 1935 เรื่องThe Vector of Mind [ ^{44 ] Thurstone}ได้แนะนำแนวคิดการวิเคราะห์ปัจจัยที่สำคัญหลายประการ รวมถึงความเป็นอันหนึ่งอันเดียวกัน ความเป็นเอกลักษณ์ และการหมุน^{[ 45 ]}เขาสนับสนุน "โครงสร้างที่เรียบง่าย" และพัฒนาวิธีการหมุนที่สามารถใช้เป็นวิธีในการบรรลุโครงสร้างดังกล่าวได้^{[ 39 ]}

ในระเบียบวิธี Qวิลเลียม สตีเฟนสันนักศึกษาของสเปียร์แมน แยกแยะระหว่าง การวิเคราะห์ปัจจัย Rซึ่งมุ่งเน้นไปที่การศึกษาความแตกต่างระหว่างบุคคล และ การวิเคราะห์ปัจจัย Qซึ่งมุ่งเน้นไปที่ความแตกต่างภายในบุคคลเชิงอัตวิสัย^{[ 46 ] [ 47 ]}

เรย์มอนด์ แคทเทลล์เป็นผู้สนับสนุนอย่างแข็งขันของการวิเคราะห์ปัจจัยและจิตวิทยาการวัดและใช้ทฤษฎีหลายปัจจัยของเธอร์สโตนเพื่ออธิบายสติปัญญา แคทเทลล์ยังได้พัฒนาแบบทดสอบสกรีและสัมประสิทธิ์ความคล้ายคลึงกัน อีกด้วย

การวิเคราะห์ปัจจัยใช้เพื่อระบุ "ปัจจัย" ที่อธิบายผลลัพธ์ที่หลากหลายในแบบทดสอบต่างๆ ตัวอย่างเช่น งานวิจัยด้านสติปัญญาพบว่า คนที่ได้คะแนนสูงในแบบทดสอบความสามารถทางภาษา มักจะทำได้ดีในแบบทดสอบอื่นๆ ที่ต้องใช้ความสามารถทางภาษาเช่นกัน นักวิจัยอธิบายเรื่องนี้โดยใช้การวิเคราะห์ปัจจัยเพื่อแยกปัจจัยหนึ่งออกมา ซึ่งมักเรียกว่า สติปัญญาทางภาษา ซึ่งแสดงถึงระดับที่บุคคลสามารถแก้ปัญหาที่เกี่ยวข้องกับทักษะทางภาษาได้

การวิเคราะห์ปัจจัยในทางจิตวิทยา มักเกี่ยวข้องกับการวิจัยด้านสติปัญญาเป็นส่วนใหญ่ อย่างไรก็ตาม ยังมีการนำไปใช้ค้นหาปัจจัยในหลากหลายสาขา เช่น บุคลิกภาพ ทัศนคติ ความเชื่อ เป็นต้น การวิเคราะห์ปัจจัยมีความเชื่อมโยงกับจิตวิทยาการวัด (psychometrics ) เนื่องจากสามารถประเมินความถูกต้องของเครื่องมือวัดได้ โดยตรวจสอบว่าเครื่องมือวัดนั้นวัดปัจจัยที่ตั้งสมมติฐานไว้จริงหรือไม่

• การลดจำนวนตัวแปร โดยการรวมตัวแปรสองตัวขึ้นไปเข้าเป็นปัจจัยเดียว ตัวอย่างเช่น ความสามารถในการวิ่ง การขว้างลูกบอล การตีลูก การกระโดด และการยกน้ำหนัก สามารถรวมเข้าเป็นปัจจัยเดียว เช่น ความสามารถทางกีฬาโดยทั่วไป โดยปกติแล้ว ในเมทริกซ์แบบรายการต่อบุคคล ปัจจัยจะถูกเลือกโดยการจัดกลุ่มรายการที่เกี่ยวข้อง ในเทคนิคการวิเคราะห์ปัจจัย Q เมทริกซ์จะถูกสลับตำแหน่ง และสร้างปัจจัยโดยการจัดกลุ่มบุคคลที่เกี่ยวข้อง ตัวอย่างเช่น กลุ่มเสรีนิยม กลุ่มเสรีนิยมสุดโต่ง กลุ่มอนุรักษ์นิยม และกลุ่มสังคมนิยม อาจรวมกันเป็นกลุ่มแยกต่างหาก
• การระบุกลุ่มของตัวแปรที่เกี่ยวข้องกัน เพื่อดูว่าตัวแปรเหล่านั้นมีความสัมพันธ์กันอย่างไร ตัวอย่างเช่น แครอลใช้การวิเคราะห์ปัจจัยเพื่อสร้างทฤษฎีสามระดับ ของเขา เขาพบว่าปัจจัยที่เรียกว่า "การรับรู้ทางสายตาในวงกว้าง" เกี่ยวข้องกับความสามารถของแต่ละบุคคลในการทำงานด้านการมองเห็น เขายังพบปัจจัย "การรับรู้ทางการได้ยินในวงกว้าง" ซึ่งเกี่ยวข้องกับความสามารถในการทำงานด้านการได้ยิน นอกจากนี้ เขายังพบปัจจัยโดยรวมที่เรียกว่า "g" หรือสติปัญญาทั่วไป ซึ่งเกี่ยวข้องกับทั้ง "การรับรู้ทางสายตาในวงกว้าง" และ "การรับรู้ทางการได้ยินในวงกว้าง" นั่นหมายความว่าบุคคลที่มีค่า "g" สูง มีแนวโน้มที่จะมีความสามารถทั้งด้าน "การรับรู้ทางสายตา" และ "การรับรู้ทางการได้ยิน" สูง และ "g" จึงอธิบายได้ดีว่าทำไมบุคคลนั้นจึงเก่งหรือไม่เก่งในทั้งสองด้านนี้

• "...การวางแนวแต่ละแบบนั้นยอมรับได้ทางคณิตศาสตร์เท่าเทียมกัน แต่ทฤษฎีแฟกทอเรียลที่แตกต่างกันนั้นพิสูจน์แล้วว่าแตกต่างกันมากในแง่ของการวางแนวของแกนแฟกทอเรียลสำหรับโซลูชันที่กำหนด เช่นเดียวกับในแง่ของสิ่งอื่นใด ดังนั้นการปรับแบบจำลองจึงไม่เป็นประโยชน์ในการแยกแยะระหว่างทฤษฎีต่างๆ" (Sternberg, 1977 ^{[ 48 ]} ) ซึ่งหมายความว่าการหมุนทั้งหมดแสดงถึงกระบวนการพื้นฐานที่แตกต่างกัน แต่การหมุนทั้งหมดเป็นผลลัพธ์ที่ถูกต้องเท่าเทียมกันของการเพิ่มประสิทธิภาพการวิเคราะห์ปัจจัยมาตรฐาน ดังนั้นจึงเป็นไปไม่ได้ที่จะเลือกการหมุนที่เหมาะสมโดยใช้การวิเคราะห์ปัจจัยเพียงอย่างเดียว
• การวิเคราะห์ปัจจัยจะดีได้ก็ต่อเมื่อข้อมูลเอื้ออำนวยเท่านั้น ในสาขาจิตวิทยา ซึ่งนักวิจัยมักต้องพึ่งพามาตรวัดที่มีความถูกต้องและน่าเชื่อถือน้อยกว่า เช่น การรายงานตนเอง นี่อาจเป็นปัญหาได้
• การตีความการวิเคราะห์ปัจจัยขึ้นอยู่กับการใช้ "ฮิวริสติก" ซึ่งเป็นวิธีแก้ปัญหาที่ "สะดวกแม้ว่าจะไม่ถูกต้องอย่างแน่นอน" ^{[ 49 ]}อาจมีการตีความมากกว่าหนึ่งแบบสำหรับข้อมูลเดียวกันที่วิเคราะห์ปัจจัยในลักษณะเดียวกัน และการวิเคราะห์ปัจจัยไม่สามารถระบุสาเหตุได้

ขั้นตอนการเก็บรวบรวมข้อมูลมักดำเนินการโดยผู้เชี่ยวชาญด้านการวิจัยการตลาด แบบสอบถามจะขอให้ผู้ตอบให้คะแนนตัวอย่างผลิตภัณฑ์หรือคำอธิบายแนวคิดของผลิตภัณฑ์ในด้านคุณลักษณะต่างๆ โดยอาจเลือกคุณลักษณะตั้งแต่ห้าถึงยี่สิบข้อ ซึ่งอาจรวมถึงสิ่งต่างๆ เช่น ความง่ายในการใช้งาน น้ำหนัก ความแม่นยำ ความทนทาน สีสัน ราคา หรือขนาด คุณลักษณะที่เลือกจะแตกต่างกันไปขึ้นอยู่กับผลิตภัณฑ์ที่ศึกษา คำถามเดียวกันนี้จะถูกถามกับผลิตภัณฑ์ทั้งหมดในการศึกษา ข้อมูลสำหรับผลิตภัณฑ์หลายรายการจะถูกเข้ารหัสและป้อนเข้าสู่โปรแกรมทางสถิติ เช่นR , SPSS , SAS , Stata , STATISTICA , JMP และ SYSTAT

การวิเคราะห์จะแยกปัจจัยพื้นฐานที่อธิบายข้อมูลโดยใช้เมทริกซ์ของความสัมพันธ์^{[ 52 ]}การวิเคราะห์ปัจจัยเป็นเทคนิคการพึ่งพาซึ่งกันและกัน ชุดความสัมพันธ์ที่พึ่งพาซึ่งกันและกันทั้งหมดจะถูกตรวจสอบ ไม่มีการระบุตัวแปรตาม ตัวแปรอิสระ หรือความเป็นเหตุเป็นผล การวิเคราะห์ปัจจัยสมมติว่าข้อมูลการให้คะแนนทั้งหมดเกี่ยวกับคุณลักษณะต่างๆ สามารถลดลงเหลือเพียงมิติสำคัญไม่กี่มิติ การลดลงนี้เป็นไปได้เพราะคุณลักษณะบางอย่างอาจมีความสัมพันธ์กัน การให้คะแนนที่ให้กับคุณลักษณะใดคุณลักษณะหนึ่งเป็นผลมาจากอิทธิพลของคุณลักษณะอื่นๆ บางส่วน อัลกอริทึมทางสถิติจะแยกการให้คะแนน (เรียกว่าคะแนนดิบ) ออกเป็นส่วนประกอบต่างๆ และสร้างคะแนนบางส่วนขึ้นใหม่เป็นคะแนนปัจจัยพื้นฐาน ระดับความสัมพันธ์ระหว่างคะแนนดิบเริ่มต้นและคะแนนปัจจัยสุดท้ายเรียกว่าค่าสัมประสิทธิ์การถ่วงน้ำหนักปัจจัย

• สามารถใช้ได้ทั้งคุณลักษณะเชิงวัตถุวิสัยและเชิงอัตวิสัย โดยมีเงื่อนไขว่าคุณลักษณะเชิงอัตวิสัยนั้นสามารถแปลงเป็นคะแนนได้
• การวิเคราะห์ปัจจัยสามารถระบุถึงมิติหรือโครงสร้างแฝงที่การวิเคราะห์โดยตรงอาจไม่สามารถระบุได้
• มันง่ายและไม่แพง

• ประโยชน์ของงานวิจัยขึ้นอยู่กับความสามารถของนักวิจัยในการรวบรวมคุณลักษณะของผลิตภัณฑ์ให้เพียงพอ หากคุณลักษณะที่สำคัญถูกละเลยหรือมองข้ามไป คุณค่าของกระบวนการก็จะลดลง
• หากชุดของตัวแปรที่สังเกตได้มีความคล้ายคลึงกันมากและแตกต่างจากรายการอื่นๆ การวิเคราะห์ปัจจัยจะกำหนดปัจจัยเดียวให้กับชุดเหล่านั้น ซึ่งอาจบดบังปัจจัยที่แสดงถึงความสัมพันธ์ที่น่าสนใจกว่าได้
• การตั้งชื่อปัจจัยอาจต้องอาศัยความรู้ทางทฤษฎี เนื่องจากคุณลักษณะที่ดูเหมือนแตกต่างกันอาจมีความสัมพันธ์กันอย่างมากด้วยเหตุผลที่ไม่ทราบแน่ชัด

• ปัจจัย- ซอฟต์แวร์วิเคราะห์ปัจจัยฟรีที่พัฒนาโดยมหาวิทยาลัย Rovira i Virgili