พายของสกอตต์
ค่าพายของสก็อต (ตั้งชื่อตามวิลเลียม เอ. สก็อต ) เป็นสถิติที่ใช้วัดความน่าเชื่อถือระหว่างผู้ประเมินสำหรับข้อมูลเชิงนามในงานวิจัยด้านการสื่อสารข้อความจะถูกกำหนดหมวดหมู่โดยผู้ประเมินที่แตกต่างกัน และมีการใช้มาตรวัดต่างๆ เพื่อประเมินระดับความเห็นพ้องระหว่างผู้ประเมิน ซึ่งหนึ่งในนั้นคือค่าพายของสก็อต เนื่องจากการกำหนดหมวดหมู่ข้อความโดยอัตโนมัติเป็นปัญหาที่ได้รับความนิยมในด้านการประมวลผลภาษาธรรมชาติและเป้าหมายคือการทำให้โปรแกรมคอมพิวเตอร์ที่กำลังพัฒนาอยู่นั้นเห็นพ้องกับมนุษย์ในการกำหนดหมวดหมู่ที่สร้างขึ้น การประเมินระดับความเห็นพ้องระหว่างมนุษย์จึงมีความสำคัญต่อการกำหนดขีดจำกัดสูงสุดที่เหมาะสมสำหรับประสิทธิภาพ ของ คอมพิวเตอร์
การแนะนำ
ค่า pi ของ Scott คล้ายกับค่า kappa ของ Cohenตรงที่ทั้งสองค่านี้ปรับปรุงความแม่นยำของการวัดความสอดคล้องที่สังเกตได้ง่ายๆ โดยคำนึงถึงระดับความสอดคล้องที่อาจเกิดขึ้นได้โดยบังเอิญ อย่างไรก็ตาม ในแต่ละสถิติ การคำนวณความสอดคล้องที่คาดหวังจะแตกต่างกันเล็กน้อย ค่า pi ของ Scott เปรียบเทียบกับค่าพื้นฐานที่ผู้ประเมินไม่เพียงแต่เป็นอิสระต่อกันเท่านั้น แต่ยังมีการกระจายของคำตอบที่เหมือนกันด้วย ในขณะที่ค่า kappa ของ Cohenเปรียบเทียบกับค่าพื้นฐานที่ผู้ประเมินเป็นอิสระต่อกัน แต่มีการกระจายของคำตอบที่แตกต่างกัน ดังนั้น ค่า pi ของ Scott วัดความไม่ลงรอยกันระหว่างผู้ประเมินเมื่อเทียบกับระดับความสอดคล้องที่คาดหวังเนื่องจากโอกาสแบบสุ่มอย่างแท้จริง หากผู้ประเมินเป็นอิสระต่อกันและมีการกระจายเหมือนกัน ในขณะที่ค่า kappa ของ Cohen วัดความไม่ลงรอยกันระหว่างผู้ประเมินที่สูงกว่าความไม่ลงรอยกันโดยเฉลี่ยที่เป็นระบบที่ผู้ประเมินอาจมี ที่จริงแล้ว ค่า kappa ของ Cohen ละเลยความไม่ลงรอยกันโดยเฉลี่ยที่เป็นระบบทั้งหมดระหว่างผู้ประเมินก่อนที่จะเปรียบเทียบผู้ประเมินอย่างชัดเจน ดังนั้น ค่าแคปปาของโคเฮนจึงประเมินเฉพาะระดับความไม่เห็นด้วยที่เปลี่ยนแปลงไปแบบสุ่มระหว่างผู้ให้ข้อมูลเท่านั้น ไม่ใช่ความไม่เห็นด้วยที่เป็นระบบและโดยเฉลี่ย ส่วนค่าพายของสก็อตต์นั้นได้รับการขยายให้ครอบคลุมผู้ให้ข้อมูลมากกว่าสองคนโดยใช้ ค่าแคป ปาของเฟลส
สูตรสำหรับค่าพายของสก็อตต์ เช่นเดียวกับค่าแคปปาของโคเฮนคือ:
อย่างไรก็ตาม Pr(e) คำนวณโดยใช้ "สัดส่วนร่วม" ยกกำลังสอง ซึ่งเป็นค่าเฉลี่ยเลขคณิตยกกำลังสองของสัดส่วนส่วนขอบ (ในขณะที่วิธีของโคเฮนใช้ค่าเฉลี่ยเรขาคณิตยกกำลังสอง) ดังนั้นสำหรับหมวดหมู่การสังเกตเพื่อจัดหมวดหมู่และจำนวนครั้งที่ผู้ประเมินหมวดหมู่ที่คาดการณ์:
ตัวอย่างการใช้งาน
เมทริกซ์ความสับสนสำหรับผู้ประเมินสองคน สามหมวดหมู่ {ใช่ ไม่ใช่ อาจจะ} และรายการที่ได้รับการประเมิน 45 รายการ (90 การให้คะแนนสำหรับผู้ประเมินสองคน):
| ใช่ | เลขที่ | อาจจะ | ผลรวมส่วนเพิ่ม | |
| ใช่ | 1 | 2 | 3 | 6 |
| เลขที่ | 4 | 5 | 6 | 15 |
| อาจจะ | 7 | 8 | 9 | 24 |
| ผลรวมส่วนเพิ่ม | 12 | 15 | 18 | 45 |
ในการคำนวณความสอดคล้องที่คาดหวัง ให้รวมค่าส่วนต่างระหว่างผู้ประเมินแต่ละคน แล้วหารด้วยจำนวนการประเมินทั้งหมด เพื่อให้ได้สัดส่วนร่วม จากนั้นยกกำลังสองและรวมค่าเหล่านี้เข้าด้วยกัน:
| แอนน์1 | อัน2 | สัดส่วนร่วม | เจพี สแควร์ด | |
| ใช่ | 12 | 6 | (12 + 6)/90 = 0.2 | 0.04 |
| เลขที่ | 15 | 15 | (15 + 15)/90 = 0.333 | 0.111 |
| อาจจะ | 18 | 24 | (18 + 24)/90 = 0.467 | 0.218 |
| ทั้งหมด | 0.369 |
ในการคำนวณระดับความเห็นพ้องที่สังเกตได้ ให้หารจำนวนรายการที่ผู้ประเมินเห็นพ้องกันด้วยจำนวนรายการทั้งหมด ในกรณีนี้
เนื่องจาก Pr(e) = 0.369 ดังนั้นค่าพายของ Scott คือ