ความไม่เท่าเทียมกันในการประมวลผลข้อมูล
ความไม่เท่าเทียมกัน ของการประมวลผลข้อมูลเป็น แนวคิด ทางทฤษฎีสารสนเทศที่ระบุว่าเนื้อหาสารสนเทศของสัญญาณไม่สามารถเพิ่มขึ้นได้ผ่านการดำเนินการทางกายภาพเฉพาะที่ ซึ่งสามารถแสดงได้อย่างกระชับว่า 'การประมวลผลภายหลังไม่สามารถเพิ่มสารสนเทศได้' [ 1 ]
คำแถลง
ให้ตัวแปรสุ่มสามตัวสร้างเป็นห่วงโซ่มาร์คอฟซึ่งหมายความว่าการแจกแจงแบบมีเงื่อนไขของขึ้นอยู่กับเท่านั้นและเป็นอิสระแบบมีเงื่อนไขจากโดยเฉพาะอย่างยิ่ง เราจะมีห่วงโซ่มาร์คอฟดังกล่าว หากฟังก์ชันความน่าจะเป็นร่วมสามารถเขียนได้ดังนี้
ในการตั้งค่านี้ จะไม่มีการประมวลผลใดๆไม่ว่าจะเป็นแบบกำหนดได้หรือแบบสุ่ม ก็สามารถเพิ่มข้อมูลที่ประกอบด้วยประมาณโดยใช้ข้อมูลร่วมกันสามารถเขียนได้ดังนี้ :
ด้วยความเท่าเทียมกันก็ต่อเมื่อนั่นคือและมีข้อมูลเดียวกันเกี่ยวกับ, และยังก่อให้เกิดห่วงโซ่มาร์คอฟอีกด้วย[ 2 ]
การพิสูจน์
เราสามารถใช้กฎลูกโซ่สำหรับข้อมูลร่วมกันเพื่อหาการแยกส่วนที่แตกต่างกันสองแบบของ:
โดยความสัมพันธ์เราทราบว่าและมีความเป็นอิสระต่อกันแบบมีเงื่อนไข เมื่อกำหนดซึ่งหมายถึงข้อมูลร่วมกันแบบมีเงื่อนไขอสมการการประมวลผลข้อมูลจึงเป็นผลมาจากการที่ค่าไม่เป็นลบของ.
ดูเพิ่มเติม
ลิงก์ภายนอก
- http://www.scholarpedia.org/article/Mutual_information