หลักการพลังงานอิสระเป็นหลักการทางคณิตศาสตร์ของฟิสิกส์สารสนเทศ การประยุกต์ใช้กับข้อมูลภาพสมองfMRI ในฐานะกรอบทฤษฎีชี้ให้เห็นว่าสมองลด ความประหลาดใจหรือความไม่แน่นอนโดยการคาดการณ์ตามแบบจำลองภายในและใช้ข้อมูลป้อนเข้าทางประสาทสัมผัสเพื่ออัปเดตแบบจำลองเพื่อปรับปรุงความแม่นยำของการคาดการณ์หลักการนี้เป็นการประมาณการบูรณาการของการอนุมานแบบเบย์เซียนกับการอนุมานเชิงรุก โดยที่ข้อมูลป้อนกลับทางประสาทสัมผัสช่วยปรับปรุงการกระทำที่นำทางโดยการคาดการณ์ จากหลักการนี้ ได้มีการอนุมานในวงกว้างเกี่ยวกับการทำงานของสมองการรับรู้และการกระทำ [ ^{1 ] ความ}สามารถในการประยุกต์ใช้กับระบบสิ่งมีชีวิตได้รับการตั้งคำถาม^{[ 2 ] [ 3 ] [ 4 ]}

ในสาขาชีวฟิสิกส์และวิทยาศาสตร์การรู้คิดหลักการพลังงานอิสระนำเสนอ คำอธิบาย อย่างเป็นทางการเกี่ยวกับความสามารถในการเป็นตัวแทนของระบบทางกายภาพ กล่าวคือ เหตุใดสิ่งต่างๆ ที่มีอยู่จึงดูเหมือนว่ามันติดตามคุณสมบัติของระบบที่มันเชื่อมโยงอยู่^{[ 5 ]}หลักการนี้กำหนดว่าพลวัตของระบบทางกายภาพจะลดความประหลาดใจ (ลอการิทึมเชิงลบของความน่าจะเป็นของผลลัพธ์บางอย่าง) หรือเทียบเท่ากับพลังงานอิสระ (ขอบเขตบนแบบแปรผัน) หลักการนี้ใช้ในแนวทางแบบเบย์เซียนเกี่ยวกับการทำงานของสมองและแนวทางบางอย่างเกี่ยวกับปัญญาประดิษฐ์ โดยมีความสัมพันธ์ อย่างเป็นทางการกับวิธีการแบบเบย์เซียนแปรผันคาร์ล ฟริสตันได้นำเสนอหลักการนี้เพื่ออธิบายวงจรการรับรู้-การกระทำที่ฝังอยู่ในร่างกายในประสาทวิทยาศาสตร์^{[ 6 ]}

หลักการพลังงานอิสระจำลองพฤติกรรมของระบบหนึ่งที่แตกต่างจากอีกระบบหนึ่ง แต่เชื่อมโยงกัน (เช่น สภาพแวดล้อมการฝังตัว) โดยที่ระดับความเป็นอิสระที่ใช้ในการสร้างส่วนต่อประสานระหว่างสองระบบนั้นเรียกว่าผ้าห่มมาร์คอฟ (Markov blanket ) ในทางทฤษฎี หลักการพลังงานอิสระกล่าวว่า หากระบบมี "การแบ่งส่วนเฉพาะ" (เช่น แบ่งเป็นอนุภาค) แล้ว กลุ่มย่อยของระบบนั้นจะติดตามโครงสร้างทางสถิติของกลุ่มย่อยอื่น ๆ (สถานะหรือเส้นทางภายในและภายนอก)

หลักการพลังงานอิสระนั้นอิงตามแนวคิดแบบเบย์เซียนของสมองในฐานะ " เครื่องมืออนุมาน " ภายใต้หลักการพลังงานอิสระ ระบบจะดำเนินตามเส้นทางที่มีความประหลาดใจน้อยที่สุด หรือเทียบเท่ากับการลดความแตกต่างระหว่างการคาดการณ์ของแบบจำลองกับความรู้สึกและการรับรู้ ที่เกี่ยวข้อง ความแตกต่างนี้ถูกวัดปริมาณด้วยพลังงานอิสระแบบแปรผัน และจะลดลงโดยการแก้ไขระบบอย่างต่อเนื่อง หรือโดยการเปลี่ยนแปลงโลกให้คล้ายกับการคาดการณ์มากขึ้น โดยการเปลี่ยนแปลงโลกอย่างแข็งขันเพื่อให้เข้าใกล้สถานะที่คาดหวัง ระบบจะลดพลังงานอิสระของระบบให้เหลือน้อยที่สุด Friston อ้างว่านี่เป็นหลักการของปฏิกิริยาทางชีววิทยาทั้งหมด^{[ 7 ]}และใช้ได้กับความผิดปกติทางจิตเช่นเดียวกับปัญญาประดิษฐ์การใช้งาน AI ที่อิงตามหลักการอนุมานเชิงรุกได้แสดงให้เห็นถึงข้อได้เปรียบเหนือวิธีการอื่นๆ^{[ 7 ]}

หลักการพลังงานอิสระใช้ได้กับฟิสิกส์ข้อมูล และเป็นจริงบนพื้นฐานทางคณิตศาสตร์ การพยายามพิสูจน์ว่าหลักการพลังงานอิสระเป็นเท็จถือเป็นความผิดพลาดในหมวดหมู่คล้ายกับการพยายามพิสูจน์ว่าแคลคูลัส เป็นเท็จ โดยการสังเกตเชิงประจักษ์ (การสังเกตไม่สามารถทำให้ทฤษฎีทางคณิตศาสตร์เป็นโมฆะได้ด้วยวิธีนี้ จำเป็นต้องมีข้อขัดแย้งอย่างเป็นทางการ) ในการสัมภาษณ์เมื่อปี 2561 Friston ได้อธิบายถึงนัยสำคัญไว้ดังนี้: ^{[ 8 ]}

ผมคิดว่าการแยกแยะความแตกต่างพื้นฐาน ณ จุดนี้เป็นสิ่งที่มีประโยชน์ ซึ่งเราสามารถนำไปอ้างอิงได้ในภายหลัง

ความแตกต่างอยู่ที่ระหว่างทฤษฎีสถานะและทฤษฎีกระบวนการ กล่าวคือ ความแตกต่างระหว่างหลักการเชิงบรรทัดฐานที่สิ่งต่างๆ อาจสอดคล้องหรือไม่สอดคล้องกับหลักการนั้น กับทฤษฎีกระบวนการหรือสมมติฐานเกี่ยวกับวิธีการที่หลักการนั้นเกิดขึ้นจริง ภายใต้ความแตกต่างนี้ หลักการพลังงานอิสระจึงแตกต่างอย่างสิ้นเชิงจากสิ่งต่างๆ เช่นการเข้ารหัสเชิงทำนายและสมมติฐานสมองแบบเบย์เซียน นี่เป็นเพราะหลักการพลังงานอิสระก็คือหลักการเช่นเดียวกับหลักการของแฮมิลตันเรื่องการกระทำที่คงที่มันไม่สามารถพิสูจน์ได้ว่าผิด ไม่สามารถหักล้างได้ ในความเป็นจริง คุณแทบจะทำอะไรกับมันไม่ได้เลย เว้นแต่คุณจะถามว่าระบบที่วัดได้นั้นสอดคล้องกับหลักการหรือไม่ ในทางกลับกัน สมมติฐานที่ว่าสมองทำการอนุมานแบบเบย์เซียนหรือการเข้ารหัสเชิงทำนายในรูปแบบใดรูปแบบหนึ่งนั้นก็คือสมมติฐาน สมมติฐานเหล่านี้อาจได้รับการสนับสนุนจากหลักฐานเชิงประจักษ์หรือไม่ก็ได้

Friston รายงานตัวอย่างมากมายของหลักฐานเชิงประจักษ์สำหรับสมมติฐานเหล่านี้^{[ 9 ]}

แนวคิดที่ว่า ระบบชีวภาพ ที่จัดระเบียบตัวเองได้เช่น เซลล์หรือสมอง สามารถเข้าใจได้ว่าเป็นการลดพลังงานอิสระแปรผันให้เหลือน้อยที่สุดนั้น มาจากงานของHelmholtz เกี่ยวกับ การอนุมานโดยไม่รู้ตัว^{[ 10 ]} และการรักษาที่ตามมาในด้านจิตวิทยา^{[ 11 ]}และการเรียนรู้ของเครื่องจักร^{[ 12 ]}พลังงานอิสระแปรผันเป็นฟังก์ชันของการสังเกตและความหนาแน่นของความน่าจะเป็นเหนือสาเหตุที่ซ่อนอยู่ ความหนาแน่น แปรผัน นี้ ถูกกำหนดขึ้นโดยสัมพันธ์กับแบบจำลองความน่าจะเป็นที่สร้างการสังเกตที่คาดการณ์จากสาเหตุที่ตั้งสมมติฐานไว้ ในบริบทนี้ พลังงานอิสระให้การประมาณ ค่า หลักฐานแบบจำลอง Bayesian ^{[ 13 ]}ดังนั้น การลดพลังงานอิสระให้เหลือน้อยที่สุดจึงสามารถมองได้ว่าเป็นกระบวนการอนุมานแบบ Bayesian เมื่อระบบทำการสังเกตอย่างแข็งขันเพื่อลดพลังงานอิสระให้เหลือน้อยที่สุด ระบบจะทำการอนุมานอย่างแข็งขันโดยปริยายและเพิ่มหลักฐานสำหรับแบบจำลองของโลกให้สูงสุด

อย่างไรก็ตาม พลังงานอิสระยังเป็นขีดจำกัดสูงสุดของข้อมูลตนเองของผลลัพธ์ โดยที่ค่าเฉลี่ยระยะยาวของความประหลาดใจคือเอนโทรปี ซึ่งหมายความว่าหากระบบดำเนินการเพื่อลดพลังงานอิสระ ระบบจะกำหนดขีดจำกัดสูงสุดของเอนโทรปีของผลลัพธ์ หรือสถานะทางประสาทสัมผัสที่ระบบสุ่มตัวอย่างโดยปริยาย^{[ 14 ] [ 15 ]}

การอนุมานเชิงรุกมีความเกี่ยวข้องอย่างใกล้ชิดกับทฤษฎีตัวควบคุมที่ดี^{[ 16 ]}และบัญชีที่เกี่ยวข้องกับการจัดระเบียบตนเอง^{[ 17 ] [ 18 ]}เช่นการประกอบตนเองการสร้างรูปแบบออโตโพเอซิส [ ^{19 ] และ}แพรคโทโพเอซิส [ ^{20 ] โดย}กล่าวถึงหัวข้อที่พิจารณาในไซเบอร์ เนติกส์ ซิ นเนอร์เจติกส์^{[ 21 ]}และการรับรู้แบบฝังตัวเนื่องจากพลังงานอิสระสามารถแสดงได้เป็นพลังงานที่คาดหวังของการสังเกตภายใต้ความหนาแน่นแปรผันลบด้วยเอนโทรปี จึงมีความเกี่ยวข้องกับหลักการเอนโทรปีสูงสุดด้วย[ 22 ^{]สุดท้ายเนื่องจาก}ค่าเฉลี่ยของพลังงานตามเวลาคือการกระทำ หลักการของพลังงานอิสระแปรผันขั้นต่ำจึงเป็นหลักการของการกระทำน้อยที่สุดการอนุมานเชิงรุกที่อนุญาตให้มีการไม่แปรผันตามขนาดได้ถูกนำไปใช้กับทฤษฎีและโดเมนอื่นๆ ด้วย ตัวอย่างเช่น ได้มีการนำไปประยุกต์ใช้ในสังคมวิทยา^{[ 23 ] [ 24 ] [ 25 ] [ 26 ]}ภาษาศาสตร์และการสื่อสาร^{[ 27 ] [ 28 ] [ 29 ]}สัญศาสตร์^{[ 30 ] [ 31 ]}และระบาดวิทยา^{[ 32 ]}เป็นต้น

พลังงานอิสระเชิงลบนั้นเทียบเท่ากับขอบเขตล่างของหลักฐาน (evidence lower bound ) อย่างเป็นทางการ ซึ่งมักใช้ในแมชชีนเลิร์นนิงเพื่อฝึกโมเดลแบบสร้าง (generative models ) เช่นvariational autoencoders

การอนุมานเชิงรุก (Active inference) ประยุกต์ใช้เทคนิคการอนุมานแบบเบย์เซียนโดยประมาณเพื่ออนุมานสาเหตุของข้อมูลทางประสาทสัมผัสจากแบบจำลอง "สร้าง" (generative model)ของวิธีการที่ข้อมูลนั้นเกิดขึ้น จากนั้นใช้การอนุมานเหล่านี้เพื่อชี้นำการกระทำ กฎของเบย์เซียนอธิบายการผกผันที่เหมาะสมที่สุดในเชิงความน่าจะเป็นของแบบจำลองเชิงสาเหตุดังกล่าว แต่การนำไปใช้มักทำได้ยากในเชิงการคำนวณ จึงนำไปสู่การใช้วิธีการโดยประมาณ ในการอนุมานเชิงรุก วิธีการโดยประมาณชั้นนำคือวิธีการแปรผัน (variational methods ) ด้วยเหตุผลทั้งในทางปฏิบัติและเชิงทฤษฎี: ในทางปฏิบัติ เนื่องจากมักนำไปสู่ขั้นตอนการอนุมานที่ง่าย และในเชิงทฤษฎี เนื่องจากเกี่ยวข้องกับหลักการทางฟิสิกส์พื้นฐาน ดังที่ได้กล่าวไว้ข้างต้น

วิธีการแปรผันเหล่านี้ดำเนินการโดยการลดขอบเขตบนของการเบี่ยงเบนระหว่างการอนุมานที่เหมาะสมที่สุดของเบย์ส (หรือ ' ภายหลัง ') และการประมาณค่าตามวิธีการ ขอบเขตบนนี้เรียกว่าพลังงานอิสระและเราสามารถอธิบายการรับรู้ได้ว่าเป็นการลดพลังงานอิสระให้เหลือน้อยที่สุดเมื่อเทียบกับข้อมูลทางประสาทสัมผัสขาเข้า และการกระทำเป็นการลดพลังงานอิสระเดียวกันให้เหลือน้อยที่สุดเมื่อเทียบกับข้อมูลการกระทำขาออก การเพิ่มประสิทธิภาพแบบคู่แบบองค์รวมนี้เป็นลักษณะเฉพาะของการอนุมานเชิงรุก และหลักการพลังงานอิสระเป็นพื้นฐานของสมมติฐานที่ว่าระบบทั้งหมดที่รับรู้และกระทำสามารถอธิบายได้ด้วยวิธีนี้

เพื่อยกตัวอย่างกลไกของการอนุมานเชิงรุกผ่านหลักการพลังงานอิสระ จำเป็นต้องระบุแบบจำลองเชิงกำเนิด ซึ่งโดยทั่วไปแล้วจะเกี่ยวข้องกับชุดของฟังก์ชันความหนาแน่นของความน่าจะเป็นที่รวมกันเพื่อกำหนดลักษณะของแบบจำลองเชิงสาเหตุ การระบุแบบจำลองหนึ่งมีดังนี้ ระบบถูกจำลองว่าอยู่ในปริภูมิสถานะในแง่ที่ว่าสถานะของระบบก่อให้เกิดจุดต่างๆ ในปริภูมินี้ จากนั้นปริภูมิสถานะจะถูกแยกส่วนตาม โดยที่คือปริภูมิของสถานะ 'ภายนอก' ที่ 'ซ่อนอยู่' จากตัวแทน (ในแง่ที่ไม่สามารถรับรู้หรือเข้าถึงได้โดยตรง) คือปริภูมิของสถานะทางประสาทสัมผัสที่ตัวแทนรับรู้โดยตรงคือปริภูมิของการกระทำที่เป็นไปได้ของตัวแทน และคือปริภูมิของสถานะ 'ภายใน' ที่เป็นส่วนตัวของตัวแทน ${\displaystyle X}$${\displaystyle X=\Psi \times S\times A\times R}$${\displaystyle \Psi }$${\displaystyle S}$${\displaystyle A}$${\displaystyle R}$

จากรูปที่ 1 โปรดสังเกตว่าต่อไปนี้และเป็นฟังก์ชันของเวลา (ต่อเนื่อง) แบบจำลองการสร้างคือข้อกำหนดของฟังก์ชันความหนาแน่นต่อไปนี้: ${\displaystyle {\dot {\psi }},\psi ,s,a}$${\displaystyle \mu }$${\displaystyle t}$

• แบบจำลองทางประสาทสัมผัสซึ่งมักเขียนว่าแสดงถึงความน่าจะเป็นของข้อมูลทางประสาทสัมผัสเมื่อพิจารณาจากสถานะและการกระทำภายนอก${\displaystyle p_{S}:S\times \Psi \times A\to \mathbb {R} }$${\displaystyle p_{S}(s\mid \psi ,a)}$
• แบบจำลองเชิงสุ่มของพลวัตสิ่งแวดล้อมซึ่งมักเขียนว่า โดยอธิบายลักษณะว่าตัวแทนคาดหวังว่าสถานะภายนอกจะเปลี่ยนแปลงไปอย่างไรเมื่อเวลาผ่านไปโดยพิจารณาจากการกระทำของตัวแทน${\displaystyle p_{\Psi }:\Psi \times \Psi \times A\to \mathbb {R} }$${\displaystyle p_{\Psi }({\dot {\psi }}\mid \psi ,a)}$${\displaystyle t}$
• แบบจำลองการกระทำที่เขียนขึ้นเพื่ออธิบายว่าการกระทำของตัวแทนขึ้นอยู่กับสถานะภายในและข้อมูลทางประสาทสัมผัสอย่างไร และ${\displaystyle p_{A}:A\times R\times S\to \mathbb {R} }$${\displaystyle p_{A}(a\mid \mu ,s)}$
• แบบจำลองภายในที่เขียนขึ้นเพื่ออธิบายว่าสถานะภายในของตัวแทนขึ้นอยู่กับข้อมูลทางประสาทสัมผัสอย่างไร${\displaystyle p_{R}:R\times S\to \mathbb {R} }$${\displaystyle p_{R}(\mu \mid s)}$

ฟังก์ชันความหนาแน่นเหล่านี้กำหนดปัจจัยของ " แบบจำลองร่วม " ซึ่งแสดงถึงข้อกำหนดที่สมบูรณ์ของแบบจำลองการสร้าง และสามารถเขียนได้ดังนี้

${\displaystyle p({\dot {\psi }},s,a,\mu \mid \psi )=p_{S}(s\mid \psi ,a)p_{\Psi }({\dot {\psi }}\mid \psi ,a)p_{A}(a\mid \mu ,s)p_{R}(\mu \mid s)}$.

กฎของเบย์สจะกำหนด "ความหนาแน่นภายหลัง" ซึ่งแสดงถึงความเชื่อที่เหมาะสมที่สุดในเชิงความน่าจะเป็นเกี่ยวกับสถานะภายนอกโดยพิจารณาจากสถานะก่อนหน้าการกระทำ สัญญาณประสาทสัมผัส และสถานะภายในของตัวแทน เนื่องจากการคำนวณนั้นทำได้ยากในเชิงการคำนวณ หลักการพลังงานอิสระจึงยืนยันการมีอยู่ของ "ความหนาแน่นแปรผัน" โดยที่เป็นค่าประมาณของจากนั้นจึงกำหนดพลังงานอิสระเป็น ${\displaystyle p_{\text{Bayes}}({\dot {\psi }}|s,a,\mu ,\psi )}$${\displaystyle {\dot {\psi }}}$${\displaystyle \psi }$${\displaystyle p_{\text{Bayes}}}$${\displaystyle q({\dot {\psi }}|s,a,\mu ,\psi )}$${\displaystyle q}$${\displaystyle p_{\text{Bayes}}}$

${\displaystyle {\begin{aligned}{\underset {\mathrm {free-energy} }{\underbrace {F(\mu ,a\,;s)} }}&={\underset {\text{expected energy}}{\underbrace {\mathbb {E} _{q({\dot {\psi }})}[-\log p({\dot {\psi }},s,a,\mu \mid \psi )]} }}-{\underset {\mathrm {entropy} }{\underbrace {\mathbb {H} [q({\dot {\psi }}\mid s,a,\mu ,\psi )]} }}\\&={\underset {\mathrm {surprise} }{\underbrace {-\log p(s)} }}+{\underset {\mathrm {divergence} }{\underbrace {\mathbb {KL} [q({\dot {\psi }}\mid s,a,\mu ,\psi )\parallel p_{\text{Bayes}}({\dot {\psi }}\mid s,a,\mu ,\psi )]} }}\\&\geq {\underset {\mathrm {surprise} }{\underbrace {-\log p(s)} }}\end{aligned}}}$

และกำหนดให้การกระทำและการรับรู้เป็นปัญหาการปรับให้เหมาะสมร่วมกัน

${\displaystyle {\begin{aligned}\mu ^{*}&={\underset {\mu }{\operatorname {arg\,min} }}\{F(\mu ,a\,;\,s)\}\\a^{*}&={\underset {a}{\operatorname {arg\,min} }}\{F(\mu ^{*},a\,;\,s)\}\end{aligned}}}$

โดยทั่วไปแล้ว สถานะภายในจะถูกนำมาใช้เพื่อเข้ารหัสพารามิเตอร์ของความหนาแน่นแบบ 'แปรผัน' และด้วยเหตุนี้จึงเป็นการ "คาดเดาที่ดีที่สุด" ของตัวแทนเกี่ยวกับความเชื่อภายหลังเกี่ยวกับ โปรด ทราบว่าพลังงานอิสระยังเป็นขอบเขตบนของการวัด ความประหลาดใจ ทางประสาทสัมผัส ( ส่วนย่อยหรือค่าเฉลี่ย) ของตัวแทนด้วย ดังนั้นการลดพลังงาน อิสระ จึงมักมีแรงจูงใจมาจากการลดความประหลาดใจ ${\displaystyle \mu }$${\displaystyle q}$${\displaystyle \Psi }$

การลดพลังงานอิสระให้เหลือน้อยที่สุดได้รับการเสนอให้เป็นลักษณะเด่นของระบบจัดระเบียบตนเองเมื่อถูกมองว่าเป็นระบบพลวัตแบบสุ่ม^{[ 33 ]}การกำหนดสูตรนี้ขึ้นอยู่กับผ้าห่มมาร์คอฟ (ประกอบด้วยสถานะการกระทำและสถานะการรับรู้) ที่แยกสถานะภายในและภายนอก หากสถานะภายในและการกระทำลดพลังงานอิสระให้เหลือน้อยที่สุด พวกมันจะกำหนดขอบเขตบนของเอนโทรปีของสถานะการรับรู้:

${\displaystyle \lim _{T\to \infty }{\frac {1}{T}}{\underset {\text{free-action}}{\underbrace {\int _{0}^{T}F(s(t),\mu (t))\,dt} }}\geq \lim _{T\to \infty }{\frac {1}{T}}\int _{0}^{T}{\underset {\text{surprise}}{\underbrace {-\log p(s(t)\mid m)} }}\,dt=H[p(s\mid m)]}$

เนื่องจากภายใต้ สมมติฐาน เออร์โกดิกค่าเฉลี่ยระยะยาวของความประหลาดใจคือเอนโทรปี ขอบเขตนี้ต้านทานแนวโน้มตามธรรมชาติของความไม่เป็นระเบียบ ซึ่งเป็นแบบที่เกี่ยวข้องกับกฎข้อที่สองของอุณหพลศาสตร์และทฤษฎีบทความผันผวนอย่างไรก็ตาม การกำหนดหลักการรวมสำหรับวิทยาศาสตร์ชีวภาพในแง่ของแนวคิดจากฟิสิกส์เชิงสถิติ เช่น ระบบพลวัตแบบสุ่ม สภาวะคงที่ที่ไม่สมดุล และเออร์โกดิก ทำให้เกิดข้อจำกัดอย่างมากต่อการศึกษาเชิงทฤษฎีและเชิงประจักษ์ของระบบชีวภาพ โดยมีความเสี่ยงที่จะบดบังคุณสมบัติทั้งหมดที่ทำให้ระบบชีวภาพเป็นระบบจัดระเบียบตนเองที่น่าสนใจ^{[ 34 ] [ 2 ] [ 3 ] [ 4 ]}

การอนุมานแบบเบย์เซียนทั้งหมดสามารถแสดงได้ในแง่ของการลดพลังงานอิสระ^{[ 35 ]}เมื่อพลังงานอิสระถูกลดให้เหลือน้อยที่สุดเมื่อเทียบกับสถานะภายในความแตกต่างของ Kullback–Leiblerระหว่างความหนาแน่นแบบแปรผันและความหนาแน่นภายหลังเหนือสถานะที่ซ่อนอยู่จะถูกลดให้เหลือน้อยที่สุด ซึ่งสอดคล้องกับการอนุมานแบบเบย์เซียน โดยประมาณ – เมื่อรูปแบบของความหนาแน่นแบบแปรผันถูกกำหนดไว้ – และการอนุมานแบบเบย์เซียนที่แม่นยำในกรณีอื่น ๆ ดังนั้น การลดพลังงานอิสระจึงให้คำอธิบายทั่วไปของการอนุมานแบบเบย์เซียนและการกรอง (เช่นการกรอง Kalman ) นอกจากนี้ยังใช้ในการเลือกแบบจำลองแบบ เบย์เซียน ซึ่งพลังงานอิสระสามารถแยกย่อยได้อย่างมีประโยชน์เป็นความซับซ้อนและความแม่นยำ:

${\displaystyle {\underset {\text{free-energy}}{\underbrace {F(s,\mu )} }}={\underset {\text{complexity}}{\underbrace {D_{\mathrm {KL} }[q(\psi \mid \mu )\parallel p(\psi \mid m)]} }}-{\underset {\mathrm {accuracy} }{\underbrace {E_{q}[\log p(s\mid \psi ,m)]} }}}$

แบบจำลองที่มีพลังงานอิสระขั้นต่ำให้คำอธิบายข้อมูลที่แม่นยำภายใต้ต้นทุนความซับซ้อนดูมีดโกนของอ็อกแคมและการจัดการต้นทุนการคำนวณที่เป็นทางการมากขึ้น^{[ 36 ]}ในที่นี้ ความซับซ้อนคือความแตกต่างระหว่างความหนาแน่นแปรผันและความเชื่อก่อนหน้าเกี่ยวกับสถานะที่ซ่อนอยู่ (เช่น ระดับความเป็นอิสระที่มีประสิทธิภาพที่ใช้ในการอธิบายข้อมูล)

พลังงานอิสระแปรผันเป็นฟังก์ชันเชิงทฤษฎีสารสนเทศและแตกต่างจากพลังงานอิสระ ทางเทอร์โมไดนามิก (เฮล์มโฮลทซ์ ) ^{[ 37 ]}อย่างไรก็ตาม เทอมความซับซ้อนของพลังงานอิสระแปรผันมีจุดคงที่เดียวกันกับพลังงานอิสระเฮล์มโฮลทซ์ (ภายใต้สมมติฐานว่าระบบปิดทางเทอร์โมไดนามิกแต่ไม่ได้แยกตัว) ทั้งนี้เพราะหากการรบกวนทางประสาทสัมผัสถูกระงับ (เป็นระยะเวลานานพอสมควร) ความซับซ้อนจะลดลงเหลือน้อยที่สุด (เนื่องจากสามารถละเลยความแม่นยำได้) ณ จุดนี้ ระบบจะอยู่ในสภาวะสมดุลและสถานะภายในจะลดพลังงานอิสระเฮล์มโฮลทซ์ให้เหลือน้อยที่สุด ตาม^{หลักการ}ของพลังงานขั้นต่ำ^{[ 38} ]

การลดพลังงานอิสระให้เหลือน้อยที่สุดเทียบเท่ากับการเพิ่มข้อมูลร่วมกันระหว่างสถานะประสาทสัมผัสและสถานะภายในที่กำหนดพารามิเตอร์ความหนาแน่นแปรผัน (สำหรับความหนาแน่นแปรผันเอนโทรปีคงที่) ซึ่งเชื่อมโยงการลดพลังงานอิสระให้เหลือน้อยที่สุดกับหลักการของการลดความซ้ำซ้อนให้น้อยที่สุด^{[ 39 ] [ 15 ]}

การลดพลังงานอิสระให้น้อยที่สุดเป็นวิธีที่มีประโยชน์ในการกำหนดรูปแบบมาตรฐาน (เหมาะสมที่สุดของเบย์ส) ของการอนุมานและการเรียนรู้ของเซลล์ประสาทภายใต้ความไม่แน่นอน^{[ 40 ]}และด้วยเหตุนี้จึงสอดคล้องกับสมมติฐานสมองแบบเบย์ส^{[ 41 ]}กระบวนการของเซลล์ประสาทที่อธิบายโดยการลดพลังงานอิสระให้น้อยที่สุดนั้นขึ้นอยู่กับลักษณะของสถานะที่ซ่อนอยู่ซึ่งอาจประกอบด้วยตัวแปรที่ขึ้นอยู่กับเวลา พารามิเตอร์ที่ไม่เปลี่ยนแปลงตามเวลา และความแม่นยำ (ความแปรปรวนผกผันหรืออุณหภูมิ) ของความผันผวนแบบสุ่ม การลดตัวแปร พารามิเตอร์ และความแม่นยำให้น้อยที่สุดนั้นสอดคล้องกับการอนุมาน การเรียนรู้ และการเข้ารหัสความไม่แน่นอน ตามลำดับ ${\displaystyle \Psi =X\times \Theta \times \Pi }$

การลดพลังงานอิสระทำให้แนวคิดของการอนุมานโดยไม่รู้ตัวในการรับรู้เป็นทางการ^{[ 10 ] [ 12 ]}และให้ทฤษฎีเชิงบรรทัดฐาน (แบบเบย์เซียน) ของการประมวลผลของเซลล์ประสาท ทฤษฎีกระบวนการที่เกี่ยวข้องกับพลวัตของเซลล์ประสาทนั้นขึ้นอยู่กับการลดพลังงานอิสระผ่านการไล่ระดับลงซึ่งสอดคล้องกับการกรองแบบเบย์เซียนทั่วไป (โดยที่ ~ หมายถึงตัวแปรในพิกัดการเคลื่อนที่ทั่วไปและ เป็นตัวดำเนินการเมทริกซ์อนุพันธ์): ^{[ 42 ]}${\displaystyle D}$

${\displaystyle {\dot {\tilde {\mu }}}=D{\tilde {\mu }}-\partial _{\mu }F(s,\mu ){\Big |}_{\mu ={\tilde {\mu }}}}$

โดยปกติแล้ว แบบจำลองการสร้างที่กำหนดพลังงานอิสระจะเป็นแบบไม่เชิงเส้นและแบบลำดับชั้น (เช่น ลำดับชั้นของเปลือกสมอง) กรณีพิเศษของการกรองแบบทั่วไป ได้แก่การกรอง Kalmanซึ่งเทียบเท่ากับการเข้ารหัสแบบทำนาย^{[ 43 ]} ซึ่ง เป็นอุปมาอุปไมยที่นิยมใช้สำหรับการส่งข้อความในสมอง ภายใต้แบบจำลองแบบลำดับชั้น การเข้ารหัสแบบทำนายเกี่ยวข้องกับการแลกเปลี่ยนข้อผิดพลาดในการทำนายแบบขึ้น (จากล่างขึ้นบน) และการทำนายแบบลง (จากบนลงล่าง) ซ้ำๆ^{[ 44 ]}ซึ่งสอดคล้องกับกายวิภาคศาสตร์และสรีรวิทยาของระบบรับรู้^{[ 45 ]}และระบบการเคลื่อนไหว^{[ 46 ]}

ในการเข้ารหัสเชิงทำนาย การปรับพารามิเตอร์ของแบบจำลองให้เหมาะสมที่สุดผ่านการลดระดับความชันบนปริพันธ์เวลาของพลังงานอิสระ (การกระทำอิสระ) จะลดลงเหลือเพียงความยืดหยุ่นแบบเชื่อมโยงหรือแบบเฮบเบียนและมีความเกี่ยวข้องกับความยืดหยุ่นของไซแนปส์ในสมอง

การเพิ่มประสิทธิภาพพารามิเตอร์ความแม่นยำสอดคล้องกับการเพิ่มประสิทธิภาพกำไรของข้อผิดพลาดในการทำนาย (ดูเพิ่มเติมที่กำไรของ Kalman) ในการใช้งานการเข้ารหัสแบบทำนายที่สมเหตุสมผลในระดับเซลล์ประสาท^{[ 44 ]}ซึ่งสอดคล้องกับการเพิ่มประสิทธิภาพความสามารถในการกระตุ้นของเซลล์พีระมิดผิวเผิน และได้รับการตีความในแง่ของกำไรความสนใจ^{[ 47 ]}

ในส่วนของข้อถกเถียงเรื่องกลไกจากบนลงล่างกับจากล่างขึ้นบน ซึ่งได้รับการกล่าวถึงว่าเป็นปัญหาเปิดที่สำคัญของเรื่องความสนใจนั้น แบบจำลองเชิงคำนวณได้แสดงให้เห็นถึงลักษณะที่เป็นวงจรของการทำงานร่วมกันระหว่างกลไกจากบนลงล่างและจากล่างขึ้นบน โดยใช้แบบจำลองความสนใจที่เกิดขึ้นใหม่ซึ่งเป็นที่ยอมรับแล้ว คือ SAIM ผู้เขียนได้เสนอแบบจำลองที่เรียกว่า PE-SAIM ซึ่งแตกต่างจากเวอร์ชันมาตรฐาน โดยเข้าถึงความสนใจแบบเลือกสรรจากมุมมองจากบนลงล่าง แบบจำลองนี้คำนึงถึงการส่งผ่านข้อผิดพลาดในการคาดการณ์ไปยังระดับเดียวกันหรือระดับที่สูงกว่า เพื่อลดฟังก์ชันพลังงานที่บ่งชี้ความแตกต่างระหว่างข้อมูลและสาเหตุ หรือกล่าวอีกนัยหนึ่งคือระหว่างแบบจำลองที่สร้างขึ้นและแบบจำลองภายหลัง เพื่อเพิ่มความถูกต้อง พวกเขายังได้รวมการแข่งขันทางประสาทระหว่างสิ่งเร้าเข้าไว้ในแบบจำลองด้วย คุณลักษณะที่โดดเด่นของแบบจำลองนี้คือการปรับปรุงฟังก์ชันพลังงานอิสระใหม่โดยพิจารณาเฉพาะข้อผิดพลาดในการคาดการณ์ระหว่างการปฏิบัติงานเท่านั้น

${\displaystyle {\dfrac {\partial E^{total}(Y^{VP},X^{SN},x^{CN},y^{KN})}{\partial y_{mn}^{SN}}}=x_{mn}^{CN}-b^{CN}\varepsilon _{nm}^{CN}+b^{CN}\sum _{k}(\varepsilon _{knm}^{KN})}$

โดยที่ฟังก์ชันพลังงานทั้งหมดของเครือข่ายประสาทเกี่ยวข้อง และข้อผิดพลาดในการทำนายระหว่างแบบจำลองการสร้าง (ก่อนหน้า) และการเปลี่ยนแปลงภายหลังเมื่อเวลาผ่านไป^{[ 48 ]} การเปรียบเทียบแบบจำลองทั้งสองเผยให้เห็นความคล้ายคลึงกันที่น่าสังเกตระหว่างผลลัพธ์ของแต่ละแบบจำลอง ในขณะเดียวกันก็เน้นให้เห็นถึงความแตกต่างที่โดดเด่น โดยในเวอร์ชันมาตรฐานของ SAIM แบบจำลองจะเน้นไปที่การเชื่อมต่อแบบกระตุ้นเป็นหลัก ในขณะที่ใน PE-SAIM จะใช้การเชื่อมต่อแบบยับยั้งเพื่อทำการอนุมาน แบบจำลองนี้ยังได้รับการพิสูจน์แล้วว่าเหมาะสมที่จะทำนายข้อมูล EEG และ fMRI ที่ได้จากการทดลองในมนุษย์ด้วยความแม่นยำสูง ในทำนองเดียวกัน Yahya et al. ยังได้นำหลักการพลังงานอิสระมาใช้เพื่อเสนอแบบจำลองการคำนวณสำหรับการจับคู่แม่แบบในความสนใจทางสายตาแบบเลือกสรรที่ซ่อนเร้น ซึ่งส่วนใหญ่อาศัย SAIM ^{[ 49 ]}จากการศึกษานี้ พลังงานอิสระทั้งหมดของพื้นที่สถานะทั้งหมดจะบรรลุได้โดยการแทรกสัญญาณจากบนลงล่างในเครือข่ายประสาทดั้งเดิม ซึ่งเราได้ระบบไดนามิกที่ประกอบด้วยข้อผิดพลาดการทำนายทั้งแบบส่งต่อและย้อนกลับ ${\displaystyle E^{total}}$${\displaystyle \varepsilon _{knm}^{KN}}$

เมื่อนำการลดระดับความชันมาใช้กับการกระทำการควบคุมการเคลื่อนไหวสามารถเข้าใจได้ในแง่ของวงจรสะท้อนแบบคลาสสิกที่ถูกกระตุ้นโดยการคาดการณ์จากส่วนบนลงล่าง (คอร์ติโคสไปนัล) ซึ่งให้รูปแบบที่เป็นแบบแผนที่ขยายโซลูชันจุดสมดุล – ไปสู่ปัญหาองศาอิสระ^{[ 50 ]} – ไปสู่เส้นทางการเคลื่อนไหว ${\displaystyle {\dot {a}}=-\partial _{a}F(s,{\tilde {\mu }})}$

การอนุมานเชิงรุกเกี่ยวข้องกับการควบคุมที่เหมาะสมที่สุดโดยการแทนที่ฟังก์ชันค่าหรือต้นทุนด้วยความเชื่อเบื้องต้นเกี่ยวกับการเปลี่ยนสถานะหรือการไหล^{[ 51 ]}ซึ่งใช้ประโยชน์จากความเชื่อมโยงอย่างใกล้ชิดระหว่างการกรองแบบเบย์เซียนและวิธีแก้ปัญหาของสมการเบลล์แมนอย่างไรก็ตาม การอนุมานเชิงรุกเริ่มต้นด้วย (ความเชื่อเบื้องต้นเกี่ยวกับ) การไหลที่ระบุด้วยฟังก์ชันค่าสเกลาร์ และเวกเตอร์ของปริภูมิสถานะ (ดูการแยกส่วนเฮล์มโฮลทซ์ ) ในที่นี้คือแอมพลิจูดของความผันผวนแบบสุ่มและต้นทุนคือ ความเชื่อเบื้องต้น เกี่ยวกับการไหลทำให้เกิดความเชื่อเบื้องต้นเกี่ยวกับสถานะซึ่งเป็นวิธีแก้ปัญหาของสมการโคลโมโกโรฟไป ข้างหน้าที่เหมาะสม ^{[ 52 ]}ในทางตรงกันข้าม การควบคุมที่เหมาะสมที่สุดจะปรับการไหลให้เหมาะสมที่สุด โดยกำหนดฟังก์ชันต้นทุน ภายใต้สมมติฐานว่า (เช่น การไหลไม่มีการหมุนวนหรือมีความสมดุลโดยละเอียด) โดยปกติแล้ว สิ่งนี้เกี่ยวข้องกับการแก้ สมการโคลโมโกโรฟย้อนหลัง^{[ 53 ]}${\displaystyle f=\Gamma \cdot \nabla V+\nabla \times W}$${\displaystyle V(x)}$${\displaystyle W(x)}$${\displaystyle \Gamma }$${\displaystyle c(x)=f\cdot \nabla V+\nabla \cdot \Gamma \cdot V}$${\displaystyle p({\tilde {x}}\mid m)}$${\displaystyle p(x\mid m)=\exp(V(x))}$${\displaystyle W=0}$

ปัญหา การตัดสินใจที่เหมาะสมที่สุด (โดยปกติจะกำหนดเป็นกระบวนการตัดสินใจแบบมาร์คอฟที่สังเกตได้บางส่วน ) จะได้รับการจัดการภายในการอนุมานเชิงรุกโดยการดูดซับฟังก์ชันอรรถประโยชน์เข้าไปในความเชื่อก่อนหน้า ในการตั้งค่านี้ สถานะที่มีอรรถประโยชน์สูง (ต้นทุนต่ำ) คือสถานะที่ตัวแทนคาดว่าจะครอบครอง โดยการติดตั้งแบบจำลองการสร้างด้วยสถานะที่ซ่อนอยู่ซึ่งจำลองการควบคุม นโยบาย (ลำดับการควบคุม) ที่ลดพลังงานอิสระแปรผันให้น้อยที่สุดจะนำไปสู่สถานะที่มีอรรถประโยชน์สูง^{[ 54 ]}

ในทางชีววิทยาประสาท สารปรับแต่งระบบประสาท เช่นโดปามีนถือว่ารายงานความแม่นยำของข้อผิดพลาดในการคาดการณ์โดยการปรับค่าเกนของเซลล์หลักที่เข้ารหัสข้อผิดพลาดในการคาดการณ์^{[ 55 ]}ซึ่งมีความเกี่ยวข้องอย่างใกล้ชิดกับ – แต่แตกต่างอย่างเป็นทางการจาก – บทบาทของโดปามีนในการรายงานข้อผิดพลาดในการคาดการณ์โดยตรง^{[ 56 ]}และบัญชีการคำนวณที่เกี่ยวข้อง^{[ 57 ]}

การอนุมานเชิงรุกถูกนำมาใช้เพื่อแก้ไขปัญหาต่างๆ ในด้านประสาทวิทยาศาสตร์เชิงปัญญาการทำงานของสมอง และจิตเวชศาสตร์ประสาท รวมถึงการสังเกตการกระทำ^{[ 58 ]}เซลล์ประสาทกระจกเงา^{[ 59 ]} การเคลื่อนไหว ของดวงตาและการค้นหาภาพ^{[ 60 ] [ 61 ]}การเคลื่อนไหวของดวงตา^{[ 62 ]}การนอนหลับ^{[ 63 ]}ภาพลวงตา^{[ 64 ]}ความสนใจ^{[ 47 ]}การเลือกการกระทำ^{[ 55 ]}สติ^{[ 65 ] [ 66 ]}ฮิสทีเรีย^{[ 67 ]}และโรคจิต^{[ 68 ]}คำอธิบายของการกระทำในการอนุมานเชิงรุกมักขึ้นอยู่กับแนวคิดที่ว่าสมองมี 'การคาดการณ์ที่ดื้อรั้น' ที่ไม่สามารถอัปเดตได้ ทำให้เกิดการกระทำที่ทำให้การคาดการณ์เหล่านี้เป็นจริง^{[ 69 ]}

• การรับรู้ที่เฉพาะเจาะจงกับการกระทำ  – ทฤษฎีทางจิตวิทยาเกี่ยวกับการรับรู้
• ระบบปรับตัวได้  – ระบบที่สามารถปรับตัวให้เข้ากับสภาพแวดล้อมได้
• ความสามารถในการกระทำ  – ความเป็นไปได้ในการกระทำต่อวัตถุหรือสภาพแวดล้อม
• ออโตโพเอซิส  – ระบบที่สามารถสร้างตัวเองได้
• แนวทางแบบเบย์เซียนในการศึกษาการทำงานของสมอง  – การอธิบายความสามารถของสมองผ่านหลักการทางสถิติ
• กฎโครงสร้าง - กฎแห่งวิวัฒนาการของการออกแบบในธรรมชาติ ทั้งสิ่งมีชีวิตและสิ่งไม่มีชีวิต
• ทฤษฎีการตัดสินใจ  – สาขาหนึ่งของทฤษฎีความน่าจะเป็นประยุกต์
• การรับรู้ผ่านร่างกาย  – ทฤษฎีสหวิทยาการ
• แรงเอนโทรปี  – แรงทางกายภาพที่เกิดจากอุณหพลศาสตร์ แทนที่จะเกิดจากปฏิสัมพันธ์พื้นฐาน
• อินโฟเมตริกส์  – แนวทางสหวิทยาการสำหรับการสร้างแบบจำลองทางวิทยาศาสตร์และการประมวลผลข้อมูล
• การควบคุมที่เหมาะสมที่สุด  – วิธีทางคณิตศาสตร์ในการบรรลุผลลัพธ์ที่ต้องการจากระบบพลวัต
• การเข้ารหัสเชิงทำนาย  – ทฤษฎีการทำงานของสมอง
• หลักการพลังงานต่ำสุด  – การย้ำกฎข้อที่สองของอุณหพลศาสตร์
• การจัดระเบียบตนเอง  – กระบวนการสร้างระเบียบโดยอาศัยปฏิสัมพันธ์ในระดับท้องถิ่น
• ความประหลาดใจ  – ปริมาณในทฤษฎีสารสนเทศPages displaying short descriptions of redirect targets
• ซินเนอร์เจติกส์ (ฮาเคน)  – วิทยาศาสตร์สหวิทยาการ
• วิธีการเบย์เซียนแบบแปรผัน  – วิธีการทางคณิตศาสตร์ที่ใช้ในการอนุมานแบบเบย์เซียนและการเรียนรู้ของเครื่องจักร

• วิทยาศาสตร์พฤติกรรมและสมอง (โดย แอนดี้ คลาร์ก)