พิจารณาฟังก์ชันเป้าหมายในรูปแบบต่อไปนี้:$${\displaystyle L(\phi )=\mathbb {E} _{z\sim q_{\phi }(z)}[f(z)]}$$หากไม่ใช้เทคนิคการปรับพารามิเตอร์ใหม่ การประมาณค่าเกรเดียนต์จะทำได้ยาก${\displaystyle \nabla _{\phi }L(\phi )}$อาจเป็นเรื่องท้าทาย เนื่องจากพารามิเตอร์ปรากฏอยู่ในตัวแปรสุ่มเอง กล่าวโดยละเอียด เราต้องประมาณค่าทางสถิติ:$${\displaystyle \nabla _{\phi }L(\phi )=\nabla _{\phi }\int dz\;q_{\phi }(z)f(z)}$$ตัวประมาณค่า REINFORCE ซึ่งใช้กันอย่างแพร่หลายใน การเรียนรู้ ^แบบเสริมแรงและโดยเฉพาะอย่างยิ่งการไล่ระดับนโยบาย [ ^{4 ​​]}ใช้ความเท่าเทียมกันดังต่อไปนี้:$${\displaystyle \nabla _{\phi }L(\phi )=\int dz\;q_{\phi }(z)\nabla _{\phi }(\ln q_{\phi }(z))f(z)=\mathbb {E} _{z\sim q_{\phi }(z)}[\nabla _{\phi }(\ln q_{\phi }(z))f(z)]}$$วิธีนี้ช่วยให้สามารถประมาณค่าความชันได้:$${\displaystyle \nabla _{\phi }L(\phi )\approx {\frac {1}{N}}\sum _{i=1}^{N}\nabla _{\phi }(\ln q_{\phi }(z_{i}))f(z_{i})}$$ตัวประมาณค่า REINFORCE มีความแปรปรวนสูง และมีการพัฒนาวิธีการต่างๆ มากมายเพื่อลดความแปรปรวน^{[ 5 ]}

เทคนิคการกำหนดพารามิเตอร์ใหม่แสดงให้เห็นว่า${\displaystyle z}$เช่น:$${\displaystyle z=g_{\phi }(\epsilon ),\quad \epsilon \sim p(\epsilon )}$$ที่นี่,${\displaystyle g_{\phi }}$เป็นฟังก์ชันเชิงกำหนดที่มีพารามิเตอร์โดย${\displaystyle \phi }$, และ${\displaystyle \epsilon }$เป็นตัวแปรเสียงรบกวนที่สุ่มมาจากการแจกแจงแบบคงที่${\displaystyle p(\epsilon )}$ซึ่งจะได้ผลลัพธ์ดังนี้:$${\displaystyle L(\phi )=\mathbb {E} _{\epsilon \sim p(\epsilon )}[f(g_{\phi }(\epsilon ))]}$$ตอนนี้ เราสามารถประมาณค่าความชันได้ดังนี้:$${\displaystyle \nabla _{\phi }L(\phi )=\mathbb {E} _{\epsilon \sim p(\epsilon )}[\nabla _{\phi }f(g_{\phi }(\epsilon ))]\approx {\frac {1}{N}}\sum _{i=1}^{N}\nabla _{\phi }f(g_{\phi }(\epsilon _{i}))}$$

ในVariational Autoencoders (VAEs) ฟังก์ชันวัตถุประสงค์ของ VAE ซึ่งรู้จักกันในชื่อEvidence Lower Bound (ELBO) กำหนดโดย:

$${\displaystyle {\text{ELBO}}(\phi ,\theta )=\mathbb {E} _{z\sim q_{\phi }(z|x)}[\log p_{\theta }(x|z)]-D_{\text{KL}}(q_{\phi }(z|x)||p(z))}$$

ที่ไหน${\displaystyle q_{\phi }(z|x)}$คือตัวเข้ารหัส (แบบจำลองการรู้จำ)${\displaystyle p_{\theta }(x|z)}$คือตัวถอดรหัส ( แบบจำลองเชิงกำเนิด ) และ${\displaystyle p(z)}$คือการแจกแจงความน่าจะเป็นก่อนหน้าเหนือตัวแปรแฝง ความชันของ ELBO เทียบกับ${\displaystyle \theta }$ก็คือ$${\displaystyle \mathbb {E} _{z\sim q_{\phi }(z|x)}[\nabla _{\theta }\log p_{\theta }(x|z)]\approx {\frac {1}{L}}\sum _{l=1}^{L}\nabla _{\theta }\log p_{\theta }(x|z_{l})}$$แต่ความชันเมื่อเทียบกับ${\displaystyle \phi }$ต้องใช้เทคนิคนี้ แสดงการดำเนินการสุ่มตัวอย่าง${\displaystyle z\sim q_{\phi }(z|x)}$เช่น:$${\displaystyle z=\mu _{\phi }(x)+\sigma _{\phi }(x)\odot \epsilon ,\quad \epsilon \sim {\mathcal {N}}(0,I)}$$ที่ไหน${\displaystyle \mu _{\phi }(x)}$และ${\displaystyle \sigma _{\phi }(x)}$คือผลลัพธ์ของเครือข่ายตัวเข้ารหัส และ${\displaystyle \odot }$หมายถึงการคูณแบบทีละองค์ประกอบดังนั้นเราจึงได้$${\displaystyle \nabla _{\phi }{\text{ELBO}}(\phi ,\theta )=\mathbb {E} _{\epsilon \sim {\mathcal {N}}(0,I)}[\nabla _{\phi }\log p_{\theta }(x|z)+\nabla _{\phi }\log q_{\phi }(z|x)-\nabla _{\phi }\log p(z)]}$$ที่ไหน${\displaystyle z=\mu _{\phi }(x)+\sigma _{\phi }(x)\odot \epsilon }$วิธีนี้ช่วยให้เราสามารถประมาณค่าความชันโดยใช้การสุ่มตัวอย่างแบบมอนเตคาร์โลได้:$${\displaystyle \nabla _{\phi }{\text{ELBO}}(\phi ,\theta )\approx {\frac {1}{L}}\sum _{l=1}^{L}[\nabla _{\phi }\log p_{\theta }(x|z_{l})+\nabla _{\phi }\log q_{\phi }(z_{l}|x)-\nabla _{\phi }\log p(z_{l})]}$$ที่ไหน${\displaystyle z_{l}=\mu _{\phi }(x)+\sigma _{\phi }(x)\odot \epsilon _{l}}$และ${\displaystyle \epsilon _{l}\sim {\mathcal {N}}(0,I)}$สำหรับ${\displaystyle l=1,\ldots ,L}$.

สูตรนี้ช่วยให้สามารถย้อนกลับการแพร่กระจายผ่านกระบวนการสุ่มตัวอย่าง ทำให้สามารถฝึกฝนโมเดล VAE แบบครบวงจร โดยใช้การไล่ระดับความชันแบบสุ่มหรือรูปแบบต่างๆ ของวิธีการดังกล่าวได้

โดยทั่วไปแล้ว เทคนิคนี้ช่วยให้สามารถใช้การไล่ระดับแบบสุ่ม (stochastic gradient descent) สำหรับการอนุมานแบบแปรผัน (variational inference ) ได้ ให้ฟังก์ชันเป้าหมายแบบแปรผัน (ELBO) มีรูปแบบดังนี้:$${\displaystyle {\text{ELBO}}(\phi )=\mathbb {E} _{z\sim q_{\phi }(z)}[\log p(x,z)-\log q_{\phi }(z)]}$$โดยใช้เทคนิคการกำหนดพารามิเตอร์ใหม่ เราสามารถประมาณค่าเกรเดียนต์ของฟังก์ชันเป้าหมายนี้เทียบกับ${\displaystyle \phi }$:$${\displaystyle \nabla _{\phi }{\text{ELBO}}(\phi )\approx {\frac {1}{L}}\sum _{l=1}^{L}\nabla _{\phi }[\log p(x,g_{\phi }(\epsilon _{l}))-\log q_{\phi }(g_{\phi }(\epsilon _{l}))],\quad \epsilon _{l}\sim p(\epsilon )}$$

เทคนิคการปรับพารามิเตอร์ใหม่นี้ถูกนำมาใช้เพื่อลดความแปรปรวนในดรอปเอาต์ซึ่งเป็นเทคนิคการปรับเสถียรภาพในโครงข่ายประสาทเทียม ดรอปเอาต์ดั้งเดิมสามารถปรับพารามิเตอร์ใหม่ได้โดยใช้การแจกแจงแบบเบอร์นูลลี :$${\displaystyle y=(W\odot \epsilon )x,\quad \epsilon _{ij}\sim {\text{Bernoulli}}(\alpha _{ij})}$$ที่ไหน${\displaystyle W}$คือเมทริกซ์น้ำหนัก${\displaystyle x}$คือข้อมูลป้อนเข้า และ${\displaystyle \alpha _{ij}}$คืออัตราการลาออก (คงที่)

โดยทั่วไปแล้ว นอกจากการแจกแจงแบบเบอร์นูลลีแล้ว ยังสามารถใช้การแจกแจงแบบอื่นได้ เช่น การแจกแจงแบบเกาส์เซียน:$${\displaystyle y_{i}=\mu _{i}+\sigma _{i}\odot \epsilon _{i},\quad \epsilon _{i}\sim {\mathcal {N}}(0,I)}$$ที่ไหน${\displaystyle \mu _{i}=\mathbf {m} _{i}^{\top }x}$และ${\displaystyle \sigma _{i}^{2}=\mathbf {v} _{i}^{\top }x^{2}}$, กับ${\displaystyle \mathbf {m} _{i}}$และ${\displaystyle \mathbf {v} _{i}}$โดยเป็นค่าเฉลี่ยและความแปรปรวนของ${\displaystyle i}$-นิวรอนเอาต์พุตที่ 3 เทคนิคการกำหนดพารามิเตอร์ใหม่สามารถนำไปใช้กับกรณีดังกล่าวทั้งหมด ส่งผลให้ได้วิธีการดรอปเอาต์แบบแปรผัน^{[ 9 ]}