กลับไปหน้าบทความ

อ่าน 4 นาที

ไม่มีชื่อบทความ

สำหรับ อัลกอริธึมการแยกวิเคราะห์ ใน วิทยาการคอมพิวเตอร์ อัลก อริธึมภายใน-ภายนอก (Inside –Outside Algorithm) เป็นวิธีการประมาณค่าความน่าจะเป็นของการสร้างใหม่ใน...

อัลกอริทึมภายใน-ภายนอก

สำหรับ อัลกอริธึมการแยกวิเคราะห์ ในวิทยาการคอมพิวเตอร์อัลก อริธึมภายใน-ภายนอก (Inside –Outside Algorithm)เป็นวิธีการประมาณค่าความน่าจะเป็นของการสร้างใหม่ในไวยากรณ์แบบไร้บริบทเชิงความน่าจะเป็น อัลกอริธึมนี้ได้รับการแนะนำโดยJames K. Bakerในปี 1979 โดยเป็นการขยายความของ อัลกอริธึ มไปข้างหน้า-ย้อนกลับ (Forward–Backward Algorithm ) สำหรับการประมาณค่าพารามิเตอร์ในแบบจำลองมาร์คอฟที่ซ่อนอยู่ (Hidden Markov Model ) ไปสู่ไวยากรณ์แบบไร้บริบทเชิงสุ่ม อัลกอริธึม นี้ใช้ในการคำนวณค่าคาดหวัง ตัวอย่างเช่น เป็นส่วนหนึ่งของ อัลกอริธึ มการคาดหวัง-การทำให้สูงสุด (Expectation–Maximization Algorithm ) (อัลกอริธึมการเรียนรู้แบบไม่กำกับดูแล)

ความน่าจะเป็นภายในและภายนอก

ความน่าจะเป็นภายในเบต้าเจ(พี,q){\displaystyle \beta _{j}(p,q)}คือความน่าจะเป็นโดยรวมของการสร้างคำพีq{\displaystyle w_{p}\cdots w_{q}}โดยพิจารณาจากรากที่ไม่ใช่เทอร์มินัลเอ็นเจ{\displaystyle N^{j}}และไวยากรณ์จี{\displaystyle G}: [ 1 ]

เบต้าเจ(พี,q)=พี(พีq|เอ็นพีqเจ,จี){\displaystyle \beta _{j}(p,q)=P(w_{pq}|N_{pq}^{j},G)}

ความน่าจะเป็นภายนอกαเจ(พี,q){\displaystyle \alpha _{j}(p,q)}คือความน่าจะเป็นทั้งหมดของการเริ่มต้นด้วยสัญลักษณ์เริ่มต้นเอ็น1{\displaystyle N^{1}}และสร้างสัญญาณที่ไม่ใช่เทอร์มินัลเอ็นพีqเจ{\displaystyle N_{pq}^{j}}และคำพูดทั้งหมดที่อยู่นอกนั้นพีq{\displaystyle w_{p}\cdots w_{q}}โดยพิจารณาจากไวยากรณ์จี{\displaystyle G}: [ 1 ]

αเจ(พี,q)=พี(1(พี1),เอ็นพีqเจ,(q+1)|จี){\displaystyle \alpha _{j}(p,q)=P(w_{1(p-1)},N_{pq}^{j},w_{(q+1)m}|G)}

การคำนวณภายในความน่าจะเป็น

กรณีพื้นฐาน:

เบต้าเจ(พี,พี)=พี(พี|เอ็นเจ,จี){\displaystyle \beta _{j}(p,p)=P(w_{p}|N^{j},G)}

กรณีทั่วไป:

สมมติว่ามีกฎอยู่ข้อหนึ่งเอ็นเจเอ็นเอ็น{\displaystyle N_{j}\rightarrow N_{r}N_{s}}ในไวยากรณ์นั้น ความน่าจะเป็นของการสร้างพีq{\displaystyle w_{p}\cdots w_{q}}เริ่มต้นด้วยซับทรีที่มีรากอยู่ที่เอ็นเจ{\displaystyle N_{j}}เป็น:

เค=พีเค=q1พี(เอ็นเจเอ็นเอ็น)เบต้า(พี,เค)เบต้า(เค+1,q){\displaystyle \sum _{k=p}^{k=q-1}P(N_{j}\rightarrow N_{r}N_{s})\beta _{r}(p,k)\beta _{s}(k+1,q)}

ความน่าจะเป็นภายในเบต้าเจ(พี,q){\displaystyle \beta _{j}(p,q)}คือผลรวมของกฎที่เป็นไปได้ทั้งหมด:

เบต้าเจ(พี,q)=เอ็น,เอ็นเค=พีเค=q1พี(เอ็นเจเอ็นเอ็น)เบต้า(พี,เค)เบต้า(เค+1,q){\displaystyle \beta _{j}(p,q)=\sum _{N_{r},N_{s}}\sum _{k=p}^{k=q-1}P(N_{j}\rightarrow N_{r}N_{s})\beta _{r}(p,k)\beta _{s}(k+1,q)}

การคำนวณความน่าจะเป็นภายนอก

กรณีพื้นฐาน:

αเจ(1,n)={1ถ้า เจ=10มิฉะนั้น{\displaystyle \alpha _{j}(1,n)={\begin{cases}1&{\mbox{if }}j=1\\0&{\mbox{otherwise}}\end{cases}}}

สัญลักษณ์เริ่มต้นคือเอ็น1{\displaystyle N_{1}}.

กรณีทั่วไป:

สมมติว่ามีกฎอยู่ข้อหนึ่งเอ็นเอ็นเจเอ็น{\displaystyle N_{r}\rightarrow N_{j}N_{s}}ในไวยากรณ์ที่สร้างขึ้นเอ็นเจ{\displaystyle N_{j}}จากนั้น ส่วนสนับสนุน ด้านซ้ายของกฎนั้นต่อความน่าจะเป็นภายนอกαเจ(พี,q){\displaystyle \alpha _{j}(p,q)}เป็น:

เค=q+1เค=nพี(เอ็นเอ็นเจเอ็น)α(พี,เค)เบต้า(q+1,เค){\displaystyle \sum _{k=q+1}^{k=n}P(N_{r}\rightarrow N_{j}N_{s})\alpha _{r}(p,k)\beta _{s}(q+1,k)}

สมมติว่ามีกฎอยู่ข้อหนึ่งเอ็นเอ็นเอ็นเจ{\displaystyle N_{r}\rightarrow N_{s}N_{j}}ในไวยากรณ์ จากนั้น การมีส่วนร่วม ที่ถูกต้อง ของกฎนั้นต่อความน่าจะเป็นภายนอกαเจ(พี,q){\displaystyle \alpha _{j}(p,q)}เป็น:

เค=1เค=พี1พี(เอ็นเอ็นเอ็นเจ)α(เค,q)เบต้า(เค,พี1){\displaystyle \sum _{k=1}^{k=p-1}P(N_{r}\rightarrow N_{s}N_{j})\alpha _{r}(k,q)\beta _{s}(k,p-1)}

ความน่าจะเป็นภายนอกαเจ(พี,q){\displaystyle \alpha _{j}(p,q)}คือผลรวมของการมีส่วนร่วมจากฝ่ายซ้ายและฝ่ายขวาภายใต้กฎทั้งหมดดังกล่าว:

αเจ(พี,q)=เอ็น,เอ็นเค=q+1เค=nพี(เอ็นเอ็นเจเอ็น)α(พี,เค)เบต้า(q+1,เค)+เอ็น,เอ็นเค=1เค=พี1พี(เอ็นเอ็นเอ็นเจ)α(เค,q)เบต้า(เค,พี1){\displaystyle \alpha _{j}(p,q)=\sum _{N_{r},N_{s}}\sum _{k=q+1}^{k=n}P(N_{r}\rightarrow N_{j}N_{s})\alpha _{r}(p,k)\beta _{s}(q+1,k)+\sum _{N_{r},N_{s}}\sum _{k=1}^{k=p-1}P(N_{r}\rightarrow N_{s}N_{j})\alpha _{r}(k,q)\beta _{s}(k,p-1)}

  • อัลกอริทึมภายใน-ภายนอก - เฟยเซี่ย
  • อัลกอริทึมภายใน-ภายนอก - ไมเคิล คอลลินส์

สรุปเนื้อหา

ข้อมูลสำคัญจากบทความ

ข้อมูลสำคัญเกี่ยวกับ ไม่มีชื่อบทความ

สำหรับ อัลกอริธึมการแยกวิเคราะห์ ใน วิทยาการคอมพิวเตอร์ อัลก อริธึมภายใน-ภายนอก (Inside –Outside Algorithm) เป็นวิธีการประมาณค่าความน่าจะเป็นของการสร้างใหม่ใน...

ความน่าจะเป็นภายในและภายนอก

ความน่าจะเป็นภายใน เบต้า เจ ( พี , q ) {\displaystyle \beta _{j}(p,q)} คือความน่าจะเป็นโดยรวมของการสร้างคำ ว พี ⋯ ว q {\displaystyle w_{p}\cdots w_{q}} โดยพิจารณาจากรากที่ไม่ใช่เทอร์มินัล เอ็น เจ {\displaystyle N^{j}} และไวยากรณ์ จี {\displaystyle G} : [ 1 ]

ลิงก์ภายนอก

อัลกอริทึมภายใน-ภายนอก - เฟยเซี่ย อัลกอริทึมภายใน-ภายนอก - ไมเคิล คอลลินส์