เนื่องจากผลลัพธ์การตรวจจับขอบทั้งหมดได้รับผลกระทบได้ง่ายจากสัญญาณรบกวนในภาพ จึงจำเป็นอย่างยิ่งที่จะต้องกรองสัญญาณรบกวนออกเพื่อป้องกันการตรวจจับผิดพลาดที่เกิดจากสัญญาณรบกวนนั้น ในการทำให้ภาพเรียบขึ้น จะทำการคอนโวลูชันเคอร์เนลตัวกรองเกาส์เซียนกับภาพ ขั้นตอนนี้จะทำให้ภาพเรียบขึ้นเล็กน้อยเพื่อลดผลกระทบของสัญญาณรบกวนที่เห็นได้ชัดต่อตัวตรวจจับขอบ สมการสำหรับเคอร์เนลตัวกรองเกาส์เซียนขนาด (2 k +1)×(2 k +1) มีดังนี้:

${\displaystyle H_{ij}={\frac {1}{2\pi \sigma ^{2}}}\exp \left(-{\frac {(i-(k+1))^{2}+(j-(k+1))^{2}}{2\sigma ^{2}}}\right);1\leq i,j\leq (2k+1)}$

ต่อไปนี้เป็นตัวอย่างของตัวกรองเกาส์เซียนขนาด 5x5 ที่ใช้สร้างภาพด้านข้าง${\displaystyle \sigma }$= 2. (เครื่องหมายดอกจันแสดงถึง การดำเนินการ คอนโวลูชัน )

${\displaystyle \mathbf {B} ={\frac {1}{159}}{\begin{bmatrix}2&4&5&4&2\\4&9&12&9&4\\5&12&15&12&5\\4&9&12&9&4\\2&4&5&4&2\end{bmatrix}}*\mathbf {A} .}$

สิ่งสำคัญคือต้องเข้าใจว่าการเลือกขนาดของเคอร์เนลเกาส์เซียนจะส่งผลต่อประสิทธิภาพของตัวตรวจจับ ยิ่งขนาดใหญ่เท่าไหร่ ความไวต่อสัญญาณรบกวนของตัวตรวจจับก็จะยิ่งต่ำลงเท่านั้น นอกจากนี้ ข้อผิดพลาดในการระบุตำแหน่งเพื่อตรวจจับขอบจะเพิ่มขึ้นเล็กน้อยเมื่อขนาดของเคอร์เนลตัวกรองเกาส์เซียนเพิ่มขึ้น ขนาด 5×5 เป็นขนาดที่เหมาะสมสำหรับกรณีส่วนใหญ่ แต่ขนาดที่เหมาะสมอาจแตกต่างกันไปขึ้นอยู่กับสถานการณ์เฉพาะ

ขอบในภาพอาจชี้ไปในทิศทางต่างๆ ได้ ดังนั้นอัลกอริทึม Canny จึงใช้ตัวกรองสี่ตัวเพื่อตรวจจับขอบแนวนอน แนวตั้ง และแนวทแยงในภาพที่เบลอ ตัวดำเนินการตรวจจับขอบ (เช่นRoberts , PrewittหรือSobel ) จะส่งคืนค่าอนุพันธ์อันดับแรกในทิศทางแนวนอน (G ) และทิศทางแนวตั้ง (G ) จากนั้นจึงสามารถกำหนดความชันและทิศทางของขอบได้:

${\displaystyle \mathbf {G} ={\sqrt {{\mathbf {G} _{x}}^{2}+{\mathbf {G} _{y}}^{2}}}}$

${\displaystyle \mathbf {\Theta } =\ชื่อผู้ดำเนินการ {atan2} \left(\mathbf {G} _{y},\mathbf {G} _{x}\right)}$,

โดยที่ G สามารถคำนวณได้โดยใช้ ฟังก์ชัน hypotและatan2คือฟังก์ชัน arctangent ที่มีอาร์กิวเมนต์สองตัว มุมทิศทางของขอบจะถูกปัดเศษเป็นหนึ่งในสี่มุมที่แสดงถึงแนวตั้ง แนวนอน และเส้นทแยงมุมทั้งสอง (0°, 45°, 90° และ 135°) ทิศทางของขอบที่อยู่ในแต่ละบริเวณสีจะถูกกำหนดให้มีค่ามุมเฉพาะ ตัวอย่างเช่น θ ใน [0°, 22.5°] หรือ [157.5°, 180°] จะถูกแปลงเป็น 0°

การลดความชันด้วยการตัดค่าต่ำสุด หรือการกำหนดเกณฑ์ขอบล่าง เป็นเทคนิคการลดความหนาของขอบภาพ

มีการใช้การตัดขอบล่างเพื่อค้นหาตำแหน่งที่มีการเปลี่ยนแปลงค่าความเข้มที่คมชัดที่สุด อัลกอริทึมสำหรับแต่ละพิกเซลในภาพเกรเดียนต์มีดังนี้:

1. เปรียบเทียบความเข้มของขอบพิกเซลปัจจุบันกับความเข้มของขอบพิกเซลในทิศทางเกรเดียนต์บวกและลบ
2. หากความเข้มของขอบพิกเซลปัจจุบันมีค่ามากที่สุดเมื่อเทียบกับพิกเซลอื่นๆ ในมาสก์ที่มีทิศทางเดียวกัน (เช่น พิกเซลที่ชี้ไปในทิศทางแกน y จะถูกเปรียบเทียบกับพิกเซลด้านบนและด้านล่างในแกนตั้ง) ค่าดังกล่าวจะถูกเก็บรักษาไว้ มิฉะนั้น ค่าดังกล่าวจะถูกตัดทิ้ง

ในการใช้งานบางรูปแบบ อัลกอริทึมจะจัดหมวดหมู่ทิศทางความชันต่อเนื่องเป็นชุดทิศทางแบบไม่ต่อเนื่องขนาดเล็ก จากนั้นจึงเลื่อนตัวกรองขนาด 3x3 ไปบนผลลัพธ์ของขั้นตอนก่อนหน้า (นั่นคือ ความเข้มของขอบและทิศทางความชัน) ที่ทุกพิกเซล ตัวกรองจะลดความเข้มของขอบของพิกเซลตรงกลาง (โดยการตั้งค่าเป็น 0) หากขนาดของพิกเซลนั้นไม่มากกว่าขนาดของพิกเซลข้างเคียงสองพิกเซลในทิศทางความชัน ตัวอย่างเช่น

• หากมุมความชันที่ปัดเศษเป็น 0° (กล่าวคือ ขอบอยู่ในทิศเหนือ-ใต้) จุดนั้นจะถือว่าอยู่บนขอบหากขนาดของความชันของจุดนั้นมากกว่าขนาดของความชันที่พิกเซลใน ทิศ ตะวันออกและทิศ ตะวันตก
• หากมุมความชันที่ปัดเศษแล้วเป็น 90° (กล่าวคือ ขอบอยู่ในทิศตะวันออก-ตะวันตก) จุดนั้นจะถือว่าอยู่บนขอบหากขนาดของความชันของจุดนั้นมากกว่าขนาดของความชันที่พิกเซลในทิศเหนือและทิศ ใต้
• หากมุมความชันที่ปัดเศษแล้วคือ 135° (กล่าวคือ ขอบอยู่ในทิศตะวันออกเฉียงเหนือ-ตะวันตกเฉียงใต้) จุดนั้นจะถือว่าอยู่บนขอบหากขนาดของความชันของจุดนั้นมากกว่าขนาดของความชันที่พิกเซลในทิศตะวันตกเฉียงเหนือและทิศ ตะวันออกเฉียงใต้
• หากมุมความชันที่ปัดเศษแล้วเป็น 45° (กล่าวคือ ขอบอยู่ในทิศตะวันตกเฉียงเหนือ-ตะวันออกเฉียงใต้) จุดนั้นจะถือว่าอยู่บนขอบหากขนาดของความชันของจุดนั้นมากกว่าขนาดของความชันที่พิกเซลในทิศตะวันออกเฉียงเหนือและทิศ ตะวันตกเฉียงใต้

ในการใช้งานที่แม่นยำยิ่งขึ้น จะใช้ การประมาณค่าเชิงเส้นระหว่างพิกเซลสองพิกเซลที่อยู่ติดกันซึ่งคร่อมทิศทางของความชัน ตัวอย่างเช่น หากมุมความชันอยู่ระหว่าง 89° และ 180° การประมาณค่าระหว่างความชันที่ พิกเซลทาง ทิศเหนือและทิศตะวันออกเฉียงเหนือจะให้ค่าประมาณค่าหนึ่งค่า และการประมาณค่าระหว่าง พิกเซล ทางทิศใต้และ ทิศ ตะวันตกเฉียงใต้จะให้ค่าประมาณค่าอีกค่าหนึ่ง (โดยใช้หลักการในย่อหน้าที่แล้ว) ขนาดของความชันที่พิกเซลตรงกลางจะต้องมากกว่าทั้งสองค่านี้จึงจะถูกทำเครื่องหมายว่าเป็นขอบ

โปรดทราบว่าเครื่องหมายของทิศทางไม่มีความสำคัญ กล่าวคือ เหนือ-ใต้ ก็เหมือนกับ ใต้-เหนือ และอื่นๆ

หลังจากใช้การระงับค่าสูงสุดที่ไม่ใช่ค่าสูงสุดแล้ว พิกเซลขอบที่เหลือจะให้การแสดงขอบจริงในภาพที่แม่นยำยิ่งขึ้น อย่างไรก็ตาม พิกเซลขอบบางส่วนยังคงหลงเหลืออยู่เนื่องจากสัญญาณรบกวนและความแปรปรวนของสี เพื่อแก้ไขปัญหาการตอบสนองที่ไม่ถูกต้องเหล่านี้ จำเป็นต้องกรองพิกเซลขอบที่มีค่าความชันต่ำออกไปและคงพิกเซลขอบที่มีค่าความชันสูงไว้ ซึ่งทำได้โดยการเลือกค่าเกณฑ์สูงและต่ำ หากค่าความชันของพิกเซลขอบสูงกว่าค่าเกณฑ์สูง จะถูกทำเครื่องหมายว่าเป็นพิกเซลขอบที่แข็งแรง หากค่าความชันของพิกเซลขอบน้อยกว่าค่าเกณฑ์สูงและมากกว่าค่าเกณฑ์ต่ำ จะถูกทำเครื่องหมายว่าเป็นพิกเซลขอบที่อ่อนแอ หากค่าความชันของพิกเซลขอบน้อยกว่าค่าเกณฑ์ต่ำ พิกเซลนั้นจะถูกตัดออก ค่าเกณฑ์ทั้งสองค่าถูกกำหนดขึ้นจากประสบการณ์ และคำจำกัดความของค่าเกณฑ์จะขึ้นอยู่กับเนื้อหาของภาพอินพุตที่กำหนด

พิกเซลขอบที่แข็งแรงควรมีส่วนร่วมในภาพขอบสุดท้ายอย่างแน่นอน เพราะถือว่ามาจากขอบจริงในภาพ อย่างไรก็ตาม จะมีการถกเถียงกันเกี่ยวกับพิกเซลขอบที่อ่อนแอ เราต้องการตรวจสอบว่าพิกเซลเหล่านี้มาจากขอบจริงหรือมาจากสัญญาณรบกวน/ความแปรปรวนของสี พิกเซลขอบที่อ่อนแอควรถูกตัดออกจากการพิจารณาหากเป็นอย่างหลัง อัลกอริทึมนี้ใช้แนวคิดที่ว่าพิกเซลขอบที่อ่อนแอจากขอบจริงจะ (โดยปกติ) เชื่อมต่อกับพิกเซลขอบที่แข็งแรง ในขณะที่สัญญาณรบกวนจะไม่เชื่อมต่อ เพื่อติดตามการเชื่อมต่อของขอบ จะใช้ การวิเคราะห์กลุ่มพิกเซลโดยดูที่พิกเซลขอบที่อ่อนแอและพิกเซลข้างเคียงที่เชื่อมต่อ 8 จุด ตราบใดที่มีพิกเซลขอบที่แข็งแรงอย่างน้อยหนึ่งพิกเซลที่เกี่ยวข้องในกลุ่มพิกเซลนั้น จุดขอบที่อ่อนแอนั้นสามารถระบุได้ว่าเป็นจุดที่ควรเก็บรักษาไว้ พิกเซลขอบที่อ่อนแอเหล่านี้จะกลายเป็นขอบที่แข็งแรง ซึ่งสามารถทำให้พิกเซลขอบที่อ่อนแอข้างเคียงได้รับการเก็บรักษาไว้ด้วย

เนื่องจากทั้งขอบและสัญญาณรบกวนจะถูกระบุว่าเป็นสัญญาณความถี่สูง ตัวกรองแบบเกาส์เซียนอย่างง่ายจะเพิ่มเอฟเฟกต์ความเรียบให้กับทั้งสองอย่าง อย่างไรก็ตาม เพื่อให้ได้ความแม่นยำสูงในการตรวจจับขอบจริง คาดว่าควรใช้เอฟเฟกต์ความเรียบที่มากขึ้นกับสัญญาณรบกวน และลดเอฟเฟกต์ความเรียบลงกับขอบ บิง หวัง และเส้าเซิง ฟาน จากมหาวิทยาลัยวิทยาศาสตร์และเทคโนโลยีฉางชา ได้พัฒนาตัวกรองแบบปรับได้โดยตัวกรองจะประเมินความไม่ต่อเนื่องระหว่างค่าระดับสีเทาของแต่ละพิกเซลยิ่งความไม่ต่อเนื่องสูง ค่าถ่วงน้ำหนักที่ตั้งไว้สำหรับตัวกรองความเรียบ ณ จุดนั้นก็จะยิ่งต่ำลง ในทางตรงกันข้าม ยิ่งความไม่ต่อเนื่องระหว่างค่าระดับสีเทาต่ำลง ค่าถ่วงน้ำหนักที่ตั้งไว้สำหรับตัวกรองก็จะยิ่งสูงขึ้น กระบวนการในการใช้งานตัวกรองแบบปรับได้นี้สามารถสรุปได้ในห้าขั้นตอน:

1. กำหนดให้ K = 1 กำหนดค่าการวนซ้ำ n และค่าสัมประสิทธิ์ของแอมพลิจูดของขอบ h

2. คำนวณค่าความชัน${\displaystyle G_{x}(x,y)}$และ${\displaystyle G_{y}(x,y)}$

3. คำนวณน้ำหนักตามสูตรด้านล่าง:

${\displaystyle d(x,y)={\sqrt {G_{x}(x,y)^{2}+G_{y}(x,y)^{2}}}}$

${\displaystyle w(x,y)=\exp \left(-{\frac {\sqrt {d(x,y)}}{2h^{2}}}\right)}$

4. นิยามของตัวกรองแบบปรับได้คือ:

${\displaystyle f(x,y)={\frac {1}{N}}\sum \limits _{i=-1}^{1}\sum \limits _{j=-1}^{1}f(x+i,y+j)w(x+i,y+j)}$

เพื่อทำให้ภาพเรียบเนียนขึ้น โดยที่

${\displaystyle N=\sum \limits _{i=-1}^{1}\sum \limits _{j=-1}^{1}w(x+i,y+j)}$

5. เมื่อ K = n ให้หยุดการวนซ้ำ มิฉะนั้น เมื่อ k = k+1 ให้ดำเนินการขั้นตอนที่สองต่อไป

ขนาดและทิศทางของเกรเดียนต์สามารถคำนวณได้ด้วยตัวดำเนินการตรวจจับขอบที่แตกต่างกันหลายแบบ และการเลือกตัวดำเนินการอาจส่งผลต่อคุณภาพของผลลัพธ์ ตัวดำเนินการที่นิยมใช้กันมากคือ ตัวกรอง Sobel 3x3 อย่างไรก็ตาม ตัวกรองอื่นๆ อาจดีกว่า เช่น ตัวกรอง Sobel 5x5 ซึ่งจะช่วยลดสัญญาณรบกวน หรือ ตัวกรอง Scharr ซึ่งมี สมมาตรการหมุนที่ดีกว่าตัวเลือกอื่นๆ ที่นิยมใช้ ได้แก่Prewitt (ใช้โดย Zhou ^{[ 2 ]} ) และRoberts Cross

เพื่อแก้ไขความท้าทายที่ยากต่อการกำหนดค่าเกณฑ์คู่โดย วิธีเชิงประจักษ์ สามารถใช้ วิธีของ Otsu ^{[ 3 ]}กับภาพขนาดเกรเดียนต์ที่ไม่ถูกระงับค่าสูงสุดเพื่อสร้างเกณฑ์สูงได้ โดยทั่วไปเกณฑ์ต่ำจะถูกตั้งค่าเป็น 1/2 ของเกณฑ์สูงในกรณีนี้ เนื่องจากภาพขนาดเกรเดียนต์มีค่าต่อเนื่องโดยไม่มีค่าสูงสุดที่กำหนดไว้อย่างชัดเจน วิธีของ Otsu จึงต้องได้รับการปรับให้ใช้คู่ค่า/จำนวนแทนฮิสโตแกรมทั้งหมด

แม้ว่าการตรวจจับขอบแบบ Canny แบบดั้งเดิมจะให้ผลการตรวจจับที่ดีเพื่อให้ตรงตามเกณฑ์สองข้อแรก แต่ก็ไม่ได้ตรงตามการตอบสนองเพียงครั้งเดียวต่อขอบอย่างเคร่งครัด เทคนิค สัณฐานวิทยาทางคณิตศาสตร์เพื่อลดขนาดขอบที่ตรวจพบได้รับการพัฒนาโดย Mallat S และ Zhong ^{[ 4 ]}

Curveletsถูกนำมาใช้แทนตัวกรอง Gaussian และการประมาณค่าเกรเดียนต์เพื่อคำนวณสนามเวกเตอร์ที่มีทิศทางและขนาดใกล้เคียงกับทิศทางและความแข็งแรงของขอบในภาพ จากนั้นจึงนำขั้นตอนที่ 3-5 ของอัลกอริทึม Canny มาใช้ Curvelets จะแยกสัญญาณออกเป็นส่วนประกอบที่แยกจากกันตามขนาดต่างๆ และการตัดส่วนประกอบที่มีขนาดละเอียดกว่าออกจะช่วยลดสัญญาณรบกวนได้^{[ 5 ]}