เครือข่ายประสาทเทียมแบบแก๊ส (Neural gas)เป็นเครือข่ายประสาทเทียมที่ได้รับแรงบันดาลใจจากแผนที่จัดระเบียบตนเอง (Self-organizing map ) และนำเสนอในปี 1991 โดยThomas MartinetzและKlaus Schulten [ ^{1 ] เครือ}ข่ายประสาทแบบแก๊สเป็นอัลกอริทึมที่เรียบง่ายสำหรับการค้นหาการแสดงข้อมูลที่เหมาะสมที่สุดโดยอิงจากเวกเตอร์คุณลักษณะ อั ลกอริทึม นี้ถูกเรียกว่า "เครือข่ายประสาทแบบแก๊ส" เนื่องจากพลวัตของเวกเตอร์คุณลักษณะในระหว่างกระบวนการปรับตัว ซึ่งกระจายตัวเหมือนแก๊สภายในพื้นที่ข้อมูล มันถูกนำไปใช้ในกรณีที่การบีบอัดข้อมูลหรือการหาปริมาณเวกเตอร์เป็นปัญหา เช่นการรู้จำเสียงพูด [ ^{2 ] การ}ประมวลผลภาพ^{[ 3 ]}หรือการรู้จำรูปแบบนอกจากนี้ยังใช้สำหรับการวิเคราะห์คลัสเตอร์ด้วยเนื่องจากเป็นทางเลือกที่บรรจบกันอย่างแข็งแกร่งแทนการจัดกลุ่มแบบ k-means ^{[ 4 ]}

สมมติว่าเราต้องการสร้างแบบจำลองการแจกแจงความน่าจะเป็น ของเวกเตอร์ข้อมูล โดยใช้ เวกเตอร์คุณลักษณะจำนวนจำกัดโดย ที่${\displaystyle P(x)}$${\displaystyle x}$${\displaystyle w_{i}}$${\displaystyle i=1,\cdots ,N}$

1. สำหรับแต่ละช่วงเวลา${\displaystyle t}$
   1. เวกเตอร์ข้อมูลตัวอย่างจาก${\displaystyle x}$${\displaystyle P(x)}$
   2. คำนวณระยะห่างระหว่างเวกเตอร์คุณลักษณะแต่ละตัว จัดอันดับระยะห่างเหล่านั้น${\displaystyle x}$
   3. ให้เป็นดัชนีของเวกเตอร์คุณลักษณะที่ใกล้ที่สุดเป็นดัชนีของเวกเตอร์คุณลักษณะที่ใกล้ที่สุดอันดับสอง และอื่นๆ ต่อไป${\displaystyle i_{0}}$${\displaystyle i_{1}}$
   4. อัปเดตเวกเตอร์คุณลักษณะแต่ละรายการโดย:$${\displaystyle w_{i_{k}}^{t+1}=w_{i_{k}}^{t}+\varepsilon \cdot e^{-k/\lambda }\cdot (x-w_{i_{k}}^{t}),k=0,\cdots ,N-1}$$

ในอัลกอริธึมนี้สามารถเข้าใจได้ว่าเป็นอัตราการเรียนรู้ และเป็นช่วงของบริเวณใกล้เคียง โดยค่าและจะลดลงเมื่อค่า เพิ่มขึ้นจนกระทั่งอัลกอริธึมลู่เข้าหลังจากขั้นตอนการปรับตัวหลายขั้นตอน ${\displaystyle \varepsilon }$${\displaystyle \lambda }$${\displaystyle \varepsilon }$${\displaystyle \lambda }$${\displaystyle t}$

ขั้นตอนการปรับตัวของ Neural Gas สามารถตีความได้ว่าเป็นการไล่ระดับลง (gradient descent)บนฟังก์ชันต้นทุนโดยการปรับตัวไม่เพียงแต่เวกเตอร์คุณลักษณะที่ใกล้ที่สุดเท่านั้น แต่ยังรวมถึงเวกเตอร์คุณลักษณะทั้งหมดด้วยขนาดขั้นตอนที่ลดลงตามลำดับระยะทางที่เพิ่มขึ้น เมื่อเปรียบเทียบกับการจัดกลุ่มแบบ k-means (แบบออนไลน์) จะทำให้ได้การลู่เข้าของอัลกอริทึมที่แข็งแกร่งกว่ามาก โมเดล Neural Gas ไม่ลบโหนดและไม่สร้างโหนดใหม่ด้วย

เมื่อเปรียบเทียบกับแผนที่จัดระเบียบตนเอง (Self-Organized Map หรือ SOM) โมเดลแก๊สประสาท (Neural Gas Model) ไม่ได้สมมติว่าเวกเตอร์บางตัวเป็นเพื่อนบ้านกัน หากเวกเตอร์สองตัวอยู่ใกล้กัน พวกมันจะ cenderung เคลื่อนที่ไปด้วยกัน และหากเวกเตอร์สองตัวอยู่ห่างกัน พวกมันจะ cenderung ไม่เคลื่อนที่ไปด้วยกัน ในทางตรงกันข้าม ใน SOM หากเวกเตอร์สองตัวเป็นเพื่อนบ้านกันในกราฟพื้นฐาน พวกมันจะ cenderung เคลื่อนที่ไปด้วยกันเสมอ ไม่ว่าเวกเตอร์สองตัวนั้นจะเป็นเพื่อนบ้านกันในปริภูมิยูคลิดหรือ ไม่ก็ตาม

ชื่อ "ก๊าซประสาท" (neural gas) มาจากจินตนาการที่ว่ามันจะเป็นอย่างไรหากปราศจากกราฟพื้นฐาน และทุกจุดสามารถเคลื่อนที่ได้อย่างอิสระโดยไม่มีพันธะที่ยึดเหนี่ยวกันไว้

มีอัลกอริธึมก๊าซประสาทหลายรูปแบบในเอกสารเพื่อลดข้อบกพร่องบางประการ ที่โดดเด่นกว่านั้นคือก๊าซประสาทที่เติบโตของ Bernd Fritzke ^{[ 5 ]}แต่ก็ควรกล่าวถึงการพัฒนาเพิ่มเติม เช่น เครือข่ายที่เติบโตเมื่อจำเป็น^{[ 6 ]}และก๊าซประสาทที่เติบโตแบบเพิ่มขึ้น^{[ 7 ]}แนวทางที่มุ่งเน้นประสิทธิภาพที่หลีกเลี่ยงความเสี่ยงของการโอเวอร์ฟิตติ้งคือแบบจำลองก๊าซประสาทพลาสติก^{[ 8 ]}

Fritzke อธิบายก๊าซประสาทที่เติบโตขึ้น (GNG) ว่าเป็นแบบจำลองเครือข่ายแบบเพิ่มขึ้นที่เรียนรู้ความสัมพันธ์เชิงโทโพโลยีโดยใช้ " กฎการเรียนรู้แบบ Hebb " ^{[ 5 ]}เพียงแต่แตกต่างจากก๊าซประสาทตรงที่ไม่มีพารามิเตอร์ที่เปลี่ยนแปลงตามเวลาและสามารถเรียนรู้ได้อย่างต่อเนื่อง กล่าวคือ เรียนรู้จากสตรีมข้อมูล GNG ถูกนำมาใช้กันอย่างแพร่หลายในหลายโดเมน^{[ 9 ]}ซึ่งแสดงให้เห็นถึงความสามารถในการจัดกลุ่มข้อมูลแบบเพิ่มขึ้น GNG เริ่มต้นด้วยโหนดสองโหนดที่วางตำแหน่งแบบสุ่ม ซึ่งเชื่อมต่อกันในตอนเริ่มต้นด้วยขอบที่มีอายุเป็นศูนย์และตั้งค่าข้อผิดพลาดเป็น 0 เนื่องจากใน GNG ข้อมูลอินพุตจะถูกนำเสนอตามลำดับทีละรายการ จึงต้องทำตามขั้นตอนต่อไปนี้ในแต่ละรอบ:

• เป็นการคำนวณค่าความคลาดเคลื่อน (ระยะห่าง) ระหว่างโหนดสองโหนดที่อยู่ใกล้ที่สุดกับข้อมูลอินพุตปัจจุบัน
• ค่าความคลาดเคลื่อนของโหนดที่ชนะ (เฉพาะโหนดที่ใกล้ที่สุด) จะถูกสะสมตามลำดับ
• โหนดผู้ชนะและโหนดเพื่อนบ้านเชิงโทโพโลยี (ที่เชื่อมต่อกันด้วยเส้นขอบ) กำลังเคลื่อนที่เข้าหาอินพุตปัจจุบันด้วยสัดส่วนความผิดพลาดที่แตกต่างกันไปในแต่ละโหนด
• อายุของเส้นเชื่อมทั้งหมดที่เชื่อมต่อกับโหนดที่ชนะจะเพิ่มขึ้น
• ถ้าโหนดผู้ชนะและโหนดผู้ชนะอันดับสองเชื่อมต่อกันด้วยเส้นเชื่อม เส้นเชื่อมนั้นจะมีค่าเป็น 0 มิฉะนั้น จะมีการสร้างเส้นเชื่อมระหว่างโหนดทั้งสอง
• หากมีเส้นเชื่อมที่มีอายุมากกว่าเกณฑ์ที่กำหนด เส้นเชื่อมเหล่านั้นจะถูกลบออก โหนดที่ไม่มีการเชื่อมต่อจะถูกกำจัดออกไป
• หากการวนซ้ำปัจจุบันเป็นจำนวนเต็มเท่าของเกณฑ์ความถี่ในการสร้างที่กำหนดไว้ล่วงหน้า โหนดใหม่จะถูกแทรกระหว่างโหนดที่มีข้อผิดพลาดมากที่สุด (ในบรรดาโหนดทั้งหมด) และโหนดเพื่อนบ้านเชิงโทโพโลยีที่มีข้อผิดพลาดสูงสุด ลิงก์ระหว่างโหนดแรกและโหนดหลังจะถูกตัดออก (ข้อผิดพลาดของโหนดเหล่านั้นจะลดลงตามปัจจัยที่กำหนด) และโหนดใหม่จะเชื่อมต่อกับทั้งสองโหนดนั้น ข้อผิดพลาดของโหนดใหม่จะถูกกำหนดค่าเริ่มต้นเป็นข้อผิดพลาดที่อัปเดตแล้วของโหนดที่มีข้อผิดพลาดมากที่สุด (ในบรรดาโหนดทั้งหมด)
• ค่าความคลาดเคลื่อนสะสมของทุกโหนดจะลดลงตามปัจจัยที่กำหนด
• หากไม่เป็นไปตามเกณฑ์การหยุดทำงาน อัลกอริทึมจะรับข้อมูลป้อนเข้าถัดไป เกณฑ์ดังกล่าวอาจเป็นจำนวนรอบที่กำหนดไว้ เช่น จำนวนครั้งที่กำหนดไว้ล่วงหน้าสำหรับการนำเสนอข้อมูลทั้งหมด หรือจำนวนโหนดสูงสุดที่สามารถเข้าถึงได้

อีกหนึ่งตัวแปรของ Neural Gas ที่ได้รับแรงบันดาลใจจากอัลกอริทึม GNG คือ Incremental Growing Neural Gas (IGNG) ผู้เขียนเสนอว่าข้อได้เปรียบหลักของอัลกอริทึมนี้คือ "การเรียนรู้ข้อมูลใหม่ (ความยืดหยุ่น) โดยไม่ทำให้เครือข่ายที่ได้รับการฝึกฝนก่อนหน้านี้เสื่อมลงและลืมข้อมูลอินพุตเก่า (ความเสถียร)" ^{[ 7 ]}

การมีเครือข่ายที่มีชุดโหนดที่เพิ่มขึ้นเรื่อยๆ เช่นเดียวกับที่ใช้ในอัลกอริทึม GNG ถือเป็นข้อได้เปรียบอย่างมาก อย่างไรก็ตาม ข้อจำกัดบางประการในการเรียนรู้ก็ถูกพบเห็นจากการนำพารามิเตอร์ λ มาใช้ ซึ่งเครือข่ายจะสามารถเติบโตได้ก็ต่อเมื่อจำนวนรอบการทำซ้ำเป็นพหุคูณของพารามิเตอร์นี้เท่านั้น^{[ 6 ]}ข้อเสนอเพื่อบรรเทาปัญหานี้คืออัลกอริทึมใหม่ เครือข่ายที่เติบโตเมื่อจำเป็น (Growing When Required network หรือ GWR) ซึ่งจะทำให้เครือข่ายเติบโตเร็วขึ้น โดยการเพิ่มโหนดให้เร็วที่สุดเท่าที่จะเป็นไปได้เมื่อใดก็ตามที่เครือข่ายระบุว่าโหนดที่มีอยู่ไม่สามารถอธิบายอินพุตได้ดีพอ

ความสามารถในการขยายเครือข่ายเพียงอย่างเดียวอาจทำให้เกิดการโอเวอร์ฟิตติ้งได้อย่างรวดเร็ว ในทางกลับกัน การลบโหนดโดยพิจารณาจากอายุเพียงอย่างเดียว ดังเช่นในแบบจำลอง GNG ก็ไม่ได้หมายความว่าโหนดที่ถูกลบนั้นจะไร้ประโยชน์อย่างแท้จริง เพราะการลบขึ้นอยู่กับพารามิเตอร์ของแบบจำลองที่ควรได้รับการปรับแต่งอย่างระมัดระวังให้เข้ากับ "ความยาวหน่วยความจำ" ของกระแสข้อมูลขาเข้า

โมเดล "Plastic Neural Gas" ^{[ 8 ]}แก้ปัญหานี้โดยการตัดสินใจเพิ่มหรือลบโหนดโดยใช้การตรวจสอบแบบไขว้เวอร์ชันที่ไม่ต้องมีการกำกับดูแล ซึ่งควบคุมแนวคิดที่เทียบเท่ากันของ "ความสามารถในการสรุปผล" สำหรับการตั้งค่าที่ไม่ต้องมีการกำกับดูแล

ในขณะที่วิธีการที่เน้นการเพิ่มขนาดเพียงอย่างเดียวเหมาะสำหรับ สถานการณ์ การเรียนรู้แบบค่อยเป็นค่อยไป เท่านั้น ความสามารถในการเพิ่มและลดขนาดจะเหมาะกับปัญหา ข้อมูลแบบสตรีมมิ่ง โดยทั่วไปมากกว่า

ในการค้นหาลำดับของเวกเตอร์คุณลักษณะ อัลกอริทึมก๊าซประสาทเกี่ยวข้องกับการเรียงลำดับ ซึ่งเป็นขั้นตอนที่ไม่เอื้อต่อการประมวลผลแบบขนานหรือการใช้งานในฮาร์ดแวร์อนาล็อก อย่างไรก็ตามมีการออกแบบ การใช้งานทั้งในซอฟต์แวร์แบบขนาน ^{[ 10 ]}และฮาร์ดแวร์อนาล็อก^{[ 11 ]}${\displaystyle i_{0},i_{1},\ldots ,i_{N-1}}$

• T. Martinetz, S. Berkovich และ K. Schulten. เครือข่าย "Neural-gas" สำหรับการหาปริมาณเวกเตอร์และการประยุกต์ใช้ในการทำนายอนุกรมเวลา IEEE-Transactions on Neural Networks, 4(4):558–569, 1993
• Martinetz, T.; Schulten, K. (1994). "Topology representing networks". Neural Networks . 7 (3): 507– 522. doi : 10.1016/0893-6080(94)90109-0 .

• DemoGNG.jsโปรแกรมจำลองด้วย JavaScript สำหรับ Neural Gas (และโมเดลเครือข่ายอื่นๆ)
• แอปพลิเคชันการเรียนรู้เชิงแข่งขันในภาษา Java: โครงข่ายประสาทเทียมแบบไม่ใช้การกำกับดูแล (รวมถึงแผนที่จัดระเบียบตนเอง) พร้อมซอร์สโค้ด
• คำอธิบายอย่างเป็นทางการของอัลกอริทึมก๊าซประสาท
• การใช้งานตัวจำแนก GNG และ GWR ใน Matlab