Examples^[1] of safety-critical systems. From left to right, top to bottom: the glass cockpit of a C-141, a pacemaker, the Space Shuttle and the control room of a nuclear power plant.

A safety-critical system^[2] or life-critical system is a system whose failure or malfunction may result in one (or more) of the following outcomes:^[3][4]

• death or serious injury to people
• loss or severe damage to equipment/property
• environmental harm

A safety-related system (or sometimes safety-involved system) comprises everything (hardware, software, and human aspects) needed to perform one or more safety functions, in which failure would cause a significant increase in the safety risk for the people or environment involved.^[5] Safety-related systems are those that do not have full responsibility for controlling hazards such as loss of life, severe injury or severe environmental damage. The malfunction of a safety-involved system would only be that hazardous in conjunction with the failure of other systems or human error. Some safety organizations provide guidance on safety-related systems, for example the Health and Safety Executive in the United Kingdom.^[6]

ความเสี่ยงประเภทนี้มักได้รับการจัดการด้วยวิธีการและเครื่องมือของวิศวกรรมความปลอดภัยระบบที่สำคัญต่อความปลอดภัยได้รับการออกแบบให้สูญเสียชีวิตน้อยกว่าหนึ่งชีวิตต่อพันล้าน (10 ⁹ ) ชั่วโมงการทำงาน^{[ 7 ] [ 8 ]}วิธีการออกแบบทั่วไป ได้แก่การประเมินความเสี่ยงเชิงความน่าจะเป็น ซึ่งเป็น วิธีการที่รวมการวิเคราะห์โหมดความล้มเหลวและผลกระทบ (FMEA)เข้ากับการวิเคราะห์แผนผังความผิดพลาด ระบบที่สำคัญต่อความปลอดภัยนั้น ใช้คอมพิวเตอร์มากขึ้นเรื่อยๆ

ระบบที่สำคัญต่อความปลอดภัยเป็นแนวคิดที่มักใช้ร่วมกับแบบจำลองชีสสวิสเพื่อแสดง (โดยปกติในแผนภาพโบว์ไท ) ว่าภัยคุกคามสามารถลุกลามไปสู่อุบัติเหตุร้ายแรงได้อย่างไรผ่านความล้มเหลวของสิ่งกีดขวางที่สำคัญหลายประการ การใช้งานนี้กลายเป็นเรื่องปกติโดยเฉพาะในด้านความปลอดภัยของกระบวนการโดยเฉพาะอย่างยิ่งเมื่อนำไปใช้กับการขุดเจาะและการผลิตน้ำมันและก๊าซ ทั้งเพื่อเป็นตัวอย่างและเพื่อสนับสนุนกระบวนการอื่น ๆ เช่นการจัดการความสมบูรณ์ของสินทรัพย์และการสอบสวนเหตุการณ์^{[ 9 ]}

มีระบบความน่าเชื่อถือหลายแบบสำหรับระบบที่มีความสำคัญต่อความปลอดภัย:

• ระบบการทำงานเมื่อระบบล้มเหลวจะยังคงทำงานต่อไปแม้ว่าระบบควบคุมจะล้มเหลว ตัวอย่างเช่นลิฟต์ เทอร์โมสตัทแก๊สในเตาเผาในบ้านส่วนใหญ่ และเครื่องปฏิกรณ์นิวเคลียร์ที่ปลอดภัยแบบพาสซีฟ โหมดการทำงานเมื่อระบบล้มเหลวนั้นบางครั้งก็ไม่ปลอดภัย ระบบยิง อาวุธนิวเคลียร์เมื่อการสื่อสารขาดหายถูกปฏิเสธในฐานะระบบควบคุมสำหรับกองกำลังนิวเคลียร์ของสหรัฐฯ เนื่องจากเป็นระบบการทำงานเมื่อระบบล้มเหลว กล่าวคือ การสื่อสารจะทำให้เกิดการยิง ดังนั้นโหมดการทำงานนี้จึงถือว่ามีความเสี่ยงมากเกินไป ซึ่งแตกต่างจาก พฤติกรรม ที่ร้ายแรงของ ระบบ Perimeterที่สร้างขึ้นในยุคโซเวียต^{[ 10 ]}
• ระบบ Fail-softสามารถทำงานต่อไปได้ชั่วคราวด้วยประสิทธิภาพที่ลดลงในกรณีที่เกิดความล้มเหลว^{[ 11 ]}ยางอะไหล่ส่วนใหญ่เป็นตัวอย่างของสิ่งนี้: โดยปกติจะมีข้อจำกัดบางอย่าง (เช่น ข้อจำกัดความเร็ว) และส่งผลให้ประหยัดน้ำมันน้อยลง อีกตัวอย่างหนึ่งคือ "โหมดปลอดภัย" ที่พบในระบบปฏิบัติการ Windows ส่วนใหญ่
• ระบบ ที่ปลอดภัย เมื่อไม่สามารถทำงานได้ (Fail-safe systems) จะปลอดภัยเมื่อระบบนั้นไม่สามารถทำงานได้ ระบบทางการแพทย์หลายระบบจัดอยู่ในประเภทนี้ ตัวอย่างเช่น เครื่องปั๊มยาอาจทำงานผิดพลาดได้ และตราบใดที่มันแจ้งเตือนพยาบาลและหยุดการปั๊ม มันจะไม่เป็นอันตรายถึงชีวิต เพราะช่วงเวลาปลอดภัยของมันยาวนานพอที่จะให้มนุษย์สามารถตอบสนองได้ ในทำนองเดียวกัน ตัวควบคุมเตาเผาในอุตสาหกรรมหรือในครัวเรือนอาจทำงานผิดพลาดได้ แต่ต้องทำงานผิดพลาดในโหมดที่ปลอดภัย (เช่น ปิดการเผาไหม้เมื่อตรวจพบข้อผิดพลาด) ระบบ อาวุธนิวเคลียร์ที่ยิงตามคำสั่งเป็นระบบที่ปลอดภัยเมื่อไม่สามารถทำงานได้ (Fail-safe) เพราะหากระบบสื่อสารล้มเหลว การยิงก็ไม่สามารถสั่งการได้ ระบบส่งสัญญาณทางรถไฟ ได้ รับการออกแบบให้เป็นระบบที่ปลอดภัยเมื่อไม่สามารถทำงานได้ (Fail-safe)
• ระบบFail-secureจะรักษาความปลอดภัยสูงสุดเมื่อไม่สามารถทำงานได้ ตัวอย่างเช่น ประตูอิเล็กทรอนิกส์แบบ Fail-safe จะปลดล็อกเมื่อไฟฟ้าดับ แต่ประตูแบบ Fail-secure จะล็อก ทำให้พื้นที่นั้นปลอดภัย
• ระบบแบบ Fail-Passiveยังคงทำงานต่อไปได้แม้ในกรณีที่ระบบหลักล้มเหลว ตัวอย่างเช่นระบบควบคุมการบินอัตโนมัติของเครื่องบิน ในกรณีที่ระบบล้มเหลว เครื่องบินจะยังคงอยู่ในสถานะที่ควบคุมได้ ทำให้ผู้ขับเครื่องบินสามารถควบคุมเครื่องบินต่อและลงจอดได้อย่างปลอดภัย
• ระบบที่ทนต่อความผิดพลาดจะหลีกเลี่ยงความล้มเหลวในการให้บริการเมื่อเกิดความผิดพลาดขึ้นในระบบ ตัวอย่างเช่น ระบบควบคุมสำหรับเครื่องปฏิกรณ์นิวเคลียร์ ทั่วไป วิธีปกติในการทนต่อความผิดพลาดคือการให้คอมพิวเตอร์หลายเครื่องทำการทดสอบส่วนต่างๆ ของระบบอย่างต่อเนื่อง และสลับไปใช้เครื่องสำรอง (hot spare) สำหรับระบบย่อยที่ล้มเหลว ตราบใดที่ระบบย่อยที่ชำรุดได้รับการเปลี่ยนหรือซ่อมแซมตามช่วงเวลาการบำรุงรักษาปกติ ระบบเหล่านี้จะถือว่าปลอดภัย คอมพิวเตอร์ แหล่งจ่ายไฟ และเทอร์มินัลควบคุมที่มนุษย์ใช้จะต้องมีสำเนาอยู่ในระบบเหล่านี้ในรูปแบบใดรูปแบบหนึ่ง

การออกแบบซอฟต์แวร์สำหรับระบบที่มีความสำคัญต่อความปลอดภัยนั้นยากเป็นพิเศษ มีสามแง่มุมที่สามารถนำมาใช้เพื่อช่วยในการออกแบบซอฟต์แวร์สำหรับระบบที่มีความสำคัญต่อชีวิต ประการแรกคือ วิศวกรรมและการจัดการกระบวนการ ประการที่สองคือ การเลือกเครื่องมือและสภาพแวดล้อมที่เหมาะสมสำหรับระบบ ซึ่งจะช่วยให้นักพัฒนาระบบสามารถทดสอบระบบได้อย่างมีประสิทธิภาพโดยการจำลองและสังเกตประสิทธิภาพของระบบ ประการที่สามคือ การปฏิบัติตามข้อกำหนดทางกฎหมายและข้อบังคับต่างๆ เช่น ข้อกำหนดของสำนักงานบริหารการบินแห่งสหรัฐอเมริกา (FAA) สำหรับการบิน การกำหนดมาตรฐานที่ระบบต้องได้รับการพัฒนาภายใต้ จะบังคับให้นักออกแบบต้องปฏิบัติตามข้อกำหนด อุตสาหกรรม การบินประสบความสำเร็จในการสร้างวิธีการมาตรฐานสำหรับการผลิตซอฟต์แวร์การบินที่มีความสำคัญต่อชีวิตมาตรฐานที่คล้ายกันนี้มีอยู่สำหรับอุตสาหกรรมโดยทั่วไป ( IEC 61508 ) และอุตสาหกรรมยานยนต์ ( ISO 26262 ) อุตสาหกรรมการแพทย์ ( IEC 62304 ) และอุตสาหกรรมนิวเคลียร์ ( IEC 61513 ) โดยเฉพาะ แนวทางมาตรฐานคือการเขียนโค้ด ตรวจสอบ จัดทำเอกสาร ทดสอบ ตรวจสอบ และวิเคราะห์ระบบอย่างรอบคอบ แนวทางอื่นคือการรับรองระบบการผลิต คอมไพเลอร์แล้วสร้างโค้ดของระบบจากข้อกำหนด แนวทางอื่นใช้วิธีการที่เป็นทางการเพื่อสร้างหลักฐานว่าโค้ดตรงตามข้อกำหนด^{[ 12 ]}แนวทางเหล่านี้ทั้งหมดช่วยปรับปรุงคุณภาพซอฟต์แวร์ในระบบที่สำคัญต่อความปลอดภัยโดยการทดสอบหรือกำจัดขั้นตอนด้วยตนเองในกระบวนการพัฒนา เนื่องจากคนเรามักทำผิดพลาด และความผิดพลาดเหล่านี้เป็นสาเหตุที่พบบ่อยที่สุดของข้อผิดพลาดที่อาจเป็นอันตรายถึงชีวิต

• วิศวกรรมชีวการแพทย์– การประยุกต์ใช้หลักการทางวิศวกรรมและแนวคิดการออกแบบในทางการแพทย์และชีววิทยา 
• ปัจจัยด้านความปลอดภัย– ความแข็งแรงของระบบเกินกว่าภาระที่วางแผนไว้ 
• วิธีการที่เป็นทางการ– ข้อกำหนดของโปรแกรมทางคณิตศาสตร์ 
• ซอฟต์แวร์ที่มีความน่าเชื่อถือสูง
• ภารกิจสำคัญ– ปัจจัยสำคัญที่มีผลต่อการดำเนินงานขององค์กร 
• เครื่องปฏิกรณ์นิวเคลียร์– อุปกรณ์สำหรับควบคุมปฏิกิริยานิวเคลียร์ 
• ความซ้ำซ้อน (ทางวิศวกรรม) – การทำสำเนาส่วนประกอบที่สำคัญเพื่อเพิ่มความน่าเชื่อถือของระบบ 
• การประมวลผลแบบเรียลไทม์
• วิศวกรรมความน่าเชื่อถือ– สาขาย่อยของวิศวกรรมระบบที่เน้นความน่าเชื่อถือ 
• สมาคมระบบความปลอดภัยที่สำคัญ– สมาคมวิชาชีพแห่งสหราชอาณาจักร 
• SAPHIRE – โปรแกรมวิเคราะห์ระบบสำหรับการประเมินความน่าเชื่อถือแบบบูรณาการเชิงปฏิบัติ (ซอฟต์แวร์วิเคราะห์ความเสี่ยง) 
• เครื่องฉายรังสี Therac-25 เกี่ยวข้องกับอุบัติเหตุ 6 ครั้ง 
• การวิเคราะห์ความปลอดภัยเชิงพื้นที่

• ตัวอย่างของระบบที่มีความสำคัญต่อชีวิต
• ห้องสมุดเสมือนจริงของระบบที่สำคัญต่อความปลอดภัย
• คำอธิบายเกี่ยวกับ Fail Operational และ Fail Passive ในระบบอิเล็กทรอนิกส์การบิน (เก็บถาวรเมื่อ 2020-07-15 ที่Wayback Machine)
• มาตรฐานทางเทคนิคของ NASA: ระบบการรับรองซอฟต์แวร์และมาตรฐานความปลอดภัยของซอฟต์แวร์

เก็บถาวรเมื่อวันที่ 15 กรกฎาคม 2020 ที่Wayback Machine