ในด้านการเข้ารหัสลับระบบการเข้ารหัสลับคือชุดของ อัลก อริธึมการเข้ารหัสลับที่จำเป็นในการใช้งานบริการรักษาความปลอดภัยเฉพาะ เช่น การรักษาความลับ ( การเข้ารหัส ) ^{[ 1 ]}

โดยทั่วไป ระบบเข้ารหัสประกอบด้วยอัลกอริธึมสามตัว ได้แก่ อัลกอริธึมสำหรับการสร้างกุญแจอัลกอริธึมสำหรับการเข้ารหัส และอัลกอริธึมสำหรับการถอดรหัส คำว่า"รหัสลับ " (บางครั้งเขียนว่า ไซเฟอร์ ) มักใช้เพื่ออ้างถึงอัลกอริธึมสองตัว คือ อัลกอริธึมสำหรับการเข้ารหัสและอัลกอริธึมสำหรับการถอดรหัส ดังนั้น คำว่า"ระบบเข้ารหัส"จึงมักใช้เมื่ออัลกอริธึมการสร้างกุญแจมีความสำคัญ ด้วยเหตุนี้ คำว่า"ระบบเข้ารหัส " จึงมักใช้เพื่ออ้างถึง เทคนิค กุญแจสาธารณะอย่างไรก็ตาม ทั้ง "รหัสลับ" และ "ระบบเข้ารหัส" ก็ใช้กับเทคนิค กุญแจสมมาตรด้วย เช่นกัน

ในทางคณิตศาสตร์ ระบบการเข้ารหัสหรือรูปแบบการเข้ารหัสสามารถนิยามได้ว่าเป็นทูเปิล ที่มีคุณสมบัติดังต่อไปนี้ ${\displaystyle ({\mathcal {P}},{\mathcal {C}},{\mathcal {K}},{\mathcal {E}},{\mathcal {D}})}$

1. ${\displaystyle {\mathcal {P}}}$เป็นเซตที่เรียกว่า "พื้นที่ข้อความธรรมดา" โดยองค์ประกอบของเซตนี้เรียกว่าข้อความธรรมดา
2. ${\displaystyle {\mathcal {C}}}$คือเซตที่เรียกว่า "ปริภูมิข้อความเข้ารหัส" องค์ประกอบของเซตนี้เรียกว่าข้อความเข้ารหัส
3. ${\displaystyle {\คณิตศาสตร์ {K}}}$เป็นเซตที่เรียกว่า "พื้นที่กุญแจ" องค์ประกอบของเซตนี้เรียกว่ากุญแจ
4. ${\displaystyle {\mathcal {E}}=\{E_{k}:k\in {\mathcal {K}}\}}$เป็นชุดของฟังก์ชันโดยองค์ประกอบของมันเรียกว่า "ฟังก์ชันการเข้ารหัส"${\displaystyle E_{k}:{\mathcal {P}}\rightarrow {\mathcal {C}}}$
5. ${\displaystyle {\mathcal {D}}=\{D_{k}:k\in {\mathcal {K}}\}}$เป็นชุดของฟังก์ชันโดยองค์ประกอบของมันเรียกว่า "ฟังก์ชันถอดรหัส"${\displaystyle D_{k}:{\mathcal {C}}\rightarrow {\mathcal {P}}}$

สำหรับแต่ละค่าจะมีค่าที่ทำให้สำหรับทุกค่า^{[ 2 ]}${\displaystyle e\in {\mathcal {K}}}$${\displaystyle d\in {\mathcal {K}}}$${\displaystyle D_{d}(E_{e}(p))=p}$${\displaystyle p\in {\mathcal {P}}}$

หมายเหตุ: โดยทั่วไปแล้ว คำจำกัดความนี้จะถูกปรับเปลี่ยนเพื่อแยกแยะรูปแบบการเข้ารหัสว่าเป็นแบบกุญแจสมมาตรหรือแบบ กุญแจสาธารณะ

ตัวอย่างคลาสสิกของระบบการเข้ารหัสคือรหัสซีซาร์ ส่วนตัวอย่างที่ทันสมัยกว่าคือระบบการเข้ารหัส RSA

อีกตัวอย่างหนึ่งของระบบเข้ารหัสลับคือมาตรฐานการเข้ารหัสขั้นสูง (AES) AES เป็นอัลกอริธึมการเข้ารหัสแบบสมมาตรที่ใช้กันอย่างแพร่หลายและกลายเป็นมาตรฐานสำหรับการรักษาความปลอดภัยของข้อมูลในแอปพลิเคชันต่างๆ

ระบบการเข้ารหัส Paillierเป็นอีกตัวอย่างหนึ่งที่ใช้ในการรักษาและปกป้องความเป็นส่วนตัวและข้อมูลที่ละเอียดอ่อน โดยมีคุณสมบัติในการลงคะแนนเสียงทางอิเล็กทรอนิกส์ ลอตเตอรี่อิเล็กทรอนิกส์ และการประมูลทางอิเล็กทรอนิกส์^{[ 3 ]}

• รายชื่อระบบเข้ารหัสลับ
• ความปลอดภัยเชิงความหมาย