การคำนวณทางคอมพิวเตอร์เป็นสาขาวิทยาศาสตร์ที่เกี่ยวข้องกับการแสดงตัวเลขบนคอมพิวเตอร์และการดำเนินการทางคณิตศาสตร์ที่ เกี่ยวข้อง ^{[ 1 ] [ 2 ]}

ประกอบด้วย:

• เลขคณิตขนาดคงที่
  • "เลขคณิตจำนวนเต็ม" ซึ่งในทางปฏิบัติคือเลขคณิตมอดูลาร์โดยใช้เลขยกกำลังของ 2
  • เลขคณิตจุดคงที่
  • เลขคณิตแบบโมดูลาร์
    • เลขคณิตหลายโมดูล
    • พีชคณิตp -adic ประกอบด้วยการคำนวณโมดูลัสของจำนวนเฉพาะตัว เดียว และการดึงผลลัพธ์ที่เป็นจำนวนเต็มหรือจำนวนตรรกยะโดยใช้การยกกำลังของเฮนเซล
    • พีชคณิตฟิลด์จำกัด
  • การคำนวณเลขทศนิยม
• เลขคณิตความแม่นยำสูง
• เลขคณิตช่วง
• เลขคณิตระดับดัชนีสมมาตร
• การคำนวณเมทริกซ์

ในกรณีที่ขนาดของการแสดงตัวเลขนั้นคงที่ (เลขทศนิยมคงที่ เลขทศนิยมลอยตัว และเลขคณิตช่วง) สิ่งสำคัญคือการควบคุมข้อผิดพลาดในการคำนวณให้ได้มากที่สุดเท่าที่จะเป็นไปได้ ดูตัวอย่างเช่นIEEE 754

ในกรณีอื่นๆ ที่ต้องการผลลัพธ์ที่แม่นยำ สิ่งสำคัญคือประสิทธิภาพในการใช้งานจริง ซึ่งจะได้รับการปรับให้เหมาะสมที่สุดโดยการผสมผสานการปรับปรุงความซับซ้อนในการคำนวณเข้ากับคุณสมบัติเฉพาะ ของฮาร์ดแวร์

การประชุมวิชาการ ARITH ว่าด้วยการคำนวณทางคอมพิวเตอร์เป็นการประชุมวิชาการระดับนานาชาติที่อุทิศให้กับการคำนวณทางคอมพิวเตอร์