Computer arithmetic
เลขคณิตคอมพิวเตอร์
เลขคณิตจุดลอยตัว
CS1 German-language sources (de)ในด้านการคำนวณเลขคณิตจุดลอยตัว ( FP ) คือเลขคณิตบนเซตย่อยของจำนวนจริงที่สร้างขึ้นโดยตัวส่วนสำคัญ ( ลำดับ ที่มีเครื่องหมายของจำนวนหลักคงที่ใน ฐานใด ฐาน หนึ่ง )...
วิธีเสริม
Computer arithmeticในคณิตศาสตร์และวิทยาการคอมพิวเตอร์วิธีส่วนเติมเต็มเป็นเทคนิคในการเข้ารหัสช่วงสมมาตรของจำนวนเต็ม บวกและลบ ในลักษณะที่สามารถใช้อัลกอริทึม (หรือกลไก )...
อ่าน 1 นาทีการจัดการบิต
Binary arithmeticการจัดการบิตคือการกระทำทางอัลกอริทึมในการจัดการบิต หรือ ข้อมูลชิ้นเล็ก ๆที่สั้นกว่าคำงานเขียนโปรแกรมคอมพิวเตอร์ที่ต้องใช้การจัดการบิต ได้แก่ การควบคุมอุปกรณ์ระดับต่ำ...
การปัดเศษ
Arithmeticการปัดเศษหรือการปัดลงคือกระบวนการปรับตัวเลข ให้ เป็น ค่า โดยประมาณที่สะดวกกว่า โดยมักจะมีรูปแบบที่สั้นกว่าหรือเรียบง่ายกว่า ตัวอย่างเช่น การแทนที่ 23.4476 ดอลลาร์ด้วย 23.
จำนวนเต็มเกินขีดจำกัด
Computer arithmeticในการเขียนโปรแกรมคอมพิวเตอร์การเกิดโอเวอร์โฟลว์ของจำนวนเต็มเกิดขึ้นเมื่อ การดำเนินการ...
อีไออี 754
Binary arithmeticมาตรฐานIEEE สำหรับการคำนวณเลขทศนิยม ( IEEE 754 ) เป็นมาตรฐานทางเทคนิค สำหรับการคำนวณเลขทศนิยมซึ่งกำหนดขึ้นครั้งแรกในปี 1985 โดยสถาบันวิศวกรรมไฟฟ้าและอิเล็กทรอนิกส์ (IEEE)
อ่าน 1 นาทีแฟล็กโอเวอร์โฟลว์
Computer arithmeticในหน่วยประมวลผลคอมพิวเตอร์แฟล็กการโอเวอร์โฟลว์ (บางครั้งเรียกว่าแฟล็ก V ) มักจะเป็นบิตเดียวในรีจิสเตอร์สถานะ ระบบ...
ความแม่นยำสูงขึ้น
CS1: long volume valueความแม่นยำแบบขยายหมายถึง รูปแบบตัวเลข จุดลอยตัวที่ให้ความแม่นยำ มากกว่า รูปแบบตัวเลขจุดลอยตัวพื้นฐานรูปแบบความแม่นยำแบบขยายรองรับรูปแบบพื้นฐานโดยลดข้อผิดพลาดจากการปัดเศษและการล้นใน...
หน่วยสุดท้าย
Computer arithmeticในวิทยาการคอมพิวเตอร์และการวิเคราะห์เชิงตัวเลขหน่วยในตำแหน่งสุดท้ายหรือหน่วยที่มีความแม่นยำน้อยที่สุด ( ulp ) คือระยะห่างระหว่าง ตัวเลข ทศลอย สองตัวที่ต่อเนื่องกัน กล่าว คือ...
อ่าน 1 นาทีจำนวนเต็ม (วิทยาการคอมพิวเตอร์)
Computer arithmeticในวิทยาการคอมพิวเตอร์จำนวนเต็มคือข้อมูลประเภทจำนวนเต็มซึ่ง เป็น ประเภทข้อมูลที่แสดงช่วงของจำนวนเต็ม ทาง...
เลขฐานสองแบบเข้ารหัสทศนิยม
All accuracy disputesในระบบคอมพิวเตอร์และอิเล็กทรอนิกส์เลขฐานสองแบบเข้ารหัสทศนิยม ( BCD ) เป็นรูปแบบ การเข้ารหัสเลข ฐานสองแบบหนึ่งของ เลข ฐานสิบโดยแต่ละหลักจะถูกแทนด้วยจำนวนบิต คงที่...
อ่าน 1 นาทีเปรียบเทียบและแลกเปลี่ยน
Computer arithmeticในวิทยาการคอมพิวเตอร์คำ สั่ง เปรียบเทียบและสลับ ( CAS ) เป็นคำสั่งอะตอมิก ที่ใช้ในมัลติเธรดดิ้งเพื่อให้เกิดการซิงโครไนซ์...
หน่วยตรรกะทางคณิตศาสตร์
Arithmetic logic circuitsในด้านการคำนวณหน่วยคำนวณเชิงตรรกะ ( ALU ) เป็นวงจรดิจิทัลเชิงผสม ที่ทำการคำนวณทางคณิตศาสตร์และการดำเนินการแบบบิตบนเลขฐานสองจำนวนเต็ม ซึ่งแตกต่างจากหน่วยประมวลผลทศนิยม (FPU)...
สินค้าที่ไม่ต้องพกพา
Binary arithmeticผลคูณแบบไม่มีตัวทดของเลขฐานสองสองจำนวน คือผลลัพธ์ของการคูณแบบไม่มีตัวทดของเลขทั้งสองนั้น การดำเนินการนี้ทำงานในลักษณะเดียวกับการคูณแบบยาว ยกเว้นว่าตัวทด...
อ่าน 1 นาทีไลบรารีชุดจำนวนเต็ม
C (programming language) librariesisl ( ไลบรารีชุดจำนวนเต็ม ) เป็นไลบรารีC แบบพกพา สำหรับจัดการชุดและความสัมพันธ์ของจุดจำนวนเต็มที่ถูกจำกัดด้วยข้อจำกัดเชิงเส้น
การแสดงหมายเลขที่ลงนาม
CS1: long volume valueในด้านการคำนวณจำเป็นต้องใช้การแสดงจำนวนแบบมีเครื่องหมาย เพื่อเข้ารหัส จำนวนลบในระบบเลขฐานสอง
บิตลายเซ็น
Binary arithmeticในวิทยาการคอมพิวเตอร์บิตเครื่องหมายคือบิตในการแสดงจำนวนที่มีเครื่องหมายซึ่งระบุเครื่องหมายของจำนวน แม้ว่าจะมีเฉพาะ ชนิดข้อมูลตัวเลข ที่มีเครื่องหมาย เท่านั้น ที่มีบิตเครื่องหมาย
หน่วยประมวลผลจุดลอยตัว
CS1: unfit URLหน่วย ประมวล ผลจุดลอยตัว ( FPU ) หรือหน่วยประมวลผลตัวเลข ( NPU ) ซึ่งเรียกกันทั่วไปว่า ตัวประมวลผลร่วมทางคณิตศาสตร์เป็นส่วนหนึ่งของ ระบบ...
เลขคณิตความแม่นยำสูง
CS1 French-language sources (fr)ในวิทยาการคอมพิวเตอร์เลขคณิตความแม่นยำสูง (arbitrary-precision arithmetic ) หรือที่เรียกว่าเลขคณิตบิ๊กนัม (bignum arithmetic) เลขคณิตความแม่นยำสูงหลายหลัก ( multiple-precision...
อ่าน 1 นาทีค้นหาชุดแรก
Binary arithmeticในซอฟต์แวร์และฮาร์ดแวร์ คอมพิวเตอร์ การค้นหาชุดแรก ( ffs ) หรือการค้นหาหนึ่งแรกเป็นการดำเนินการบิตที่กำหนดคำเครื่องที่ไม่มีเครื่องหมาย...
อ่าน 1 นาทีสำคัญ
Computer arithmeticส่วนสำคัญ (หรือสัมประสิทธิ์บางครั้งเรียกว่าอาร์กิวเมนต์หรือที่คลุมเครือกว่าคือแมนทิสซา เศษส่วน หรือลักษณะเฉพาะ ) คือส่วนแรก (ซ้าย)...
อ่าน 1 นาทีรายชื่อซอฟต์แวร์คำนวณเลขคณิตความแม่นยำสูง
Computer arithmeticบทความนี้รวบรวมรายชื่อไลบรารี แอปพลิเคชัน และซอฟต์แวร์อื่นๆ ที่ช่วยให้สามารถคำนวณเลขคณิตด้วยความแม่นยำสูงได้
ข้อผิดพลาดเชิงตัวเลข
Applied mathematics stubsข้อผิด พลาด เชิงตัวเลขคือ ข้อผิดพลาดที่เกิดขึ้นในการคำนวณเชิงตัวเลขเนื่องจากข้อจำกัดในการแสดงจำนวนจริงและการดำเนินการทางคณิตศาสตร์บนคอมพิวเตอร์...
อ่าน 1 นาทีจุดลอยตัวเลขฐานสิบหกของ IBM
Computer arithmeticเลขฐานสิบหกแบบ จุดลอยตัว (ปัจจุบันเรียกว่า HFPโดย IBM ) เป็นรูปแบบการเข้ารหัสเลขจุดลอยตัวที่เปิดตัวครั้งแรกใน คอมพิวเตอร์ IBM...