Computer arithmetic

เลขคณิตคอมพิวเตอร์

เลขคณิตจุดลอยตัวอ่าน 1 นาที

เลขคณิตจุดลอยตัว

CS1 German-language sources (de)

ในด้านการคำนวณเลขคณิตจุดลอยตัว ( FP ) คือเลขคณิตบนเซตย่อยของจำนวนจริงที่สร้างขึ้นโดยตัวส่วนสำคัญ ( ลำดับ ที่มีเครื่องหมายของจำนวนหลักคงที่ใน ฐานใด ฐาน หนึ่ง )...

วิธีเสริมอ่าน 1 นาที

วิธีเสริม

Computer arithmetic

ในคณิตศาสตร์และวิทยาการคอมพิวเตอร์วิธีส่วนเติมเต็มเป็นเทคนิคในการเข้ารหัสช่วงสมมาตรของจำนวนเต็ม บวกและลบ ในลักษณะที่สามารถใช้อัลกอริทึม (หรือกลไก )...

อ่าน 1 นาที

การจัดการบิต

Binary arithmetic

การจัดการบิตคือการกระทำทางอัลกอริทึมในการจัดการบิต หรือ ข้อมูลชิ้นเล็ก ๆที่สั้นกว่าคำงานเขียนโปรแกรมคอมพิวเตอร์ที่ต้องใช้การจัดการบิต ได้แก่ การควบคุมอุปกรณ์ระดับต่ำ...

การปัดเศษอ่าน 1 นาที

การปัดเศษ

Arithmetic

การปัดเศษหรือการปัดลงคือกระบวนการปรับตัวเลข ให้ เป็น ค่า โดยประมาณที่สะดวกกว่า โดยมักจะมีรูปแบบที่สั้นกว่าหรือเรียบง่ายกว่า ตัวอย่างเช่น การแทนที่ 23.4476 ดอลลาร์ด้วย 23.

จำนวนเต็มเกินขีดจำกัดอ่าน 1 นาที

จำนวนเต็มเกินขีดจำกัด

Computer arithmetic

ในการเขียนโปรแกรมคอมพิวเตอร์การเกิดโอเวอร์โฟลว์ของจำนวนเต็มเกิดขึ้นเมื่อ การดำเนินการ...

อีไออี 754อ่าน 1 นาที

อีไออี 754

Binary arithmetic

มาตรฐานIEEE สำหรับการคำนวณเลขทศนิยม ( IEEE 754 ) เป็นมาตรฐานทางเทคนิค สำหรับการคำนวณเลขทศนิยมซึ่งกำหนดขึ้นครั้งแรกในปี 1985 โดยสถาบันวิศวกรรมไฟฟ้าและอิเล็กทรอนิกส์ (IEEE)

อ่าน 1 นาที

แฟล็กโอเวอร์โฟลว์

Computer arithmetic

ในหน่วยประมวลผลคอมพิวเตอร์แฟล็กการโอเวอร์โฟลว์ (บางครั้งเรียกว่าแฟล็ก V ) มักจะเป็นบิตเดียวในรีจิสเตอร์สถานะ ระบบ...

ความแม่นยำสูงขึ้นอ่าน 1 นาที

ความแม่นยำสูงขึ้น

CS1: long volume value

ความแม่นยำแบบขยายหมายถึง รูปแบบตัวเลข จุดลอยตัวที่ให้ความแม่นยำ มากกว่า รูปแบบตัวเลขจุดลอยตัวพื้นฐานรูปแบบความแม่นยำแบบขยายรองรับรูปแบบพื้นฐานโดยลดข้อผิดพลาดจากการปัดเศษและการล้นใน...

หน่วยสุดท้ายอ่าน 1 นาที

หน่วยสุดท้าย

Computer arithmetic

ในวิทยาการคอมพิวเตอร์และการวิเคราะห์เชิงตัวเลขหน่วยในตำแหน่งสุดท้ายหรือหน่วยที่มีความแม่นยำน้อยที่สุด ( ulp ) คือระยะห่างระหว่าง ตัวเลข ทศลอย สองตัวที่ต่อเนื่องกัน กล่าว คือ...

อ่าน 1 นาที

จำนวนเต็ม (วิทยาการคอมพิวเตอร์)

Computer arithmetic

ในวิทยาการคอมพิวเตอร์จำนวนเต็มคือข้อมูลประเภทจำนวนเต็มซึ่ง เป็น ประเภทข้อมูลที่แสดงช่วงของจำนวนเต็ม ทาง...

เลขฐานสองแบบเข้ารหัสทศนิยมอ่าน 1 นาที

เลขฐานสองแบบเข้ารหัสทศนิยม

All accuracy disputes

ในระบบคอมพิวเตอร์และอิเล็กทรอนิกส์เลขฐานสองแบบเข้ารหัสทศนิยม ( BCD ) เป็นรูปแบบ การเข้ารหัสเลข ฐานสองแบบหนึ่งของ เลข ฐานสิบโดยแต่ละหลักจะถูกแทนด้วยจำนวนบิต คงที่...

อ่าน 1 นาที

เปรียบเทียบและแลกเปลี่ยน

Computer arithmetic

ในวิทยาการคอมพิวเตอร์คำ สั่ง เปรียบเทียบและสลับ ( CAS ) เป็นคำสั่งอะตอมิก ที่ใช้ในมัลติเธรดดิ้งเพื่อให้เกิดการซิงโครไนซ์...

หน่วยตรรกะทางคณิตศาสตร์อ่าน 1 นาที

หน่วยตรรกะทางคณิตศาสตร์

Arithmetic logic circuits

ในด้านการคำนวณหน่วยคำนวณเชิงตรรกะ ( ALU ) เป็นวงจรดิจิทัลเชิงผสม ที่ทำการคำนวณทางคณิตศาสตร์และการดำเนินการแบบบิตบนเลขฐานสองจำนวนเต็ม ซึ่งแตกต่างจากหน่วยประมวลผลทศนิยม (FPU)...

สินค้าที่ไม่ต้องพกพาอ่าน 1 นาที

สินค้าที่ไม่ต้องพกพา

Binary arithmetic

ผลคูณแบบไม่มีตัวทดของเลขฐานสองสองจำนวน คือผลลัพธ์ของการคูณแบบไม่มีตัวทดของเลขทั้งสองนั้น การดำเนินการนี้ทำงานในลักษณะเดียวกับการคูณแบบยาว ยกเว้นว่าตัวทด...

อ่าน 1 นาที

ไลบรารีชุดจำนวนเต็ม

C (programming language) libraries

isl ( ไลบรารีชุดจำนวนเต็ม ) เป็นไลบรารีC แบบพกพา สำหรับจัดการชุดและความสัมพันธ์ของจุดจำนวนเต็มที่ถูกจำกัดด้วยข้อจำกัดเชิงเส้น

การแสดงหมายเลขที่ลงนามอ่าน 1 นาที

การแสดงหมายเลขที่ลงนาม

CS1: long volume value

ในด้านการคำนวณจำเป็นต้องใช้การแสดงจำนวนแบบมีเครื่องหมาย เพื่อเข้ารหัส จำนวนลบในระบบเลขฐานสอง

อ่าน 1 นาที

บิตลายเซ็น

Binary arithmetic

ในวิทยาการคอมพิวเตอร์บิตเครื่องหมายคือบิตในการแสดงจำนวนที่มีเครื่องหมายซึ่งระบุเครื่องหมายของจำนวน แม้ว่าจะมีเฉพาะ ชนิดข้อมูลตัวเลข ที่มีเครื่องหมาย เท่านั้น ที่มีบิตเครื่องหมาย

หน่วยประมวลผลจุดลอยตัวอ่าน 1 นาที

หน่วยประมวลผลจุดลอยตัว

CS1: unfit URL

หน่วย ประมวล ผลจุดลอยตัว ( FPU ) หรือหน่วยประมวลผลตัวเลข ( NPU ) ซึ่งเรียกกันทั่วไปว่า ตัวประมวลผลร่วมทางคณิตศาสตร์เป็นส่วนหนึ่งของ ระบบ...

เลขคณิตความแม่นยำสูงอ่าน 1 นาที

เลขคณิตความแม่นยำสูง

CS1 French-language sources (fr)

ในวิทยาการคอมพิวเตอร์เลขคณิตความแม่นยำสูง (arbitrary-precision arithmetic ) หรือที่เรียกว่าเลขคณิตบิ๊กนัม (bignum arithmetic) เลขคณิตความแม่นยำสูงหลายหลัก ( multiple-precision...

อ่าน 1 นาที

ค้นหาชุดแรก

Binary arithmetic

ในซอฟต์แวร์และฮาร์ดแวร์ คอมพิวเตอร์ การค้นหาชุดแรก ( ffs ) หรือการค้นหาหนึ่งแรกเป็นการดำเนินการบิตที่กำหนดคำเครื่องที่ไม่มีเครื่องหมาย...

อ่าน 1 นาที

สำคัญ

Computer arithmetic

ส่วนสำคัญ (หรือสัมประสิทธิ์บางครั้งเรียกว่าอาร์กิวเมนต์หรือที่คลุมเครือกว่าคือแมนทิสซา เศษส่วน หรือลักษณะเฉพาะ ) คือส่วนแรก (ซ้าย)...

อ่าน 1 นาที

รายชื่อซอฟต์แวร์คำนวณเลขคณิตความแม่นยำสูง

Computer arithmetic

บทความนี้รวบรวมรายชื่อไลบรารี แอปพลิเคชัน และซอฟต์แวร์อื่นๆ ที่ช่วยให้สามารถคำนวณเลขคณิตด้วยความแม่นยำสูงได้

ข้อผิดพลาดเชิงตัวเลขอ่าน 1 นาที

ข้อผิดพลาดเชิงตัวเลข

Applied mathematics stubs

ข้อผิด พลาด เชิงตัวเลขคือ ข้อผิดพลาดที่เกิดขึ้นในการคำนวณเชิงตัวเลขเนื่องจากข้อจำกัดในการแสดงจำนวนจริงและการดำเนินการทางคณิตศาสตร์บนคอมพิวเตอร์...

อ่าน 1 นาที

จุดลอยตัวเลขฐานสิบหกของ IBM

Computer arithmetic

เลขฐานสิบหกแบบ จุดลอยตัว (ปัจจุบันเรียกว่า HFPโดย IBM ) เป็นรูปแบบการเข้ารหัสเลขจุดลอยตัวที่เปิดตัวครั้งแรกใน คอมพิวเตอร์ IBM...