在電腦科學中，浮點數運算（Floating-point arithmetic）是一種用浮點（英語：floating point，縮寫為FP）方式表示實數的運算方式。浮點是一種用於表示實數近似值的數值表示法，由一个有效數字（即尾数）加上冪數來表示，通常是乘以某个基数的整数次指數得到。以這種表示法表示的數值，稱為浮点數（floating-point...

IEEE二進位浮點數算術標準（IEEE 754）是20世纪80年代以来最廣泛使用的浮點數運算標準，為許多CPU與浮點運算器所採用。這個標準定義了表示浮點數的格式（包括負零-0）與反常值（denormal number），無窮（Inf）與非數值（NaN），以及這些數值的「浮點數...

单精度浮点数（英語：single-precision floating-point）是用来表示浮点数的一种数据类型，在计算机中占据32比特（4字节）大小，因此也称为float32或FP32。在IEEE 754中这种32位二进制格式被正式称为binary32格式，而在IEEE 754-1985中被称为single，即单精度。...

Number，非数）是计算机科学中数值数据类型的一类值，表示未定义或不可表示的值。常在浮点数运算中使用。首次引入NaN的是1985年的IEEE 754浮点数标准。 在浮点数运算中，NaN与无穷大的概念不同，尽管两者均是以浮点数表示实数时的特殊值。无效操作（Invalid...

雙精度浮點數（英語：Double-precision floating-point）是用来表示浮点数的一种資料型別，在计算机中占据64比特（8字节）大小，因此也称为float64或FP64。在IEEE 754中这种64位二进制格式被正式称为binary64格式，而在IEEE 754-1985中被称为double，即双精度。...

半精度浮点数（英語：half-precision floating-point）是用来表示浮点数的一种数据类型，在计算机中占据16比特（2字节）大小，因此也称为float16或FP16。在IEEE 754中这种16位二进制格式被正式称为binary16格式，因为只有單精度浮...

logic unit，縮寫：ALU）是一种可对二进制整数执行算术运算或位运算的组合逻辑数字电路。ALU 与浮点数运算单元（FPU）不同，后者仅对浮点数进行操作。ALU 是许多类型的计算电路的基本部件，这些计算电路包括计算机的中央处理单元（CPU）、浮点处理单元（FPU）和图形处理单元（GPU）。单个CPU、FPU...

其优点是增加了處理器關於多媒体方面的处理能力，缺点是占用浮点数寄存器进行运算（64位MMX寄存器实际上就是浮点数寄存器的别名）以至于MMX指令和浮点数操作不能同时工作。为了减少在MMX和浮点数模式切换之间所消耗的时间，程序员们尽可能减少模式切换的次数，也就是说，这两种操作在...

11111111 移码主要用于表示浮点数的阶码，在浮点数运算中有优势。 对移码运算的结果需要加以修正，修正量为2En，即对结果的符号位取反后才是移码形式的正确结果。 移码表示中, 0有唯一的编码——1000…00，当出现000…00时（表示－2En），属于浮点数下溢。 IEEE 754：http://grouper...

在電腦中，定点数（英語：fixed-point number）是指用固定整數位數表達分數的格式，屬於实数数据类型中一種。例如美元常會表示到二位小數，以分來表示，即為一種定点数。有時定点数也會要求要有固定的整數位數。定点数与更复杂的浮点数相对。 在定点数表示法中，小數部份和整數部份一樣，也會表示為進制...

浮點運算； PFLOPS（petaFLOPS）等於每秒一千万亿（1015）次的浮點運算； EFLOPS（exaFLOPS）等於每秒一百京/一百亿亿（1018）次的浮點運算。 在进行非常大或者非常小的实数运算，或者参与运算的数字在一个很大的范围内变动时都非常需要浮点运算的参与。 浮点数...

754标准格式的32位浮点数）的一种算法。这一算法的优势在于减少了求平方根倒数时浮点运算操作带来的巨大的运算耗费，而在计算机图形学领域，若要求取照明和投影的波动角度与反射效果，就常需计算平方根倒数。 此算法首先接收一个32位带符浮点数，然后将之作为一个32位整数看待，以将其向右进行一次逻辑移位的方式将之取半，并用在浮點數規格代表...

combining的方法，常用在沒有乘法器的應用（像是簡單的微控制器以及FPGA），其中會用到的運算是加法、減法、位元移位及查找表。這些算法可歸類在「移位和相加」（shift-and-add）演算法中。在計算機科學中，若CPU沒有硬體的乘法器，常會用CORDIC來實現浮点数运算。 英國數學家亨利·布里格斯（英语：Henry Briggs...

nference榜来评价智能算力的推理性能。 TOP500等榜单通常使用双精度浮点数（64位）运算来评测机器的运算性能，而AI训练主要要求的则是单精度浮点数（32位）和16位浮点数的运算性能，推理则主要要求8位整数的运算性能，这便是AIPerf500诞生的背景。用户可以在其官方网站下载其评分程序，...

error)，是指运算得到的近似值和精确值之间的差异。比如当用有限位数的浮点数来表示实数的时候(理论上存在无限位数的浮点数)就会产生舍入误差。舍入误差是量化误差的一种形式。 如果在一系列运算中的一步或者几步产生了舍入误差，在某些情况下，误差会随着运算次数增加而积累得很大，最终得出没有意义的运算结果。 把一个浮点数...

\end{matrix}}} 一般，當不可結合運算在一個表示出現多於一次時，括號就必須被使用來表示其運算順序。不過，數學家會對若干常見的不可結合運算採用一種特別的運算順序的規則。這單純只是個為了減少括號的語法約定。 在電腦科學中，由於採用二進位浮點數運算，因此加法不符合結合律。 ( a + b ) +...

虽然通常情况下模除的被除数 a {\displaystyle a} 和除数 n {\displaystyle n} 都是整数，但许多计算系统允许其他类型的数值运算，比如对浮点数取模。在所有计算系统中当被除数 a {\displaystyle a} 和除数 n {\displaystyle n} 都是正数时，结果的余数...

迷你浮點（minifloats）是用少位元浮點數值。不太適合通用數值計算。通常用於特殊目的，像電腦圖形學，迭代很小並且精度具有美學效果。機器學習也使用類似格式，如bfloat16。 Minifloats按照IEEE 754標準設計。必須遵守次正規數和正規數之間邊界規則（未明確寫入的），且具無限大和 NaN...

System/370（英语：IBM System/370）使用一个原为32位的CPU，但它在其浮点单元使用了128位精度，以得到更佳的精确度与浮点数的表示范围。许多后来的CPU设计使用类似的混合位宽，尤其当处理器设计为通用用途，因而需要合理的整数与浮点数运算能力时。 主頻＝外頻×倍頻。...

。如果不将图像进行伽马编码，那么数据位或者带宽的利用就会分布不均匀——会有过多的数据位或者带宽用来表示人类根本无法察觉到的差异，而用于表示人类非常敏感的视觉感知范围的数据位或者带宽又会不足。图像的伽马编码并不是必须的（甚至有的时候会适得其反），浮点数格式的颜色值已经提供了一部分对数曲线的线性估计。...

−0或负零代表0的相反数，数学意义上等于0。 特定情况下，−0具有特殊意义： 在计算机科学中，−0是浮点数中表达0的一种方式，可以在某些时候进行符号性处理。 在普通应用中，−0有可能被用来表示一个可以四舍五入为零的负数，或者是一个从负方向上趋近于零的数。 在统计力学中，特定的系统在反转分布的状态下，可以被认为拥有−0的绝对温度。...

MAC 指令可以使用一個指令完成。而許多運算（例如卷积运算、点积运算、矩阵运算、数字滤波器运算、乃至多项式的求值运算）都可以分解為數個 MAC 指令，因此可以提高上述运算的效率。 MAC指令的輸入及輸出的數據類型可以是整數、定點數或是浮點數。若處理浮點數時，會有兩次的數值修約（Rounding）...

algebra），又稱應用線性代數（英語：applied linear algebra）是一门研究在计算机上进行线性代数计算，特别是矩阵运算算法的学科，是數值分析的一個分支。计算机用浮点数运算，无法精确表示无理数数据，因此计算机算法应用于数据矩阵时，有时会产生较大的误差。数值线性代数利用向量和矩阵的性质开发算法，...

將許多暫存器存成堆疊的形式。 移動記憶體內大筆的資料。 複雜或是浮點數運算（正弦，餘弦，平方根等等） 執行test-and-set指令。 執行數字存在記憶體而非暫存器的運算 有一種複雜指令單指令流多資料流（SIMD），或向量指令，這是一種可以在同一時間對多筆資料進行相同運算的操作。SIMD有能力在短時間內將大筆的向量...

運算性能。『GK110』與『GK104』最大的改變在於，『GK104』的SMX陣列中，每個SMX陣列擁有8個CUDA核心（流處理器）專門用於FP64（雙精度浮點數）運算操作，而『GK110』中每個SMX陣列擁有64個CUDA核心用於FP64運算操作，這使得『GK110』中每個SMX陣列的雙進度浮...

{\displaystyle U\mathbf {x} =L^{-1}\mathbf {b} } 仅需更少的相加和乘法来求解，然而在不精确的算术（如 浮点数）中可能需要更多的数字。 类似的，QR分解将矩阵A分解为两个矩阵的乘积QR，其中Q是正交矩阵， R是上三角矩阵。方程Q(Rx) = b可以通过Rx...

浮點數的矢量運算，用於增强x86架構的電腦在三维圖像處理上的性能。 1996年Intel首先推出了支持MMX的Pentium处理器，极大地提高了CPU处理多媒体数据的能力，被广泛地应用于语音合成、语音识别、音频视频编解码、图像处理和串流媒体等领域。但是MMX只支持整数运算，浮点数运算...

F型连接头，一种同轴射频连接器，通常用于“空中传播”的无线电视、有线电视以及普遍用于无线电视和cable modem。 F1 score，一种信息检索技术。 浮点数运算（float）,在编程语言中的一类数据类型。 F (音名)，C大调音阶中的第四音。 F大調、f小調 加強音 F線，多个国家的交通线路： 哥本哈根市郊鐵路F線...

运算，可以用不同的進位制達成不同的目的。 有許多程式庫支援高精度計算，最著名的是GNU多重精度運算庫。另外，Java，Python和Pascal也有原生的高精度运算支持。 高精度计算的一个常见应用是公开密钥加密，这些算法经常对长度上百位的整数进行运算...

>> 1); */ } return (int16_t)(temp / b); } 二進位標度（英语：Binary scaling） 定點數運算 浮點數運算 ARM Developer Suite AXD and armsd Debuggers Guide. 1.2. 安謀控股. Chapter 4...

IEEE 488 可编程仪表用标准数字接口的高性能协议 IEEE 610 软件工程术语标准词汇表 IEEE 754 浮点数运算 IEEE 802 LAN/MAN IEEE 802.1 局域网和城域网标准媒体访问控制(MAC)桥 IEEE 802.2 逻辑链路控制 IEEE...