本文共 1104 字，大约阅读时间需要 3 分钟。
计算机数值处理基础
一、一些概念
机器数
数值在计算机内部的编码，即实际存储的0/1序列。
真值
机器数想要表示的实际数值，可理解为现实生活中我们平常所用的有正负号的数。
机器数与真值的对应关系
主要有4种：原码，反码，补码，移码。
二、数值比较
有符号数与无符号数
- 给定一个数，在计算机里如何存储，表示成0/1序列是编码的事，而对这0/1序列如何解释是上层软件的事情。
- 通常默认为有符号数相比，若出现无符号数，则按照无符号数相比。
- 如C语言中可解释为有符号数和无符号数，而Java中只解释为有符号数。
示例
- 11...111B(-1) < 00...000B(0)
- 0U为无符号数，11...111(2^32-1) > 00...000(0)
- 判断常量类型时是先将符号“踢开”，只看后面的数值在哪个区间，根据区间确定类型。
编程示例
- strlen函数返回的是size_t，按无符号数解释，比较时结果不正确。
- 改进方法：return strlen(str1) > strlen(str2)，直接让两个串的长度比较。
三、浮点数(IEEE 754)
浮点数格式
- 符号位：1表负，0表正
- 阶码用移码表示，是一个定点整数，偏置常数是2^n-1
- 尾数是一个定点小数，实际表示24位有效数字，隐含了一位1
表示范围
- 32位单精度：最小正数2-126，最大整数(2-2^23)*2^127
- 64位双精度：最小正数2-1022，最大整数(2-2^52)*2^1023
特殊表示
- 阶码全0尾数全0：+0或-0
- 阶码全1尾数全0：+∞或-∞
- 阶码全1尾数非0：NaN（Not a Number）
- 阶码全0尾数非0：非规格化数
加减法运算
对阶：只有阶数相等，尾数才能直接相加减 尾数加减：尾数是由定点原码小数表示 规格化：将尾数变成1.B形式，相应调整阶码 结果舍入：保留至少2位，紧跟尾数右边的叫做保护位 阶码溢出判断：结果的阶码全1表上溢，全0表下溢 四、数值运算
移位运算
- 逻辑移位：不考虑符号位
- 算术移位：考虑符号位
- 编译器和CPU移位运算不同：编译器实际移位，CPU移位数取模
位扩展与截断
- 扩展：0扩展与符号扩展
- 截断：长数向短数转化时发生截断
加减法
- 现代计算机整数都可以看做是用补码表示的
- 乘除法：编译器处理常量与变量乘除时会用移位，加法，减法的组合运算来代替
浮点数乘除法
- 加减法的主要区别在于乘除法不用对阶
- 乘法运算过程：尾数与尾数运算，指数与指数运算
五、总结
计算机数值处理涉及编码、比较、运算等多个方面，理解补码、移码、浮点数等概念至关重要。编程时需注意数值类型的影响，避免因类型转换不当导致的错误。
转载地址：http://hpiv.baihongyu.com/