转换精度是指在进行A/D转换或D/A转换时产生的误差范围。误差以1 LSB为单位表示。例如,对于一个分辨率设置为12位、输入范围为±10 V的A/D转换设备,其可解析的最小单位是20 ÷ 4,096 ≈ 4.88 mV (1 LSB)。如果该A/D转换板的转换精度被注明为±2 LSB,这意味着产生的误差可能会在4.88 × 2 ≈ ±9.76 mV左右。
输入:*
LSB 是“最低有效位”的缩写,表示二进制数据的最低有效位。
二进制数据与电压的关系(具有16位分辨率)
A/D转换数据从16位模拟输入设备输入,成为16位二进制(十六进制=4位),而模拟输出设备的D/A转换数据设置以16位二进制(十六进制=4位)处理。如图所示,如果在“-10 V”使用“0000”,那么在“9.99970 V”使用“FFFF”。
使用16位分辨率设备,-10 V到0 V之间的电压可以表示为32,768个数据段,其中-10 V是"0000H",0 V是"8000H"。因此,0 V到10 V变为"8000H"到最大值"FFFFH",必须表示为32,767。因此,最大值被称为"+10 V -1 LSB"。
这些关系对任何模拟输入/输出设备都是一样的。例如,对于模拟输出,要将信号输出到外部,"FFFF"被设置到具有16位分辨率的设备上,但最大可输出电压是"+10 V -1 LSB"。
电压的含义模拟电压 (V)数据(十六进制)二进制表示
最高有效边
最低有效位
FSR-1LSB9.99970输入:FFFF1111 1111 1111 1111
FSR-2LSB9.99938无法处理的字符1111 1111 1111 1110
・
・・
・・
・・
・
+1最低有效位0.0003080011000 0000 0000 0001
0.0000080001000 0000 0000 0000
・
・・
・・
・・
・
-1/2满量程+1个最低有效位-9.9997000010000 0000 0000 0001
-1/2全尺寸-10.0000000000000 0000 0000 0000
缩写(单位)含义
最低有效位
最低有效位的缩写。表示二进制数据的最低有效位。
最高有效边
最高有效位的缩写。表示二进制数据的最高有效位。
全保真
全量程范围的缩写。在±10 V范围内,FSR变为“20”。