检具验收那天最容易吵起来的,就是分辨率、重复性、精度这三个数。供应商给一张参数表,上面写着“分辨率 0.1μm”,采购那边当场就认定这检具能测到 0.1 微米。等检具上线,测同一个位置十次,读数散开两微米,两边就开始互相甩锅。其实参数表没错,是读法错了:0.1μm 是分辨率,不是精度,更不是重复性。这篇把三个数分开讲,对照 FER8 样本,你拿参数表对得上,就不会被“最高分辨率”四个字带偏。

三个术语各指什么
| 术语 | 含义 | FER8 样本对应 | 主要受什么限制 |
|---|---|---|---|
| 分辨率 resolution | 输出能观察到的最小位移变化 | ≤0.1μm(数字输出 16 位) | 变送器噪声、PLC 读数位数 |
| 重复性 repeatability | 同样输入、同样工况,重复测同一点输出的一致程度 | 重复误差最高约 1μm | 机械导向、被测面接触、温度 |
| 线性误差 linearity error | 输出相对最佳拟合直线的最大偏差,按满量程百分比给 | 普通款 ±0.3%FS,精密款 ±0.1%FS | 线圈绕制、铁芯是否在有效区内 |
先说分辨率。它回答的问题是“输出能看出多小的变化”。FER8 样本写分辨率 ≤0.1μm,数字输出是 16 位,意思是理论上你能读到一个很细的位置台阶。但“能看到”和“能稳定地测到”是两回事:信号里有噪声,噪声会把细台阶盖掉。所以分辨率数字好看,不等于实际测出来就有这么细。
重复性回答的是“同样条件测同一个点,几次结果差多少”。检具上电、顶到同一个位置、温度不变,反复测十次,读数散开的范围就是重复误差。FER8 样本写重复误差最高约 1μm。这个数才是现场验收主要要对的数,它直接决定你的检具能不能稳定复现同一个结果。
精度(线性误差)回答的是“输出和一条理想直线差多少”。输出相对最佳拟合直线的最大偏差,按满量程百分比给,所以写成 ±0.3%FS 这种样子。FS 就是满量程 full scale。换算成微米要乘量程:10mm 量程的 ±0.3%FS,大约是 ±30μm;精密款 ±0.1%FS,大约 ±10μm。这个数标定、对比标准件时才用得上,日常验收一般不碰。
为什么分辨率不是精度
行业资料里常写 LVDT“近无限分辨率”,因为线圈和铁芯之间没有触点接触,位置变化理论上都能感应到。这话没错,但它说的是磁耦合这一层,不是整只探头。笔式探头上还有弹簧、导轨,机械件会磨损、会卡滞;信号还要过变送器解调、再进 PLC,变送器有噪声,PLC 的 A/D 位数也有限。这些环节都会把读数台阶抹平。所以“分辨率无限细”是教科书说法,现场能稳定复现多少,看的是重复性和线性。
拿 FER8 来说,分辨率标到 0.1μm,重复误差标到约 1μm,差了一个数量级。这不是厂家保守,是机械和电气的真实限制:弹簧回弹的力、导轨的间隙、温度引起的零漂,都会在微米这一级上体现出来。你要是拿 0.1μm 当验收线,这检具永远过不了。
现场怎么对这三个数

验收检具,主要对重复性。方法不复杂:装好、对好零位,找同一个位置顶十次,记下每次读数,看最大最小差多少。散开的范围对照样本的重复误差(FER8 最高约 1μm),在范围内就算合格。不要拿单次读数说事,单次读数里混着分辨率、噪声和重复性,看不出问题。
要对精度(线性),得拿标准件或者计量检过的块规,在量程内取几个点,看输出偏离直线的程度。这活儿一般在标定、做计量确认的时候做,日常验收不做。
分辨率呢,只要比你需要的读数台阶细一档就够。比如工艺要求读到 0.01mm(10μm),分辨率 0.1μm 已经富余,不用再纠结。真正该问供应商的是重复性和线性,不是“分辨率能不能到 0.1”。选型、报价、验收,三个数分开写,别混。
还有个小坑:有些供应商把“分辨率”和“重复性”混着写,或者只写分辨率不写重复性。看到这种参数表,直接要重复误差,给不出来就换一家。
本文用到的本站数字:FER8 分辨率 ≤0.1μm(数字输出 16 位);重复误差最高约 1μm;线性普通款 ±0.3%FS、精密款 ±0.1%FS;量程 8mm/10mm。
明确没写进 FER 的行业规格:行业资料里的“近无限分辨率”“微英寸级分辨率”只指线圈与铁芯磁耦合,不写进 FER 整机指标;±0.3%FS 换算微米是按 10mm 量程的估算,实际以样本线性区为准。
