校准曲线的斜率、截距保留几位有效数字？

校准曲线的斜率、截距保留几位有效数字？

 

1      

参考依据

参考标准HJ 630,其他行业参考使用。  

2      

相关系数r保留的有效数字

校准曲线相关系数只舍不入，保留到小数点后第一个非9数字。如果小数点后多于4个9，最多保留4位。  

3
     

校准曲线斜率的有效位数

校准曲线斜率的 有效位数 ，应与自变量的有效数字位数相等。  

4      

校准曲线截距的有效位数

校准曲线截距的 最后一位数 ，应与因变量的最后一位数取齐。  

5      

自变量和因变量的有效数字

 

记录测定数值时，应同时考虑计量器具的精密度、准确度和读数误差。对检定合格的计量器具，有效数字位数可以记录到最小分度值，最多保留一位不确定数字。  

6      

实例

校准曲线的相关参数如图：
 

 

 

相关系数：  

相关系数计算结果为：r=0.999945，按照规则，小数点后的9多余4个则，最多保留4个9，所以，r=0.9999  

斜率：
 

斜率计算结果为：14.48，按照规则，斜率和自变量的有效数字位数相等，自变量的有效数字的位数相同，自变量的有效数字有2位的（如，2.0），公众号[实验室ISO17025]提醒，有三位的（如，16.0），保持曲线更精确，取有效数字多的位数，取3位。  

所以斜率取：14.5  

截距：
 

计算的截距为0.6442，按照规则，公众号[实验室ISO17025]提醒，截距的最后一位数，应与因变量的最后一位数取齐，因变量的最后一位为效数点后一位。  

所以截距取 0.6

 

来源：微信号“实验室ISO17025” ，仅供分享交流不作商业用途，版权归原作者和原作者出处。 若有侵权，请联系删除 。        

• 0人已收藏

• 0人已打赏

  免费
• 2人已点赞

• 分享

  复制链接 新浪微博 微信扫一扫