• 您好,陕西秦境标准物质科技中心欢迎您! 客服热线: 销售座机:029-85837732;技术支持:029-85836892
  • 计量许可证 计量许可证
  • 计量许可证 计量许可证
  • 计量许可证 计量许可证
  • 计量许可证 计量许可证
  • 计量许可证 计量许可证

秦境知识丨别让数据“失真”!实验中有效数字的判断、计算与修约技巧!

在实验时,我们通过实验测得原始数据后需要进行计算,并将最终的实验结果进行解释和分析,才能具有参考价值。有的计算数值里小数点后的数字可不少,那到底看哪些数字呢?这些数字表示的意义是什么?如何对结果进行修约?今天就随小境看一看吧~


01

有效数字的定义

我们把通过直读获得的准确数字叫做可靠数字

把通过估读得到的那部分数字叫做存疑数字

把测量结果中能够反映被测量大小的带有一位存疑数字的全部数字有效数字

有效数字指,保留末一位不准确数字,其余数字均为准确数字。有效数字的最后一位数值是可疑值。

如:0.2014为四位有效数字,最末一位数值4是可疑值,而不是有效数值。 

再如:1g、1.000g其所表明的量值虽然都是1,但其准确度是不同的,其分别表示为准确到整数位、准确到小数点后第三位数值。因此有效数值不但表明了数值的大小,同时反映了测量结果的准确度。


02

有效数字的保留

由于有效数字最末一位是可疑值,而不是准确值。因此,计算过程中,计算的结果应比标准极限或技术指标规定的位数要求多保留一位,最后的报出值应与标准对定的位数相一致。

如:在标准的极限数值(或技术指标)的表示中,**≧95表明结果要求保留到整数位。因此,计算结果一定要保留到小数点后一位,最后再修约到整数位,如计算结果为94.6报出结果为95;因为94.6结果的0.6为可疑值,要想保留到整数位结果为准确值,计算结果必须要多保留一位。

如:分析天平的分辨率为0.1mg(即我们常说的万分之一天平),如果我们称取的量是10.4320g,则实际的称取结果结果为10.4320±0.0002g(万分之一的天平误差)。

如:GB/T 601-2016《化学试剂  标准滴定溶液的制备》,要求报出结果取4位有效数字,因此在标定计算结果中,应保留5位有效数字,最后再修约到4位有效数字(如果直接保留到4位有效数字,实际上是保留了三位有效数字,因最后一位是可疑值,则由标准溶液的浓度的不准确,会引进系统误差。)

在实际检测中,由于有效数字的保留和计算等引发的误差问题可不少,要想实验结果准,还得细心对标准,仔细计算分析才行!


03

数字修约规则(GB/T 8170)

1、数字修约规则

“四舍五入法”是我们所熟悉的求近似数的方法。它深深地印在我们的脑海里,只要一遇到求近似数的问题,马上就会想到“四舍五入法”。可是,在实验中,经常要对大量的数据进行统计分析。如果仍用“四舍五入法”取近似值,就不够精确。 

世界上的许多国家已广泛采用“四舍六入法”。我国国家科委于1955年就作了推荐。“四舍六入法”可以概括为:“四舍六入五考虑,五后非零就进一,五后皆零看奇偶,五前为偶应舍去,五前为奇要进一。”就是说,如果省略的尾数最高位是4或小于4,就将尾数都舍去;如果省略的尾数最高位是6或大于6,去掉尾数后,要向它的前一位进1;如果省略的尾数最高位是5,那就要根据具体情况而定。如果5后不都是0,将尾数略去后要向它的前一位进1;如果5后面都是0,就看它的前一位是单数还是双数,5的前一位是双数,就将尾数舍去;5的前一位是单数,舍去尾数后要向它的前一位进1。 

2、检验结果的修约

根据技术标准的指标要求,在原始记录中,通常检验计算的结果应比标准规定的位数要多保留一位,但被多保留的一位数值,应该体现出修约的情况,或一步修约到位,但不能存在连续修约的现象。 

a)检验结果修约后,应体现出修约的情况。 

如:标准值 ××<0.5 

检测结果为:0.456, 第1步修约:0.46(-) (四舍六入),报出值:0.5(-) 判定:合格。 

如:标准值 ×× ≥15 

检测结果为:14.55,第1步修约:14.6(-), 报出值:15(-),按全数值比较法(15(-))判定不合格、按修约值比较法(15)判定合格。

14.55(5后非零要进一。讲评:在拟舍弃的数字中即14.55的第一个“5”,虽然“5”前为偶数,但“5”后非“0”,所以要进一。) 

如,若检验结果为:14.35,第1步修约:14.4(+) (修约原则,四舍六入) 报出结果:14。 

最终的报出结果只有修约到标准值上时,才用+、-表示。 

b)一步修约到位 (这种修约更直接和更直观)。 

例题:将下列结果修约到整数位 

检测结果             报出值 

15.4546               15 

16.5203               17 

17.5000               18 

14.5500               15 

10.5020               11 

c)不准连续修约。 

拟修约数字应在确定修约位数后,应一次修约获得结果,而不准多次修约即连续修约。 

如15.4546 一次修约结果为:15。 

※ 连续修约:15.455 — 15.46-15.5-16 

※ 按多保留一位的修约法:15.5(-)

因为.5(-),即修约后到5(-) ,但不足5(<5),所以不进,最终结果为15。


04

数值的修约方法

1、数值的修约方法有两种,即修约值比较法和全数值比较法 

a)修约值比较法:数值修约后,体现不出数值的修约情况; 

b)全数值比较法:数值修约后,能够体现出数值的修约情况。 

2、如何选择修约值的方法  

a)当检测项目牵涉到卫生指标、安全指标等,应首选用全数值比较法; 

b)只有当检测结果修约到标准值上时,方采用全数值比较法。

图片

由上表可以看出,一般情况下全数值比较法严于修约值比较法