校準(zhǔn)曲線的斜率、截距保留幾位有效數(shù)字?
時間:2024-12-20 11:10:52來源:智天下顧問
校準(zhǔn)曲線的斜率、截距保留幾位有效數(shù)字?

參考標(biāo)準(zhǔn)HJ 630,其他行業(yè)參考使用。相關(guān)系數(shù)r保留的有效數(shù)字
校準(zhǔn)曲線相關(guān)系數(shù)只舍不入,保留到小數(shù)點(diǎn)后第一個非9數(shù)字。如果小數(shù)點(diǎn)后多于4個9,最多保留4位。校準(zhǔn)曲線斜率的有效位數(shù),應(yīng)與自變量的有效數(shù)字位數(shù)相等。校準(zhǔn)曲線截距的最后一位數(shù),應(yīng)與因變量的最后一位數(shù)取齊。記錄測定數(shù)值時,應(yīng)同時考慮計(jì)量器具的精密度、準(zhǔn)確度和讀數(shù)誤差。對檢定合格的計(jì)量器具,有效數(shù)字位數(shù)可以記錄到最小分度值,最多保留一位不確定數(shù)字。校準(zhǔn)曲線的相關(guān)參數(shù)如圖:

相關(guān)系數(shù)計(jì)算結(jié)果為:r=0.999945,按照規(guī)則,小數(shù)點(diǎn)后的9多余4個則,最多保留4個9,所以,r=0.9999斜率計(jì)算結(jié)果為:14.48,按照規(guī)則,斜率和自變量的有效數(shù)字位數(shù)相等,自變量的有效數(shù)字的位數(shù)相同,自變量的有效數(shù)字有2位的(如,2.0),公眾號[實(shí)驗(yàn)室ISO17025]提醒,有三位的(如,16.0),保持曲線更精確,取有效數(shù)字多的位數(shù),取3位。計(jì)算的截距為0.6442,按照規(guī)則,公眾號[實(shí)驗(yàn)室ISO17025]提醒,截距的最后一位數(shù),應(yīng)與因變量的最后一位數(shù)取齊,因變量的最后一位為效數(shù)點(diǎn)后一位。
延伸閱讀