泰特儀器 - 分析操作中的有效數位、數位修約規則 有效數位
分析 檢驗中直接或間接測定的量，一般都用數位表示，但它與數學中的“數”不同，而僅僅表示量度的近似值。在測定值中只保留一位可疑數位，如0.0123與1.23都爲三位 有效數位 。當數位末端的“0”不作爲有效數位時，要改寫成用乘以10 n 來表示。如24600取三位有效數位，應寫作2.46×10 4 。
1運算規則
1.1 除有特殊規定外，一般可疑數表示末位1個單位的誤差。
1.2 複雜運算時，其中間過程多保留一位有效數， 後結果須取應有的位數。
1.3 加減法計算的結果，其小數點以後保留的位數，應與參加運算各數中小數點後位數 少的相同
1.4 乘除法計算的結果，其有效數位保留的位數，應與參加運算各數中有效數位位數 少的相同。
2 方法測定中按其儀器精度確定了有效數的位數後，先進行運算，運算後的數值再修約。
數位 修約規則 1 在擬捨棄的數位中，若左邊 個數位小於5（不包括5）時，則捨去，即所擬保留的末位數位不變。 例如：將14.2432修約到保留一位小數。 修約前     修約後 14.2432     14.2 2 在擬捨棄的數位中，若左邊 個數位大於5（不包括5）時，則進一，即所擬保留的末位數位加例如：將26.4843修約到只保留一位小數。 修約前      修約後 26.4843      26.5 3 在擬捨棄的數位中，若左邊 位數位等於5，其右邊的數位並非全部爲零時，則進一，即所擬保留的末位數位加一。 例如：將1.0501修約到只保留一位小數。 修約前      修約後 1.0501       1.1 4 在擬捨棄的數位中，若左邊 個數位等於5，其右邊的數位皆爲零時，所擬保留的末位數位若爲奇數則進一，若爲偶數（包括“0”）則不進。 例如：將下列數位修約到只保留一位小數。 修約前      修約後 0.3500        0.4 0.4500        0.4 1.0500        1.0 5 所擬捨棄的數位，若爲兩位以上數位時，不得連續進行多次修約，應根據所擬捨棄數位中左邊 個數位的大小，按上述規定一次修約出結果。 例如：將15.4546修約成整數。 正確的做法是： 修約前      修約後 15.4546       15 不正確的做法是： 修約前 一次修約  二次修約  三次修約  四次修約（結果） 15.4546  15.455    15.46   15.5       16

文章來源： 武漢泰特沃斯科技有限公司
公司 ：027-62436457、58、59
傳真 ：027-88773157 公司
客服Q Q：656658729
公司地址：湖北省武漢市江夏區光谷8號工坊1-3-601室
本文地址：
版權所有 © 轉載時請您以鏈接形式註明來源！