数值修约规则与极限数值的表示和判定(2)

误差概念、有效数字概念及运算数值修约及极限数值表示与判定几个问题1、误差与偏差、绝对误差与相对误差、精密度与准确度分别有何区别？2、用感量万分之一的天平称取物品的质量为0.0236g，该测量结果的有效数字位数为多少？表示的测量结果有效范围为多少？3、计算12.365+5.1+8.7×3.4525=？（结果不参与后续运算）4、在钢材物理性能拉伸试验中，测得的断后伸长为74.37mm，则该断后伸长的报出值为？几个问题5、将825修约到“百”数位的0.5单位，其修约值为？6、一组普硅32.5水泥的28d抗压强度平均值为32.48MPa，则该组水泥是否合格？结果报出形式为？（不考虑测量不确定度）7、某HRB33516的钢材试件，抗拉强度计算值为453.2MPa，该试件抗拉强度是否符合要求？（不考虑测量不确定度）主要内容一、误差理论的相关概念；二、有效数字的概念及运算规则；三、数值修约的规则及技巧；四、极限数值的表示与判定；一、误差理论的相关概念1、测量误差的定义：客观真实值（未知）测量误差=测得值-真值-----测量所得数据与其相应的真值之差1）误差（绝对误差）x=x–x02）相对误差------测量的绝对误差与被测量的真值之比绝对误差很小相对误差=100%绝对误差真值=100%xx0相对误差=100%绝对误差测得值=100%xx例：两组不同的测量，那组测量效果好？质量G1=50g，误差1=2g；质量G2=2kg，误差2=50g1、测量误差的定义：表示：百分数（%）---分子分母量纲相同1=100%=100%=4%1G1G1的相对误差为2502=100%=100%=2.5%G2G2的相对误差为5020002---G2的测量效果较好确切反映测量效果：被测量的大小不同---允许的测量误差不同被测量的量值小---允许的测量绝对误差也越小1、测量误差的定义：1、测量误差的定义：例1：天平的称量误差在±0.0001克，如使测量时的相对误差在0.1%以下，试样至少应该称多少克？解：绝对误差(E)相对误差(RE)=——————×100%试样重 E0.0001g试样重=——=————=0.1gE%0.1%2、误差的分类：按误差来源：装置误差、环境误差、方法误差、人员误差①系统误差（Systemerror）由特定原因引起、具有一定因果关系并按确定规律产生按掌握程度：已知误差、未知误差按特性规律：系统误差、随机误差、粗大误差---有规律可循装置、环境、动力源变化、人为因素理论分析/实验验证---原因和规律---减少/消除②随机误差（Randomerror）因许多不确定性因素而随机发生偶然性（不明确、无规律）概率和统计性处理（无法消除/修正）③粗大误差（Abnormalerror）检测系统各组成环节发生异常和故障等引起按变化速度：静态误差、动态误差2、误差的分类：请判断下列情况属于哪种误差？天平砝码生锈致使样品称量不准。滴定分析中不慎将药品滴到锥形瓶外。由于空气温度和湿度的不稳定导致称量结果有差异。化学试剂不纯造成分析结果不准。重量分析中由于沉淀不完全使分析结果偏低。3、精密度与准确度的区别与联系：1）精密度指多次重复测定同一量值时各测定值之间彼此相符合的程度精密度是指量具能区分出微量的程度，亦即量具能区分之最小距离，此精密度在量具制造时已决定。表征测定过程中随机误差的大小。3、精密度与准确度的区别与联系：2）准确度指在一定实验条件下多次测定的平均值与真值相符合的程度，以误差来表示。它用来表示系统误差的大小。测量仪器的准确度指测量仪器给出接近于真值的响应能力。准确度只是一个定性概念而无定量表达。测量误差的绝对值越大，其准确度越低。3）二者联系任何测量都要求精确。精确性是评价观测成果优劣的准确度与精密度的总称。准确度是指在对某一个量的多次观测中，观测值对该量真值的偏离程度，观测值偏离真值愈小，则准确度愈高。精密度简称精度，指在某一个量的多次观测中，各观测值之间的离散程度，若观测值非常集中则精度高；反之则低。一个观测列可能精度高而准确度低，也可能精度低而准确度高。3、精密度与准确度的区别与联系：测量精度举例不精密（随机误差大）准确（系统误差小）精密（随机误差小）不准确（系统误差大）不精密（随机误差大）不准确（系统误差大）精密（随机误差小）准确（系统误差小）4、偏差：一个值减去其参考值，称为偏差。这里的一个值是指测量得到的值，参考值是指设定值、应有值或标称值。偏差=实际值－标称值尺寸偏差=实际尺寸－应有参考尺寸加工一个准确值为1kg的砝码，实际加工的为1.002kg，此时偏差为+0.002kg；如果砝码按1kg使用，则有-0.002kg的示值误差。偏差与误差等值相反。解决偏差问题，需要对砝码进行修正，修正值为+0.002kg，修正值对测量值而言，而偏差是对标称值而言。4、偏差：标准偏差：s相对标准偏差：RSD二、有效数字的概念及运算规律1、有效数字：把准确数字加上最后一位有实际意义的估计数字总称为有效数字。2、有效位数：测量结果用且只用它的有效数字表示，有效数字的个数叫作有效位数。3、仪器读数规则(1)刻度式仪表，在最小分度值后要估读一位(2)数字显示仪表，直接读取仪表的示值。(3)游标类量具，读到游标分度值的整数倍。刻度式仪表游标类量具在科学实验中，为了得到准确的测量结果，不仅要准确地测定各种数据，而是还要正确地记录和计算。分析结果的数值不仅表示试样中被测成分含量的多少，而且还反映了测定的准确程度。所以，记录实验数据和计算结果应保留几位数字是一件很重要的事，不能随便增加或减少位数。例如用重量法测定胶中TVOC含量时，若称取试样重为0.2187克，经过一系列处理后，得到固体重0.2132克，则其百分含量为：TVOC%=(0.0055/0.2187)×100%＝2.1514860539%有效数字是指在分析工作中实际上能测量到的数字。记录数据和计算结果时究竟应该保留几位数字，须根据测定方法和使用仪器的准确程度来决定。在记录数据和计算结果时，所保留的有效数字中，只有最后一位是可疑的数字。1、有效数字的意义及位数例如：坩埚重18.5734克标准溶液体积24.41毫升由于万分之一的分析天平能称准至±0.0001克，滴定管的读数能读准至±0.01毫升，故上述坩埚重应是18.5734±0.0001克，标准溶液的体积应是24.41±0.01毫升，因此这些数值的最后一位都是可疑的，这一位数字称为“不定数字”。在分析工作中应当使测定的数值，只有最后一位是可疑的。1、有效数字的意义及位数有效数字的位数，直接与测定的相对误差有关。例如称得某物重为0.5180克，它表示该物实际重量是0.5180±0.0001克，其相对误差为：(±0.0001/0.5180)×100%＝±0.02%1、有效数字的意义及位数如果少取一位有效数字，称得物体的质量为0.518g，其相对误差为？？？1、有效数字的意义及位数“0”的有效数字规则例如:1.00050.5000；31.05%；6.023×1020.0540；1.86×10-50.0054；0.40%0.5；0.002%1、有效数字的意义及位数因此，在记录测量数据和计算结果时，应根据所使用的仪器的准确度，必须使所保留的有效数字中，只有最后一位数是“不定数字”。例如，用感量为百分之一克的天平称物体的重量，由于仪器本身能准确称到±0.0l克，所以物体的重量如果是10.4克，就应写成10.40克，不能写成10.4克。分析化学中还经常遇到pH、lgK等对数值，其有效数字的位数仅取决于小数部分数字的位数，因整数部分只该数的方次。例如，pH＝12.68，即[H+]＝2.1×l0-13mol/L，其有效数字为两位，而不是四位。2、有效数字的运算规则加减法例如0.0121+25.64+1.05782=?5.2727+0.075+3.7+2.12=?0.01+25.64+1.06＝26.715.27+0.08+3.7+2.12＝11.172、有效数字的运算规则加减法当几个数据相加或相减时、它们的和或差的有效数字的保留，应以小数点后位数最少，即绝对误差最大的数据为依据。3、有效数字的运算规则乘除法求0.0121×25.64×1.05782=?0.3451×17.9×2.0786=?0.0121×25.6×1.06=0.3280.345×17.9×2.08=12.83、有效数字的运算规则乘除法几个数据相乘除时，积或商的有效数字的保留，应以其中相对误差最大的那个数，即有效数字位数最少的那个数为依据。4、有效数字的运算规则乘方、开方运算例如,6.54=?进行数值乘方或开方时,结果有效数字位数不变。6.54=42.8225、几点注意0.03865×9.4×1.327=？0.39×9.4×1.3=4.85、几点注意1、计算公式中的常数如、等都是正确数，在运算中可以根据需要截取其有效位数2、首位数字为8、9的数字，其有效数字可比实际的位数多一位，如8749可认为其为5为有效数字，923可认为其为4位有效数字3、为减少数字的舍入误差，对参与运算的各有效数字进行修约时，可比实际需要多保留一位三、数值修约的规则及技巧1、数值修约规则（1）四舍六入五凑双具体的做法是，1、拟舍弃数字最左一位数字≤4时将其舍去；2、拟舍弃数字最左一位数字≥6时就进一位；3、如果拟舍弃数字最左一位数字为5而后面的数为0时，如所保留的数字的末位数字为奇数则进一，如所保留的数字的末位数字为偶数则舍去；4、当“5”后面还有不是0的任何数时，都须向前进一位，无论前方是奇还是偶数，“0”则以偶数论。1、数值修约规则0.53664→0.53660.58346→0.583510.2750→10.2816.4050→16.4027.1850→27.1818.06501→18.07（2）修约间隔0.2、0.5……0.5单位修约，将拟修约数值乘以2后正常修约，得到的数再除以2。例：修约到个数位的0.5单位：60.25、60.38、60.751、数值修约规则0.2单位修约，将拟修约数值乘以5后正常修约，得到的数再除以5。例：修约到百位数的0.2单位830、842、930（3）不可连续修约必须注意：进行数字修约时只能一次修约到指定的位数，不能数次修约，否则会得错误的结果。如：97.46修约到1为971、数值修约规则(4)、特殊数值的表示报出的数值最右的非零数字为5时，应在数值右上角加“+”或“-”或不加符号，以分别表明已进行过舍，进或未舍未进。例：实测值报出值修约值-15.4546-15.5-1516.520316.517-+2、数值修约方法总结（1）如果为修约间隔整数倍的一系列数中，只有一个数最接近拟修约数，则该数就是修约数。例：将1.150001按0.1间隔进行修约。例：将1.0151修约至十分位的0.2个单位。例：将1.2505按“5”间隔修约至十分位。（2）如果在修约间隔整数倍的一系列数中，有连续的两个数同等地接近拟修约数，只有为修约间隔偶数倍的那个数才是修约数。例：将1150按100修约间隔修约。例：将1.500按0.2修约间隔修约。例：将1.025按“5”间隔修约到三位有效数字。（3）保守计算法四、极限数值的表示和判定1、极限数值的表示带有极限偏差值的数值的表示表示的含义：从79mm到82mm符合要求2、极限数值的判定规则1、全数值比较法：将检验所得的测定值或其计算值不经修约处理（或可做修约处理，但应表明它是经舍、进或未舍未进而得）而用数值的全部数字与标准规定的极限数值作比较，只要越出规定的极限数值，（不论越出大小），都判定为不符合标准要求。标准中各种极限数值（包括带有极限偏差值的数值）未加说明时，均指采用全数值比较法；如规定采用修约值比较法，应在标准中加以说明2、极限数值的判定规则2、修约值比较法：将修约后的数值与标准规定的极限数值进行比较，以判定实际指标或参数是否符合标准要求。将测定值或计算值进行修约，修约位数与标准规定的极限数值写位数一致。Thanks！