浮点数存储精度丢失问题——由学生提问所引发的思考

时间：2023-01-06 06:21:24 阅读：最新文章文档下载

说明：文章内容仅供预览，部分内容可能不全。下载后的文档，内容与下面显示的完全一致。下载之前请确认下面内容是否您想要的，是否完整无缺。

作者：李伟余森门佳

作者机构：河南工业职业技术学院计算机工程系,河南南阳473000 出版物刊名：濮阳职业技术学院学报页码：151-153页年卷期：2015年第3期

主题词：浮点数存储误差有效数字

摘要：浮点数在计算机中的存储形式一直是计算机程序设计课程的难点。其存储精度的丢失往往会影响到程序的准确性和可靠性。从一道关于浮点数运算的学生提问入手，总结浮点数教学过程中的一些难点问题。包括浮点数在计算机中存储的格式、误差、范围、精度等，从各个方面进行了系统深入的分析。力求给出一个清晰的描述。