微信公众号 讲师中心
首页
文章
后端开发 web前端 数据库 开发工具 php框架 常见问题 科技 Java 系统教程 电脑教程 硬件教程 手机教程 软件教程 游戏教程 自媒体 新闻
专题
后端开发 web前端 数据库 开发工具 php框架 科技 Java 系统教程 电脑教程 硬件教程 手机教程 软件教程 游戏教程 新闻
AI工具
AI 聊天问答 Agent智能体 AI 文本写作 AI 绘画作图 AI 设计工具 AI 视频创作 AI 音频制作 AI 办公学习 AI 编程开发 Prompt指令
学习
大前端 后端开发 数据库 移动端 运维开发 计算机基础
编程手册
大前端 后端开发 数据库 移动端 运维开发 计算机基础
下载
js特效 网站源码 工具下载 类库下载 网站素材 学习资源 插件扩展 手机/移动开发 手机游戏
最近更新
搜索
后端开发 web前端 数据库 开发工具 php框架 常见问题 科技 Java 系统教程 电脑教程 硬件教程 手机教程 软件教程 游戏教程
自媒体 新闻
首页 > web前端 > js教程 > 正文

javascript中的float运算精度实例分析_javascript技巧

php中文网
发布： 2016-05-16 18:20:49
原创
1587人浏览过

有人问到一个js问题：

寻鲸AI
寻鲸AI

寻鲸AI是一款功能强大的人工智能写作工具，支持对话提问、内置多场景写作模板如写作辅助类、营销推广类等，更能一键写作各类策划方案。

寻鲸AI 68
查看详情 寻鲸AI
复制代码 代码如下:

var i = 0.07;
var r = i*100;
alert(r);

结果为什么是7.0000000000000001?
查了下资料，其实我们知道JavsScript中，变量在存储时并不区分number和float类型，而是统一按float存储。而javascript使用IEEE 754-2008 标准定义的64bit浮点格式存储number，按照IEEE 754的定义： http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64对应的整形部分长度为10,小数部分长度为16，所以默认的计算结果为“7.0000000000000001”，如最后一个小数为0，则取1作为有效数字标志。

类似地，我们可以想像，1/3的结果应该是0.3333333333333333。
那么如何校正这个值呢？
可以用以下方法：
一、parseInt

var r4=parseInt(i*100);

二、Math.round

var r2=Math.round((i*100)*1000)/1000;

以上两种方法都可以得到7
附全部测试代码：
复制代码 代码如下:



测试脚本





大家都在看：

java速学教程(入门到精通)
java速学教程(入门到精通)

java怎么学习？java怎么入门？java在哪学？java怎么学才快？不用担心，这里为大家提供了java速学教程(入门到精通)，有需要的小伙伴保存下载就能学习啦！

下载
来源：php中文网
收藏 点赞
上一篇：jquery下组织javascript代码(js函数化)_基础知识 下一篇：jquery实现居中弹出层代码_jquery
本文内容由网友自发贡献，版权归原作者所有，本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容，请联系admin@php.cn
最新问题
JavaScript_类型系统与TypeScript进阶应用 JavaScript是动态弱类型语言，变量类型在运行时确定，存在潜在错误风险；TypeScript通过静态类型系统在开发阶段捕获问题。JS有七种原始类型和对象类型，typeof和instanceof用于类型判断但有局限。TS提供类型注解、接口、泛型等机制，支持类型别名与接口定义结构，泛型结合条件类型、映射类型实现高级类型编程，如GetReturnType提取返回值类型。TS通过控制流分析自动窄化类型，支持自定义类型守卫、in和instanceof进行类型判断。装饰器可用于日志、权限校验、依赖注入
2025-11-23 03:31:06
600
JS Map数据结构_与Object对比 Map支持任意类型键且有序，性能更优；Object键仅限字符串或Symbol，语法简洁但无序，适合简单配置和JSON操作。
2025-11-23 02:31:16
549
Puppeteer高效提取页面多元素文本：解决爬取空白与效率问题 本教程旨在解决使用Puppeteer从网页中提取多个元素文本时遇到的常见问题，特别是登录后页面跳转未等待以及多元素循环提取效率低下导致的结果空白。文章将深入讲解如何通过page.waitForNavigation()确保页面加载完成，并推荐使用page.$$eval()方法在浏览器上下文中高效批量提取元素文本，从而提升爬取脚本的稳定性和性能。
2025-11-22 23:49:26
643
解决EJS模板中Mapbox数据传递的TypeError问题 本文旨在解决在EJS模板中集成Mapbox时，因数据传递不当导致的TypeError:Cannotreadpropertiesofundefined(reading‘coordinates’)错误。核心问题在于将JSON字符串化的对象再次用引号包裹，使其在客户端JavaScript中无法被正确解析为对象。通过移除EJS模板中JSON.stringify输出外部的额外引号，可确保数据作为有效的JavaScript对象字面量被直接赋值，从而使Mapbox能够正确访问地理坐标信息。
2025-11-22 23:06:25
575
JavaScript大数据_分布式计算处理 JavaScript可用于分布式计算，通过Node.js的流式处理、分片与worker_threads实现本地并行，结合主从架构与消息队列构建轻量级分布式系统，并集成Spark、Flink等生态完成大数据任务，适用于实时处理与前后端一体化场景。
2025-11-22 22:57:12
583
JavaScript渲染性能_重绘与回流优化策略 重绘与回流是JavaScript影响页面渲染性能的关键机制，回流因布局变化需重新计算几何属性，开销大且必引发重绘。频繁操作如修改尺寸、读取offset等会触发回流，优化策略包括：批量修改DOM、用CSS类替代内联样式、缓存布局信息、使用transform实现动画、合理启用硬件加速，并通过读写分离和requestAnimationFrame减少布局抖动，从而提升渲染效率。
2025-11-22 22:55:09
227
Go Web应用中实现HTML下拉列表数据通过AJAX提交至后端服务器 本文详细介绍了如何在GoWeb应用程序中，通过前端HTML下拉列表选择数据，并利用JavaScript的AJAX（XMLHttpRequest）技术将其异步发送至后端服务器。教程涵盖了前端事件监听、AJAX请求的构建与发送，以及后端Go服务器接收和处理POST请求的关键步骤，旨在帮助开发者实现高效的前后端数据交互。
2025-11-22 22:52:02
287
JavaScript符号类型_Symbol唯一标识符 Symbol是JavaScript中的原始数据类型，具有唯一性，即使描述相同也不相等；可用于对象属性键以避免命名冲突，不会被常规遍历方法读取，支持全局注册表共享及自定义对象行为。
2025-11-22 22:49:34
348
JavaScript测试驱动_Jest单元测试框架详解 Jest因零配置、内置断言、Mock支持、快照测试和并行执行等特性成为JavaScript测试首选，安装后通过npmtest即可运行测试，其核心功能包括test/describe组织用例、expect匹配器断言、异步测试、模块Mock及快照比对，并支持生命周期钩子管理测试状态。
2025-11-22 22:49:14
581
解决EJS模板中Mapbox无法运行的JSON数据传递问题 本文旨在解决在EJS模板中集成Mapbox时，因JSON数据传递不当导致的“Cannotreadpropertiesofundefined”错误。核心问题在于将JSON字符串错误地作为JavaScript字符串字面量嵌入，而非直接作为可解析的JavaScript对象。通过采用EJS的非转义输出标签，可以直接将JSON字符串注入为有效的JavaScript对象，从而使Mapbox能够正确访问数据并初始化地图。
2025-11-22 22:49:02
735
相关专题
更多>
热门推荐
开源免费商场系统广告
热门教程
更多>
相关推荐
热门推荐
最新课程
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网：公益在线php培训，帮助PHP学习者快速成长！
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号

  • PHP学习

  • 技术支持

  • 返回顶部