博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
double保持精度,防止小数点后数字的丢失的小方法
阅读量:5958 次
发布时间:2019-06-19

本文共 400 字,大约阅读时间需要 1 分钟。

一般情况下,输入带小数点的字面值,编译器会把它解析成double 类型。

例如:一个字面值被直接放到代码中,由于带小数点所以,默认值为double类型

 
输出结果是:1.12345678912345(最后一个数字丢失了)这是因为double值精度就这么长啊
有什么办法可以使输出的结果具有完整的精度呢??
我们可以将字面值显示声明为decimal类型,通过追加一个M或m后缀来实现
 
 
嘻嘻,还有另外一种办法可以防止最后一位数字被丢弃哦,可以使用格式字符串和round-trip 格式说明符R或r进行转换。
例如:string.Format("{0:R}", 1.123456789123477) ,输出的结果:1.123456789123477,最后一个数字还在哦
 
round-trip格式说明符返回的字符串转换回数值肯定能获得原始值了,如果没有使用round-trip格式,那输入与输出的值肯定不一样了

转载地址:http://qyuax.baihongyu.com/

你可能感兴趣的文章
axios 拦截 , 页面跳转, token 验证(自己摸索了一天搞出来的)
查看>>
有序的双链表
查看>>
程序员全国不同地区,微信(面试 招聘)群。
查看>>
【干货】界面控件DevExtreme视频教程大汇总!
查看>>
闭包 !if(){}.call()
查看>>
python MySQLdb安装和使用
查看>>
Java小细节
查看>>
poj - 1860 Currency Exchange
查看>>
chgrp命令
查看>>
Java集合框架GS Collections具体解释
查看>>
洛谷 P2486 BZOJ 2243 [SDOI2011]染色
查看>>
数值积分中的辛普森方法及其误差估计
查看>>
Web service (一) 原理和项目开发实战
查看>>
跑带宽度多少合适_跑步机选购跑带要多宽,你的身体早就告诉你了
查看>>
广平县北方计算机第一届PS设计大赛
查看>>
深入理解Java的接口和抽象类
查看>>
java与xml
查看>>
Javascript异步数据的同步处理方法
查看>>
iis6 zencart1.39 伪静态规则
查看>>
SQL Server代理(3/12):代理警报和操作员
查看>>