博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
浮点数乘积的取整intval,以及高精度函数bcmath的使用
阅读量:4662 次
发布时间:2019-06-09

本文共 585 字,大约阅读时间需要 1 分钟。

  线上发现个bug,浮点数乘积以后取整,得到的数不符预期。还记得上次踩过的坑是数据库类型转换的一个问题。这个也相当于类型转换了..尴尬

  浮点数计算的精度一定要谨慎。

  例子如下:

  究其原因,就是浮点数的二进制表示。当遇到循环的情况,就会出现这种问题。比如 18359.1 * 100在二进制运算结果后,转十进制,得到的会是1835909.99999...

  这样intval()以后,便是1835909了。

  

  知道了这样的问题,有啥更好的方案么?

  可以使用bcmath扩展,高精度函数的使用。bc 全称 Binary Calculator,二进制计算器。

   用法见php文档:http://php.net/manual/zh/function.bcadd.php

bcadd — 加法bccomp — 比较bcdiv — 相除bcmod — 求余数bcmul — 乘法bcpow — 次方bcpowmod — 先次方然后求余数bcscale — 给所有函数设置小数位精度bcsqrt — 求平方根bcsub — 减法

  bc库的加减乘除的返回值是string字符串类型。这点值得注意,可以设置第三个参数,小数点位数。

 

转载于:https://www.cnblogs.com/firstForEver/p/7995698.html

你可能感兴趣的文章
PHP正则表达式
查看>>
移除字符串中的汉字
查看>>
AC日记—— codevs 1031 质数环(搜索)
查看>>
一个restframework快速实例
查看>>
easyui Combotree根据用户输入显示对应的tree值
查看>>
C++之命名空间(End Chapter)
查看>>
获取http请求的响应状态
查看>>
【MFC两种视频图像採集方法】DirectShow与Opencv
查看>>
tensorflow中的batch_normalization实现
查看>>
20145219 《信息安全系统设计基础》第05周学习总结
查看>>
C#中隐藏(new)和方法重写(override)和重载(overload)的区别
查看>>
NET Core-学习笔记(三)
查看>>
解决 Unable to load native-hadoop library for your platform
查看>>
eclipse的debug
查看>>
SqlServer 由于未在SqlServer的此实例上安装复制组件解决方法
查看>>
SQLServer (多表左连接,指定操作某几行)
查看>>
在腾讯云服务器上安装JDK+Tomcat并启动tomcat
查看>>
远程连接mysql数据库注意点记录
查看>>
UOJ #206. 【APIO2016】Gap【交互题】
查看>>
Redis cluster的部署
查看>>