首页 > 数据库 > MySQL > 正文

mysql下float类型一些误差详解

2024-07-24 12:38:35
字体:
来源:转载
供稿:网友

我想很多朋友都不怎么会在mysql中使用float类型,特别是用到金钱时我们可能会用双精度来做,我们知道mysql的float类型是单精度浮点类型不小心就会导致数据误差

单精度浮点数用4字节(32bit)表示浮点数,采用IEEE754标准的计算机浮点数,在内部是用二进制表示的,如:7.22用32位二进制是表示不下的,所以就不精确了。

mysql中float数据类型的问题总结  

对于单精度浮点数Float:当数据范围在±131072(65536×2)以内的时候,float数据精度是正确的,但是超出这个范围的数据就不稳定,没有发现有相关的参数设置建议:将float改成double或者decimal,两者的差别是double是浮点计算,decimal是定点计算,会得到更精确的数据。

1.float类型

float列类型默认长度查不到结果,必须指定精度,比如 num  float,  insert into  table (num) values (0.12); select  * from table where num=0.12的话,empty set,代码如下:

  1. num float(9,7),  insert into  table (num) values (0.12); select  * from table where num=0.12的话会查到这条记录。 
  2.  
  3. mysql> create table tt 
  4.     -> (    
  5.     -> num  float(9,3) 
  6.     -> ); 
  7. Query OK, 0 rows affected (0.03 sec) 
  8.  
  9. mysql> insert into tt(num)values(1234567.8); 
  10. ERROR 1264 (22003): Out of range value for column 'num' at row 1 

注:超出字段范围,无法插入,代码如下:

  1. mysql> insert into tt(num)values(123456.8); 
  2. Query OK, 1 row affected (0.00 sec) 
  3.  
  4. mysql> select  * from  tt; 
  5. +------------+ 
  6. | num        | 
  7. +------------+ 
  8. | 123456.797 | 
  9. +------------+ 
  10. 1 row in set (0.00 sec) 

注:小数位数不够,自动补齐,但是存在一个问题就是如上的近似值,代码如下:

  1. mysql> insert into tt(num)values(123456.867); 
  2. Query OK, 1 row affected (0.04 sec) 
  3.  
  4. mysql> select * from   tt; 
  5. +------------+   
  6. | num        | 
  7. +------------+ 
  8. | 123456.797 | 
  9. | 123456.797 | 
  10. | 123456.867 | 
  11. +------------+ 
  12. rows in set (0.00 sec) 
  13.  
  14. mysql> select  * from tt where  num=123456.867; 
  15. +------------+ 
  16. | num        | 
  17. +------------+ 
  18. | 123456.867 | 
  19. +------------+ 
  20. 1 row in set (0.00 sec) 
  21.  
  22. mysql> insert into tt(num)values(2.8); 
  23. Query OK, 1 row affected (0.04 sec) 
  24.  
  25. mysql> select * from   tt; 
  26. +------------+ 
  27. | num        | 
  28. +------------+ 
  29. | 123456.797 | 
  30. | 123456.797 | 
  31. | 123456.867 | 
  32. |      2.800 | 
  33. +------------+ 
  34. rows in set (0.00 sec) 
  35.  
  36. mysql> select  * from tt where  num=2.8; 
  37. +-------+   
  38. | num   | 
  39. +-------+ 
  40. | 2.800 | 
  41. +-------+ 
  42. 1 row in set (0.00 sec) 
  43.  
  44. mysql> insert into tt(num)values(2.888888); 
  45. Query OK, 1 row affected (0.00 sec) 
  46. --Vevb.com 
  47. mysql> select  * from  tt; 
  48. +------------+ 
  49. | num        | 
  50. +------------+ 
  51. | 123456.797 | 
  52. | 123456.797 | 
  53. | 123456.867 | 
  54. |      2.800 | 
  55. |      2.889 | 
  56. +------------+ 
  57. rows in set (0.00 sec) 

注:小数位数超了,自动取近似值.

一、浮点数的概念及误差问题

浮点数是用来表示实数的一种方法,它用 M(尾数) * B( 基数)的E(指数)次方来表示实数,相对于定点数来说,在长度一定的情况下,具有表示数据范围大的特点,但同时也存在误差问题,这就是著名的浮点数精度问题,浮点数有多种实现方法,计算机中浮点数的实现大都遵从 IEEE754 标准,IEEE754 规定了单精度浮点数和双精度浮点数两种规格,单精度浮点数用4字节(32bit)表示浮点数,格式是:1位符号位 8位表示指数 23位表示尾数,双精度浮点数8字节(64bit)表示实数,格式是:1位符号位 11位表示指数 52位表示尾数.

发表评论 共有条评论
用户名: 密码:
验证码: 匿名发表