【备忘】浮点

浮点由3个部分组成
[s m n]
s = 1/0
n = 1.b...
m = 2^m的位数-1挖去0和最大值max,即[1,max-1]。指数的真值要再减去len(m)/2

m = 0 , n = 0.b*原最小值----表示更高精度的数(但无法参与运算)
m = MAX , n = 0---表示正负无穷(取决于s)
m = MAX , n!= 0---表示不是数字NAN

理解浮点的核心就是记住n和m的行为
(小的数浮点左移)的基准n总是提供对应位数的十进制精度,小于这个机器精度的值可以被表示但求值时被忽略

特别地
很多的小数的二进制表示是循环的,故而会产生不同的舍入误差,导致一些不优雅的情况(9.4-9-0.4!=0)

推荐阅读更多精彩内容

  • 在C语言中,五种基本数据类型存储空间长度的排列顺序是: A)char B)char=int<=float C)ch...
    夏天再来阅读 1,843评论 0 2
  • 定点小数运算 来自:http://www.eepw.com.cn/article/17893.htm 在DSP世界...
    郝宇峰阅读 5,016评论 0 1
  • 我的理想生活,不知道是不是能实现,但我想过的日子确实是这样的 。 房子不需要很大,但阳光充足却是必要的;有一条体型...
    悟悦心自足18阅读 310评论 5 4
  • “陈蒙小哥,请留步。”一个陌生的声音出现在我的背后。 我扭头一看,只见一个身穿黄色皮袍,面目枯槁,身体瘦削,满头白...
    追随自己影子阅读 184评论 0 3
  • 这场戏,我独醉 以为是你一生的主演 对白一个人,你看来无所谓 原来我那么卑微 只是你的配角,在圈子以外 再怎么努力...
    阿琴姑娘阅读 808评论 25 106