DECIMAL字段字节计算

前言

最近在看《深入浅出MySQL》一书,看到了数值类型那一节。里面介绍了一些常用字段的相关信息,如字节长度、最大值、最小值等。

当看到 DECIMAL 字段时,它的字节数是 M+2,这个让我很不解,是为什么?

查阅+理解

DECIAMLFLOATDOUBLE 的存储方式不同。

FLOATDOUBLE 是用二进制存储数据的,所以会有部分精度问题。

DECIAML 是用字符串的方式存储的,所以它不存在精度问题,那么它的长度就是存储字节的长度。

那么问题来了,例如:DECIMAL(5,2) 的最大值是 999.99,那么总长度也就是 5+1,又为什么是 5+2 呢?

隐藏的 +

第二天工作的时候,帮忙拉取一个数据,就手动操作了一把,其中两个数据要相加一下。当我看到那个 + 号时,我想通了。

DECIMAL 也是有符号位的,而当时我只看的最大值,如果看最小值的话,就能够想通为什么是 M+2 了。

所以最终 DECIMAL 的长度计算方式是:1个字节的符号位 + 一个字节的小数点位 + 纯数字的长度(M) = 1 + 1 + M = M + 2。

结语

困点得以解决,这种思考是被人直接告知要更加难得的,问题虽小,值得纪念。

-- EOF --
本文转载自IMJCW
原文链接:DECIMAL字段字节计算

推荐阅读更多精彩内容