為什么我們代碼將浮點(diǎn)數(shù)、整數(shù)進(jìn)行強(qiáng)制轉(zhuǎn)換,或打印輸出時會出精度損失,或出錯的情況?
想要搞明白這個問題,就需要了解一下整數(shù)、浮點(diǎn)數(shù)的存儲規(guī)則。
浮點(diǎn)數(shù)存儲規(guī)則
根據(jù)國際標(biāo)準(zhǔn)IEEE(電氣和電子工程協(xié)會)規(guī)定,任何一個浮點(diǎn)數(shù)NUM的二進(jìn)制數(shù)可以寫為:
NUM = (-1) ^ S * M * 2 ^ E; (S表示符號,E表示階乘,M表示有效數(shù)字) ①當(dāng)S為0時,表示一個正數(shù);當(dāng)S為1時,表示一個負(fù)數(shù); ②M表示有效數(shù)字,1<= M <2; ③2^E表示指數(shù)比如十進(jìn)制的3.0,二進(jìn)制就是0011.0 就可以寫成(-1)^ 0 * 1.1 * 2 ^ 1 再比如十進(jìn)制的-3.0,二進(jìn)制就是-0011.0 就可以寫成(-1)^ 1 * 1.1 * 2 ^ 1 而規(guī)定float類型有一個符號位(S),有8個指數(shù)位(E),和23個有效數(shù)字位(M) double類型有一個符號位(S),有11個指數(shù)位(E),和52個有效數(shù)字位(M) 以float類型為例:IEEE對于(有效數(shù)字)M和(指數(shù))E有特殊的規(guī)定(以float為例):1.因?yàn)镸的值一定是1<= M <2,所以它絕對可以寫成1.xxxxxxx的形式,所以規(guī)定M在存儲時舍去第一個1,只存儲小數(shù)點(diǎn)之后的數(shù)字。這樣做節(jié)省了空間,以float類型為例,就可以保存23位小數(shù)信息,加上舍去的1就可以用23位來表示24個有效的信息。 2.對于E(指數(shù))E是一個無符號整數(shù)所以E的取值范圍為(0~ 255),但是在計(jì)數(shù)中指數(shù)是可以為負(fù)的,所以規(guī)定在存入E時,在它原本的值上加上中間數(shù)(127),在使用時減去中間數(shù)(127),這樣E的真正取值范圍就成了(-127~128)。 對于E還分為三種情況:①E不全為0,不全為1:這時就用正常的計(jì)算規(guī)則,E的真實(shí)值就是E的字面值減去127(中間值),M的值要加上最前面的省去的1。②E全為0這時指數(shù)E等于1-127為真實(shí)值,M不在加上舍去的1,而是還原為0.xxxxxxxx小數(shù)。這樣為了表示0,和一些很小的整數(shù)。所以在進(jìn)行浮點(diǎn)數(shù)與0的比較時,要注意。③E全為1當(dāng)M全為0時,表示±無窮大(取決于符號位);當(dāng)M不全為1時,表示這數(shù)不是一個數(shù)(NaN)
測試
代碼如下:void test(void)
{
float m=134.375;
char *a=(char*)&m;
printf("0x%p:%d ",a,*a);
printf("0x%p:%d ",a+1,*(a+1) );
printf("0x%p:%d ",a+2,*(a+2) );
printf("0x%p:%d ",a+3,*(a+3) );
}
代碼輸出結(jié)果:
具體的計(jì)算過程如下:
精度損失
我們可以把十進(jìn)制的小數(shù)部分乘以2,取整數(shù)部分作為二進(jìn)制的一位,剩余小數(shù)繼續(xù)乘以2,直至不存在剩余小數(shù)為止。例如0.2可以轉(zhuǎn)換為:0.2 x 2 = 0.4 00.4 x 2 = 0.8 00.8 x 2 = 1.6 10.6 x 2 = 1.2 10.2 x 2 = 0.4 00.4 x 2 = 0.8 00.8 x 2 = 1.6 1… 即:.0011001…它是一個無限循環(huán)的二進(jìn)制數(shù),這就是為什么十進(jìn)制小數(shù)轉(zhuǎn)換成二進(jìn)制小數(shù)的時候?yàn)槭裁磿霈F(xiàn)精度損失的情況。 之前前不久給大家分享的《單精度、雙精度、多精度和混合精度計(jì)算的區(qū)別是什么?》可能大家不是很明白,今天看了浮點(diǎn)數(shù)的存儲規(guī)則,你明白了嗎?整數(shù)的存儲規(guī)則
理解了浮點(diǎn)數(shù)的存儲規(guī)則,再理解整數(shù)就很簡單了。
整數(shù)在內(nèi)存中都是以補(bǔ)碼的形式進(jìn)行存儲,整數(shù)有正負(fù)之分。當(dāng)需存儲有符號數(shù)時,用第一位來表示正(0)和負(fù)(1)。
正數(shù)的反碼和補(bǔ)碼還是它本身,下面主要討論下負(fù)數(shù)的反碼和補(bǔ)碼。反碼是其原碼除去最高符號位后其余位按位取反,補(bǔ)碼是其反碼在加上1 。
測試代碼:
輸出結(jié)果:void test(void)
{
int8_t n=-123;
uint8_t *p=(uint8_t *)&n;
printf("%d ",n);
printf("%d ",*p);
}
計(jì)算過程如下:
審核編輯 :李倩
-
二進(jìn)制
+關(guān)注
關(guān)注
2文章
772瀏覽量
41534 -
浮點(diǎn)數(shù)
+關(guān)注
關(guān)注
0文章
59瀏覽量
15845 -
代碼
+關(guān)注
關(guān)注
30文章
4697瀏覽量
68084
原文標(biāo)題:內(nèi)存中整數(shù)和浮點(diǎn)數(shù)存儲的差異
文章出處:【微信號:strongerHuang,微信公眾號:strongerHuang】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
相關(guān)推薦
評論