[IEEE754]浮動小数

2007年12月 7日 22:54 滑稽者 | 個別ページ | コメント(0) | トラックバック(0)

だから忘れぬようにメモしておく、、、

補数表現による負数は減算への利用でよくシスアドとかに出てくるよね。

ビット反転させて、(1)₂を足すだけ。8bitの整数表現で-102を表現したければ、

(102)₁₀⇒(66)₁₆⇒(01100110)₂

(-102)₁₀⇒(10011010)₂となる

IEEE754として標準化されているの浮動小数点数演算について、

単精度浮動小数点数は　符号1bit　指数部8bit　仮数部23bit　の計32bit

符号をhidden bitとすれば…

-3.5=-(11.1)₂=-(1.11×2¹)₂ 　

⇒　"1 | 1000 0000 | 1100 0000 0000 0000 0000 0000"

15.75=-(1111.11)₂=-(1.11111×2³)₂ 　

⇒　"0 | 1000 0010 | 1111 1000 0000 0000 0000 0000"

指数部の例：

1000 0010   2³ 　　　0111 1111    2⁰
1000 0001   2²　　　0111 1110    2^-1　　　
1000 0000   2¹　　　0111 1101    2^-2

10進数への換算は逆の考え

例：”1 | 1000 0100 | 1101 0000 0000 0000 0000”

- | 2⁵ | 1.1101　⇒　-(111010) ⇒　- (32+16+8+2)　⇒-58

ソースの表示用JavaScriptの"dp.SyntaxHighlighter"を導入したので試して見る。

>java FloatingPoint -3.5
-3.5 = 11000000011000000000000000000000

>java FloatingPoint 15.75
15.75 = 1000001011111000000000000000000

>java FloatingPoint -58
-58 = 11000010011010000000000000000000

トラックバック(0)

このブログ記事を参照しているブログ一覧: [IEEE754]浮動小数

このブログ記事に対するトラックバックURL: http://delta50.net/mt/mt-tb.cgi/17

このページは、滑稽者が2007年12月 7日 22:54に書いたブログ記事です。

ひとつ前のブログ記事は「[Filter]フィルタ#1」です。

次のブログ記事は「[Flash]FLVの貼り付け」です。

最近のコンテンツはインデックスページで見られます。過去に書かれたものはアーカイブのページで見られます。