2014-05-29から1日間の記事一覧
バグってる。 固定小数点演算のhigh radix除算器の結果を見てたら、何故か「000000001400013ffec0」が固定小数点24bitでリアル表記に設定すると-1.907e-005と表記される。他の表記はあってるっぽいが・・・。
バグってる。 固定小数点演算のhigh radix除算器の結果を見てたら、何故か「000000001400013ffec0」が固定小数点24bitでリアル表記に設定すると-1.907e-005と表記される。他の表記はあってるっぽいが・・・。