人気ブログランキング | 話題のタグを見る

ブログトップ

電子工作やってみたよ

DM42の演算範囲ビックリ?

DM42の「SHOW」を押してみました。

なにか やたら長い数字列が表示されます。
なにこれ と思い パイ(π)を押してから[SHOW]をおしたら
3.141592653589793238----と見慣れた数字が34桁表示されました。
円周率表と見比べたら最後の1桁だけ四捨五入された値で他はピッタリ。

DM42の演算範囲ビックリ?_c0335218_12444256.jpg

ワクワクしながら次には 1 e^X を押してから[SHOW]をおしたら
 2.7182818284---と34桁表示されて
これは ネイピア数にピッタリ。
DM42の演算範囲ビックリ?_c0335218_13091664.jpg

それならば と、1000!(階乗)をすると 4.02387 E2567 と出てエラーになりません。
次 2000! すると 3.31628 E5735 で正常
ならば 3000! とするとやっと Out of range と表示されました。
リミットはどこだ、と色々な数字を入れながら探して2123!は 1.47991 E6143 で正常
2124!では Out of rangeとなることを確認しました。
DM42の演算範囲ビックリ?_c0335218_13094991.jpg


すごい 仮数34桁 指数6143 ものすごい演算範囲

しかし 表示だけ桁数が大きくても、入力が出来なければ話になりません。
ためしに 1.234567890123456789012345678901234とスクロールしながら入力したら34桁入力でき最後の4の後のみキーを受け付けないように出来てるみたい。
「SHOW」を押すといま入力した全データを表示してくれました。

DM42の演算範囲ビックリ?_c0335218_13105647.jpg


DM42の演算範囲ビックリ?_c0335218_13112639.jpg

これで一応入力と出力は34桁確認できたのですが、内部の演算は真面目に34桁やってくれているのかの確認、どうしよう。
とりあえず ×2を実行してその答えを見てみます。

1.234567890123456789012345678901234
X 2
= 2.469135780246913578024691357802468

真面目に正解でした。

DM42の演算範囲ビックリ?_c0335218_13120652.jpg




この数値 どこかで見覚えあるなと思い探してみたらありました。
2019年7月24日のブログのコメントにすがわらさんが書いてくれてました。

インテル 4倍精度10進ライブラリ 
1数値16バイト(128bit)
10進 34桁  E-6143~E6144

これとピッタリ、これが入っているんですね。



同じ操作をしても HP42S では12桁しか表示されません。 
DM42の演算範囲ビックリ?_c0335218_13455320.jpg



*
Free42では  34桁表示 34桁入力 指数 E6143 すべてDM42 と同じく動作しました。

DM42の演算範囲ビックリ?_c0335218_06330007.jpg




電子工作ランキング

にほんブログ村 その他趣味ブログ 電子工作へ
にほんブログ村


by telmic-gunma | 2020-05-16 13:28 | HP電卓