tsucchi's blog

アクセスカウンタ

zoom RSS 計算

<<   作成日時 : 2005/04/05 21:38   >>

ブログ気持玉 0 / トラックバック 0 / コメント 0

お仕事の話。

仕事で使っているコンパイラで結構いろいろバグが出ているので、テストプログラムを一式作って試してみた。結局バグらしきものは出ず、私のテストプログラムのバグしか出なかった。

思ったのは、精度を落とさずに計算するのは難しい、ということ。小数の近似で桁が上がってしまってオーバーフローっていうのは、後から見れば明らかだけど、実行する前は意外と頭が回らない。

お客さんのプログラム、大丈夫かなぁ。ちと心配。

テーマ

関連テーマ 一覧


月別リンク

ブログ気持玉

クリックして気持ちを伝えよう!
ログインしてクリックすれば、自分のブログへのリンクが付きます。
→ログインへ

トラックバック(0件)

タイトル (本文) ブログ名/日時

トラックバック用URL help


自分のブログにトラックバック記事作成(会員用) help

タイトル
本 文

コメント(0件)

内 容 ニックネーム/日時

コメントする help

ニックネーム
本 文
計算 tsucchi's blog/BIGLOBEウェブリブログ
文字サイズ:       閉じる