IT用語辞典バイナリ | さくいん | サイトマップ | ヘルプ | お気に入りに追加  
IT用語辞典バイナリ<パソコン用語・コンピュータ辞書>
IT用語辞典バイナリ<パソコン用語・コンピュータ辞書>
コンピュータ偉人伝<人物・画像・写真・プログラミング>
コンピュータ偉人伝<人物・画像・写真・プログラミング>
コンピュータ偉人伝<人物・画像・写真・プログラミング>
拡張子辞典<ファイル・変換・変更・表示>
HTML5タグリファレンス
CSS3リファレンス
HTML5 JavaScript API
エクセル関数リファレンス
ITパスポート試験
 
  
虫眼鏡  用語検索全文検索   
 
  索引
 矢印 用語辞典







       










記号
 矢印 拡張子辞典






記号数字
 矢印 コンピュータ偉人伝
検索結果

検索した用語に一致する記事が1個見つかりました。

1. 丸め誤差 - 用語辞典
読み方:まるめごさ
【英】rounding error, round-off error
丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。 丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。丸め処理は主に数値の桁数を揃えるために行われる。 例え ...

検索した用語を含む記事が3個見つかりました。

1. 丸め誤差 - 用語辞典
丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。 丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。丸め処理は主に数値の桁数を揃えるために行われる。 例 ...
2. 丸め - 用語辞典
丸めとは、数値を一定の規則に従って、近似値で表現することである。 丸めには、四捨五入や切り捨て、切り上げなど、いくつかの規則があるが、JIS規格(JIS Z 8401数値の丸め方)では、次に示す規則で丸める。例えば、数値を近い整数に丸める時、1.5や2.5のように候補が2つある場合は、(1)結果が ...
3. 情報落ち誤差 - 用語辞典
情報落ち誤差とは、浮動小数点の加算、あるいは、減算などにおいて、指数部の小さい数の仮説部の下位が失われることによって生じる誤差のことである。 情報落ち誤差は、大きな数と小さな数の差が非常に大きい時の加減算で発生し、小さな数が計算結果に反映されないという特徴がある。 例えば、浮動小数点の仮説部の有効 ...


IT用語辞典バイナリについて運営会社についてお問い合わせ先テクニカルライター募集利用規約
プライバシーポリシー著作権・商標について協力社一覧Weblio 辞書スマート翻訳英和辞典 - Weblio辞書Weblio英会話
©2023 GRAS Group, Inc. All rights reserved.