IT用語辞典バイナリ | さくいん | サイトマップ | ヘルプ | お気に入りに追加  
IT用語辞典バイナリ<パソコン用語・コンピュータ辞書>
IT用語辞典バイナリ<パソコン用語・コンピュータ辞書>
コンピュータ偉人伝<人物・画像・写真・プログラミング>
コンピュータ偉人伝<人物・画像・写真・プログラミング>
コンピュータ偉人伝<人物・画像・写真・プログラミング>
拡張子辞典<ファイル・変換・変更・表示>
HTML5タグリファレンス
CSS3リファレンス
HTML5 JavaScript API
エクセル関数リファレンス
ITパスポート試験
 
  
虫眼鏡  用語検索全文検索   
 
  索引
 矢印 用語辞典







       










記号
 矢印 拡張子辞典






記号数字
 矢印 コンピュータ偉人伝
検索結果

検索した用語に一致する記事が1個見つかりました。

1. 打ち切り誤差 - 用語辞典
読み方:うちきりごさ
【英】truncation error
打ち切り誤差とは、全ての演算が終了する前に、あらかじめ指定された法則に従って演算が打ち切られる、そのことによって生じる誤差のことである。 コンピューターで数式などの解を求める際に、計算を繰り返し実行させることで値を近似させるとき、ある一定時間を超えたところで演算は終了される。そのようにして得られた値 ...

検索した用語を含む記事が3個見つかりました。

1. 打ち切り誤差 - 用語辞典
打ち切り誤差とは、全ての演算が終了する前に、あらかじめ指定された法則に従って演算が打ち切られる、そのことによって生じる誤差のことである。 コンピューターで数式などの解を求める際に、計算を繰り返し実行させることで値を近似させるとき、ある一定時間を超えたところで演算は終了される。そのようにして得られた ...
2. 丸め誤差 - 用語辞典
丸め誤差とは、数値の計算処理の都合上、ある程度で値を省略することにより、計算結果に現れてくる誤差のことである。 丸め誤差の「丸め」とは、任意の桁数以上の精度の数値を端数として処理してしまうことであり、四捨五入や切り上げ、切り捨てなどを含んでいる。丸め処理は主に数値の桁数を揃えるために行われる。 例 ...
3. 情報落ち誤差 - 用語辞典
情報落ち誤差とは、浮動小数点の加算、あるいは、減算などにおいて、指数部の小さい数の仮説部の下位が失われることによって生じる誤差のことである。 情報落ち誤差は、大きな数と小さな数の差が非常に大きい時の加減算で発生し、小さな数が計算結果に反映されないという特徴がある。 例えば、浮動小数点の仮説部の有効 ...


IT用語辞典バイナリについて運営会社についてお問い合わせ先テクニカルライター募集利用規約
プライバシーポリシー著作権・商標について協力社一覧Weblio 辞書スマート翻訳英和辞典 - Weblio辞書Weblio英会話
©2023 GRAS Group, Inc. All rights reserved.