タグ

関連タグで絞り込む (2)

タグの絞り込みを解除

floatとnvidiaに関するmasterqのブックマーク (1)

  • 単精度、倍精度、多精度、混合精度コンピューティングの違いとは?

    パイについての考え方はいくつかあり、アップルパイ、パンプキンパイ、キーライムパイなどさまざまです。それと同様に、数学定数である円周率 ℼ の表現方法もさまざまで、3.14159 と表したり、0 と 1 が延々と続く 2 進数で表したりもできます。 無理数である円周率は、繰り返すことなく永遠に続く 10 進数です。そのため円周率を使って計算を行う場合、人間かコンピューターが数値を切り捨てたり四捨五入したりする前に、小数点以下の桁数を指定する必要があります。 小学校では 3.14 として手計算しますが、高校の関数電卓では桁数が10 桁になることもあります。これは、同じ数値をより高い詳細度で表しています。コンピューター サイエンスではこれを精度と呼び、通常は 10 進数ではなくビット、つまり 2 進数を単位とします。 複雑な科学的シミュレーションの場合、開発者は長年、ビッグバンのような出来事を理

    単精度、倍精度、多精度、混合精度コンピューティングの違いとは?
    masterq
    masterq 2019/11/23
    "従来の倍精度アプリケーションを最大25倍高速化すると同時に、その実行に必要なメモリ、実行時間、消費電力を削減することが可能" なんと
  • 1