
エントリーの編集

エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
エントリーの編集は全ユーザーに共通の機能です。
必ずガイドラインを一読の上ご利用ください。
注目コメント算出アルゴリズムの一部にLINEヤフー株式会社の「建設的コメント順位付けモデルAPI」を使用しています
数値計算 Advent Calendar 2022 19日目です🎄 このノートでは単精度・倍精度・(ついでに)疑似四倍精度... 数値計算 Advent Calendar 2022 19日目です🎄 このノートでは単精度・倍精度・(ついでに)疑似四倍精度・四倍精度・八倍精度でフランク行列・ヒルベルト行列の固有値を求めます. フランク行列の場合, 1000×1000程のサイズで単精度では最小固有値が1桁も正しく計算できなくなることを確かめました. より条件数の大きいヒルベルト行列の場合, さらに小さい5×5~35×35程で単精度・倍精度・疑似四倍精度・四倍精度・八倍精度では最小固有値が1桁も正しく計算できなくなることを確かめました. パッケージ・環境 Quadmath.jlの四倍精度・Float128はIEEE 754 binary128準拠です. ついでにDoubleFloats.jlの疑似四倍精度・Double64も追加しました. QD.jlの八倍精度・Float256はインストール, ビルド時にエラーが出たので,