数値計算の研究をしている学生が"数値計算に潜むとんでもないリスク"について話してみる – Qiita

数値計算の研究をしている学生が"数値計算に潜むとんでもないリスク"について話してみる - Qiita

数値計算の研究をしている学生が"数値計算に潜むとんでもないリスク"について話してみる - Qiita

※筆者は驚くと猫になってしまいます. 2次方程式の解の計算でさえこのように誤差が生じ,結局どっちが真の解かも分かりません. 普段計算機でしている計算の結果が本当に正しいものなのか,ちょっと心配になってきますね. 実は2次方程式に関しては誤差混入の原理が明らかになっていて誤差を回避する方法も知られていま...

はてなブックマーク - 数値計算の研究をしている学生が"数値計算に潜むとんでもないリスク"について話してみる - Qiita はてなブックマークに追加