2014-06-30

Excelの多項式近似で係数の桁数が少ない場合 → 指数表示にする

Excel 2007 on Windows でのお話。他のバージョンは違うかも。

デフォルトだと、なぜか係数によって桁数が多かったり少なかったりする。特に次数が高い項の係数の桁数が少ないのに気付かず、表示されている数式をそのまま別のセルとかプログラムで使おうとすると、xの値によって関数が再現できていない、ということがある。

こういうときは、近似式を右クリックして、「近似曲線ラベルの書式設定」から、指数にする。「小数点以下の桁数」は15とか多めにすると逆に変になることがあった。単精度なのかな?なので5-7桁あたりがいいんじゃなかろうか。

まぁそもそも6次までしか使えないしExcelのそのままなんて使うなよって話ではあるけど、お手軽なのでつい使ってしまうんだよね。

No comments: