2014-02-28から1日間の記事一覧

定積分シミュレーター

二次方程式シミュレーターに定積分を搭載。しかし倍制度浮動小数点数(double)の計算誤差で有効桁小数点以下3までしかマトモなものができない。これ半日で出来ると思ってたけど難問だな。桁を増やすと計算負荷が大きくなって待ち時間が出るので計算機として…