カテゴリー: 開発全般

消費税の計算で誤差が出た原因は2進数だったという基本的な話題 鈴木商店の岩佐です。 同じ式なのに税込み金額が違う 担当しているプロジェクトで、税込み金額（端数は切り捨て）を計算するロジックがありました。 以下は、式の表現が違うだけで、答えは同じになるはずですよね。 A：「税抜き額＋税抜き額×税率の整数表現／100」で計算 　　（例）29,475+29,475×8/100=31,833 B：「税抜き額×(1+0.01×税率の整数表現)」で計算 　　（例）29,475×(1+0.01×8)=31,833 しかし、実際にはBの式だと、29,475×(1+0.01×8)=31,834... 続きを読む