消費税の計算で誤差が出た原因は2進数だったという基本的な話題

2016年06月05日

消費税の計算で誤差が出た原因は2進数だったという基本的な話題 鈴木商店の岩佐です。 今回のテーマは「消費税と2進数」という、金融関連のプロジェクトを担当されている方なら超初歩的過ぎて、ポカーンとなる話題です。 同じ式なのに税込み金額が違う 担当しているプロジェクトで、税込み金額(端数は切り捨て)を計算するロジックがありました。 以下は、式の表現が違うだけで、答えは同じになるはずですよね。 A:「税抜き額+税抜き額×税率の整数表現/100」で計算   (例)29,475+29,475×8/100=31,833 B:「税抜き額×(1+0.01×税率の整数表現)」で計算   (例)29,475×(1+0.01×8)=31,833 しかし、実際にはBの式だと、29,475×(1+0.01×8)=31,834... 続きを読む