プログラムを中心とした個人的なメモ用のブログです。 タイトルは迷走中。
内容の保証はできませんのであしからずご了承ください。

2019/02/21

四捨五入する場合の注意点

event_note2019/02/20 23:13

0.5 を四捨五入すると 1 になると思っていましたが、端数処理の考え方では必ずしもそうではないようです。

例えば、C# で四捨五入を行うメソッドは Math.Round ですが、この Round メソッドは、デフォルトだと「最近接偶数への丸め」と呼ばれる、丸めた結果が偶数になるような丸め方をします。

この「最近接偶数への丸め」では、0.5 は 0 に、1.5 は 2 と、偶数になるように丸めるようです。

これ、知らないとはまることになりそうですね。