misc.log

日常茶飯事とお仕事と

2018-04-04から1日間の記事一覧

2進数と10進数の変換

新人研修でやらないといけないのでおさらいしてます。正直なところ小数の扱いなんてまともに勉強してないので、ほぼゼロから学んでる感じ(苦手なので避けてました)。ただ、10進数小数を2進に変換してみると、きれいに変換できないことがわかるので誤差の話…