過程はこちら
1.十進数から近似の二進数を求め仮数有効桁数53桁で54桁目以降が1より大きいなら切り上げ
2.二進数同士で演算
3.出た値を仮数有効桁数53桁で54桁目以降が1より大きいなら切り上げ
4.十進数に戻したうえで切り上げ
1.十進数から近似の二進数を求め仮数有効桁数53桁で54桁目以降が1より大きいなら切り上げ
2.二進数同士で演算
3.出た値を仮数有効桁数53桁で54桁目以降が1より大きいなら切り上げ
4.十進数に戻したうえで切り上げ
という操作が行われている
例として100*1.1を挙げると
1.十進数から近似の二進数を求め仮数有効桁数53桁で54桁目以降が1より大きいなら切り上げ
100→1100100
1.1→1.000110011001100110011001100110011001100110011001101
2.二進数同士で演算
1100100*1.000110011001100110011001100110011001100110011001101=
1101110.000000000000000000000000000000000000000000000010100
3.出た値を仮数有効桁数53桁で54桁目以降が1より大きいなら切り上げ
1101110.000000000000000000000000000000000000000000000010100(10100の手前の0が53桁目)→1101110.0000000000000000000000000000000000000000000001
4.十進数に戻したうえで切り上げ
1101110.0000000000000000000000000000000000000000000001(10100の手前の0が53桁目)→110.00000000000001
という計算をしているため端数が出る
確認されたもの
回復(切り上げ)
奥義ゲージ上昇(切り上げ)
RP(不明/おそらく切り上げ?)
すしたろうさんに情報いただきました
1.000110011001100110011001100110011001100110011001101*101011110
=110000001000000000000000000000000000000000000000000001000110
となるため350*1.1も端数が出ます
すしたろう@firemagmaRankポイントの計算で大事なもの混ざると不思議な感じになってたのもこれかな?
2018/05/23 00:32:44
350の10%UPが386 >RT https://t.co/Btycux0jcN
4段階目で切り捨てであるためおそらく問題ないと思われるもの
連撃率
未確認
EXP
強化経験値
武勲
貢献度(ファウスト)
ルピ(SRカルテイラLBサポアビ)
ダメージ(乱数で正確に求めるには手間なうえどの計算ごとに切り上げてるか調べるには莫大な時間がかかる)
ダメージ上限(減衰ラインは全て1000の倍数であり上限UPは0.1%であるため切り捨て切り上げどちらであるかは確認不可)
ただダメージ上限は切り捨てであることがこの検証から証明できるかもしれません....おそらく正しいのですが気が向いたらやってみます
コメント
このブログにコメントするにはログインが必要です。
さんログアウト
この記事には許可ユーザしかコメントができません。