Simulinkでの single型の扱いについて
19 views (last 30 days)
Show older comments
Simulinkで、定数 0.01の出力型をSingleとし、Gainブロックで1000倍すると、出力が10 となります。
Single型での0.01の実際の値は、0.009999... で、1000倍した時に誤差がなくなってしまうのはなぜでしょうか
5 Comments
Atsushi Ueno
on 25 Nov 2021
Moved: Atsushi Ueno
on 17 Aug 2022
余談ですが:
浮動小数点数演算は、規格(IEEE754など)、処理系、CPUや他ハードウェアの違いに依存します。全く同じソフトウェアで演算をしても、処理系やハードウェアが異なると演算誤差が異なる場合があります。
Atsushi Ueno
on 16 Feb 2022
Moved: Atsushi Ueno
on 17 Aug 2022
Answers (0)
See Also
Categories
Find more on String in Help Center and File Exchange
Community Treasure Hunt
Find the treasures in MATLAB Central and discover how the community can help you!
Start Hunting!