【发布时间】:2015-10-08 15:05:36
【问题描述】:
我必须创建一个需要平方值的函数。有人告诉我,即使初始值不太大或不太小,平方值仍可能溢出(返回inf)或下溢(返回0),我需要弄清楚如何防止这种情况发生.
我的问题是,当数字本身不太大时,我什至不明白在平方时哪些数字会导致溢出。
我认为这可能适用于不太小的数字,例如1/3 带有重复的十进制数字,但 MATLAB 只是将其转换为 0.3333。
谁能给我一个这样的数字的例子或解释什么样的数字会导致这种情况?
【问题讨论】:
-
nsingle = realmax('double')返回最大的正浮点数。
标签: matlab floating-point