【问题标题】:Division result is not correct除法结果不正确
【发布时间】:2012-10-12 10:51:17
【问题描述】:
CGFloat result=100/126;
NSLog(@"%0.5f",result);

上述代码的输出是 0.00000,但是当我在计算器上检查它时,该值是 0.79365。有什么问题

【问题讨论】:

    标签: iphone objective-c ios


    【解决方案1】:

    问题在于除法的两个操作数都是整数,执行整数除法,结果为0。要获得正确的值,您需要确保至少有一个操作数是浮点数:

    CGFloat result=100.0f/126;
    

    【讨论】:

    • 你能解释或给出任何网络链接,说明为什么它在整数除法中给出 0。
    • @Developer: 在整数除法中 100/126 是 0 余数 100。
    【解决方案2】:

    可能是因为您的变量是整数。这样做

    CGFloat result=100.0/126.0;
    NSLog(@"%0.5f",result);
    

    【讨论】:

      猜你喜欢
      • 2012-02-02
      • 1970-01-01
      • 2013-11-24
      • 2016-05-02
      • 1970-01-01
      • 2016-05-15
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      相关资源
      最近更新 更多