int 越界处理
发布日期:2021-05-04 18:35:15 浏览次数:9 分类:技术文章

本文共 939 字,大约阅读时间需要 3 分钟。

在程序运行中,如果运算结果太大超出了所定义的类型,那么可能会影响整个程序的运行结果,甚至是程序出错。

因此,在编写程序时,加入越界处理就显得一起重要了。

用整型 int 来举个例子吧,int型占四个字节,也就是32位,其中第一位(最高位)为符号。

#define INT_MAX ( (1 << 31) - 1)    //定义int最大值#define INT_MIN ( 1 << 31)            //定义int最小值或者int max = 0x7fffffff;int min = 0x80000000;

 

  十六进制 二进制位 10进制数字
    1 0x00000001 0000 0000 0000 0000 0000 0000 0000 0001  1
(1<<31) 0x7fffffff 1000 0000 0000 0000 0000 0000 0000 0000 -2 147 483 648
(1<<31)-1 0x800000000  0111  1111 1111  1111  1111  1111  1111 1111  2 147 483 647

 

 

 

 

 

(1<<31)得到最高位为 1 其余为为 0 ,即 2的31次方。同时最高位符号位为1,表示负数。得到 int最小值 -2 147 483 648 

(1<<31)-1  最高位 0 其余位为 1,即 2的31次方 -1  。得到 int最大值 2 147 483 647。

同理,十六进制的 0x7fffffff 与 0x800000000 也可以表示 int型的取值范围。

 最后,通过在程序中判断是否越界即可。

 例:注意 result 的类型取值应大于int

if (result > INT_MAX)        }            return INT_MAX;        {        else if (result < INT_MIN)        {            return INT_MIN;        }

 

if (result > max)    return max;        else if (result < min)    return min;

 

 

上一篇:任意键开始、暂停
下一篇:防闪屏批量绘图

发表评论

最新留言

第一次来,支持一个
[***.219.124.196]2025年03月29日 13时54分05秒