语言中的溢出
发布日期:2021-06-30 19:59:18 浏览次数:3 分类:技术文章

本文共 1236 字,大约阅读时间需要 4 分钟。

语言中的溢出分为缓冲区溢出,内存溢出和数据溢出。最常见的就是数据溢出,当要表示的数据超出计算机所使用的数据类型所能够表示d的范围时,就会产生数据的溢出

假如有一个需求:计算从0到10,0到100,0到1000,0到10000,0到100000的和

using System;class Program{    static void Main(string[] args)    {        int sum = 0;        for (int i = 0; i <= 10; i++)        {            sum += i;        }        Console.WriteLine(sum);        sum = 0;        for (int i = 0; i <= 100; i++)        {            sum += i;        }        Console.WriteLine(sum);        sum = 0;        for (int i = 0; i <= 1000; i++)        {            sum += i;        }        Console.WriteLine(sum);        sum = 0;        for (int i = 0; i <= 10000; i++)        {            sum += i;        }        Console.WriteLine(sum);        sum = 0;        for (int i = 0; i <= 100000; i++)        {            sum += i;        }        Console.WriteLine(sum);    }}

运行后的输出结果:

不难看出结果是有规律性的,但是当计算从0到10000的和时,结果却很奇怪,这就是语言中的溢出现象,因为我们定义的sum是int型,C#中int型能表示的数值范围如下:
可见5000050000超过了int类型可表示的范围,所以产生了溢出现象导致数字错乱
如果把sum变量的类型改为比int类型能表示的数字范围大的类型,则不会溢出,例如double类型

using System;class Program{    static void Main(string[] args)    {        double sum = 0;        for (int i = 0; i <= 100000; i++)        {            sum += i;        }        Console.WriteLine(sum);    //5000050000    }}

转载地址:https://liuhaowen.blog.csdn.net/article/details/89857543 如侵犯您的版权,请留言回复原文章的地址,我们会给您删除此文章,给您带来不便请您谅解!

上一篇:Unity中实现获取一段时间内移动设备声音的最大音量
下一篇:Windows系统下如何设置软件的快捷键

发表评论

最新留言

逛到本站,mark一下
[***.202.152.39]2024年04月10日 07时42分05秒