The right way to compare a System.Double to #39;0#39; (a number, int?)(将 System.Double 与“0(数字,整数?)进行比较的正确方法)
问题描述
抱歉,这可能是一个简单的愚蠢问题,但我需要知道才能确定.
Sorry, this might be a easy stupid question, but I need to know to be sure.
我有这个 if 表达式,
void Foo()
{
System.Double something = GetSomething();
if (something == 0) //Comparison of floating point numbers with equality
// operator. Possible loss of precision while rounding value
{}
}
这个表达式是否等于
void Foo()
{
System.Double something = GetSomething();
if (something < 1)
{}
}
?因为那时我可能会遇到问题,例如输入 if值为 0.9.
? Because then I might have a problem, entering the if with e.g. a value of 0.9.
推荐答案
那么,你需要将值接近 0 吗?如果您执行大量无限精度"的浮点运算可能会导致 0,您最终可能会得到非常接近"0 的结果.
Well, how close do you need the value to be to 0? If you go through a lot of floating point operations which in "infinite precision" might result in 0, you could end up with a result "very close" to 0.
通常在这种情况下,您希望提供某种 epsilon,并检查结果是否在该 epsilon 内:
Typically in this situation you want to provide some sort of epsilon, and check that the result is just within that epsilon:
if (Math.Abs(something) < 0.001)
您应该使用的 epsilon 是特定于应用程序的 - 这取决于您在做什么.
The epsilon you should use is application-specific - it depends on what you're doing.
当然,如果结果应该完全为零,那么简单的相等检查就可以了.
Of course, if the result should be exactly zero, then a simple equality check is fine.
这篇关于将 System.Double 与“0"(数字,整数?)进行比较的正确方法的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!
本文标题为:将 System.Double 与“0"(数字,整数?)进行比较的正确方法
基础教程推荐
- WPF 模态进度窗口 2022-01-01
- C# 从 List<List<int>> 中删除重 2022-01-01
- 我应该在后面的代码中直接使用 Linq To SQL 还是使 2022-01-01
- .NET SerialPort DataReceived 事件未触发 2022-01-01
- 当值可以是对象或空数组时反序列化 JSON 2022-01-01
- 如果有人提交恶意软件Nuget包怎么办? 2022-01-01
- 如何使用 .Net 检查 Active Directory 服务器是否已启动并正在运行? 2022-01-01
- 禁止输入少量字符,例如'<'、'&a 2022-01-01
- Moq It.Is<>不匹配 2022-01-01
- Azure Functions:CosmosDBTrigger 未在 Visual Studio 中触发 2022-01-01
