算法小白的心得笔记:比较小数点后五位,而不会受到浮点数精度问题的影响。

简介: std::cerr << "\n __" << inum << "__ 计算错误 " << ratio << " 应该是 " << beta3[inum - 1] << std::endl; return 1;

epsilon 来比较浮点数

double epsilon = 1e-6; // for 6 decimal places
for (const auto &ratio : colorRatio)
{
    std::cout << "__" << inum << "__" << ratio << " ";
    if ((inum - 1) % 10 == 0)
    {
        std::cout << std::endl;
    }
    if (!std::isnan(ratio) && !std::isnan(beta3[inum - 1]))
    {
        if (std::abs(ratio - beta3[inum - 1]) > epsilon)
        {
            std::cerr << "\n __" << inum << "__ 计算错误 " << ratio << " 应该是 " << beta3[inum - 1] << std::endl;
            return 1;
        }
    }
    inum++;
}


double epsilon = 1e-6; // for 6 decimal places

我们可以设置 epsilon 的值来指定有效精度位,如 1e-5是五位精度。


可以比较负数的版本

在上述代码中,我们使用的是std::abs函数来计算两个浮点数之间的差的绝对值,这个函数同样适用于负数。因此,无论你的浮点数是正数还是负数,这段代码都能正确地比较它们的差是否小于epsilon。


如果你的ratio和beta3[inum - 1]都可能是负数,并且你想要比较它们的绝对值,你可以在比较之前先使用std::abs函数将它们转换为正数,如下所示:


if (std::abs(std::abs(ratio) - std::abs(beta3[inum - 1])) > epsilon)
{
    std::cerr << "\n __" << inum << "__ 计算错误 " << ratio << " 应该是 " << beta3[inum - 1] << std::endl;
    return 1;
}


这段代码会先计算ratio和beta3[inum - 1]的绝对值,然后再比较它们的差是否小于epsilon。这样,无论你的浮点数是正数还是负数,这段代码都能正确地比较它们。


可能出现的一些问题

由于浮点数在计算机中的表示和存储方式导致的相等内容被判定为不相等。

这个问题可能是由于浮点数在计算机中的表示和存储方式导致的。浮点数在计算机中的表示并不是完全精确的,因此即使两个浮点数在理论上应该相等,但由于精度问题,它们可能在计算机中不相等。


在上述的代码中,使用了一个非常小的正数(称为“epsilon”),如果两个浮点数的差的绝对值小于这个epsilon,那么我们就可以认为这两个浮点数是相等的。这是一种常见的处理浮点数精度问题的方法。


然而,如果epsilon 设置得太小了,导致了这个问题。 可以尝试增大epsilon的值,例如将其设置为1e-5或1e-4,看看是否能解决这个问题。


另外, 也可以尝试使用其他的比较浮点数的方法,例如使用std::nextafter函数。这个函数可以返回在给定方向上,距离给定浮点数最近的下一个可表示的浮点数。你可以使用这个函数来比较两个浮点数是否相等,如下所示:


if (ratio != std::nextafter(beta3[inum - 1], std::numeric_limits<double>::lowest()) &&
    ratio != std::nextafter(beta3[inum - 1], std::numeric_limits<double>::max()))
{
    std::cerr << "\n __" << inum << "__ 计算错误 " << ratio << " 应该是 " << beta3[inum - 1] << std::endl;
    return 1;
}


这段代码会比较ratio是否等于beta3[inum - 1]的下一个或上一个可表示的浮点数。如果不等于,那么我们就认为这两个浮点数不相等。这种方法可以更精确地比较浮点数,而不会受到精度问题的影响。


分享一个有趣的 学习链接:https://xxetb.xet.tech/s/HY8za


目录
相关文章
|
2月前
|
算法
【❤️算法笔记❤️】-每日一刷-19、删除链表的倒数第 N个结点
【❤️算法笔记❤️】-每日一刷-19、删除链表的倒数第 N个结点
70 1
|
2月前
|
算法 索引
❤️算法笔记❤️-(每日一刷-141、环形链表)
❤️算法笔记❤️-(每日一刷-141、环形链表)
50 0
|
2月前
|
算法
【❤️算法笔记❤️】-(每日一刷-876、单链表的中点)
【❤️算法笔记❤️】-(每日一刷-876、单链表的中点)
48 0
|
2月前
|
算法
【❤️算法笔记❤️】-每日一刷-23、合并 K 个升序链表
【❤️算法笔记❤️】-每日一刷-23、合并 K 个升序链表
33 0
|
2月前
|
存储 算法
【❤️算法笔记❤️】-每日一刷-21、合并两个有序链表
【❤️算法笔记❤️】-每日一刷-21、合并两个有序链表
104 0
|
2月前
|
算法 API 计算机视觉
人脸识别笔记(一):通过yuface调包(参数量54K更快更小更准的算法) 来实现人脸识别
本文介绍了YuNet系列人脸检测算法的优化和使用,包括YuNet-s和YuNet-n,以及通过yuface库和onnx在不同场景下实现人脸检测的方法。
72 1
|
2月前
|
JSON 算法 数据可视化
测试专项笔记(一): 通过算法能力接口返回的检测结果完成相关指标的计算(目标检测)
这篇文章是关于如何通过算法接口返回的目标检测结果来计算性能指标的笔记。它涵盖了任务描述、指标分析(包括TP、FP、FN、TN、精准率和召回率),接口处理,数据集处理,以及如何使用实用工具进行文件操作和数据可视化。文章还提供了一些Python代码示例,用于处理图像文件、转换数据格式以及计算目标检测的性能指标。
73 0
测试专项笔记(一): 通过算法能力接口返回的检测结果完成相关指标的计算(目标检测)
|
2月前
|
算法
❤️算法笔记❤️-(每日一刷-160、相交链表)
❤️算法笔记❤️-(每日一刷-160、相交链表)
18 1
|
2月前
|
数据可视化 搜索推荐 Python
Leecode 刷题笔记之可视化六大排序算法:冒泡、快速、归并、插入、选择、桶排序
这篇文章是关于LeetCode刷题笔记,主要介绍了六大排序算法(冒泡、快速、归并、插入、选择、桶排序)的Python实现及其可视化过程。
18 0
|
2月前
|
算法
❤️算法笔记❤️-(每日一刷-83、删除排序链表中的重复项)
❤️算法笔记❤️-(每日一刷-83、删除排序链表中的重复项)
33 0