变量溢出引发的错误

简介: 在改动方面,其实对软件来说改动量不大,仅对下载的数据有一定调整,由于早期的程序用VB开发,倒是在哪里插入这段代码费了我不少时间

前几天II型隧道广告由于安装位置由边墙调整到中墙,这一改动相当于列车到来的方向发生了逆转,程序需要改动才能适应这种情况。worker_1983网友曾留言说,“还好地铁只是朝一个方向开.如果反着开可就有意思了”,可谓一针见血,不过对我们来说不是有意思,麻烦大了。

在改动方面,其实对软件来说改动量不大,仅对下载的数据有一定调整,由于早期的程序用VB开发(唉,已经几年没用VB编写程序了,代码看起来很亲切),倒是在哪里插入这段代码费了我不少时间(由此想到了一个流传甚广的小故事,一个有名的工程师解决电机问题后,面对别人的质问时说,画一根线一美元,知道在哪里画需要999美元)。

程序很简单,如下:

Public Sub PicData(bytData() As Byte)
    … … 
    '------------------------------------------------
   Const intDataSize = 6144 'G_PicWidth * 24
    Dim bytData3(intDataSize) As Byte
    Dim bytData6(intDataSize) As Byte    
    On Error GoTo ToExit '打开错误陷阱

    '第3块数据缓存
    CopyMemory bytData3(0), bytData(intDataSize * 3), intDataSize
    '第5块数据移到第3块位置
    CopyMemory bytData(intDataSize * 3), bytData(intDataSize * 5), intDataSize
    '第6块数据移到第5块数据位置
    CopyMemory bytData(intDataSize * 5), bytData(intDataSize * 6), intDataSize
    '第3块数据移动到第6块位置
    CopyMemory bytData(intDataSize * 6), bytData3(0), intDataSize
    '------------------------------------------------
    … …
    Exit Sub
    '----------------
ToExit:
End Sub

程序修改编译后,信心满满的给硬件人员进行下载调试了,过了近一天的时间,一问硬件技术人员,说下载数据后,画面异常,不知道是硬件问题还是软件问题。只好把笔记本带到测试室,和硬件人员一起调试确认。就这么几句代码,费了我不少时间,我才发现问题的所在,第一我发现6144*6一定大于3万2千多,意味做对integer整型有可能溢出,第二错误处理直接退出了,没有提示(这种做法真危险!),第三定义intDataSize没有定义类型,默认也就是integer了。

把Const intDataSize = 6144 代码修改为Const intDataSize  As Long = 6144。

问题搞定。幸好修改的代码不多,否则这点错误还真要命,此外得到教训是,调试程序时最好把程序错误处理暂时关掉(或错误存在文件里,不过这个时候够呛想到去看)。

相关文章
|
4天前
|
人工智能 运维 安全
|
2天前
|
人工智能 异构计算
敬请锁定《C位面对面》,洞察通用计算如何在AI时代持续赋能企业创新,助力业务发展!
敬请锁定《C位面对面》,洞察通用计算如何在AI时代持续赋能企业创新,助力业务发展!
|
9天前
|
人工智能 JavaScript 测试技术
Qwen3-Coder入门教程|10分钟搞定安装配置
Qwen3-Coder 挑战赛简介:无论你是编程小白还是办公达人,都能通过本教程快速上手 Qwen-Code CLI,利用 AI 轻松实现代码编写、文档处理等任务。内容涵盖 API 配置、CLI 安装及多种实用案例,助你提升效率,体验智能编码的乐趣。
816 109
|
3天前
|
机器学习/深度学习 人工智能 自然语言处理
B站开源IndexTTS2,用极致表现力颠覆听觉体验
在语音合成技术不断演进的背景下,早期版本的IndexTTS虽然在多场景应用中展现出良好的表现,但在情感表达的细腻度与时长控制的精准性方面仍存在提升空间。为了解决这些问题,并进一步推动零样本语音合成在实际场景中的落地能力,B站语音团队对模型架构与训练策略进行了深度优化,推出了全新一代语音合成模型——IndexTTS2 。
415 9
|
3天前
|
人工智能 测试技术 API
智能体(AI Agent)搭建全攻略:从概念到实践的终极指南
在人工智能浪潮中,智能体(AI Agent)正成为变革性技术。它们具备自主决策、环境感知、任务执行等能力,广泛应用于日常任务与商业流程。本文详解智能体概念、架构及七步搭建指南,助你打造专属智能体,迎接智能自动化新时代。
|
4天前
|
机器学习/深度学习 传感器 算法
Edge Impulse:面向微型机器学习的MLOps平台——论文解读
Edge Impulse 是一个面向微型机器学习(TinyML)的云端MLOps平台,致力于解决嵌入式与边缘设备上机器学习开发的碎片化与异构性难题。它提供端到端工具链,涵盖数据采集、信号处理、模型训练、优化压缩及部署全流程,支持资源受限设备的高效AI实现。平台集成AutoML、量化压缩与跨硬件编译技术,显著提升开发效率与模型性能,广泛应用于物联网、可穿戴设备与边缘智能场景。
185 127