边缘人工智能:部署前需要考虑的三个技巧

简介: 找出在边缘部署 AI 的三个主要原因,包括最大限度地减少带宽使用。

随着人工智能 (AI) 的成熟,采用率继续增加。根据最近的研究,35% 的组织正在使用人工智能,42% 的组织正在探索其潜力。虽然人工智能在云中得到了很好的理解并大量部署,但它在边缘仍然处于萌芽状态,并面临一些独特的挑战。

许多人全天都在使用人工智能,从汽车导航到跟踪步骤,再到与数字助理交谈。即使用户经常在移动设备上访问这些服务,计算结果仍然存在于人工智能的云使用中。更具体地说,一个人请求信息,该请求由云中的中央学习模型处理,然后将结果发送回该人的本地设备。

与云端 AI 相比,边缘 AI 的理解和部署频率更低。从一开始,人工智能算法和创新就依赖于一个基本假设——所有数据都可以发送到一个中心位置。在这个中心位置,算法可以完全访问数据。这使得算法能够像大脑或中枢神经系统一样构建其智能,对计算和数据拥有完全的权限。

但是,边缘的人工智能是不同的。它将智能分布在所有细胞和神经上。通过将智能推向边缘,我们赋予这些边缘设备代理权。这在医疗保健和工业制造等许多应用和领域中至关重要。

f5ef30d06518c6eb6bc284709c2b715b2be540.jpg

在边缘部署人工智能的原因
在边缘部署人工智能有三个主要原因。

保护个人身份信息 (PII)

首先,一些处理 PII 或敏感 IP(知识产权)的组织更愿意将数据留在其来源处——医院的成像机器或工厂车间的制造机器中。这可以降低通过网络传输数据时可能发生的“偏移”或“泄漏”风险。

最小化带宽使用

其次是带宽问题。将大量数据从边缘传送到云端会阻塞网络,在某些情况下是不切实际的。健康环境中的成像机器生成如此庞大的文件以致无法将它们传输到云或需要数天才能完成传输的情况并不少见。

简单地在边缘处理数据会更有效,尤其是当洞察力旨在改进专有机器时。过去,计算的移动和维护难度要大得多,因此需要将这些数据移动到计算位置。这种范式现在受到挑战,现在数据通常更重要且更难管理,导致用例保证将计算移动到数据位置。

避免延迟

在边缘部署 AI 的第三个原因是延迟。互联网速度很快,但不是实时的。如果存在毫秒很重要的情况,例如协助手术的机械臂或时间敏感的生产线,组织可能会决定在边缘运行 AI。

边缘人工智能面临的挑战以及如何解决这些挑战
尽管有这些好处,但在边缘部署 AI 仍然存在一些独特的挑战。以下是您应该考虑的一些提示,以帮助应对这些挑战。

模型训练的好与坏结果

大多数 AI 技术使用大量数据来训练模型。然而,在边缘的工业用例中,这通常会变得更加困难,因为大多数制造的产品都没有缺陷,因此被标记或注释为良好。由此产生的“好结果”与“坏结果”的不平衡使得模型更难学会识别问题。

依赖于没有上下文信息的数据分类的纯 AI 解决方案通常不容易创建和部署,因为缺乏标记数据,甚至会发生罕见事件。为 AI 添加上下文(或称为以数据为中心的方法)通常会在最终解决方案的准确性和规模方面带来好处。事实是,虽然人工智能通常可以取代人类手动完成的平凡任务,但在构建模型时,它会极大地受益于人类的洞察力,尤其是在没有大量数据可供使用的情况下。

从经验丰富的主题专家那里得到承诺,与构建算法的数据科学家密切合作,为 AI 学习提供了一个快速启动。

AI 无法神奇地解决或提供每个问题的答案

通常有许多步骤进入输出。例如,工厂车间可能有许多工作站,它们可能相互依赖。一个过程中工厂某个区域的湿度可能会影响稍后在不同区域的生产线中另一个过程的结果。

人们通常认为人工智能可以神奇地拼凑所有这些关系。虽然在许多情况下可以,但它也可能需要大量数据和很长时间来收集数据,从而导致非常复杂的算法不支持可解释性和更新。

人工智能不能生活在真空中。捕捉这些相互依赖关系将把边界从一个简单的解决方案推向一个可以随着时间和不同部署而扩展的解决方案。

缺乏利益相关者的支持会限制人工智能的规模

如果组织中的一群人对它的好处持怀疑态度,则很难在整个组织中扩展 AI。获得广泛支持的最好(也许是唯一)方法是从一个高价值、困难的问题开始,然后用人工智能解决它。

在奥迪,我们考虑解决焊枪电极更换频率的问题。但是电极成本低,这并没有消除人类正在做的任何平凡的任务。相反,他们选择了焊接工艺,这是整个行业普遍认同的难题,并通过人工智能显着提高了工艺质量。这激发了整个公司工程师的想象力,他们研究如何在其他流程中使用人工智能来提高效率和质量。

平衡边缘 AI 的优势和挑战
在边缘部署 AI 可以帮助组织及其团队。它有可能将设施转变为智能边缘,提高质量,优化制造过程,并激励整个组织的开发人员和工程师探索他们如何整合人工智能或推进人工智能用例,包括预测分析、提高效率的建议或异常检测。但它也带来了新的挑战。作为一个行业,我们必须能够在部署它的同时减少延迟、增加隐私、保护 IP 并保持网络平稳运行。


本文转载自51CTO,本文一切观点和机器智能技术圈子无关。原文链接
免费体验百种AI能力以及试用热门离线SDK:【点此跳转】

相关文章
|
23天前
|
人工智能 并行计算 安全
从零到一,打造专属AI王国!大模型私有化部署全攻略,手把手教你搭建、优化与安全设置
【10月更文挑战第24天】本文详细介绍从零开始的大模型私有化部署流程,涵盖需求分析、环境搭建、模型准备、模型部署、性能优化和安全设置六个关键步骤,并提供相应的示例代码,确保企业能够高效、安全地将大型AI模型部署在本地或私有云上。
207 7
|
23天前
|
人工智能 安全 网络安全
揭秘!大模型私有化部署的全方位安全攻略与优化秘籍,让你的AI项目稳如磐石,数据安全无忧!
【10月更文挑战第24天】本文探讨了大模型私有化部署的安全性考量与优化策略,涵盖数据安全、防火墙配置、性能优化、容器化部署、模型更新和数据备份等方面,提供了实用的示例代码,旨在为企业提供全面的技术参考。
68 6
|
1月前
|
人工智能 C语言 Windows
Ollama部署在线ai聊天
本文介绍了如何在Windows系统上安装和部署AI聊天模型Ollama,包括安装步骤、模型安装、运行模型项目,以及使用Ollama生成C语言平衡二叉树的完整代码。
77 2
Ollama部署在线ai聊天
|
27天前
|
人工智能 数据安全/隐私保护 UED
RAG让AI大模型更懂业务解决方案部署使用体验
根据指导文档,部署过程得到了详细步骤说明的支持,包括环境配置、依赖安装及代码示例,确保了部署顺利进行。建议优化知识库问题汇总,增加部署失败案例参考,以提升用户体验。整体解决方案阅读与部署体验良好,有助于大型语言模型在特定业务场景的应用,未来可加强行业适应性和用户隐私保护。
62 5
|
24天前
|
人工智能 分布式计算 数据可视化
大模型私有化部署全攻略:硬件需求、数据隐私、可解释性与维护成本挑战及解决方案详解,附示例代码助你轻松实现企业内部AI应用
【10月更文挑战第23天】随着人工智能技术的发展,企业越来越关注大模型的私有化部署。本文详细探讨了硬件资源需求、数据隐私保护、模型可解释性、模型更新和维护等方面的挑战及解决方案,并提供了示例代码,帮助企业高效、安全地实现大模型的内部部署。
57 1
|
24天前
|
人工智能 分布式计算 数据可视化
大模型私有化部署全攻略:硬件需求、数据隐私、可解释性与维护成本挑战及解决方案详解,附示例代码助你轻松实现企业内部AI应用
【10月更文挑战第23天】随着人工智能技术的发展,大模型在各领域的应用日益广泛。然而,将其私有化部署到企业内部面临诸多挑战,如硬件资源需求高、数据隐私保护、模型可解释性差、更新维护成本高等。本文探讨了这些挑战,并提出了优化硬件配置、数据加密、可视化工具、自动化更新机制等解决方案,帮助企业顺利实现大模型的私有化部署。
54 1
|
29天前
|
Serverless 数据安全/隐私保护 前端开发
大模型代码能力体验报告之贪吃蛇小游戏《一》:Claude.ai篇 - 生成、预览和快速部署的serverless一条龙
本文介绍了通过Claude.ai生成并优化Web版贪吃蛇游戏的过程,展示了其强大的代码生成功能及用户友好的界面设计。从初始版本的快速生成到根据用户反馈调整游戏速度,再到提供多种实用工具如文件管理、版本控制和一键部署,Claude.ai不仅是一个代码助手,更像是一个全面的serverless开发平台。文中还呼吁国内厂商关注此类技术的发展。
|
1月前
|
人工智能 弹性计算 自然语言处理
《触手可及,函数计算玩转 AI 大模型》解决方案体验与部署评测
在AI技术快速发展的背景下,大模型正推动各行业的智能化转型。企业为抓住机遇,纷纷寻求部署AI大模型以满足特定业务需求。阿里云函数计算凭借按量付费、卓越弹性和快速交付等优势,为企业提供了高效、安全的AI大模型部署方案。本文将详细介绍阿里云函数计算的技术解决方案及其在文生文、图像生成和语音生成等领域的应用实例,展示其在降低成本、提高效率和增强灵活性方面的显著优势。
|
1月前
|
人工智能 自然语言处理 搜索推荐
【通义】AI视界|微软Copilot Studio推出新功能,帮助企业更便捷地构建和部署AI代理
本文介绍了近期科技领域的五大重要动态:马斯克旗下xAI发布首个API,苹果内部研究显示ChatGPT比Siri准确率高25%,微软Copilot Studio推出新功能,霍尼韦尔与谷歌合作引入Gemini AI,浑水创始人建议买入科技七巨头股票。更多资讯请访问【通义】。
|
1月前
|
人工智能 Docker 容器
一、轻松部署的大模型开发平台dify.ai
一、轻松部署的大模型开发平台dify.ai
115 0

热门文章

最新文章

下一篇
无影云桌面