边缘计算

首页 标签 边缘计算
# 边缘计算 #
关注
2905内容
79_边缘设备环境:Raspberry Pi搭建
在当今人工智能快速发展的时代,大语言模型(LLM)已经成为自然语言处理领域的核心技术。然而,传统的LLM部署通常需要强大的服务器资源,这限制了其在资源受限环境中的应用。随着边缘计算的兴起,在轻量级设备上部署和运行LLM成为了新的技术趋势。树莓派(Raspberry Pi)作为一款广泛使用的单板计算机,凭借其小巧的体积、低功耗特性和不断提升的计算能力,成为了边缘部署LLM的理想选择。
89_批量推理:异步API调用
在当今数据密集型应用和大模型部署的时代,批量推理已成为提升系统性能和资源利用率的关键技术。随着深度学习模型规模的不断扩大和应用场景的日益复杂,如何高效地处理大量推理请求成为技术团队面临的重要挑战。传统的同步API调用方式在面对高并发、大规模数据处理时,往往会遇到响应延迟高、资源利用不充分等问题。异步API调用作为一种更高效的处理模式,通过非阻塞操作和并发处理能力,为批量推理场景提供了理想的解决方案。
|
2月前
| |
来自: 云存储
基于 Cloudflare Workers 构建高性能知识库镜像服务:反向代理与 HTML 动态重写实践
基于Cloudflare Workers构建的边缘计算镜像服务,通过反向代理、HTML动态重写与智能缓存,优化维基百科等知识平台的访问性能。支持路径映射、安全头清理与容错回退,实现免运维、低延迟、高可用的Web加速方案,适用于教育、科研等合规场景。
|
2月前
|
大模型在医疗领域的应用
🌟蒋星熠Jaxonic,AI开发者,深耕医疗大模型领域。见证代码如何重塑医疗:从影像分析到智能诊断,从药物研发到临床决策。分享技术实践与行业洞察,探索AI赋能健康的时代变革。
|
3月前
|
【太阳能学报EI复现】基于粒子群优化算法的风-水电联合优化运行分析(Matlab代码实现)
【太阳能学报EI复现】基于粒子群优化算法的风-水电联合优化运行分析(Matlab代码实现)
|
3月前
|
CC攻击防御指南:实战策略与技术解析
本文详解了2025年严峻的CC攻击形势及七大实战防护策略。涵盖流量监控、智能清洗、WAF防护、身份认证升级、应急响应与前沿技术应用,助力企业构建高效、自适应的安全防御体系,应对日益复杂的网络威胁。
|
3月前
| |
来自: 物联网
FrankenSplit:用于移动边缘计算的浅层变分瓶颈注入高效神经特征压缩——论文阅读
FrankenSplit提出一种面向移动边缘计算的高效神经特征压缩框架,通过浅层变分瓶颈与显著性引导失真优化,实现低带宽、低延迟的模型分割推理,支持多架构泛化,在保持高精度的同时显著降低传输开销。
|
3月前
|
《用AI重构工业设备故障预警系统:从“被动维修”到“主动预判”的协作实践》
本文记录了为重型机床企业用AI重构故障预警系统的实践。项目初期面临原系统“事后报警”致单月损失超百万、12类传感器数据繁杂但故障样本稀缺、维修经验难转技术指标的困境,传统开发需2个月且准确率难超70%。团队构建Cursor、通义灵码、豆包、DeepSeek协作矩阵,按场景分工:Cursor优化前后端,通义灵码转经验为特征与模型逻辑,豆包拆解需求与生成手册,DeepSeek优化架构与模型性能。系统25天上线,预警准确率92%、提前35分钟,单月停机减60%,挽回损失超60万,还沉淀SOP,印证了AI协同破解工业设备预警困局、实现从被动维修到主动预判的价值。
免费试用