Spark AI基本概念

简介: 时隔这么多年,已集合软件工程之大成(也有很多未涉及的),我们重新回归Spark 这次我们研究Spark AI技术。

时隔这么多年,已集合软件工程之大成(也有很多未涉及的),我们重新回归Spark 这次我们研究Spark AI技术。
那么什么AI?(千问给的答案)
人工智能(Artificial Intelligence,简称AI)并非单一的技术,而是一门通过计算机模拟、延伸和拓展人类智能的综合性技术体系16。它融合了数学、计算机科学、神经科学等多学科知识,旨在让机器具备学习、推理、感知和决策等能力,从而完成通常需要人类智慧才能完成的复杂任务。

那么Apache Spark AI组件技术有哪些?
1.MLIB:端到端的大规模机器学习流水线
2.深度学习框架集成:打破数据与计算的壁垒
3.Spark NLP:工业级自然语言处理
4.底层架构支撑:AI任务的高效执行基座。

    • ims.webp.jpg

    我们可以从上图看到,Spark的核心组件包括 Spark SQL、Spark Streaming、MLib、GraphX 以及 核心 Apache Spark Core。我之前博客中写的有关于Spark SQL、Spark Streaming、Spark Core的运行机制,以及下面的YARN集群、HDFS相关的经验沉淀。

    这是个开端,我们这次主攻 Spark AI的新模块。明天见朋友们~

目录
相关文章
|
5月前
|
存储 人工智能 自然语言处理
AI工程 V0.2--从Coding到Delivery的全链路重构及思考
在当前的 AI 浪潮下,我们正处于从单纯的 AI Coding(辅助写代码)向 AI Delivery(全链路交付)转型的关键时期。这不仅仅是工具的升级,更是研发范式、协作模式乃至架构设计的深刻变革。本文基于近期的探索与实践,梳理了我们在 AI 工程化落地过程中的核心思考与技术痛点。
349 0
EMQ
|
存储 域名解析 NoSQL
使用 EMQX Cloud 实现物联网设备一机一密验证
本文将采用 Redis 作为认证数据源存储数据库,讲解如何通过物联网设备端证书中包含的 Common Name 为验证信息,连接到 EMQX Cloud,实现客户端一机一密验证。
EMQ
1145 1
使用 EMQX Cloud 实现物联网设备一机一密验证
|
5月前
|
存储 分布式计算 Spark
现代艺术--"软件工程"
时隔多年,在无数的夜以继日的实战中,我正式将《软件工程》定义为:《计算机工程与架构技术》,目前更新到V1.4版本。
268 1
|
5月前
|
人工智能 数据可视化 API
AI智能体系统的开发平台
构建AI智能体需精准选型:可视化平台(如Dify、Coze)适合快速上线与知识库应用;自动化平台(如n8n)擅IT系统集成;代码框架(LangGraph、CrewAI等)则满足高定制、低延迟需求。按团队能力与项目阶段分层决策,兼顾效率与可控性。(239字)
|
5月前
|
存储 人工智能 运维
十大 AI Agent Memory记忆系统全维度横评 主流方案架构、性能与场景选型指南
随着AI Agent从基础问答工具进化为可执行复杂长周期任务的智能体,记忆能力已经成为决定智能体上限的核心要素。传统基于向量数据库与RAG检索的技术方案,仅能实现简单信息检索,并不具备完整的记忆管理能力,在时序追踪、多代理一致性、分层存储、智能路由等方面存在明显短板。在实际生产环境中,大量AI Agent将近八成以上的计算资源消耗在重复梳理上下文信息上,真正用于业务执行的资源占比极低,这也是当前智能体规模化落地的核心瓶颈。
2797 2
|
11月前
|
机器学习/深度学习 人工智能 运维
AIOps已逝,欢迎进入AgenticOps(运维智能体)时代
GenAI和智能体技术的爆发,为IT运维打开了一扇新的大门,一个更具主动性、自治性和协作性的新时代已经来临,这就是AgenticOps(基于智能体的IT运维)。
2639 119
|
存储 人工智能 缓存
运维智能体(SRE Agent)技术分级能力要求
本标准规范了运维智能体在场景应用、协同能力、能力建设及底座构建方面的技术要求,适用于公共与私有环境下的服务与产品。依据AI技术发展,定义了从初始级到优秀级的三级能力框架,涵盖感知、控制、行动等核心能力,推动运维智能化升级。
运维智能体(SRE Agent)技术分级能力要求
|
存储 人工智能 测试技术
【AI智能体】SuperAGI-开源AI Agent 管理平台
【4月更文挑战第9天】智能体管理平台SuperAGI简介及实践
2397 0
Pro
|
弹性计算 Linux KVM
自定义镜像 Kali linux
作为一位网安人员,一直想着两个问题。 No.1 做实验时 同一局域网和外网效果不同 No.2 Kali Linux 可以部署云服务嘛,这样更便捷些
Pro
1443 1
自定义镜像 Kali linux
|
前端开发 Java
Java 获取Enum枚举中的值,以列表方式返回
Java 获取Enum枚举中的值,以列表方式返回
2544 0