AI 助理
文档备案控制台
开发者社区 人工智能 文章 正文

【机器学习】采用 EM 算法求解的模型有哪些，为什么不用牛顿法或梯度下降法？(面试回答)

2024-08-06 287
版权
版权声明：
本文内容由阿里云实名注册用户自发贡献，版权归原作者所有，阿里云开发者社区不拥有其著作权，亦不承担相应法律责任。具体规则请查看《 阿里云开发者社区用户服务协议》和 《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容，填写 侵权投诉表单进行举报，一经查实，本社区将立刻删除涉嫌侵权内容。
简介： EM算法（期望最大化算法）的应用场景和求解原理。

（1）概念

EM算法称为期望最大化算法，分为两步，求期望和求极大值。

（2）基本思想

首先根据己经给出的观测数据，估计出模型参数的值；然后再依据上一步估计出的参数值估计缺失数据的值，再根据估计出的缺失数据加上之前己经观测到的数据重新再对参数值进行估计，然后反复迭代，直至最后收敛，迭代结束。

EM的求解原理：在求解一个含有隐变量的概率模型时,目标是极大化观测数据关于参数的对数似然,而其中极大化的主要困难是还有未观测数据并有包含和的对数。EM算法就是通过迭代,不断求解下界极大化，而逐步求解对数似然函数极大化。

（3）应用

高斯混合模型（GMM）、k-means聚类、隐式马尔科夫算法（HMM）、LDA主题模型的变分推断

（4）不用牛顿法和梯度下降法的原因

由于求和的项数随着隐变量的数目指数上升,会给梯度计算带来麻烦.EM算法是一种非梯度化优化算法.

文章标签：
算法
机器学习/深度学习
数据挖掘
关键词：
人工智能平台 PAI算法
机器学习算法
算法模型
人工智能平台 PAI模型
em算法
BetterBench
目录
相关文章
探索云世界
|
5月前
|
人工智能 自然语言处理 IDE
模型微调不再被代码难住！PAI和Qwen3-Coder加速AI开发新体验
通义千问 AI 编程大模型 Qwen3-Coder 正式开源，阿里云人工智能平台 PAI 支持云上一键部署 Qwen3-Coder 模型，并可在交互式建模环境中使用 Qwen3-Coder 模型。
探索云世界
1029 109
探索云世界
|
6月前
|
人工智能 自然语言处理 运维
【新模型速递】PAI-Model Gallery云上一键部署Kimi K2模型
月之暗面发布开源模型Kimi K2，采用MoE架构，参数达1T，激活参数32B，具备强代码能力及Agent任务处理优势。在编程、工具调用、数学推理测试中表现优异。阿里云PAI-Model Gallery已支持云端部署，提供企业级方案。
探索云世界
391 0
【新模型速递】PAI-Model Gallery云上一键部署Kimi K2模型
游客rj7kdyude6p6g
|
4月前
|
机器学习/深度学习 数据采集 人工智能
【机器学习算法篇】K-近邻算法
K近邻（KNN）是一种基于“物以类聚”思想的监督学习算法，通过计算样本间距离，选取最近K个邻居投票决定类别。支持多种距离度量，如欧式、曼哈顿、余弦相似度等，适用于分类与回归任务。结合Scikit-learn可高效实现，需合理选择K值并进行数据预处理，常用于鸢尾花分类等经典案例。（238字）
游客rj7kdyude6p6g
1534 7
Deephub
|
5月前
|
机器学习/深度学习 人工智能 JSON
微软rStar2-Agent：新的GRPO-RoC算法让14B模型在复杂推理时超越了前沿大模型
Microsoft Research最新推出的rStar2-Agent在AIME24数学基准测试中以80.6%的准确率超越超大规模模型DeepSeek-R1，展现“思考更聪明”而非“更长”的AI推理新方向。
Deephub
214 8
微软rStar2-Agent：新的GRPO-RoC算法让14B模型在复杂推理时超越了前沿大模型
荔枝科研社
|
5月前
|
机器学习/深度学习 传感器 算法
【无人车路径跟踪】基于神经网络的数据驱动迭代学习控制(ILC)算法，用于具有未知模型和重复任务的非线性单输入单输出(SISO)离散时间系统的无人车的路径跟踪（Matlab代码实现）
【无人车路径跟踪】基于神经网络的数据驱动迭代学习控制(ILC)算法，用于具有未知模型和重复任务的非线性单输入单输出(SISO)离散时间系统的无人车的路径跟踪（Matlab代码实现）
荔枝科研社
376 2
荔枝科研社
|
5月前
|
机器学习/深度学习 并行计算 算法
【CPOBP-NSWOA】基于豪冠猪优化BP神经网络模型的多目标鲸鱼寻优算法研究（Matlab代码实现）
【CPOBP-NSWOA】基于豪冠猪优化BP神经网络模型的多目标鲸鱼寻优算法研究（Matlab代码实现）
荔枝科研社
140 8
蒋星熠Jaxonic
|
5月前
|
机器学习/深度学习 资源调度 算法
遗传算法模型深度解析与实战应用
摘要 遗传算法（GA）作为一种受生物进化启发的优化算法，在复杂问题求解中展现出独特优势。本文系统介绍了GA的核心理论、实现细节和应用经验。算法通过模拟自然选择机制，利用选择、交叉、变异三大操作在解空间中进行全局搜索。与梯度下降等传统方法相比，GA不依赖目标函数的连续性或可微性，特别适合处理离散优化、多目标优化等复杂问题。文中详细阐述了染色体编码、适应度函数设计、遗传操作实现等关键技术，并提供了Python代码实现示例。实践表明，GA的成功应用关键在于平衡探索与开发，通过精心调参维持种群多样性同时确保收敛效率
蒋星熠Jaxonic
278 7
蒋星熠Jaxonic
|
5月前
|
机器学习/深度学习 边缘计算 人工智能
粒子群算法模型深度解析与实战应用
蒋星熠Jaxonic是一位深耕智能优化算法领域多年的技术探索者，专注于粒子群优化（PSO）算法的研究与应用。他深入剖析了PSO的数学模型、核心公式及实现方法，并通过大量实践验证了其在神经网络优化、工程设计等复杂问题上的卓越性能。本文全面展示了PSO的理论基础、改进策略与前沿发展方向，为读者提供了一份详尽的技术指南。
蒋星熠Jaxonic
279 0
粒子群算法模型深度解析与实战应用
荔枝科研社
|
5月前
|
机器学习/深度学习 运维 算法
基于粒子群优化算法的配电网光伏储能双层优化配置模型[IEEE33节点]（选址定容）(Matlab代码实现)
基于粒子群优化算法的配电网光伏储能双层优化配置模型[IEEE33节点]（选址定容）(Matlab代码实现)
荔枝科研社
397 0
荔枝科研社
|
6月前
|
传感器 算法 定位技术
KF，EKF，IEKF 算法的基本原理并构建推导出四轮前驱自主移动机器人的运动学模型和观测模型（Matlab代码实现）
KF，EKF，IEKF 算法的基本原理并构建推导出四轮前驱自主移动机器人的运动学模型和观测模型（Matlab代码实现）
荔枝科研社
201 2

热门文章

最新文章

  • 1
    QPS 提升60%，揭秘阿里巴巴轻量级开源 Web 服务器 Tengine 负载均衡算法
  • 2
    关于SM2、SM3、SM4、SM9这四种国密算法
  • 3
    算法学习之路|搬运家具（模拟）
  • 4
    FIFO分枝_限界算法
  • 5
    算法金 | 平均数、众数、中位数、极差、方差，标准差、频数、频率 一“统”江湖
  • 6
    KMP 算法（Knuth-Morris-Pratt）
  • 7
    【图算法】金融风控实验_997
  • 8
    栈的链表实现_JAVA描述《数据结构与算法分析》
  • 9
    一步一步写算法（之哈夫曼树 下）
  • 10
    算法 - 排序 - 选择排序
  • 1
    面试性能测试总被刷？学员真实遇到的高频问题全解析！
    352
  • 2
    提供一些准备Java八股文面试的建议
    403
  • 3
    Redis常见面试题全解析
    558
  • 4
    C++面试周刊(3):面试不慌,这样回答指针与引用，青铜秒变王者
    592
  • 5
    Python面试题精选及解析
    293
  • 6
    字节面试： MySQL 百万级 导入发生的 “死锁” 难题如何解决？“2序4拆”，彻底攻克
    582
  • 7
    Redis数据类型面试给分情况
    256
  • 8
    Java 面试实操指南与最新技术结合的实战攻略
    559
  • 9
    MyBatis场景面试题
    370
  • 10
    大厂RAG面试题：24个RAG八股文。偷偷背下来，毒打面试官 ！
    1356

    • 相关课程

    更多
  • 场景实践 - 机器学习PAI实现精细化营销
  • 场景实践 - 基于阿里云PAI机器学习平台使用时间序列分解模型预测商品销量
  • 场景实践 - 基于机器学习进行收入预测分析
  • 机器学习概览及常见算法
  • 机器学习入门-概念原理及常用算法
  • 神经网络概览及算法详解

    • 相关电子书

    更多
  • 阿里巴巴机器学习平台AI
  • 微博机器学习平台架构和实践
  • 机器学习及人机交互实战

    • 相关实验场景

    更多
  • 使用PAI+LLaMA Factory微调Qwen2-VL模型，搭建文旅领域知识问答机器人
    • 下一篇
    第五届伏魔挑战赛如约来袭，诚邀各路高手来战！