【数据挖掘】2022年2023届秋招宏瓴科技公司机器学习算法工程师 笔试题

简介: 关于宏瓴科技有限公司2022-2023年秋招机器学习算法工程师岗位的笔试题目及作者个人对部分题目的解答尝试,涉及贝叶斯误差和贝叶斯最优分类器的概念、贝叶斯误差的重要性和估算方法,以及如何有效利用训练集和测试集进行深度学习模型训练的数据集划分策略。

1 简介

公司:宏瓴科技有限公司
岗位:机器学习算法工程师
笔试时间:2022-9-28
以下答案全是自己总结,这些点对于我来说太难了,我对自己总结的答案也没有信心,题目中说要用公式去表示,我都不知道如何去写。

2 题目

请在题目下方作答。

1. 什么是贝叶斯误差?什么是贝叶斯最优分类器?(以如下的二分类问题为例尽量用公式作答)- (10分)
二分类器:f:X -> Y={0,1}

答:
(1)是指在现有特征集上,任何可以基于特征输入进行随机输出的分类器所能达到的最小误差。
(2)贝叶斯最优分类器为最小化总体风险,只需在每个样本上选择某个条件使得条件风险最小的类别标记时的判定准则。

2. 当我们拿到一个新的(之前没有参考文献)监督学习问题的训练数据的时候,在开始训练之前,为什么需要关心这个问题的贝叶斯误差?有可能通过理论分析直接得到贝叶斯误差的真实值么?如果能,请把计算公式写下来;如果不能,如何用工程办法大致去估计一个贝叶斯误差的替代值? - (10分)

答:
(1)因为理想模型是假设预先知道生成数据的真实概率分布的,但是实际的数据分布中存在一些噪声扰动的,与理想状态并不符合,在监督学习中x到y的映射可能内在是随机的,或者y可能是包括x在内还有其他变量的确定性函数。使用贝叶斯误差,就是能从预先知道的真实分布中预测出现的误差。
(2)不能通过理论分析直接得到贝叶斯误差的真实值,因为这是一个理论值。工程办法是用人类误差当做贝叶斯误差的替代值。

3. 假设我们拿到了训练集和测试集两个标定好的数据集,其中测试集的数据分布与(落地场景中)真实分布一致,但是数据量不大,训练集的数据量大,但是不能保证其分布跟真实分布一致(往后的所有问题中出现的训练集和测试集都做以上假设)。
为了利用好这两个数据集训练出在落地场景中表现尽可能好的深度学习模型,我们应该用以下哪一种数据集划分方式进行训练,为什么?(把一个数据集一分为二的时候,无论两个子集各自占比多少,都假设其数据分布与原数据集一致)- (10分)

a) 训练集 | 测试集
训练集用于训练模型参数,测试集用于测试模型准确率,同时根据测试集上的表现来选择网络超参,比如学习率,网络深度等

b) 9/10的训练集 | 1/10的训练验证集 || 测试集
在训练集上使用留一交叉验证的方式,划分出训练集和训练验证集,在训练集上训练模型参数,用训练验证集上的错误率来选择网络超参

c) 训练集 | 训练验证集 || 测试验证集 | 测试集
把训练集拆分成两部分:大部分用于训练网络参数,少部分保留出来作为训练验证集;测试集也拆分成两部分:测试验证集和最终的测试集

答:选择c,因为当训练集和测试集分布不一致时,构造和测试集分布近似相同的验证集,保证线下验证根线上测试分数不会出现抖动。

还有三个问题忘了

目录
打赏
0
3
4
1
150
分享
相关文章
K-means聚类算法是机器学习中常用的一种聚类方法,通过将数据集划分为K个簇来简化数据结构
K-means聚类算法是机器学习中常用的一种聚类方法,通过将数据集划分为K个簇来简化数据结构。本文介绍了K-means算法的基本原理,包括初始化、数据点分配与簇中心更新等步骤,以及如何在Python中实现该算法,最后讨论了其优缺点及应用场景。
196 6
机器学习算法的优化与改进:提升模型性能的策略与方法
机器学习算法的优化与改进:提升模型性能的策略与方法
278 13
机器学习算法的优化与改进:提升模型性能的策略与方法
解锁机器学习的新维度:元学习的算法与应用探秘
元学习作为一个重要的研究领域,正逐渐在多个应用领域展现其潜力。通过理解和应用元学习的基本算法,研究者可以更好地解决在样本不足或任务快速变化的情况下的学习问题。随着研究的深入,元学习有望在人工智能的未来发展中发挥更大的作用。
CCS 2024:如何严格衡量机器学习算法的隐私泄露? ETH有了新发现
在2024年CCS会议上,苏黎世联邦理工学院的研究人员提出,当前对机器学习隐私保护措施的评估可能存在严重误导。研究通过LiRA攻击评估了五种经验性隐私保护措施(HAMP、RelaxLoss、SELENA、DFKD和SSL),发现现有方法忽视最脆弱数据点、使用较弱攻击且未与实际差分隐私基线比较。结果表明这些措施在更强攻击下表现不佳,而强大的差分隐私基线则提供了更好的隐私-效用权衡。
53 14
|
2月前
|
PAI下面的gbdt、xgboost、ps-smart 算法如何优化?
设置gbdt 、xgboost等算法的样本和特征的采样率
96 2
C语言在机器学习中的应用及其重要性。C语言以其高效性、灵活性和可移植性,适合开发高性能的机器学习算法,尤其在底层算法实现、嵌入式系统和高性能计算中表现突出
本文探讨了C语言在机器学习中的应用及其重要性。C语言以其高效性、灵活性和可移植性,适合开发高性能的机器学习算法,尤其在底层算法实现、嵌入式系统和高性能计算中表现突出。文章还介绍了C语言在知名机器学习库中的作用,以及与Python等语言结合使用的案例,展望了其未来发展的挑战与机遇。
78 1
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
阿里云人工智能平台 PAI 团队发表的图像编辑算法论文在 MM2024 上正式亮相发表。ACM MM(ACM国际多媒体会议)是国际多媒体领域的顶级会议,旨在为研究人员、工程师和行业专家提供一个交流平台,以展示在多媒体领域的最新研究成果、技术进展和应用案例。其主题涵盖了图像处理、视频分析、音频处理、社交媒体和多媒体系统等广泛领域。此次入选标志着阿里云人工智能平台 PAI 在图像编辑算法方面的研究获得了学术界的充分认可。
【MM2024】阿里云 PAI 团队图像编辑算法论文入选 MM2024
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
手写数字识别系统,使用Python作为主要开发语言,基于深度学习TensorFlow框架,搭建卷积神经网络算法。并通过对数据集进行训练,最后得到一个识别精度较高的模型。并基于Flask框架,开发网页端操作平台,实现用户上传一张图片识别其名称。
179 0
【手写数字识别】Python+深度学习+机器学习+人工智能+TensorFlow+算法模型
机器学习、基础算法、python常见面试题必知必答系列大全:(面试问题持续更新)
机器学习、基础算法、python常见面试题必知必答系列大全:(面试问题持续更新)

热门文章

最新文章