📢 转载信息
原文作者：Iván Palomares Carrascosa
7个统计学概念助你成为成功的机器学习工程师
图片来源：Editor
引言
当我们问自己“机器学习系统中包含什么？”时，许多人会想到那些进行预测或执行任务的框架和模型。很少有人会反思其核心真正是什么：统计学——一个工具箱，包含模型、概念和方法，使系统能够从数据中学习并可靠地完成工作。
理解关键的统计学思想对于机器学习工程师和从业者至关重要：这有助于解释与机器学习系统一起使用的数据，验证对输入和预测的假设，并最终建立对这些模型的信任。
鉴于统计学作为机器学习工程师的宝贵指南的作用，本文将介绍该职位人员应该了解的七大核心支柱——不仅是为了在面试中取得成功，也是为了在日常工作中构建可靠且稳健的机器学习系统。
机器学习工程师的7个关键统计学概念
话不多说，以下是应该成为你核心知识和技能集的七个基石统计学概念。
1. 概率基础
几乎所有的机器学习模型——从基于逻辑回归的简单分类器到最先进的语言模型——都具有概率基础。因此，培养对随机变量、条件概率、贝叶斯定理、独立性、联合分布及相关思想的扎实理解是必不可少的。这些概念被密集使用的模型包括用于垃圾邮件检测等任务的朴素贝叶斯分类器、用于序列预测和语音识别的隐马尔可夫模型，以及用于估计词元似然并生成连贯文本的Transformer模型的概率推理组件。
贝叶斯定理贯穿于整个机器学习工作流程中——从缺失数据插补到模型校准策略——因此，它是开启你学习之旅的自然起点。
2. 描述性统计与推断性统计
描述性统计提供了总结数据属性的基础度量，包括均值和方差等常见指标，以及对于数据密集型工作更为重要的偏度和峰度，这些有助于描述分布的形状。与此同时，推断性统计涵盖了基于样本对总体进行假设检验和得出结论的方法。
这两种子领域的实际应用在机器学习工程中无处不在：假设检验、置信区间、p值和A/B测试被用来评估模型和生产系统，并解释特征对预测的影响。这是机器学习工程师需要深入理解它们的有力原因。
3. 分布与抽样
不同的数据集表现出不同的属性和截然不同的统计模式或形状。理解和区分各种分布——例如正态分布、伯努利分布、二项分布、泊松分布、均匀分布和指数分布——并确定哪种分布适合建模或模拟你的数据，对于引导（bootstrapping）、交叉验证和不确定性估计等任务非常重要。与此密切相关的概念，如中心极限定理（CLT）和大数定律，对于评估模型估计的可靠性和收敛性至关重要。
额外提示：对分布的尾部和偏度建立坚实的理解——这样做可以使检测问题、异常值和数据不平衡变得更容易、更有效。
4. 相关性、协方差与特征关系
这些概念揭示了变量如何协同变化——当一个变量增加或减少时，另一个变量通常会发生什么。在日常的机器学习工程中，它们为特征选择、多重共线性检查以及主成分分析（PCA）等降维技术提供了参考。
并非所有关系都是线性的，因此需要额外的工具——例如，Spearman等级系数用于单调关系，以及识别非线性依赖关系的方法。恰当的机器学习实践始于对数据集中哪些特征真正重要的清晰理解。
5. 统计建模与估计
统计模型通过分析数据来近似和表征现实世界的某些方面。对于建模和估计至关重要的概念——例如偏差-方差权衡、最大似然估计（MLE）和普通最小二乘法（OLS）——对于训练（拟合）模型、调整超参数以优化性能以及避免过拟合等陷阱至关重要。理解这些思想阐明了模型的构建和训练方式，揭示了像线性回归器这样的简单模型与像神经网络这样的复杂模型之间惊人的相似之处。
6. 实验设计与假设检验
这与推断性统计密切相关，但更进一步，实验设计和假设检验确保改进是源于真正的信号而非偶然。严谨的方法验证模型性能，包括控制组、p值、错误发现率和功效分析。
一个非常常见的例子是A/B测试，广泛用于推荐系统中，以比较新的推荐算法与生产版本，并决定是否推出新算法。要从一开始就进行统计学思考——在收集测试和实验数据之前，而不是在事后。
7. 重采样与评估统计量
最后一个支柱包括重采样和评估方法，例如置换检验，以及再次提到的交叉验证和引导（bootstrapping）。这些技术与准确率、精确率和F1分数等特定于模型的指标一起使用，其结果应被视为统计估计而不是固定值。
关键的见解是：指标具有方差。像置信区间这样的方法通常比单一数字分数更能洞察模型的行为。
结论
当机器学习工程师对本文所列的统计学概念、方法和思想有深入了解时，他们所做的就不只是调整模型：他们可以解释结果、诊断问题，并解释行为、预测和潜在的困难。这些技能是迈向可信赖的人工智能系统的重大一步。可以考虑通过小型Python实验和可视化探索来加强这些概念，以巩固你的直觉。
🚀 想要体验更好更全面的AI调用？
欢迎使用青云聚合API，约为官网价格的十分之一，支持300+全球最新模型，以及全球各种生图生视频模型，无需翻墙高速稳定，文档丰富，小白也可以简单操作。
评论区