在与首席数据和分析官打交道时，我听到的最常见的主题之一是招聘和留住数据科学家和机器学习工程师的困难。 当首席数据科学家离开时，主要的数据科学计划将会停止，或者由于无法足够快地雇用机器学习工程师来管理生产中的每个模型，将人工智能集成到整个企业中的努力将成为项目的一小部分。
这是一个普遍存在的问题。 根据 Gartner 2021 年的一项调查，近三分之二 (64%) 的 IT 高管认为缺乏熟练人才是采用人工智能和机器学习等新兴技术的最大障碍。 招聘数据科学家的时间比整个 IT 工作的时间长 20%，是美国企业平均工作时间的两倍多。 对 ML 工程师的需求更加强烈，ML 工程师的职位空缺增长速度比整个 IT 服务的增长速度快 30 倍。
基于提高自动化程度、大规模个性化客户体验或提供更准确的预测以增加收入的承诺，企业已向人工智能投入数十亿美元（投资包括扩大数据团队）。 但到目前为止，人工智能的潜力和成果之间存在巨大差距，只有约 10% 的人工智能投资产生了可观的投资回报率。
对于 CDAO 来说，这是一个关键问题。 他们如何在短期内仅通过少数数据科学家和可能更少的 ML 工程师在整个企业中从应用的 AI/ML 中创造价值？ 换句话说，小型数据科学团队是否可以开始推动巨大的价值，而无需等待数月或数年才能拥有一支人员配备齐全、训练有素的团队？
MLOps 团队需要找到一种方法来支持更多 ML 模型和用例，而无需线性增加数据科学人员数量，而不是等到他们填补这些角色。 那么他们是怎么做到的呢？ 一些提示包括：
认识现有团队成员的优势
不同的团队成员为团队带来不同的优势和技能。 数据科学家擅长将数据转化为模型，帮助解决业务问题并做出业务决策。 但是，构建优秀模型所需的专业知识和技能与使用可用于生产的代码将这些模型推向现实世界，然后持续监控和更新所需的技能不同。 另一方面，机器学习工程师将工具和框架集成在一起，以确保数据、数据管道和关键基础设施协同工作，以大规模生产机器学习模型。
但是，虽然数据科学家可能很乐意将他们的模型交给 MLOps 团队进行生产部署，但这个过程可能效率不高。 由于数据科学家和 MLOps 工程师使用的语言不同，工作或思考的方式也不同，因此当一个团队试图阐明一项需求（例如所需的数据预处理）时，通常会出现耗时的瓶颈，而 其他团队试图满足它。
此外，如果模型在生产中开始出现问题或变得不太准确，机器学习工程师如何检测问题并提醒数据科学家模型可能需要重新训练？ 诊断问题可能需要团队的努力——是生产堆栈中的错误，还是模型有问题？ 当数据科学家在生产堆栈中难以了解其模型时，这可能会导致部署期间出现的相同通信和协调瓶颈。
避免重蹈云采用的错误
十年前，IT 基础设施团队寻求构建自己的私有云。 这些最终的构建时间和成本超出了预期，需要更多的资源来维护，并且在安全性和扩展方面的最新功能比公共云提供的要少。 这些企业最终没有投资核心业务能力，而是在基础设施上投入了大量时间和人员。
许多企业现在正在对 MLOps 的大多数事情重复同样的 DIY 方法。 将机器学习投入生产的最常见方法通常是由 Apache Spark 等各种开源工具拼凑而成的自定义解决方案。
这些通常效率低下（通过计算和所需时间运行的推理来衡量），尤其缺乏测试和监控模型随时间推移的持续准确性所需的可观察性。 此外，这些方法过于定制，无法为企业不同部分的多个用例提供可扩展、可重复的流程。
雇用重要的人并自动化其他一切
为此，CDAO 需要围绕业务核心的数据科学构建能力，但投资于自动化其余 MLOps 的技术。 例如，零售金融服务公司可能会发现聘请在保险、信用卡和住房贷款等各个颠覆领域具有行业专业知识的个人数据科学家来按业务线创建更精细的客户风险状况是有价值的。 但为每个业务线雇用专门的机器学习工程师并没有给公司带来类似的业务收益：事实上，它会增加成本并降低生产率。 相反，当企业拥有一个用于在生产中部署和管理 ML 模型的标准化平台（该平台与开发团队或所使用的模型构建框架无关）时，业务会更好。
是的，这是常见的“构建与购买”困境，但这一次，正确的衡量方法不仅仅是运营支出成本，而是快速有效地渗透到整个企业——无论是通过更好的产品创造新收入 和客户群，或者通过提高自动化程度和减少浪费来削减成本。
虽然数据科学和 MLO 领域的招聘仍然很困难，但 CDAO 甚至可以通过有限的数据科学家团队开始从 AI/ML 中提供直接价值。 主要的障碍将是“我们需要在内部构建这一切”的信念。 通过了解构建和实施 AI/ML 所需的不同功能，然后确定可以通过同类最佳工具实现自动化的功能，CDAO 组织即使只用一个小团队，也可以远远超出其（人数）重量级别。
