创建和管理AI相关服务为CIO带来了一系列全新的挑战。最大的改变是在构建AI应用程序所需的基础架构类型、不同的开发工作流程和新数据需求。现在，CIO应该考虑扩展IT服务管理（ITSM）工具以支持这些新功能。

业务转型咨询公司Pace Harmon的董事总经理Craig Wright表示：“交付AI相关的基础架构和流程，在很多方面类似于为IT职能交付企业范围服务或IT。”AI和IT基础设施都依赖于关联数据，以防止或最小化对更广泛非IT用户社区造成不利影响的风险。传统的ITSM功能包括服务定义、引入、交付和持续改进。AI服务管理还需要考虑新的工作流程、不同类型的基础架构以及更好的流程，以对数据和AI模型进行版本控制。

相同目标，新技术

人工智能虚拟化工具提供商Run:AI北美地区总经理Ken Zamkow说：“良好AI基础设施的最终目标类似于传统的IT。”这包括使企业中的用户（例如数据科学家和工程师）能够更快更高效地工作，同时控制成本并保持控制、可见性和安全性。

但二者都底层技术非常不同， AI是基于长期而重复的试验，而不是纯编码；所涉及的数据集要大得多；而且计算需求更大，并且涉及更昂贵的硬件。Zamkow说：“这里的关键和主要挑战是如何正确应对这些问题。”

这个问题部分在于选择可用于AI培训和部署的各种工作流、工具、框架和平台。尽管有些IT选项正在迅速普及，但目前还没有任何成熟的端到端行业标准。这意味着每个企业的IT和基础架构团队实际上需要整合多种产品以满足其特定用例。

这通常还会导致日益增加的复杂性、成本以及对资源利用方式缺乏可视性。Zamkow发现一种好的策略是使用易于与现有ITSM工具集成的AI工具，以帮助提供更平滑更灵活的架构。

你的AI商是多少？

Wright认为，IT高管应该考虑使用新的指标（他称之为AI商）来帮助评估AI相关流程的成熟程度，这可能类似于利用功能成熟度模型集成来改进传统的软件开发过程。

这方面包括测量分析能力、改善AI结果反馈的能力以及利用AI工具用户的情感数据的能力。例如，可通过解释客户和管理层满意度调查，以及分析语音和聊天消息中使用的语气来量化情感意识等新指标。我们可以建立范畴，并可以计算情绪指数以关联受AI影响的不同角色。分析功能也可以量化，根据发布时间和为不同业务组提供价值的能力。反馈指标可以反映测量AI模型准确性下降并使用新数据对其进行再训练的能力。

新挑战

IT市场研究公司Enterprise Strategy Group（ESG）的高级分析师Mike Leone认为，管理AI服务主要面临三个挑战：基础架构、人员和数据。

除管理和维护的运营费用外，企业还需要应对新型AI应用程序开发环境、数据科学工具以及集成数据或分析平台。在人员方面，ESG研究发现，超过20%的企业称其面临的最大AI挑战是缺乏经验丰富或训练有素的员工。

Leone说，每个企业都需要部署适当的基础架构来满足企业内特定AI用例需求。例如，如果你使用公共云服务，则硬件的重要性降低。如果你是负责创建模型的数据科学家，那么你可能会完全专注于数据科学工具。

在数据方面，企业难以为AI提供足够的数据质量。Leone说：“数据质量和数据工作流管理是很有趣的部分，因为它经常被忽略，但最终却成为所有这些中最重要的组成部分。”如果没有高质量的数据，在某种程度上，所有的工作、成本和时间都可能白费。并且，如果跨AI生命周期的不同阶段以及不同的工具和组件没有高效的工作流程，则需要更长的时间来实现价值。

AI堆栈中的差距

Leone建议IT高管想方法简单地扩展现有ITSM工具，以管理新型工作负载。例如，在延迟、IOPS、吞吐量和利用率方面，基础架构指标是相同的。借助AI，你可以跨基础架构和软件组件整合这些指标结合，以确保它们处于同步状态。

Leone说：“现在，你不太可能找到全面AI解决方案，因为通常这些解决方案包含来自不同供应商的多个组件。”这意味着，企业不得已选择可管理尽可能多AI堆栈的接口。

Leone认为目前市场上存在差距，是企业无法以全面的方式正确管理和协调AI堆栈。部分原因是AI开发人员正在迅速发现新的工作流程，而导致AI堆栈和数据管道中的新组件和供应商激增。ESG研究发现，在整个AI和机器学习数据管道中，一般企业需要与37个不同的硬件和软件供应商合作。

Leone表示：“跨所有这些供应商整合管理孤岛，对供应商而言是一个巨大的机遇，而对正在部署AI的企业而言，这是一个巨大的挑战。”

扩展现有ITSM工具

IT运营管理平台Micro Focus公司服务管理和实现全球产品营销团队经理Vesna Soraic说，ITSM自助服务和实现流程是重要的技术，其中数据科学家团队可为其项目获取所需的AI基础架构。

AI的其他重要ITSM原则是变更管理流程。例如，新训练的AI模型应以所需的速度和敏捷性以及适当的治理流程部署到生产中。

资产管理是传统的ITSM工具，其中管理着许可证和订阅等硬件和软件资产。Zoho Corporation（ITSM平台ManageEngine的母公司）的子公司Zoho Labs的产品经理Ramprakash Ramamoorthy表示，类似的技术也可以应用于AI数据。在这种情况下，ITSM工具将需要功能可对数据集进行版本控制和管理访问控制。

更快的变革步伐

硬件和软件都在快速发展，这可能导致更复杂的ITSM变更流程。ITSM软件和服务提供商TOPdesk的AI负责人Arvind Ganga建议，CIO应重新评估其现有变更流程，或为AI基础架构和流程专门创建其他变更流程。

通常情况下，管理AI相关基础架构和流程就像传统的ITSM，毕竟传统ITSM处理过相同的问题。Ganga说：“但是，一切变得更加复杂，因为其中包含更多工具、基础架构组件、所涉及各方、数据集、集成和法规，并且会经常进行更新。”因此，在ITSM中敏捷流程将变得更加重要，因为它可能帮助应对快速变更。

Micro Focus的Soraic说，传统的ITSM适用于传统的基础设施，但AI流程的目标是灵活，就像现代软件开发技术，使用持续集成和连续部署。她希望看到更多的企业部署基于容器的AI基础架构和流程。