因为从核心数据中心到边缘产生的数据量的不断增加,人工智能(AI)已成为企业/机构的首要任务之一。同样,在过去 10 年中,Kubernetes 的采用提高了可扩展性、可靠性和业务弹性。
虽然 Kubernetes 带来了巨大的优势,但运维管理和安全防护仍然具有挑战性。管理软件供应链完整性、监控容器镜像和运行时环境的安全性以及执行合规性策略可能会让人不堪重负。
在扩展 AI 和机器学习(AI/ML)用例以在企业范围内采用时,企业经常会遇到挑战。MLOps 可帮助团队置备基础架构、暂存模型、管理依赖项、编排模型调用,并以可扩展的方式提供 AI 模型,从而加快企业的 AI/ML 应用价值实现时间。随着 Kubernetes 对数据模型的采用,MLOps 的发展势头越来越强,这与 DevOps 用于应用开发的方式类似,提供自我修复、自动扩展、自动化管道和更多功能。
MLOps 流程由五个主要步骤组成:
- 从不同来源获取数据
- 数据调优和数据验证
- 数据模型训练
- 大规模部署模型以支持 AI 应用
- 持续监控和修改模型和 AI 应用
红帽 OpenShift AI 采用开源技术构建,提供灵活且可扩展的 MLOps 平台,以及用于构建、部署和管理支持 AI 的应用的工具。它汇集了一套强大的工具,旨在使基础模型的微调和服务过程更加无缝、可扩展和高效,从而简化从模型开发到部署的端到端数据科学流程。
红帽 OpenShift 平台 Plus 可作为 MLOps 的基础,为数据科学家、分析师、运维人员和开发人员提供协作环境,从而使实现 210% 的投资回报,并将数据科学家的效率提高 20%。OpenShift AI 和 OpenShift 平台 Plus 提供了一个更安全的开放混合云平台来运行数据科学模型,从而实现对应用开发、模型溯源、治理和运行时威胁检测的更严格控制。
Kubernetes 错误配置是对容器化 AI 工作负载的严重威胁 ,因为网络犯罪分子可以利用这些设置来入侵企业(例如,以高特权启用匿名访问或获取用户不被允许访问的数据)。必须在 MLOps 管道中尽早考虑数据模型安全性,而不是马后炮。OpenShift 平台 Plus 及其生态系统合作伙伴通过实施安全策略并为在平台上运行 AI 模型提供零信任架构 来降低复杂性。
以下是 OpenShift 平台 Plus 实现这一目标的 12 个方面:
- 红帽企业 Linux CoreOS:OpenShift 在红帽企业 Linux CoreOS 上运行,提供与红帽企业 Linux(RHEL)同样丰富的自动化和远程升级功能,同时增强了开发人员、数据科学家和运维团队的安全性和体验。
- 基于角色的访问权限控制 (RBAC):RBAC 允许对集群的不同访问级别进行精细控制,帮助定义不同项目之间的严格界限,并阻止未经授权的资源访问。
- 审计和监控:OpenShift 提供了以各种方式审计和监控集群的功能,包括指标、警报、日志、控制面板等。
- 基于上下文的访问控制:OpenShift 中包含的红帽单点登录(SSO)提供基于 SAML 2.0、OpenID Connect 和 OAuth 2.0 的身份联合。
- 多因素身份验证:OpenShift 支持多个身份提供商,包括 Active Directory、LDAP 和 OpenID connect 等。
- 配额和限值范围:OpenShift 允许您对每个项目实施资源配额,以限制拒绝服务攻击造成的损害。还强制实施命名空间隔离和存储隔离。
- 合规性操作器:此操作器允许您评估集群所需的合规性状态,并提供差距概述和修复方法。
- 实时漏洞管理:适用于 Kubernetes 的红帽高级集群安全防护有助于根据应用端口和协议来检测和限制网络策略。
- 加密:红帽 OpenShift 数据基础支持对存储集群中的所有磁盘和多云对象网关操作进行集群范围加密(静态加密)。
- 实施版本控制:Quay.io 有助于防止部署具有已知漏洞的镜像。
- 机密:OpenShift 提供了一种机制来存储密码、配置文件和存储库凭据等敏感信息,以帮助避免数据中毒。
- 定期更新容器镜像:OpenShift 简化了 Day-2 活动和健康检查,以提高解决漏洞的速度。
总而言之,红帽提供了一个企业就绪型开放混合云平台,支持数据科学家和开发人员的自助服务,以便为 MLOps 流程集成、简化、自动化和简化零信任架构的创建。如需更多信息,请联系您的客户团队。
关于作者
Arun Mamgai has more than 18 years of experience in cloud-native application modernization, cybersecurity, open-source secure supply chain, data privacy, AI/machine learning, and digital transformation while working with Fortune 1000 customers across industries. He is responsible for building strategic relationship with technology leaders and promoting Red Hat OpenShift cloud-native application development platform, cybersecurity, and software supply chain solutions.
Niti comes with 20 years of experience in technology at different levels. From writing ANSI C applications on embedded devices to PHP based web applications to microservices on OpenShift, she has extensive knowledge on ‘how’ and ‘why’ of building applications.
Niti likes to jump into new technologies and understand which one is the best to use. Niti appreciates working as a team to maximize everyone's potential. In 2021, she leaped at the chance to learn about the technical side of the sales profession even though it is absolutely outside of her comfort zone.