OpenShift Platform Plus를 사용한 제로 트러스트 MLOps

인공지능(AI)은 코어 데이터 센터에서 엣지로 생성되는 데이터의 양이 증가함에 따라 조직의 최우선 과제 중 하나로 진화하고 있습니다. 더불어, 지난 10년간 쿠버네티스를 도입하면서 확장성, 신뢰성, 비즈니스 복구 능력이 향상되었습니다.

쿠버네티스는 엄청난 이점을 가져다 주었지만, 운영 관리와 보안은 여전히 과제로 남아 있습니다. 소프트웨어 공급망 무결성을 관리하고, 컨테이너 이미지 및 런타임 환경의 보안을 모니터링하고, 컴플라이언스 정책을 시행하는 것은 부담스러울 수 있습니다.

조직은 전사적으로 도입하기 위해 AI 및 머신 러닝(AI/ML) 활용 사례를 확장하는 데 어려움을 겪는 경우가 많습니다. MLOps는 팀이 인프라 프로비저닝, 모델 스테이징, 종속성 관리, 모델 호출 오케스트레이션, 확장 가능한 방식으로 AI 모델을 제공하여 조직을 위한 AI/ML 애플리케이션의 가치 실현 시간을 단축하도록 지원합니다. MLOps는 DevOps가 애플리케이션 개발에 도입된 방식과 유사하게 데이터 모델에 대한 쿠버네티스 도입으로 추진력을 얻고 있으며, 자가 치유(Self-healing), 자동 확장성, 자동화된 파이프라인 등 다양한 기능을 제공합니다.

MLOps 프로세스는 5가지 주요 단계로 구성됩니다.

1. 다양한 소스에서 데이터 수집
2. 데이터 튜닝 및 데이터 검증
3. 데이터 모델 교육
4. 규모에 따른 모델 배포를 통해 AI 애플리케이션 지원
5. 모델 및 AI 애플리케이션의 지속적인 모니터링 및 수정

Red Hat OpenShift AI는 오픈소스 기술을 사용하여 구축되어 AI 지원 애플리케이션을 빌드, 배포, 관리할 수 있는 툴과 함께 유연하고 확장 가능한 MLOps 플랫폼을 제공합니다. 기반 모델의 미세 조정 및 제공 프로세스를 더욱 원활하고 확장 가능하며 효율적으로 수행하도록 설계된 강력한 툴 제품군을 결합하여 모델 개발에서 배포에 이르는 엔드 투 엔드 데이터 사이언스 프로세스를 간소화합니다.

Red Hat OpenShift Platform Plus는 MLOps를 위한 기반으로 데이터 과학자, 분석가, 운영 및 개발자를 위한 협업 환경을 제공하여 210%의 ROI(투자수익률) 및 20%의 데이터 과학자의 효율성을 개선합니다. OpenShift AI 및 OpenShift Platform Plus는 데이터 사이언스 모델을 실행할 수 있는 보안이 강화된 오픈 하이브리드 클라우드 플랫폼을 제공하여 애플리케이션 개발, 모델 출처, 거버넌스, 런타임 위협 감지 전반에서 더욱 엄격한 제어를 지원합니다.

쿠버네티스 구성 오류는 컨테이너화된 AI 워크로드에 대한 심각한 위협입니다. 사이버 범죄자가 이러한 설정을 악용하여 기업을 침해할 수 있기 때문입니다(예: 높은 권한으로 익명 액세스를 활성화하거나 사용자가 액세스할 수 없는 데이터에 액세스). 데이터 모델 보안은 MLOps 파이프라인 초기에 고려해야 하며 나중에 고려해서는 안 됩니다. OpenShift Platform Plus는 에코시스템 파트너와 함께 보안 정책을 시행하고 플랫폼에서 AI 모델을 실행하기 위한 제로 트러스트 아키텍처를 제공하여 복잡성을 줄입니다.

이를 가능하게 하는 OpenShift Platform Plus의 12가지 특징은 다음과 같습니다.

1. Red Hat Enterprise Linux CoreOS: Red Hat Enterprise Linux CoreOS에서 실행되는 OpenShift는 Red Hat Enterprise Linux(RHEL)와 동일한 다양한 자동화 및 원격 업그레이드 기능을 제공하는 동시에 개발자, 데이터 과학자, 운영 팀의 보안과 경험을 강화합니다.
2. RBAC(역할 기반 액세스 제어): RBAC를 사용하면 클러스터에 대한 다양한 액세스 수준을 가진 사용자를 세부적으로 제어할 수 있으므로 다양한 프로젝트 간에 엄격한 경계를 정의하고 무단 리소스 액세스를 차단할 수 있습니다.
3. 감사 및 모니터링: OpenShift는 메트릭, 경고, 로그, 대시보드 등 다양한 방식으로 클러스터를 감사하고 모니터링하는 기능을 제공합니다.
4. 컨텍스트 기반 액세스 제어: OpenShift에 포함된 Red Hat SSO(Single Sign-On)는 SAML 2.0, OpenID Connect 및 OAuth 2.0을 기반으로 ID 페더레이션을 제공합니다.
5. 다단계 인증: OpenShift는 Active Directory, LDAP, OpenID 연결 등을 포함하여 여러 ID 프로바이더를 지원합니다.
6. 할당량 및 제한 범위: OpenShift를 사용하면 프로젝트당 리소스 할당량을 적용하여 서비스 거부 공격으로 인한 피해를 제한할 수 있습니다. 네임스페이스 분리 및 스토리지 격리도 적용됩니다.
7. Compliance Operator: 이 연산자를 사용하면 클러스터의 필수 규정 준수 상태를 평가하고 격차 및 문제 해결 방법에 대한 개요를 제공할 수 있습니다.
8. 실시간 취약점 관리: Red Hat Advanced Cluster Security for Kubernetes는 애플리케이션 포트 및 프로토콜을 기반으로 네트워크 정책을 감지하고 제한하도록 지원합니다.
9. 암호화: Red Hat OpenShift Data Foundation은 스토리지 클러스터의 모든 디스크 및 멀티클라우드 오브젝트 게이트웨이 작업에 대해 클러스터 전체 암호화(유휴 데이터 암호화)를 지원합니다.
10. 버전 제어 구현: Quay.io는 알려진 취약점이 있는 이미지의 배포를 방지하는 데 도움이 됩니다.
11. Secrets: OpenShift는 암호, 구성 파일, 리포지토리 자격 증명(credential)과 같은 중요한 정보를 저장하는 메커니즘을 제공하여 데이터 손상을 방지합니다.
12. 정기적으로 업데이트되는 컨테이너 이미지: OpenShift는 Day-2 활동과 상태 점검을 간소화하여 취약점 해결 속도를 개선합니다.

요약하면, Red Hat은 데이터 과학자와 개발자가 MLOps 프로세스를 위한 제로 트러스트 아키텍처의 생성을 통합, 간소화, 자동화, 간소화할 수 있도록 셀프 서비스를 지원하는 엔터프라이즈 수준의 오픈 하이브리드 클라우드 플랫폼을 제공합니다. 담당 어카운트 팀에 문의하셔서 더욱 자세한 사항을 살펴보세요.