Red Hat でのオープンソース AI：Kubeflow コミュニティにおける取り組み

Red Hat は長年にわたって AI およびデータプロジェクトに携わっています。多くのプロジェクトがモダナイゼーションのプロセスをサポートしていますが、人工知能 (AI) と機械学習 (ML) をプロダクションに移行するまでのユーザージャーニーの全体像を示しているものはありません。そこで Red Hat は Open Data Hub を立ち上げました。これは、 Kubeflow や KServe など、データと AI/ML に特化したオープンソース・プロジェクトの開発およびサポートを支援するものです。

Open Data Hub と Kubeflow

Open Data Hub は、Red Hat OpenShift クラスタに AI/ML とデータソフトウェアをデプロイし、それらをある程度統合するシンプルな Operator から始まりました。しかし、サポート性を検討するにあたり障害がいくつか見えてきたため、Kubeflow に目を向けました。これは、Kubernetes 上での ML ワークロードのデプロイの単純化とスケーリングに焦点を当てた新しいプロジェクトです。Open Data Hub を Kubeflow のコードを基にして書き換えることで、新しい機能のサポートマトリックスを作成することができました。Red Hat は過去 1 年間で Kubeflow コミュニティへの関与を強化し、コードへの貢献だけでなく、コミュニティの成熟度とユーザー受け入れの向上を支援してきました。以下は、現在 Red Hat が Kubeflow コミュニティで行っている活動の概要です。

Kubeflow 1.9 リリース

Kubeflow コミュニティに参加した後、Red Hat シニアソフトウェアエンジニアの Ricardo Martinelli (リカルド・マルティネッリ) は自ら進んでリリースマネージャーとして Kubeflow 1.9 リリースに取り組み、Kubeflow の他のコントリビューターと協力してリリースのロードマップを作成しました。その成果として、Red Hat は Kubeflow 1.9 に複数の機能を提供しました。

モデルレジストリ

 需要の高い機能であるモデルレジストリは、Red Hat の Kubeflow 1.9 への主要なコントリビューションの 1 つになりました。モデルレジストリは、Kubeflow のパイプラインおよびサービス提供コンポーネントと統合して、モデル、データセット、メトリクスなどのアーティファクトのカタログを作成し、アーティファクト・ストレージからモデルをデプロイします。モデルレジストリのその他の主な機能には、Operator/Helm チャートのデプロイ、RBAC、マルチテナンシーなどがあります。新しいモデルレジストリ機能をサポートするために、Kubeflow コミュニティは新しいワーキンググループを結成しました。

Kubeflow Pipelines 2.0

Red Hat は Argo Workflows 3.4 へのアップグレードを容易にすることで Kubeflow Pipelines 2.0 へのコントリビューションも開始しました。これにより MinIO のセキュリティとライセンスに関する問題に対処し、Argo と Tekton の両方の実装でパフォーマンスの改善を開発しました。

Notebooks 2.0

Kubeflow 1.9 のリリースを受けて、コミュニティは Kubeflow Notebooks 2.0 の計画を開始することを決定しました。これにより、新しい一連のカスタムリソース定義 (Workspace と WorkspaceKind) が提供されます。管理者はこれらの CRD を使用して、既存のノートブックの設定を更新するなど、ワークスペースをより細かく制御できます。この作業では 2024 年初頭に設計フェーズが開始され、Notebooks ワーキンググループがその設計アーキテクチャを推進しています。Red Hat エンジニアの Andriana Theodorakopoulou (アドリアナ・テオドラコポウルー)、Ramakrishna Pattnaik (ラマクリシュナ・パトナイク)、Jiri Petrlik (ジリ・ペトルリク)、Harshad Reddy Nalla (ハーシャド・レディ・ナラ) が設計ドキュメントを作成中で、今後のコードへの貢献を目指しています。

KServe

KServe は、Kubeflow インキュベーションの段階を経て、スタンドアローンのプロジェクトとなっています。KServe コミュニティは、Kubeflow 提供ワーキンググループの一環として Kubeflow コミュニティと緊密に連携し、KServe を Kubeflow と統合しながら、KServe 独自の急速に成長するコミュニティを開発して革新的な機能を推進しています。Red Hat はコミュニティと緊密に連携して、さまざまな分野で取り組みを主導してきました。具体的には、HuggingFace や vLLM のすぐに使えるランタイムの追加、プラガブルな explainer ランタイム、RawDeployment モードへの機能強化やバグ修正の追加、大きくなりすぎていた KServe CRD の最適化、セキュリティの活用、リリースプロセスの改善などが挙げられます。Red Hat の KServe の主要なコントリビューターには、Edgar Hernandez Garcia (エドガー・ヘルナンデス・ガルシア)、Jooho Lee (ジョーホ・リー)、Filippe Spolti (フィリペ・スポルティ)、Yuan Tang (ユアン・タン) が含まれます。中でも、Yuan Tang と Edgar Hernandez Garcia は最近 KServe のレビューアーに昇格しました。

Kubeflow の次のステップ

Red Hat と他のコミュニティメンバーは、Kubeflow を Cloud Native Computing Foundation (CNCF) の卒業済み (Graduated) プロジェクトに発展させようと取り組んでいます。 Kubeflow を CNCF の卒業済みプロジェクトとして認定するための要件の中には、CNCF の卒業要件を満たすために Kubeflow の資料を見直すことが含まれます。これにより、セキュリティや IP ポリシーなど、他の分野での作業が拡張されました。

Red Hat の製品セキュリティおよびオープンソース・プログラム・オフィス・チームは Kubeflow コミュニティと連携し、Kubeflow コンポーネントで発生するセキュリティ脆弱性プロセスに関する質問に対処しました。Sean Pryor (ショーン・プライアー) は、未対応の CVE を持つ Kubeflow イメージがリリースされるのを防ぐ取り組みを主導し、セキュリティスキャナーの使用とこれらのセキュリティ問題を修正するワークフローを提案しています。Red Hat 製品セキュリティチームの Owen Watkins (オーウェン・ワトキンス) は、セキュリティの問題が報告されたときに対応するための一般的なガイダンスに取り組んでいます。

Red Hat が Kubeflow に貢献しているもう 1 つの分野はガバナンスです。Red Hat のプリンシパルソフトウェアエンジニアである Yuan Tang が、Kubeflow の「root」レベルのガバナンス組織である Kubeflow Steering Committee (KSC) のメンバーに選出されました 。Yuan は、Argo や KServe など、多くのよく知られているオープンソース・プロジェクトの経験豊富な開発者およびメンテナンス担当者であり、過去 6 年間、さまざまな Kubeflow のサブプロジェクトの技術リードを務めてきました。彼の貢献により、Kubeflow コミュニティにおいて技術的スキルとリーダーシップスキルに信頼が確立され、Kubeflow が CNCF の卒業プロセスを開始したときに発生したコミュニティトピックの推進に役立ちました。

Kubeflow プロジェクトへの貢献を開始したときから、Red Hat は「認定ディストリビューション」という考え方が重要な課題になることを認識していました。そして、新しい運営委員会と CNCF の卒業プロセスの進行を受けて、Kubeflow では Kubeflow ディストリビューションを認定するための適合性テストの作成計画を再検討する可能性があります。

CNCF の卒業を達成するには Kubeflow ですべきことがまだあり、Red Hat はこの目標に向けてさらに貢献することに尽力しています。

Kubeflow と Google Summer of Code

Kubeflow コミュニティへのコミットメントとオープンソース・プロジェクトへの取り組みの経験から、私たちは Kubeflow コミュニティを代表して Google Summer of Code への提案書を作成しました。Kubeflow の他のコントリビューターとのコラボレーションにより、LLM API 開発、Github の問題や PR トリアージ、文書化タスクなど、プロジェクト以上のさまざまなものを提案しました。Red Hat は数年にわたり Google Summer of Code に参加しており、当社の複数のミドルウェア・プロジェクトへの取り組みも行ってきました。その経験から、Kubeflow コミュニティの支援を受けてイベントへの参加を承認されました。Red Hat では、オープンソースのコラボレーションがどのようにイノベーションを促進し、実際の開発経験によって教育やキャリアをどのように強化するのかについて、学生たちに助言し、指導できることをうれしく思っています。

Red Hat と Kubeflow コミュニティの取り組みと関係は、コミュニティと共同でより良いソフトウェアを構築して提供できることを示す例です。今後長期間にわたって発展していくことを願っています。私たちを温かく受け入れてくれた Kubeflow コミュニティに感謝しています。