【ITニュース解説】001 - This is OnglX deploy

OnglX Deployは、人工知能（AI）を活用する上で多くの開発者が直面する複雑なインフラ管理と高額な運用コストという二つの大きな課題を解決するために生まれたツールである。近年、AI技術の進化は目覚ましく、多くの企業や開発者がAIモデルを自社のサービスや製品に組み込もうとしている。しかし、AIモデルを実際に動かすための環境を構築し、維持することは非常に専門的な知識と手間を要し、さらにクラウドサービスプロバイダーから提供されるAIサービスを利用すると、その利用料が高額になりがちだった。

この問題の根源は、AIワークロードを実行する際の複雑さにあった。例えば、最新のAIモデルを動かすには、高性能なコンピューティングリソースが必要となる。これを自前で用意しようとすると、サーバーの選定、ネットワークの構築、セキュリティ設定、さらには需要に応じてリソースを増減させるスケーリングの仕組みまで、多岐にわたる設定が求められる。クラウドサービスを利用する場合でも、Amazon Web Services（AWS）のようなIaaS（Infrastructure as a Service）では、TerraformのようなInfrastructure as Code（IaC）ツールを使ってインフラをコードで定義し、必要な権限を設定し、データの流れを設計するなど、膨大な設定作業が発生する。これらの作業は、システムエンジニアを目指す初心者にとっては、まるで迷路のように感じられるかもしれない。

OnglX Deployは、まさにこの「苦痛」を解消することを目指している。このツールを使うことで、開発者は自社のAWSアカウント（将来的にはGCPにも対応予定）に直接AIのAPIをデプロイできるようになる。これは非常に重要な点であり、「ベンダーロックイン」と呼ばれる、特定のサービスプロバイダーに縛られてしまう状況を回避できることを意味する。自社のクラウドアカウントを使うため、データのプライバシーに関する心配も大幅に軽減される。

さらに、OnglX DeployはOpenAI互換のAPIインターフェースを提供する。これは、既に多くの開発者がOpenAIのサービスを利用する際に使っているAPIの形式と同じものを使えるということだ。もしあなたがOpenAIのAPIを使ったことがあるなら、ほとんど学習コストなしにOnglX DeployでデプロイしたAIモデルを利用開始できる。これにより、新たなAPIの仕様を学ぶ手間が省け、開発者はよりスムーズにAIモデルを自社環境で動かすことができるようになる。

OnglX Deployの最大のメリットの一つは、大幅なコスト削減が期待できることである。通常、OpenAIのような外部プロバイダーのAPIを利用する場合、利用料にはプロバイダー側の運用コストや利益が含まれるため、割高になりがちだ。しかし、OnglX Deployを使えば、中間業者を通さずに直接自分のクラウドプロバイダー（AWSなど）に利用料を支払う形になるため、25%から65%ものコスト削減が可能になるという。これは、AIモデルの利用頻度が高い企業にとって、非常に大きな経済的メリットとなる。

開発者の使いやすさも重視されており、たった一つのシンプルなコマンドを実行するだけで、必要なAIインフラをセットアップできる。複雑な設定ファイルや裏で何が起きているのかわからない「隠れた魔法」のような仕組みは排除され、直感的でわかりやすい操作性が追求されている。また、Open WebUIというウェブインターフェースも標準で搭載されているため、デプロイしたAIモデルとすぐにチャット形式で対話できる。まるでAIチャットボットを動かすかのように、簡単にモデルの動作を確認できるのだ。これは、Vercelのようなモダンな開発プラットフォームが、ウェブアプリケーションのデプロイを簡単にするのと同じように、AIインフラのデプロイを簡単にするツールだと考えると分かりやすい。ただし、Vercelが自社のサーバーで動くのに対し、OnglX Deployは利用者のクラウドで動く点が異なる。

現在、OnglX Deployはv0.1.43という最初の実運用可能なリリースが公開されており、すぐに利用を開始できる。具体的には、onglx-deploy initコマンドで初期設定を行い、onglx-deploy deployコマンドでAWSにAI APIをデプロイできる。例えば、AWSのBedrockサービスで提供されているAIモデルも、OpenAI互換のエンドポイントとしてデプロイし、簡単に利用することが可能だ。ツール自体は、Go言語で開発された軽量なコマンドラインインターフェース（CLI）で提供されており、Homebrew（macOSやLinuxのパッケージマネージャー）やnpm（JavaScriptのパッケージマネージャー）を使って簡単にインストールできる。

このツールの背後には、堅牢な技術基盤が存在する。CLIはGo言語とCobraというライブラリで作られており、外部の依存関係を持たない単一の実行ファイルとして提供される。これにより、インストールや実行が非常にシンプルになっている。インフラのデプロイや管理を行う「オーケストレーション」の役割は、OpenTofuというツールが担っている。OpenTofuはTerraformのオープンソースフォークであり、インフラをコードで定義し、自動的にプロビジョニング（準備）や更新、削除を行うためのツールだ。OnglX Deployでは、AWS向けのOpenTofuモジュールがCLIの内部に組み込まれており、開発者が個別にモジュールを管理する手間を省いている。

開発プロセスにおいても、Monorepo（複数のプロジェクトを一つのリポジトリで管理する手法）とpnpm、Turborepoといったツールが活用され、開発の速度と一貫性を高めている。Go言語のプログラムを異なるオペレーティングシステムやCPUアーキテクチャ向けに自動でビルドし、Homebrewやnpmといったパッケージマネージャーを通じて配布する仕組みには、GoReleaserとGitHub Actionsが使われている。これにより、開発者はMac、Linux、Windowsといった様々な環境で、たった一つのコマンドでOnglX Deployを簡単にインストールできる。

開発者は、このような「開発体験を努力なしに感じられる」状態を実現するために、多くの技術的な課題を解決してきた。例えば、プライベートなリポジトリで開発されているツールをHomebrewやnpmのような公開パッケージマネージャーで配布するには工夫が必要だった。そこで、バイナリファイルを公開する「リリースミラー」となるリポジトリを作り、タグ付けのたびに自動的にバイナリを公開する仕組みを構築した。また、利用者のOSやCPUアーキテクチャを自動で検出し、適切なバイナリをインストールさせるために、カスタムのインストールスクリプトが用意された。さらに、バージョン管理やビルド、配布といった複雑なリリース作業全体を、GoReleaserとGitHub Actionsというツールを使って完全に自動化することで、手作業によるミスや手間を排除した。

OnglX Deployはまだ開発の初期段階にあるが、今後のロードマップも明確に示されている。次のステップでは、GCP（Google Cloud Platform）のVertex AIやCloud Functionsを使ったOpenAI互換のエンドポイントへの対応が予定されている。将来的には、ストリーミング応答、カスタムドメインとSSL証明書の設定、より高度な機密情報管理機能などが追加される見込みだ。さらに長期的な展望としては、AWSやGCPだけでなく、Microsoft Azureなど複数のクラウドプロバイダーをサポートする「マルチクラウド」対応や、推論（既存のモデルで予測を行うこと）だけでなく、AIモデルの学習のためのコンピューティングリソース、データストレージ、データベースといったAI関連の広範なインフラ領域へとサービスを拡大していく計画がある。

もしあなたが、特定のAIインフラに縛られて自由な開発ができなかったり、毎月のAPI利用料の高さに頭を悩ませていたりするなら、このOnglX Deployはまさにあなたのために作られたツールだと言えるだろう。AI技術をより身近に、そして自由に、効率的に活用したいと考えるシステムエンジニアの初心者にとって、これは強力な味方となる可能性を秘めている。