Akamai、AI推論サービス「Akamai Inference」とAIエージェント実行環境「Akamai Agent Sandbox」の提供を開始

　Akamaiは10月27日（米マサチューセッツ州現地時間）、同社のクラウドインフラサービス「Akamai Cloud」において、AI基盤となる「Akamai Inference」と「Akamai Agent Sandbox」を発表した。マネージドのモデル推論環境とAIエージェント向けの隔離された実行環境を提供するための製品で、企業は自社開発やオープンウェイトのモデル構築・調整、自社データの活用、厳格な制御下でのエージェント運用が可能になる。

　同社の「Akamai Cloud」は、同社のネットワークインフラを利用したパブリック・クラウド・プラットフォーム。今回発表になったAkamai InferenceおよびAkamai Agent Sandbox（Spin SDK経由）は、現在ベータ版として提供されている。

AIスタックの運用なしにモデルを利用するAkamai Inference

　Akamai Inferenceは、OpenAI互換APIを通じてオープンウェイトモデルやカスタムモデルへのマネージドアクセスを提供するサービス。既存のアプリケーションを書き換えることなく移行できることが特徴で、利用形態はサーバーレス型の従量課金制推論サービス、または専用環境へのデプロイから選択できる。

　サービス開始時には、NVIDIA Nemotron 3 Ultra、OpenAI gpt-oss-120b、Google Gemma 4を含む80億から2.8兆パラメーターのオープンウェイトモデル12種類のほか、検索拡張生成向けの埋め込みモデルが揃えられている。

　Akamai Cloudを介して各種データベースやストレージ、プライベートおよびパブリッククラウドとシームレスに接続し、企業が保有するデータをモデルに活用することが可能。オーケストレーション、モデルの実行、認証を担い、リクエストをAkamaiのグローバルネットワーク経由で処理することで、レイテンシーの低減や予測可能なサービスレベルを維持し、高い可用性と安定したパフォーマンスを確保するとしている。

エージェントに実行環境を提供するAkamai Agent Sandbox

　Akamai Agent Sandboxは、開発者がAIエージェントの操作実行や自律的なコード作成・実行を安全に行える環境を提供するサービス。エージェント自体はAkamai Functions上で動作し、エージェントが作成したコードは実行環境から隔離された環境で処理される。Spinフレームワークのオープンソースコンポーネントとして提供され、WebAssemblyによる隔離技術を用いて計算リソース、メモリ、外部接続、システム権限に明確な制限を設けることで、開発者が実行環境とアクセス範囲を把握して安心してデプロイできる状態を実現するという。

　開発者は、NVIDIAのアクセラレーテッドインフラや専用CPUインフラ、マネージドKubernetes、エッジからコアまでサーバーレス実行が可能なAkamai Functionsの中から、ワークロードに適したアーキテクチャを選択できる。なお、Akamaiは今後、エージェントがアクセスできる対象と、エージェントにアクセスできる対象の双方を制御するガバナンス機能を追加する予定としている。

より幅広いGPUで構築し、調整することも可能に

　Akamaiは専用GPU基盤を拡充し、低レイテンシー推論向けのNVIDIA RTX PRO 6000 Blackwell Server Edition GPUに加え、自社管理インフラ上でモデルの構築・調整・セルフホスティングを行う企業向けにNVIDIA Blackwell Ultra GPUクラスタを追加した。2027年のNVIDIA Vera Rubinプラットフォーム対応に向けたデータセンターの整備も進めているという。

　8基のGPUを搭載したBlackwell Ultraノードは、GPU1基あたり288GB、ノード合計2.3TBのHBM3eメモリを備え、フロンティア級モデルを格納できる容量を確保。テスト時スケーリングや思考の連鎖（Chain-of-Thought）推論、長文コンテキストを扱うエージェント処理などのワークロードを想定して設計されているという。

GPUクラスタの利用により、企業はレート制限や共有環境の順番待ちに左右されず、モデルのバージョンや廃止時期を自社で管理して実行できるとしている。また、これらのクラスタにはAkamai Cloudの各種データ、ネットワーク、セキュリティサービスが接続される。