ニュース

1Uの完全オンプレミス型AIアプライアンス「InfiniCloud AI Appliance」、自社のナレッジを安全に運用でき、高い拡張性も

 InfiniCloud株式会社は8月7日、完全オンプレミス型のAIアプライアンス「InfiniCloud AI Appliance」を発表した。8月から提供を開始する。

 同社はこれまでプライベートクラウドサービス/アプライアンス、仮想化基盤を手掛けており、インフラ最適化技術に強みを持つ。今回の製品は“自社専用で所有・育成が可能”であることを特徴とする生成AI製品シリーズ「InfiniCloud AI」の第1弾と位置付けられている。

 消費電力800W以下の空冷設計の筐体による1Uサーバーで、既存のラックに収容して運用可能。LLMは、OpenAI GPT OSS、Alibaba Qwen、Swallow、または同社によるファインチューニングモデルなど、さまざまなモデルから選択でき、同社開発の日本語チャットUI「Shiraito」により、すぐに利用を開始できる。

日本語チャットUIの画面
設定画面

 InfiniCloud AIは「ビジネスドメインに特化する」ことを目的に作られているといい、社内のナレッジをRAGにより「知識」(Knowledge)として蓄積するだけでなく、ファインチューニングにより「知恵」(Wisdom)として浸透させ、ビジネスドメインに特化した「知能」(Intelligence)として働くAIを所有できるとしている。

 ユースケースとしては、文書の要約や社内サポートなどの問い合わせ対応のほか、業務の属人化解消、教育コストの削減といったものも挙げられている。また、OpenAI互換のAPIを搭載し、AI連携型アプリへの対応も容易となる。

 あわせて、今後のInfiniCloud AIのロードマップも発表された。8月には、LLM用の知識抽出エンジン「infinicloud-llmtk」をOSSとして公開。10月には専用インスタンス型のクラウドAIサービス「InfiniCloud Private LMaaS」の提供を開始する。また、12月には、より高性能なオンプレミス型AIアプライアンス「InfiniCloud AIA モデルM」ほかの提供が予定されている。

infinicloud-llmtkの概要