DeepInfra

DeepInfraとは？

DeepInfra(ディープインフラ)は、オープンソースのAIモデルを本番運用の規模で動かすことに特化した推論専用のクラウドサービスです。提供元の公開情報によると、同社は自社でGPU基盤を保有・運用し、190種類以上のオープンソースモデルに対応、そのうち150種類以上をOpenAI互換のAPIから利用できるとされています。週あたり約5兆トークンを処理し、データを保持しない方針(ゼロデータ保持)で、SOC 2およびISO 27001の認証を取得していると説明されています。2026年5月には500 GlobalとGeorges Harik氏が共同主導し、NVIDIAなども参加する1億700万ドルのシリーズBを調達したと報じられています。米国内8カ所のデータセンターでGPU基盤を運用し、最新世代GPUの導入により推論コストの効率改善を進めているとされています。料金は利用したトークン量に応じた従量制とされ、詳細は公式サイトでの確認が確実です。これらは提供元・公開情報です。