最新動向

IBMがTogether AIと提携 2.4億ドルで推論基盤を増強

Meliorra編集部 ・ 公開日
IBMがTogether AIと提携 2.4億ドルで推論基盤を増強

この記事の要点

IBMがTogether AIと複数年提携し、2.4億ドルを投じてNVIDIA HGX B300クラスターをIBM Cloudに展開する。高性能なAI処理とオープンモデルの推論に向ける。推論基盤の増強競争が続く。

結論

IBMは、AI推論基盤のTogether AIと複数年の提携を結び、2.4億ドルを投じてNVIDIAのHGX B300クラスターをIBM Cloudに展開すると発表した。高性能なAI処理と、オープンモデルの推論を狙う。生成AIの主戦場が、モデルそのものから、それを安く速く動かす推論基盤へと移りつつあることを示す動きだ。

何が発表されたか

IBMはTogether AIとの複数年提携で2.4億ドルを投資する。中身は、NVIDIA HGX B300クラスターをIBM Cloud上に展開し、高性能なAIの処理負荷とオープンモデルの推論に充てるものだ。Together AIは、オープンなモデルを効率よく動かす基盤を得意とする会社で、IBMのクラウドと組むことで、企業が重いAI処理をクラウドで回す選択肢を広げる。

推論を安く速くする競争は、半導体の側でも進む。AMDがMI400とHeliosを投入し、推論単価の3割改善を掲げるなど、各社が処理コストの引き下げを競っている。長文や業務推論を扱うGemini 3.1 Proのような大規模モデルが増えるほど、それを支える計算資源の確保が重みを増す。

現場の実務にどう効くか

推論基盤の話は遠く聞こえるが、企業のコストに直結する。AIを業務で回すと、月々の費用の多くは推論、つまりモデルを動かす処理に使われる。ここが安くなれば、同じ予算でこなせる処理量が増える。オープンモデルを自社のクラウドで動かせる選択肢が広がれば、用途によっては外部の従量課金より安く収まる場合もある。

オープンモデルを自社のクラウドで動かす選択肢が広がる意味は、コスト以外にもある。外部の商用サービスに依存しないため、料金体系や提供条件の突然の変更に振り回されにくい。データを自社の管理下に置いたまま推論できる点も、機密性の高い業務では効く。半面、モデルの運用や更新を自分たちで担う負担が増えるため、社内に基盤を扱える人材がいるかも判断材料になる。

判断の軸は、自社の処理量と機密性だ。処理が多く、データを外に出しにくい業務ほど、自前の基盤やクラウド上の専用環境が向く。逆に量が少なければ、従量課金のほうが安い。費用対効果の考え方は生成AI導入の費用対効果の考え方に、計算資源をめぐる国家規模の動きは中国が2030年にAI計算力の大幅増を掲げるにまとめている。基盤選びは長期の固定費に響くため、契約前に想定処理量で試算しておきたい。推論単価の引き下げ競争は半導体側でも激しく、AMDのMI400とHeliosのような新型ハードの動向も、数年先のコストを左右する。

FAQ

自社に関係するのはどんな企業か。大量のAI処理を回す企業や、データを社外に出しにくい業種が主な対象だ。処理量が少なければ、当面は既存の従量課金サービスで足りる。自社の月間処理量を把握してから検討するのが実務的だ。最新の提供条件は公式で確認してほしい。

出典

#IBM#Together AI#NVIDIA#AIインフラ#推論

よくある質問

この提携で何が変わるのか

IBM Cloud上にNVIDIA HGX B300のクラスターが展開され、高性能なAI処理とオープンモデルの推論に使われます。企業がクラウドで重いAI処理を回す選択肢が増えます。

投資額はいくらか

IBMはTogether AIとの複数年提携で2.4億ドルを投じるとしています。NVIDIA HGX B300クラスターの展開が中心です。詳細は公式発表で確認してください。

関連記事

最新動向

IBMとTogether AIが2.4億ドル契約 オープン推論拡大

IBMとTogether AIは8月11日、2.4億ドル規模の複数年契約を結んだ。IBM CloudにNVIDIAのB300を約2000基並べ、オープンモデルの推論基盤を2027年初めに提供する。狙いは低いトークン単価。オープンモデルで費用を抑えたい企業に、選べる基盤が増える。

最新動向

L&T、最大約15億ドルのAI基盤受注 チェンナイに1万GPU

インドのL&Tが、Together AI向けに最大約1.57億ドル規模のAI基盤建設を受注した。チェンナイにNVIDIA B300を約1万基。インド最大級の単一クラスターとされる。計算資源の地理的な広がりと調達への示唆を整理する。