Microsoft、AzureにAMDの新AI基盤を拡張 用途別に選択

結論

Microsoftは2026年7月20日、AzureでAMDのHelios AIプラットフォームと第6世代EPYCデータセンタープロセッサを使う新しいVM群を発表した。用途ごとに最適な計算基盤を選ぶという設計で、AI機能を本番運用する企業にとっては、どのモデルが賢いかだけでなく、どの基盤でいくらで回すかが判断材料になる段階に入ったことを示す。

何が発表されたのか

新しいVM群は用途別に分かれている。HDv2はAIデータ処理やエージェント調整、HXv2は半導体設計や技術計算、ND MI455X v7は大規模推論向けだ。Microsoftは、AIワークロードが急速に多様化し、モデル、エージェント、推論、データ処理、チップ設計ごとに最適な計算基盤を選ぶ必要があると説明している。GPUだけでなく、CPU、メモリ、ネットワークを含めて用途に合わせる考え方だ。

背景には、AIインフラ競争がGPU単体の速度から、電力効率と1トークンあたりのコストへ移っている流れがある。同じ時期にNVIDIA、Vera Rubin基盤を投入 7チップが量産へが示すように、各社はラック全体の効率を競争軸にしている。半導体供給の逼迫はAIメモリの固定価格が重し SK Hynix株が最大の下げにも表れており、基盤コストは今後の運用費に直結する。

現場の実務にどう効くか

自社サービスにAI機能を載せる側にとって、この動きは料金と設計に響く。チャットボット、記事生成、レコメンド、広告文生成、社内検索、画像生成を本番化すると、使われるほど推論コストが積み上がる。高性能モデルを全処理に使うのではなく、軽量モデル、キャッシュ、検索結果の再利用、バッチ処理、上限設定を組み合わせることが効く。

企画の時点で、1リクエストあたりの平均トークン、ピーク時の同時利用、失敗時の再試行、ログ保存費用まで見積もっておくと、後からの費用膨張を防ぎやすい。クラウドとオンプレの選び方はクラウドとオンプレのAI 違いと選び方、モデルの使い分けはSLM vs LLM 比較：コスト・速度・精度を業務目線で整理、トークンと料金の関係はトークンとは？文字数制限と料金の関係をわかりやすく解説で整理している。具体的な料金や提供地域は各社の公式情報で確認してほしい。

AI機能の費用を見積もる観点

推論コストは、使われるほど積み上がる。本番化の前に、次の観点で概算しておくと予算が立てやすい。

• 1リクエストあたりの平均トークン数と、想定される1日の処理件数
• ピーク時の同時利用数と、そのときに必要な処理能力
• 失敗時の再試行や、長文の文脈処理で増える分の上乗せ
• ログ保存や監視、データ転送にかかる周辺費用

そのうえで、すべてを高性能モデルで処理せず、軽量モデルで足りる作業は寄せる、同じ問い合わせの結果はキャッシュする、急がない処理はまとめて回す、といった工夫を組み合わせる。用途ごとに基盤を選べるようになったことは、裏を返せば、選定を誤ると無駄なコストを払い続けることでもある。小さく試して実測し、費用と品質のバランスを見てから広げるのが安全だ。

まとめ

AI基盤は用途別に選ぶ時代に入った。本番運用では、モデル選定と同じ重さで、基盤とコストを設計する必要がある。軽量モデルと上限設定を組み合わせ、1処理あたりの費用を先に見積もっておくとよい。

出典

• Microsoft「Microsoft expands Azure AI and HPC infrastructure with AMD」
• Microsoft Source