OpenAI、自社初の推論チップJalapeñoを公開。推論費5割減狙う

結論

OpenAIとBroadcomは6月24日、OpenAI初の自社設計AIチップ「Jalapeño」を公開した。学習ではなく推論に特化したチップで、初期の試験では1トークンあたりの推論費が現行のNvidia GPUより約5割低いとBroadcomのCEOが述べている。市販はされず、2026年末に試作配備、2027年に量産、2028年前半に本格展開を見込む。狙いは、サービス提供にかかる費用を下げて収益性を高めることにある。

何が発表されたか

公開日は6月24日。Jalapeñoは大規模言語モデルの推論に最適化した設計で、構想から製造用の設計確定まで9カ月という、高性能チップとしては異例の速さで仕上げたとされる。設計の一部にはOpenAI自身のモデルを使った。製造はTSMC、半導体の実装とネットワーク接続はBroadcomが担う。

性能について、Broadcomのトップは報道機関に対し、現行GPUより推論費が約5割低く、性能はNvidia BlackwellやGoogleのTPUに匹敵すると述べた。一方でOpenAIの公式説明はより慎重で、電力あたり性能が「現行の最先端より大幅に良い」とし、詳しい技術報告は今後出すとしている。OpenAIは2025年にChatGPTの提供で第三者のGPUに約140億ドルを費やしたとされ、推論費の半減は利益を直接左右する。市販はされず、Broadcomは2026年末の試作配備、2027年の量産、2028年前半の本格展開を見込む。数値や時期は今後変わりうるため、最新は公式で確認してほしい。

半導体をめぐる動きは各国・各社で続いている。中国の国産8割を掲げたAI基盤網への投資や、DRAM価格の高騰がIT調達を直撃する流れと合わせて見ると、AIの土台であるインフラ競争の構図がつかめる。

現場の実務にどう効くか

このチップ自体を企業が買うわけではない。実務で効いてくるのは、推論費の低下が将来のAI料金に波及しうる点だ。提供側の費用が下がれば、値上げ圧力を和らげる材料になる。逆に言えば、いまの高い単価が当たり前ではないことを示している。

担当者が押さえるべきは、AIの費用が「学習」より「日々の推論」で積み上がるという構造だ。社内でAIを多用する業務ほど、利用量に応じた費用が効いてくる。提供側が独自チップで費用を下げる動きは、クラウドとオンプレのどちらに寄せるかという調達判断にも関わる。考え方はクラウドとオンプレのAI 違いと選び方、費用の見方はトークンとは？文字数制限と料金の関係が手がかりになる。当面は、推論基盤の競争が料金にどう跳ね返るかを定点で見ておくのが現実的だ。

出典

• OpenAI and Broadcom unveil LLM-optimized inference chip（OpenAI）
• OpenAI and Broadcom reveal Jalapeno, first AI chip in partnership（CNBC）
• OpenAI unveils its first custom chip, built by Broadcom（TechCrunch）