#オンプレミス

7件の記事

重みを公開する企業向けAIモデルを開発するArcee AIが1億5000万ドルを調達した。クラウドだけでなく自社サーバーや端末でも動かせる点が特徴で、データを外に出したくない企業の選択肢になる。オンプレ活用を検討する材料が増えた。

Abacus.AIは、企業のエージェント業務に向けた公開重みモデルSmaugを発表した。長時間のコーディング、常駐の個人エージェント、多用途の3種で、長時間ループで15〜20%の性能向上を追加コストなしと報告。自社データを外に出さず試せる選択肢を解説する。

仏MistralがOCR 4を公開した。文字を読むだけでなく、表や見出しの構造、語ごとの確信度まで返す文書処理モデルで、170言語に対応。自社のサーバーで動かせるため、契約書や請求書の処理を社外にデータを出さずに自動化できる。

生成AIの基礎

SLMをオンプレで運用するとデータが外部に出ない・API費用がゼロ・低遅延の3つの利点がある。一方で初期投資・保守・モデル更新の課題もある。医療・法務・製造・金融での活用例と導入ステップを解説する。

AI社内浸透・推進

オンプレSLMは外部に通信しないため安全、という認識は不完全です。内部不正・プロンプトインジェクション・サプライチェーンリスクなど実際に存在する脅威と、組織が整備すべき対策を解説します。

生成AIの基礎

SLMはパラメータ数10億〜200億程度の小型言語モデルで、LLMより安価・高速・オンプレ運用が可能。コスト削減やデータ保護を優先する業務に向く。代表モデルと選定基準をビジネス目線で解説する。

生成AIの基礎

クラウド型AIとオンプレミス型AIの違いを、コスト・セキュリティ・カスタマイズ性の3軸で整理します。中小企業と大企業それぞれに合った選び方の基準と、失敗しない導入判断のポイントを具体的に解説します。