製品・モデルの詳細
Ollama

Ollama

モデルを実行し、アプリから使う環境を整える。

提供元の資料を開く

どんな場面で検討するか

手元の推論環境や、API接続の試験を行う検討に。

組織で使う条件

ローカルとクラウドの利用環境、モデル・ハードウェア・公開ポートを確認。 すべての利用がローカル完結すると決めつけず、送信先とツール権限を確認。

採用前に試すこと

  • 合成の分類20件と正解表を作り、モデル版、ローカルまたはクラウド経路、公開ポートを固定する。
  • APIで分類を実行し、正答、不明、接続失敗とデータ送信先を照合する。
  • 端末資源・遅延、モデル許諾、外部ツール・クラウド利用枠と再起動後の動作を確認する。

合格と判断する条件

  • 分類結果と不明を正解表に照合し、意図しないネットワーク公開を防げる。
  • 実行経路、モデル版・許諾、費用と更新・停止担当が決まる。

見落としたくない点

  • すべての利用がローカル完結すると決めつけず、送信先とツール権限を確認。
  • すべての利用がローカル完結すると決めつけず、送信先とツール権限を確認。
  • ローカルとクラウドのモデル経路を区別せず、すべてのデータが端末に留まるとする機密運用には向かない。

根拠となる資料

Ollama documentation