本文へスキップ
じゅーんの自由帳 AI情報を初心者から上級者まで、わかりやすく。
AI Word

ローカルLLM

ひとことで言うと
インターネットを介さず手元の端末で動作させるAI。プライバシー面で有利です。

一言でいうと:自分のパソコンの中だけで動かすAIのことです。データが外に出ません。

やさしく説明すると

ローカルLLMは、AIを自分のパソコンにインストールして動かす使い方です。インターネットにつながっていなくても動き、入力した内容が外部に送信されません。

その代わり、それなりに高性能なパソコン(特にグラフィックボード)が必要で、性能もクラウドの最新モデルには及ばないのが一般的です。

初心者へのひとこと

「機密情報をAIに扱わせたい」というニーズには有効ですが、初心者が最初に手を出す必要はありません。

関連する用語

  • オープンウェイトモデル
  • 量子化
  • GPU
用語集の一覧に戻る