ローカルLLM
ひとことで言うと
インターネットを介さず手元の端末で動作させるAI。プライバシー面で有利です。
一言でいうと:自分のパソコンの中だけで動かすAIのことです。データが外に出ません。
やさしく説明すると
ローカルLLMは、AIを自分のパソコンにインストールして動かす使い方です。インターネットにつながっていなくても動き、入力した内容が外部に送信されません。
その代わり、それなりに高性能なパソコン(特にグラフィックボード)が必要で、性能もクラウドの最新モデルには及ばないのが一般的です。
初心者へのひとこと
「機密情報をAIに扱わせたい」というニーズには有効ですが、初心者が最初に手を出す必要はありません。
関連する用語
- オープンウェイトモデル
- 量子化
- GPU