コンテキストウィンドウ
ひとことで言うと
AIが一度に覚えていられる文章量の上限。会話が長引くと前半を忘れる原因です。
一言でいうと：AIが一度に読める文章の量の上限です。ここを超えると前の話を忘れます。
やさしく説明すると
コンテキストウィンドウは、AIが一度に扱える情報量の上限で、トークン数で表されます。「20万トークン」なら、おおよそ文庫本1冊分をまとめて読ませられる、というイメージです。
この枠を超えると、AIは古い部分から順に忘れていきます。長時間チャットしていて「さっき言ったことを覚えていない」と感じるのは、多くの場合これが原因です。
たとえるなら
たとえるなら、机の広さです。広い机なら資料をたくさん広げて見比べられますが、狭い机では古い資料を片付けないと新しいものが置けません。
初心者へのひとこと
話が噛み合わなくなったら、新しいチャットを始めて要点だけ貼り直すのがいちばん早い解決策です。
関連する用語
- トークン
- RAG（検索拡張生成）
- プロンプト