推論(Inference)
ひとことで言うと
学習済みAIを使って実際に答えを生成する処理のこと。
一言でいうと:学習済みのAIを実際に動かして、答えを出させることです。
やさしく説明すると
AIには「学習」と「推論」の2つの段階があります。学習は膨大なデータを読み込んで賢くなる段階、推論はできあがったAIを実際に使って答えを出させる段階です。
私たちがChatGPTに質問して答えが返ってくるとき、裏側で起きているのが推論です。学習には数ヶ月と巨額の費用がかかりますが、推論は1回あたり数円以下で済みます。
初心者へのひとこと
ニュースで「推論コストが下がった」と出てきたら、それは「AIを使う値段が安くなった」という意味です。私たちにとっては良いニュースです。
関連する用語
- 学習データ
- GPU
- 量子化