トランスフォーマー
ひとことで言うと
2017年に登場したAIの構造。現在の生成AIのほぼすべてがこれを基にしています。
一言でいうと:今のAIブームの土台になっている、AIの設計方式です。
やさしく説明すると
トランスフォーマーは、2017年にGoogleの研究者らが発表した論文「Attention Is All You Need」で提案されたAIの構造です。文章の中の離れた言葉どうしの関係を効率よく捉えられるのが特徴で、これによって長い文章を扱えるAIが一気に実現しました。
ChatGPTの「GPT」も、Generative Pre-trained Transformer の略。名前の中にしっかり入っています。
初心者へのひとこと
仕組みを理解する必要はまったくありませんが、「今のAIの土台は2017年の1本の論文から始まった」という話は、雑談のネタとしてなかなか面白いです。
関連する用語
- アテンション機構
- LLM(大規模言語モデル)
- ディープラーニング