AI Word

強化学習

ひとことで言うと
試行錯誤の結果に報酬を与えて、望ましい行動を学ばせる手法。

一言でいうと：うまくいったら褒める、を繰り返して上達させるやり方です。

やさしく説明すると

AIに何度も試させて、良い結果が出たら「報酬」を与える。これを繰り返すことで、報酬が多くなる行動を自分で見つけさせる方法です。

囲碁や将棋のAIが人間を超えたのは、この手法によるところが大きいです。対話AIの受け答えを整えるRLHFも、この考え方の応用です。

たとえるなら、犬のしつけです。おすわりができたらおやつ。何がおやつにつながるかを、犬自身が試しながら覚えていきます。

「何を報酬にするか」の設計を間違えると、AIは想定外の抜け道を見つけます。ここがこの手法の難しさです。