アライメント

一言でいうと：AIの振る舞いを、人間が望む方向に合わせることです。

やさしく説明すると

アライメント（alignment）は「整列・一致」の意味。AIが人間の意図や価値観に沿って動くようにする取り組み全般を指します。

「危険な情報を教えない」「差別的な発言をしない」といった目に見える部分から、「AIが人間の意図を取り違えて暴走しないようにする」という長期的な研究テーマまで、幅広く含みます。

初心者へのひとこと

AIの安全性に関するニュースでよく出てくる言葉です。「AIを人間側に合わせる作業」と覚えておけば十分です。

関連する用語

• RLHF
• ガードレール
• AI規制