AI Word

バイアス（AIの偏り）

ひとことで言うと
学習データに含まれる偏見をAIが引き継ぎ、差別的・不公平な出力をする問題。

一言でいうと：AIが学習データの偏りを受け継いで、不公平な答えを出してしまうことです。

やさしく説明すると

AIは学習データから学ぶため、データに含まれる社会の偏見もそのまま吸収します。「看護師」と入力すると女性の画像ばかり出る、特定の国名を含む文章に否定的な評価を付ける、といった形で現れます。

開発側も対策を進めていますが、完全になくすのは極めて困難です。使う側が「AIの答えは中立ではない」と知っておくことが、最も現実的な防御になります。

人や属性についてAIに評価させるときは、特に慎重に。採用や評価にAIをそのまま使うのは、法的にも倫理的にも危うい行為です。