AI Word

説明可能なAI（XAI）

ひとことで言うと
AIがその答えを出した理由を、人間にわかる形で示そうとする技術や考え方。

一言でいうと：AIが「なぜそう答えたのか」を人間にわかる形で示す取り組みです。

やさしく説明すると

ディープラーニングは内部の判断過程が複雑で、外から理由が見えません。これをブラックボックス問題と呼びます。XAI（Explainable AI）は、判断の根拠を可視化したり、影響の大きかった要素を示したりして、この不透明さを減らそうとする分野です。

医療、融資、採用など、結果の説明が求められる場面では欠かせません。「AIが決めたので理由はわかりません」では、誰も納得できないからです。

文章生成AIに「なぜそう考えたか教えて」と聞くと理由を返してきますが、それは本当の内部処理の説明ではなく、もっともらしい後付けの文章です。ここは混同しやすいので注意してください。