AI Word

ガードレール

ひとことで言うと
AIの入出力を監視・制限し、不適切な応答を防ぐ仕組み。

一言でいうと：AIが危ないことや不適切なことを言わないようにする、安全装置のことです。

やさしく説明すると

ガードレールは、AIが不適切な内容を出力しないように設けられた制限や検査の仕組みです。危険な質問への回答を拒否したり、個人情報を出力しないようにフィルタをかけたりします。

道路のガードレールと同じで、普段は意識しないけれど、外れたときに大事故を防いでくれる存在です。

AIが「その質問にはお答えできません」と返してくるのは、この仕組みが働いている場面です。