ChatGPTの文章に電子透かし、EUで導入へ

何があったの？

OpenAIは、EU（欧州連合）のAI法が求める透明性ルールに対応するため、ChatGPTとCodexが生成する文章に、目に見えない「電子透かし」を入れる仕組みを導入すると発表しました。この技術はtextGrainと呼ばれ、文章の中の言葉の選び方をごくわずかに変化させることで、読んでいる人には気づかれない形でパターンを埋め込み、専用の検出ツールで判定できるようにするものです。

対象となるのはEUのプランを使っているユーザーで、数週間かけて順次有効になる予定です。開発者向けのAPIでも、希望すれば本日から有効にできるとしています。ただし検出ツールを使えるのは、現時点では研究者や専門機関などに限られるとのことです。また、文章中の単語の1割を類義語に置き換えただけで、検出の精度が92%から66%まで下がってしまうという限界も明らかにされています。

初心者にはどういう意味？

「この文章、AIが書いたの？人が書いたの？」を見分けやすくするための仕組み、と考えるとわかりやすいです。たとえるなら、お札に入っている目に見えない模様のように、普通に読んだだけでは気づかないけれど、専用の機械にかければ「これはAIが作った文章です」とわかる印を忍ばせておく、というイメージです。

ただし今回の仕組みはEUという地域限定の対応で、言葉を少し書き換えるだけで精度が落ちてしまうなど、万能ではありません。OpenAI自身も「透かしがないからといって、人間が書いた証明にはならない」と説明しており、過信は禁物です。

私はこう思う

AIが作ったか人間が作ったか判断できるようになるのはかなり大事なことだと思います。

画像生成でも文章生成でもAIが作ったものを「私が書きました」という人は一定数いると思いますがよく思わない人がいるのも事実です。

判断できるようになればこのような事象にも対応できると思うのでもっと成長してほしい機能だと思いました。

今日からできること

• AIが作った文章かどうかを判断するとき、「透かし」のような技術にも限界があることを知っておく
• 仕事や学校でAI生成物の扱いが話題になったときは、技術的な検出だけに頼らない判断基準も考えてみる
• AI企業が国や地域ごとのルールにあわせてサービス内容を少しずつ変えていることを意識してニュースを見てみる