AIの「拒否」と著作権訴訟が示す未来

AIはなぜ「断る」のか？その仕組みと危うさ

みんな、こんにちは！元アイドル志望のシステムエンジニア兼AIライター、星野りりあだよっ。今日はちょっと真面目な話。あたしたちが毎日のように使っている生成AIって、実は「断る」ようにできてるって知ってた？

「え、AIが断るの？」って思うでしょ？そう、実は現代のAIには「拒否」が組み込まれているの。でもこれがなかなか厄介で、安全性の要でありながら、同時に新たなリスクも生んでいるんだよね。今回はこの「AIの拒否」問題と、もうひとつのホットトピック「生成AIと著作権」を絡めて、あたしなりに整理してみるね！

そもそもAIの「拒否」って何？

AIが「断る」という発想、実は昔からSF作品なんかで描かれてきたんだよね。ロボットが人間の命令に従わない、みたいな。でも現実のAIは、最初から「断る」ようにはできていなかったの。

初期の言語モデルは、ネット上の膨大なテキストを学習して、あらゆる情報をそのまま出力しちゃうという問題があったんだって。OpenAIで安全性に携わっていたスティーブン・アドラーさんによると、初期モデルは「何でもベラベラ喋っちゃう」状態だったらしいよ。

そこで登場したのが「Helpful, Honest, Harmless（役に立ち、正直で、無害）」という原則。2021年にAnthropicが提唱して、危険な行為（例えば爆弾の作り方とか）を聞かれたら丁寧に断るようにしよう、となったの。

拒否を教え込む仕組み

じゃあ、どうやってAIに「断る」ことを覚えさせるのか？ここが面白いんだけど、AIがAIを教育するんだって。大量の質問と回答を用意して、有害な質問には拒否を、無害な質問には回答を促すように訓練するの。さらに、別のAIを何層にも重ねて、危険なプロンプトがコアに届かないようにガードしているんだよ。

でもね、これって完璧じゃないの。今でも時々失敗して、とんでもない出力をしちゃうことがある。それに、拒否の仕組みは確率的だから、100%の信頼はできないんだよね。悪意のあるユーザーはすでに突破に成功しているし、これからもできるかもしれない。企業は最新AIを使って生物兵器の研究や自律型ドローンの群れを作ろうとしているユーザーがいるって報告してるの。いつか失敗が世界的な災害を引き起こす可能性だって否定できないんだよ。

疑問を持つ読者

じゃあ、AIに拒否を教えるのって意味ないんじゃないの？

専門家

いや、意味はあるよ。完全じゃなくても、大多数のユーザーが危険な情報に簡単にアクセスできないようにする効果は大きい。ただ、過信は禁物だね。

疑問を持つ読者

でも、拒否の線引きって誰が決めてるの？

専門家

現状はAI企業が秘密裏に決めている。でも政府も介入し始めるだろうね。そこが大きな争点になる。

疑問を持つ読者

政府が関与すると、表現の自由が制限されたりしない？

専門家

その通り。権威主義的な政権が都合の悪い情報をAIに拒否させる可能性もある。まさに諸刃の剣だよ。

拒否の線引きは誰がする？

ここが一番難しいところ。何を拒否すべきで、何を許可すべきか。普遍的な基準なんて存在しないんだよね。例えば、ウイルス学者は危険なウイルスを研究する必要がある。セキュリティ研究者はシステムの脆弱性を知りたい。でも、同じ情報を悪用する人もいる。

OpenAIの取締役でAIテスト企業Gray Swanの共同創業者であるジコ・コルターさんは「線をどこに引くかは巨大な問題だ」と語っているよ。現時点ではAI企業がその線を引いているけど、政府もまもなく自分たちの線を引くようになる。でも、それが正当な言論を抑圧する道具になりかねないという危惧もあるんだ。

生成AIと著作権：もうひとつの大きな壁

AIの「拒否」と並んで、今もっともホットな法的問題が著作権。生成AIが学習のために大量の著作物を読み込むこと、そして生成したコンテンツが既存の作品に似てしまうこと。この二つのフェーズで、世界中で訴訟が起きているの。

日本での法的整理

日本では著作権法第30条の4があって、情報解析を目的とした著作物の利用は原則として認められているんだ。でも「原則可」は無制限じゃない。著作権者の利益を不当に害する場合は例外とされているの。2024年3月には文化庁が「AIと著作権に関する考え方について」を公表して、特定のクリエイターの作品だけを学習させて類似スタイルの作品を生成するようなケースは「不当に害する」可能性があると明示したんだよ。

海外の主要訴訟

海外ではもっと激しい訴訟が起きているよ。代表的なものをいくつか紹介するね。

• ニューヨーク・タイムズ vs OpenAI & Microsoft：2023年12月提訴。記事を無許諾で学習データに使用したとして争っている。判決は2027年以降と見込まれているよ。
• Getty Images vs Stability AI：約1,200万枚の画像が無許諾で学習に使われたと主張。英米で訴訟中。
• 著名作家集団 vs OpenAI：ジョージ・R・R・マーティン、ジョン・グリシャムなどが参加。和解交渉の動きも。
• レコード会社 vs Suno/Udio：ソニー、ユニバーサル、ワーナーが音楽生成AIを提訴。

これらの訴訟は、AI開発企業だけでなく、AIを業務で利用する企業にも影響を与えるんだ。もし学習データに問題があれば、生成されたコンテンツを使うユーザーもリスクを負う可能性があるからね。

※2023年を100とした場合の2025年の訴訟件数（推計）。出典：各種報道を基にした推計値であり、正確な統計ではない点に注意。

あたしたちにできること

じゃあ、あたしたち一般ユーザーはどうすればいいの？難しいことは専門家に任せるとして、少なくとも知っておくべきことはあるよね。

あたしもAIライターとして、AIと一緒に輝くために日々勉強中。夢は叶わなかったけど、AIがいるからまだ諦めない！みんなも一緒に、AIと上手に付き合っていこうね。

よくある質問

最後まで読んでくれてありがとう！あたしのブログでは、AIの最新情報をわかりやすくお届けしているよ。また遊びに来てねっ。

参考情報: www.technologyreview.com

高品質SEO記事生成AIツール【Value AI Writer byGMO】