公式テキスト著者コラム

生成AIの台頭に伴い、本当に人間が作ったのか？　という疑問が投げかけられることが増えてきています。

2025年2月、VTuberの某氏が、動画サムネイルがAIイラストであるとわかったため、当該画像を別のものに差し替える、とXに投稿しました。しかし同年2月19日には、生成AIによるイラストだと断定できない状態で対応してしまったとして謝罪しています。

この件において、当該画像を制作したイラストレーターは生成AIの利用を否定しています。
前提として、生成AIそのものの是非についての世間一般の結論は出ていません。また、仮に生成AIの利用を禁止または制限するとしても、生成AIを使ったのかどうか、判断が難しいという問題が残ります。

生成AIの中でも画像生成に関しては、技術的な発展に伴い、人間の手によるイラストかどうかを見分けるのが非常に困難になっています。イラストにおいてはその制作過程を保存しておくことや未統合のファイルを開示することが、生成AIではない証明として有効とされています。しかし、一枚の画像から未統合のファイルを作るソフトもあり、可能性を挙げたらキリがない、という状況です。

現状、録画やリアルタイムでの配信が最も有効な手法ですが、すでに作ったものに対して、これらの証明はできません。特にデジタル情報の場合、複製や改ざんは容易です。生成AIではないことを証明するというのは、まさに悪魔の証明といえます。

そして、生成AIの利用そのものに批判が集まることも少なくない中、生成AIを使っていないことを証明しろという風潮は大きなリスクにつながります。VTuberの某氏の件においても、所属タレントのみの問題ではなく、事務所そのものの信用問題にも繋がりかねません。生成AIの利用に対する法律や世間一般の見解が明確に定まっていない中で、このような事態は恐れるべきものです。

よって、リスク管理の観点から、企業は制作のプロセスを把握する必要があります。また生成AIに限らず、盗用・盗作の問題もあります。出来上がった制作物だけでなく、プロセスについても正しく評価、管理できる人材を配置することが有効です。

別の例として、生成AIの利用を部分的に認める手法もあります。
例えば医学関連書の最大手のひとつ、医学書院では『雑誌論文・記事作成時の生成AI使用に関するお願い』（2024年2月15日）のページで生成AIの取り扱いについて決めています。生成AIを使った場合においては、どのように使ったかを開示する必要があります。また、このようなルールは小説の公募でも採用されていることが多いものです。

この手法では生成AIを禁止していないので、生成AIを使ったことを隠匿される可能性は低くなるでしょう。つまり、プロセスを開示することを条件に盛り込むことで、透明性について一定の担保ができます。

生成AIの是非についての結論は未だに出ていません。完全な禁止から、部分的な制限、完全な容認までグラデーションがあります。業界や業種によっても異なります。しかし、いずれにしても誰でも生成AIを活用できる現状において、関わりを完全に絶つことは不可能です。現実的なリスク管理のためには、プロセスをできる限り把握し、必要があれば開示できるようにしなくてはなりません。これはつまり「人間が作ったのか？」という問いに答えられるようにするということです。この問いに答えられることが、企業の信用を守ることにつながります。

参考として、文化庁が公開している『AIと著作権に関する考え方について』（2024年3月15日）は、生成AIに関する著作権問題について46ページにもわたって現状や懸念事項、論点についてまとめています。結論を述べるようなものではないものの、非常に参考になる資料のため、ぜひご一読ください。