| 画像生成ＡＩからアーティスト作品を守る！
Ben Y Zhao教授に聞く。 |
|
三半世紀に亘るＡＩ研究の結果、対話型ＡＩ「チャットＧＰＴ」、 画像生成ＡＩ「ステイブルディヒュージョン」などが開発され、 デジタル社会の将来図とともに、問題点も見えてきました。 
そんな中で、「画像生成ＡＩからアーティスト作品を守る」ソフトが開発されました。 シカゴ大学でコンピューター・サイエンスを教えるベン・ジャオ教授は、画像生成AI（人工知能）からアーティストの作品を守るためのソフトウェア「Glaze（グレーズ）」をつくりました。AIによるセキュリティーやプライバシーを長年研究してきたジャオ氏に、生成AIの課題を聞きました。  ――グレーズはどういう経緯で作ったのですか。 「私はこの数年間、AIの機械学習について、セキュリティーやプライバシー面での研究をしてきました。3年ほど前、顔認識技術によるプライバシー侵害の懸念が高まり、『Fawkes（フォークス）』というツールを開発しました。 Image "Cloaking" for Personal Privacy 米国のベンチャー企業『クリアビューAI』などから利用者を守るためです。これらの企業は、ネット上に公開されているあなたがた個人の写真を数十億枚集め、同意を得ずに顔認識技術を開発していました。 昨夏、このときにつくったメーリングリストに、『フォークスをアート作品の保護のために使えないか』というメールを受け取りました。当初は少し困惑したのですが、その3カ月後ぐらいから、画像生成AI『ステーブル・ディフュージョン』や『ミッドジャーニー』などの報道を目にするようになった。そこでようやく彼らの懸念がわかり、連絡を取りました。 ――アーティストとはどんな話をしましたか。 「（生成AI企業を訴えたアーティスト）カーラ・オルティスさんたちが主宰したイベントに行って、多くのアーティストから直接話を聞きました。いかにAIが彼らの収入や評判に影響を与えているか。いかに多くの人たちが状況を危惧しているか。彼らの話を聞いて、これは現実の問題だということだけではなく、急を要する喫緊の問題だと気づいたのです。その後、すぐにグレーズの開発を始めました。  ――グレーズについて教えてください。 GLAZE: ぱっと見にはわからないノイズを画像に追加することで、拡散モデルを用いたスタイルの模倣を困難にする仕組みです。 「グレーズは、人間の目でものを見る場合と、AIが機械学習で画像を認識するときの『差』を利用しています。人間は紫外線が見えないし、超音波も聞こえませんが、犬は聞こえるのと似たような違いです。この違いはAIモデルに対する攻撃にも使われてきたため、私はこの『差』を埋める研究をしてきましたが、根本的な違いは埋めることができません。グレーズはこの違いを使っています。 グレーズのソフトを使って画像をアップロードすると、データに修正を施します。修正された画像は肉眼ではほとんど違いがわかりませんが、AIはまったく違う画像として認識するのです。たとえば、白黒のポートレート写真を加工すると、人間にはほとんど違いがわからないものの、AIにはゴッホの油絵のような抽象画として認識されます。生成AIに『カーラの画風に似た絵をつくって』と指示しても、カーラの画風とまったく違う画像がつくられる。アーティストが自分の作品が生成AIの訓練に使われることを気にせず、ネット上で公開することができます。 
［ 画像生成ＡＩ撃退法 ] | ||