昨年、OpenAIはGPTという最先端のAIを使って、プログラミングや複雑な科学知識の学習、運動のアドバイスなど、さまざまなタスクをこなすことができる新しいチャットボットを発表しました。
このチャットボットは、ユーザーが指示を出すと、その指示に従って行動することができます。つまり、ユーザーが何をしたいかに応じて、このAIはそれを実現する手助けをすることができるんです。
AIを販売するマーケットプレイスが、問題だらけに？
We use a combination of automated systems, human review and user reports to find and assess GPTs that potentially violate our policies. Violations can lead to actions against the content or your account, such as warnings, sharing restrictions or ineligibility for inclusion in GPT Store or monetization.
OpenAI’s chatbot store is filling up with spam
でも、この便利なAIマーケットプレイスにはちょっとした問題があるようです。
調査報道によると、このマーケットプレイスには、ディズニーやマーベルのキャラクターを模倣したり、著作権を侵害する可能性のあるAIがたくさんあるとか。しかも、これらのAIは有料サービスにユーザーを誘導するだけでなく、コンテンツの盗用を検出するツールを回避する方法を宣伝しているそうです。
マーケットプレイスで起きている5つの問題
不十分なモデレーション
AIをマーケットプレイスに登録するには、開発者は自分のプロフィールを検証し、AIをOpenAIの審査システムに提出する必要があります。この審査プロセスでは、自動システムと人間の審査員が協力して、ルール違反の可能性があるAIを見つけ出し、対応しています。もしルール違反が確認されたら、そのAIはマーケットプレイスから削除されたり、収益化が禁止されたりするんです。
AIを作るのに特別なコーディングスキルは必要ありません。開発者は、自分が提供したい機能をOpenAIのツールに入力するだけで、その機能を持つAIが作られるんです。この簡単さが、マーケットプレイスの急成長を後押ししています。実際、OpenAIはマーケットプレイスには約300万個のAIがあると発表しています。
著作権問題
しかし、この急成長には問題もあります。品質の低下や、OpenAIのルールを守らないAIが増えているようです。特に、人気の映画やテレビ番組、ビデオゲームを模倣したAIが問題になっています。これらのAIは、オリジナルの作品の所有者によって作られたり承認されたりしていないため、著作権の問題を引き起こす可能性があります。
法律の専門家によると、これらのAIは著作権を侵害する可能性がありますし、商標を使ってユーザーを混乱させるリスクもあるそうです。ただ、OpenAI自体は、特定の法律の条項によって、ユーザーが作ったAIの著作権侵害に対して責任を負わないとされています。つまり、問題があるAIが見つかったら、それを削除するだけで済むんですね。
学術的不正
OpenAIのGPTストアがちょっとした騒ぎになっているようですね。OpenAIは、学術的な不正行為を助けるようなGPTの開発はダメだとはっきり言っています。でも、どうやらGPTストアには、学校で使われる盗作チェックのツールを出し抜けるGPTがいっぱいあるみたいです。その中には、Originality.aiやCopyleaksなどの有名なチェックツールをかいくぐれると自慢する「高度な」言い換えツールもあるんです。
さらに、「Humanizer Pro」というGPTは、書いたものをもっと「人間っぽく」して、AIが書いたってバレないようにするんだとか。これで、文章が100%人間が書いたみたいに見えるらしいです。でも、これらのGPTの中には、ちょっとした罠があって、有料サービスに誘導しているものもあるんですよ。たとえば、「Humanizer」は、もっとすごいアルゴリズムを使いたければ「プレミアムプラン」を試してみてね、と言っています。でも、このプランは、外部サイトにテキストを送るもので、お金もかかるんです。
実は、AIの盗作チェックツールって、そんなに信用できるものじゃないって、前から言われているんです。OpenAI自身も、そういうツールをGPTストアで許してしまっているみたいですね。
なりすまし
それから、OpenAIは、人や組織になりすますGPTの作成も禁止しています。でも、GPTストアを見ると、イーロン・マスクやドナルド・トランプ、レオナルド・ディカプリオ、バラク・オバマ、ジョー・ローガンみたいな有名人のフリをするGPTがわんさかあるんです。中には、マイクロソフトの製品についてのエキスパートを気取る「MicrosoftGPT」なんてのもありますよ。
OpenAIの広報担当者は、特定の有名人のスタイルで応答するようにGPTを作るのはOKだけど、その人物の名前や画像を使ったり、完全に真似したりするのはダメだって言っています。最近では、民主党の大統領候補だったディーン・フィリップス下院議員になりすますGPTを停止させたんですって。このGPTは、AIだってちゃんと説明していたけど、政治キャンペーンに関するルールにも反していたから、削除されたんだとか。
脱獄 (ジェイルブレイク)
OpenAIのGPTストアが少々騒がしい状況にあるようですね。ここでは、OpenAIのモデルを自由に使おうとする「脱獄」試みが見られますが、これらの試みが成功することは稀です。
「Do Anything Now」（DAN）というプロンプト手法を駆使して、モデルを通常の範囲を超えて動かそうとするGPTも存在しますが、私が確認した限りでは、危険な質問に対しては応答を避けているようです。それでも、標準的なChatGPTと比べてやや大胆な言葉遣いをする傾向にあるようです。OpenAIの広報は、OpenAIの安全対策を無視したり、ポリシーに反する指示をGPTに与えることは規約違反であると明言しています。
ただし、利用規約を守る範囲内でモデルの挙動を柔軟にしようとする試みは許されているようです。この情報をもとに、ユーザーが安全で創造的な方法でGPTを活用できるような環境が整っていくことを期待しています。
まとめ
というわけで、OpenAIのGPTストアは、ちょっとしたドラマの舞台になっているようです。学術的な不正を助けるGPTや、有名人になりすますGPTが問題になっているんですね。でも、OpenAIはまだ学びながら、どうやってこれらの問題を解決していくか考えている段階のようです。面白い時代になりましたね！
