Googleの生成AIのGeminiが、何だかトラブっているようです。
実は、Geminiが人種差別するような返答を行ったことで批判を受けていたそう。一体どんな差別的発言が出てきたのでしょうか。
今回は、Google生成AIのGeminiのトラブルについてご紹介します。
GoogleがAIの差別的発言を修正すると発表
Google CEO Sundar Pichai addressed the company’s Gemini controversy Tuesday evening, calling the AI app’s problematic responses around race unacceptable and vowing to make structural changes to fix the problem.
Google CEO calls AI tool’s controversial responses ‘completely unacceptable’
GoogleのCEOであるサンダー・ピチャイ氏によると、「GeminiというAIアプリが、人種に関連する不適切な応答をした。これは受け入れることができない事実だ」と明言しました。
この問題を解決するために、Geminiのシステムを変更をすると発表しました。
Gemini画像作成ツールの一時停止になる
GoogleのGeminiという画像作成ツールが、一時的に使用不可になっています。
その理由は、このツールが不適切な結果を出してしまったからです。
例えば、白人以外の画像を要求されたり、バイキングやナチス、教皇の画像を作成するよう求められたりしたとき、女性や有色人種の写真を使ってしまいました。
多くのユーザーが、この生成結果を不快に感じたとのことです。
Geminiのテキスト応答も差別的発言が続いた
さらに、ジェミニが不適切なテキスト応答を生成していることが発覚し、問題はさらに大きくなりました。
たとえば、イーロン・マスクの社会への影響をアドルフ・ヒトラーと比較するようなコメントが出されたことで、特に保守派の間で厳しい批判を受けました。
これにより、Googleは反白人バイアスがあると非難されました。
なぜGeminiは差別的発言をしたのか
ジェミニのようなAIツールを提供する企業は、濫用を防ぎ偏見を避けるために、特定のルールを設けています。
しかし、OpenAIのような企業が提供する画像生成ツールが、白人をプロフェッショナルな役割で、黒人をステレオタイプな役割で描く画像を生成したときには、批判されることもあります。
GoogleのCEOが謝罪する事態に
GoogleのCEOのピチャイ氏は、一部の応答がユーザーを怒らせ、偏見を示したことを認めました。
彼は、Googleの間違いを正すために、チームが昼夜問わず問題に取り組んでいることを明かし、すでに多くの改善が見られるとのことです。
今後の対策
GoogleがGeminiの問題に対処するために、問題を根本から解決することを目指しています。
構造的な変更、製品ガイドラインの更新、ローンチプロセスの改善、評価とレッドチーム戦略の強化、技術的な推奨事項など、明確な行動計画を推進しています。
世界中の何億人もの人々や多くの企業が使う素晴らしい製品を作るためには、いくつかの大切なことがあります。
その製品がどれだけ役に立つかだけでなく、ユーザーがどれだけ信頼できるかが重要です。
まとめ
AIは、私たちの生活を便利にするためにとても役立つ技術です。
しかし、AIを使うときは、間違いを起こさないように注意深くチェックすることが大切です。
そして、もし間違いがあったときには、すぐに修正することが必要です。これからも、AIの技術はどんどん進化していくでしょう。私たちは、その進化を見守りながら、AIの良いところを活かしていきたいですね。
