投稿者: 先日開催されたGoogle I/Oで発表された「AI Overview」機能が、誤った情報を生成したことで批判を浴びています。この機能は、検索結果の上部にAIが生成した要約を表示するもので、Perplexityなどの人気サービスに追随したものとして注目を集めていました。
しかし、AI Overviewは、「ピザのトッピングに接着剤を使用する」「毎日石を食べるべき」といった不適切な提案や、「バラク・オバマ氏がアメリカ初のイスラム教徒大統領である」などの誤情報を表示することが明らかになりました。これらの誤りは、AI Overviewがウェブ上の情報を合成する際に、誤った情報源を拾ってしまうことが原因と考えられています。
Googleは、大部分のAI Overviewは高品質な情報を提供しており、問題のある回答はまれなクエリに対するものだと説明しています。また、コンテンツポリシーに基づき、迅速な対応を取ると述べています。しかし、Googleは今年2月に発表された画像生成AIツールでも同様の問題を起こしてして、今回が2度目となります。
AI Overviewの問題は、生成AIの急速な発展に伴い、誤情報やバイアスの問題が深刻化していることを示しています。Googleは、AI倫理の専門家チームを解体するなど、AI倫理への取り組みが不十分であるとの批判も受けています。
GoogleのAI Overviewは、一般の人々にAI技術を普及させる重要な機会でしたが、今回の問題でGoogleに対する信頼性は大きく損なわれました。一度失った信頼を取り戻すのは容易ではないと思われます。AI技術の急速な発展に伴い、AI倫理や責任あるAI開発の重要性が改めて問われています。Googleには、AI Overviewの問題を早急に解決し、ユーザーの信頼を回復するための努力が求められています。