投稿者: 米国ニュースメディアのThe Informationが8月27日に報じたところによると、OpenAIが「Strawberry」と呼ばれる新しいAIモデルの開発を進めているとのことです。このプロジェクトは以前「Q*」(Q-Star)として知られていたものです。
Strawberryの主な特徴は、複雑な数学問題やプログラミングタスクに取り組める能力、訓練を受けていない数学問題も解決できる能力、マーケティング戦略の立案や複雑な言葉のパズル解決などの高度なタスクを実行可能な能力、「深い研究」と呼ばれる自分で出した回答を検証する能力を持つことなどが挙げられています。特に高度な数学のベンチマークテストでは90%以上のスコアを達成し、GPT-4の53%やGPT-4oの76.6%を大きく上回ったとされています。
Strawberryの開発には主に2つの目的があるとされています。1つ目はAIの「ハルシネーション」(誤った情報の生成)問題を克服すること、2つ目は次世代の大規模言語モデル「Orion」の開発を支援することです。
OpenAIはStrawberryを使って生成した高品質な合成データを使って、「Orion」のトレーニングを行なっていくとされています。Strawberryは高度な推論能力や自己改善型の学習アプローチなどを用いて、現実世界のデータの複雑な構造や関係性を深く理解し、それを正確に反映した高品質な合成データを生成することができる、と考えられています。
Strawberryそのものはかなり大規模で実行するのに重たいモデルであると言われていて、その少し軽量化したモデルを今年の秋ごろにChatGPTに搭載する予定、とのことです。