米サンフランシスコベイエリアのAIスタートアップGroqは、Meta社のLlama-3をベースにしたツール利用に特化した2つのオープンソースAIモデル「Llama-3-Groq-70B-Tool-Use」と「Llama-3-Groq-8B-Tool-Use」を発表しました。これらのモデルは、Berkeley Function Calling Leaderboard(BFCL)において、GPT-4 TurboやClaude 3.5 Sonnetなどの既存のモデルを上回る性能を達成しています。
70BモデルはBFCLで90.76%の精度を達成し、オープンソースおよび商用モデルの中でトップの性能を示しました。8Bモデルも89.06%の精度で3位につけています。これらのモデルは、関数呼び出しやAPI連携などのツール利用タスクに特化しており、外部のアプリケーションと協働して動くときに能力を発揮するようになります。
これらのモデルはLlama-3と同じくオープンソースで公開されており、誰でも自由に利用することができます。これらのモデルを利用し、様々な分野でAIと連携したアプリケーション開発が加速することが期待されます。
Groqは、これらのモデルのさらなる改良を進め、今後BFCLのスコアをさらに向上させていく、としています。
Groqは、元GoogleのエンジニアでTPUの設計者の一人、ジョナサン・ロスと、ダグラス・ワイトマンにより2016年に創業されました。2021年のシリーズCラウンドでは、Tiger Global ManagementとD1 Capital Partnersが主導するラウンドで3億ドル(約470億円)を調達し、企業評価額は10億ドル(約1570億円)を超えています。
Groqは独自のAIチップ「Language Processing Unit(LPU)」を開発し、AI推論の高速化に特化した技術を提供する企業として急速に成長しています。
イーロンマスク率いるxAIが開発している大規模言語モデル(LLM)の「Grok」と名前が類似していますが、別の会社であることも付け加えておきます。