投稿者: OpenAIの安全研究リーダーの一人であったJan Leike氏が、ライバルAIスタートアップのAnthropicに加入することが明らかになりました。Leike氏は、OpenAIが先日解散した「長期的なAIリスクに取り組むスーパーアライメントチーム」を共同で率いていました。Anthropicでは、スケーラブルな監視、（AIが人間の価値観に沿うよう）アライメントを自動化する研究などに取り組む予定です。
AnthropicはOpenAIよりも安全性への配慮という面でリードしていると考えられています。前回Claude 3をリリースする際には、安全性が十分でないという理由で一度リリースを遅らせていることなどもあり、そうした姿勢が評価されています。今回、強力な人材が加入したことで、その評判はさらに上がってきています。
ライバルであるOpenAIの内紛・ゴタゴタを横目に、さらに評価を上げていくことができれば、Anthropicにとって狙い通りの展開となりそうです。Anthropicは、Amazonから最大40億ドルの出資を受けており、Google、Salesforce、Zoomからも資金提供を受けています。
ただ、（もちろん安全性は重要ですが）AI競争がスタートしたばかりで、どこが主導権を握るのかがまだ決定的になっていないこの時期に、開発スピードが遅くなることはできるだけ避けたいところです。特に後発のAnthropicにとって、それは致命的になる可能性もあります。開発スピードと安全性の両方のバランスをどう取っていくのか、Anthropicの舵取りに注目が集まっています。