OpenAI批判の元幹部、ライバル企業アンソロピックで安全面の取り組み継続

生成AI（人工知能）のChatGPTを手がけるOpenAI（オープンAI）の元幹部で安全面での取り組みを支えてきた研究者のヤン・ライクは5月28日、同業の米Anthropic（アンソロピック）に加わったと

。OpenAIが長期的な安全性よりも利益を優先しているとの批判をかわす中で、ライクは安全面に関する懸念からOpenAIを辞めた。それから2週間もたたずしてのライバル企業への移籍となる。

OpenAI共同創業者のイリヤ・サツケバーとともに最近まで同社の長期的な安全プログラムを率いていたライクは、アンソロピックで「スーパーアラインメントのミッションを継続することに興奮している」とX（旧ツイッター）に書き込んだ。

スーパーアラインメントとはAIの長期的な安全性を確保することに特化した研究分野だ。まだ実現されていないAIの一種で、人間を凌駕する可能性のあるスーパーインテリジェンス（超知能）を制御可能なものにし、人間の価値観に沿って動き、最終的に暴走して人類に危害を加えないようにすることを目的としている。

ライクは、新しいチームとともに「拡張性のある監視や一般化の促進、自動化されたアラインメントの研究に取り組む」と語った。こうした内容はOpenAIで取り組んでいたものと類似する。

OpenAIは人類に利益をもたらし、AIの長期的な安全性を確保することに専念するAI企業という位置づけを設立当初から模索してきた。近年、OpenAIに対しては、高度なAIの危険性を懸念する社外の人々と、同社に密接に関わる人々の両方からますます厳しい目が向けられている。

密接に関わっている1人が、富豪でOpenAIの共同創業者であるイーロン・マスクだ。マスクは、OpenAIが大きな利益が得られるマイクロソフトのような企業との取引を追求することを優先し、創業時に掲げていたオープンソースという使命を放棄したとして、OpenAIのサム・アルトマン最高経営責任者（CEO）を公然と批判している。

2024-05-29 20:17:16