Googleが自社技術に関する論文を前向きな論調にするよう研究者に求めていることが判明

Googleが、社内の研究者による人工知能(AI)についての論文に対しての査読で、論調を前向きなものにするよう求めていたことがわかりました。Googleの社内査読をめぐっては、「論文の内容を撤回するか、辞任するか」と求められた倫理的AIチームのリーダーが撤回を拒否する一件があり、このリーダーを解雇したことで、社内外から大きな非難の声が挙がっていました。ロイター通信が内部の関係者から得た情報によると、Googleは2020年6月から「際どい話題」についての査読を導入し、これまでに少なくとも3つの事例で、技術を否定的に扱うことを控えるよう著者に求めたとのこと。

コンテンツをユーザーに薦める技術に関する研究の著者は、2020年夏に研究内容を発表するにあたって、Googleのシニアマネージャーから「前向きな論調になるように、細心の注意を払ってください」と声をかけられました。この論文ではYouTubeについて言及していましたが、最終的に、Googleの製品について言及した部分はすべて削除することになったそうです。

Googleが「技術に害を及ぼす可能性のある重大な研究」に干渉し始めていると感じている研究者のマーガレット・ミッチェル氏らは、「我々が専門知識に基づいて適切なものを研究しても、高品質な査読に沿わないという理由で公表を許されないのであれば、『検閲』という深刻な問題に直面しているということです」と危機感をのぞかせています。

ミッチェル氏らが所属する倫理的AIチームを率いていたティムニット・ゲブル博士は、社内査読において論文撤回を求められ、「論文について議論を深めないのなら辞任する」と撤回を拒否。社内の多様性問題などについて同僚に相談するメールを送ったことと合わせて問題視され、解雇されました。

Googleが倫理的AIチームのテクニカルリーダーを解雇 - GIGAZINE