GoogleのAI倫理リーダー「大量のテキスト読むAIは駄目」AI部門リーダー「お前の論文は公開基準以下」倫理リーダー解雇。社員1400人抗議

独自入手：グーグルが著名AI研究者を解雇した「問題論文」の中身
https://www.technologyreview.jp/s/227470/we-read-the-paper-that-forced-timnit-gebru-out-of-google-heres-what-it-says/

グーグルのAI倫理チームの共同リーダーであったティムニット・ゲブルが
解雇（グーグルは辞職と説明）されたことは関係者に衝撃を与えた。原因となった論文は、
グーグルのビジネスの中核を支える大規模な言語モデルのリスクを指摘するものだった。
by Karen Hao2020.12.15

12月2日水曜日の午後、グーグルの人工知能（AI）倫理チームの共同リーダーを務めていた
ティムニット・ゲブルは、同社に解雇された旨をツイッターに投稿した。

AI倫理の研究分野における第一人者として名高いゲブルは、顔認識は女性や有色人種を識別する際の
正確性が低く、差別に繋がりうることを指摘した革新的な論文の共著者として知られる。
また、「ブラック・イン・AI（Black in A）」協同グループの共同設立者として、
テック産業内での多様性を推進している。
ゲブルがグーグルで設立に携わったAI倫理チームは、AI分野で最も多様性に富んだチームの1つであり、
各々の分野の第一人者が数多く所属している。
重要な成果を生み出し、それらがしばしばAI分野において主流の手法に対し挑戦的であることから、
同業者らからは羨望あるいは嫉妬の眼差しを受けていた。

ネット上では、ゲブルがグーグルの研究における核心的な面、あるいは公にはできない面の
不都合な真実を明らかにしようとしたために追い出されたのではないか、
と多くのAI倫理分野のリーダーたちが議論している。
グーグルのスタッフ1400人のほかに、1900人の賛同者がグーグルへの抗議状に署名している。

ゲブルの辞職までの経緯の詳細はまだ明らかになっていない。
同氏とグーグルはソーシャルメディアへの投稿以外ではコメントしていないためだ。
しかしMITテクノロジーレビュー編集部は、ワシントン大学で計算言語学の教授を務め、
論文の共著者の1人であるエミリー・M・ベンダーから、問題となった論文を入手した。
初期段階の草稿がインターネットに出回ることは避けたいため
論文そのものの掲載は控えて欲しいとベンダー教授は希望している。
この論文を読むと、ゲブルらが指摘するAIの問題点が見えてくる。
そしてその問題点は、グーグルにとって懸念となり得るものなのだ。

「確率過程的なオウムたちの持つ危険性：大規模すぎる言語モデルは存在すべきなのか」
と題されたこの論文は、大規模な言語モデル、
つまり、凄まじい量のテキストデータを用いて訓練されたAIに伴うリスクを挙げている。
こうした言語モデルはここ3年間でますます人気を博すようになり、
その規模もますます大きくなっている。
適切な条件下では、説得力があり意味のあるように見えるテキストを生成すること、
あるいは言語から意味を推測することに関して、そうしたモデルの完成度は非常に高い。
しかし、ゲブルらは論文の導入部で、
「開発に伴い起こりうるリスクとその対策に関して、十分に検討がなされているかどうかは疑問です」
と述べている。

論文の中身

論文は他の研究者たちの成果を基にしており、自然言語処理の歴史、
大規模な言語モデルが抱える4つの主なリスクの概要、今後の研究についての提案からなる。
グーグルとの揉めたのはリスクについての部分だと思われるので、以下にその要点をまとめた。

環境的コストと金銭的コスト

大規模なAIモデルの訓練には、多くのコンピュータ処理能力が必要であり、多くの電力を消費する。
ゲブルと共著者らは、大規模な言語モデルの炭素排出量と金銭的コストについての
エマ・ストルーベル博士とその共著者らによる2019年の論文を引用している。
同論文によると、言語モデルにますます多くのデータが入力されるようになるにつれて、
同モデルのエネルギー消費量とカーボンフットプリントは2017年から爆発的に増加しているという。

ストルーベル博士の研究によると、
「ニューラル・アーキテクチャー・サーチ（NAS）」という特定の手法を用いた
1つの言語モデルは、二酸化炭素換算量 …

こちらは有料会員限定の記事です。
有料会員になると制限なしにご利用いただけます。