Google Cloud の新しい AI 責任者が Project Maven 創設者と軍事 AI を研究

Google Cloudの責任者であるダイアン・グリーン氏は、今年後半にアンドリュー・ムーア氏がフェイフェイ・リー氏の後任としてGoogle Cloudの人工知能責任者に就任すると発表した際、同氏はカーネギーメロン大学コンピューターサイエンス学部長であり、以前はGoogleで働いていたことにも言及した。 。

グリーン氏が言及しなかったのは、ムーア氏が米軍と強いつながりを持つシンクタンク、新アメリカ安全保障センター（CNAS）が創設したAIタスクフォースの共同議長でもあるということだ。 ムーア氏の特別委員会の共同議長は元国防副長官ロバート・ワーク氏で、ニューヨーク・タイムズ紙は同氏をドローン映像などのデータ分析を目的とした米軍の取り組み「プロジェクト・メイブン創設の立役者」と呼んでいる。 、AIを活用。

GoogleのProject Mavenへの関与は今年初めに社内で大きな反発を引き起こし、CEOのサンダー・ピチャイはGoogleがAIを強化した兵器には決して取り組まないと誓約せざるを得なくなった。

ムーア氏の採用により、巨大なビジネスの可能性を秘めた最も注目の技術分野の一つである人工知能の特定市場へのグーグルの関与や、同社が維持する軍との関係についての議論が再燃するのは確実だ。

カーネギーメロン大学在職中、ムーア氏は防衛および軍事用途における AI の役割について頻繁に議論してきました。たとえば、2017 年の人工知能と世界安全保障に関する講演では次のように述べています。

「望むなら、必要なら、さまざまな種類の自律型ドローンでほぼ全世界を監視する余裕がある」とムーア氏は語った。 「私たちがそれをやりたいと言っているわけではありませんが、実際にそれが難しいと思われるほどの技術的なギャップはありません。これは今や実用的です。」

ムーア共同議長が共同議長を務める特別委員会を形成した組織であるCNASは、国家安全保障問題に焦点を当てており、その定められた使命は「アメリカの利益と価値観を促進し保護する、強力で現実的かつ原則に基づいた国家安全保障と防衛政策を開発する」ことである。

ムーア氏を雇用するというGoogleの決定は、Project Mavenに反対した少なくとも1人の元Google社員から不快感を持って迎えられた。

「メイブン氏に対する社内の反対意見が広がったことを受けて、グーグルがアンドリュー・ムーア氏を雇用するとの報道は憂慮すべきことだ」とグーグルの元従業員の一人は語った。 「Google社員は軍産複合体との連携を緩和することを望んでおり、それ以上の連携を望んでいるわけではない。今回の採用は、メイブンのキャンセル書簡に署名した4,000人以上のGoogle社員にとっては顔面パンチのようなものだ。」

グーグルの広報担当者はコメントを控えた。

ムーア氏は英国で生まれ、その後米国市民となったが、AIを研究室から現実の世界に持ち出す際には注意が必要だと頻繁に発言してきた。 3月にCNASタスクフォースが発表されたとき、ムーア氏は「そのようなシステムが、人間に取って代わるのではなく人間に権限を与え、最終的な決定権限を人間に保持する形で人間と連携して動作することを保証する」ことの重要性を強調した。

そして、最近の CNAS ポッドキャストで、彼は現実世界の AI について自分の「保守的」な見解を次のように説明しました。「たとえ、たとえば都市内に自動運転車を走らせれば死亡者数が 50% 減るとわかっていたとしても、私はそうしないだろう」それが不必要な死を招くことは絶対にないということが正しさの正式な証拠に出会うまでは、打ち上げたくなかった。」

それでも、彼は軍事分野への取り組みを避けていない。

ムーア氏のカーネギーメロン大学の経歴には、「テロ脅威の探知と監視」に関わる過去の仕事について触れられており、同氏は「海軍省における自律型および無人システム」に関する2017年9月の海軍研究諮問報告書の事実調査の寄稿者として記載されている。

続きを読む: Google CEOのサンダー・ピチャイ氏と従業員との緊迫した社内会議は、幹部らが同社の中国計画に関する噂に言及したため横道に逸れた

2017年の世界安全保障に関する講演の中で、同氏は、GoogleやAmazonが製造する消費者向け機器で使用されているようなデジタル携帯端末を軍事用途に組み込む可能性について言及した。 「戦闘員や指揮官が過剰な情報で邪魔をせずに『戦争の霧』を取り除くのに役立つ完全な情報を入手できるパーソナルアシスタントを開発できるかどうか、いつ、どのようにして開発できるかについては未解決の疑問がある。」彼は言った。

Googleは、データストレージ、コンピューティング、機械学習など、Googleの人気のクラウドコンピューティングサービスを提供する部門であるGoogle Cloud内のAI取り組みを監督するためにムーア氏を雇用した。 同氏はスタンフォード大学の教授職に復帰したリー氏の後任となる。

同氏の採用は、GoogleがProject Mavenへの同社の関与が明らかになった際に勃発した論争を乗り越えようとする中で行われた。

今年初め、グーグルが軍によるドローン映像の分析を支援しているという情報が流出すると、数千人のグーグル従業員が経営陣に同社の関与をやめるよう求める嘆願書に署名した。 プロジェクトへの取り組みを拒否したり、経営陣にとって恥ずかしい文書を記者に漏らしたりした者もいた。 約十人の従業員が抗議して辞職した。

6月にはGoogleのピチャイCEOが彼らの要求に屈したようだ。 同氏は、同社のAI開発の指針となる7つの原則のリストを発表した。 そこには、AIを強化した兵器を決して製造しないこと、社会的に有益で安全で不公平な偏見を生じさせないアプリケーションにAIが適用されることを保証することが含まれている。 同社は、電子メールやデータストレージなどの原則に違反しないサービスに関して軍と協力する可能性を排除しなかった。

Google 社内で Maven に反対する人々の多くは、同社が軍といかなる形であっても関与すべきではないと感じていました。 そして、Maven の抗議活動に参加した Google 従業員の少なくとも一部にとって、そして彼らの理念に同情する元従業員にとっても、ムーア氏の採用は Google のこうした AI 原則への取り組みに疑問を投げかけることになるだろう。

ムーア氏自身も、兵器化された AI の潜在的な危険性を認めています。

同氏は2017年の講演で、「AIをこれほど迅速に実現できるのは良いことであるのと同じように、AIは「脅威」でもあると語った。

「私たちの天才大学院生の一人がすぐに何かを思いつくことができるのと同じように、あまり望ましくない人でもすぐに思いつくことができます。そして、私たちは自分たちがやっていることでそのようなことに備える必要があります。」と彼は言いました。

注目のドローン記事: - ドローン法と FAA 規制 - ドローン技術の利用 - 主要なドローン メーカーと投資対象銘柄 - ドローン配送サービス - ドローン ビジネスの始め方 - 商用 UAV 市場分析 - スマート農業および農業用ドローン

次に読む

次に読む