ドローンが「知性」を持ち始めた。止めるなら今だ

国際ニュースまとめ

＜顔認識機能とAIを搭載したトルコのドローン「Kargu-2」は、標的を自ら発見して追跡・殺害することに成功した可能性がある＞ 映画『ターミネーター』シリーズでは、アーノルド・シュワルツェネッガー演じるスーパーロボットが、人間の標的を追い回して殺そうとする。1980年代の公開当時、これは現実にはあり得ないSFの世界の話だった。 だが今や殺人ロボットによる標的の追跡は現実になり、さらにはこうしたロボットが売買されて戦場に配備されている。ただし殺人ロボットといっても、映画に出てくるようなサイボーグではない。自律型の殺人ドローンだ。 トルコが新たに開発したクワッドコプター型ドローン「Kargu-2」は、顔認識機能とAI（人工知能）を使って人間の標的を自ら発見して追跡し、殺害することができるとみられている。これが本当なら、人間による遠隔操作が必要なドローンから大きな技術的飛躍を果たしたことになる。 ■AIを使って初めて自律的に人を殺すことに成功したと言われれるKargu-2 国連安全保障理事会は3月に発表した報告書の中で、2020年3月のリビアでの戦闘でKargu-2が人間の標的を追跡して攻撃したと指摘した。報告書によれば、Kargu-2は撤退していく後方支援部隊や軍用車両を追跡し、「操縦者とのデータ接続を必要とせずに攻撃を行った」可能性があるという。 以前よりも入手しやすくなり、機能も急速に向上しているドローンは、人類全体に幾つもの差し迫った課題を突きつけている。 戦闘能力に新たな「非対称」をもたらす 国際社会がその開発や売買の中止に合意しなければ、ならず者国家から小規模な犯罪組織、さらにはサイコパス的な単独犯に至るまで、誰でもKargu-2のような自律型殺人ドローンを入手し、使えるようになる日も近いだろう。殺人ドローンが大量に出回れば、技術的に進んでいる国々が開発した対テロ防衛技術が意味をなさなくなる。 それに戦争に新たな力の不均衡を生み出すことで、自律型殺人ドローンが、数多くの地域の平和を不必要に乱すことになりかねない。手頃な価格のドローンが広まりつつあることで、安定している地域を簡単に戦闘地域へと一変させることができるようになるのだ。 殺人ドローンの誕生と急速な広まりはしかし、何ら驚くことではない。何十年も前から、軍による最新技術の導入を上回るペースで消費者技術の開発が進められてきた。ドローンは基本的に「回転翼のついたスマートフォン」であり、現在入手可能な消費者向けドローンは、スマートフォン技術の急速な発展の副産物だと言える。消費者向けドローンは3次元へのアクセスを可能にし、食料品や医薬品の配達など新たな商業機会を生み出している。 ===== だがドローンに（たとえば急速に進歩している顔認識機能とAIを組み合わせることで）人間並みの認知能力を与えれば、さほどの大物ではない独裁者やテロリスト、凶暴な10代の若者などが、米軍が使用しているような高価なドローンの何分の一かの値段で、強力な兵器を手にすることができるようになる。 そのようなドローンの開発に対抗するための具体的な措置を今すぐ取らなければ、安価なドローンを自律型の殺人兵器にする方法が、近いうちにインターネット上で公開されることになるだろう。 これまで、AIを使ってモノや人の顔を正確に識別することは難しかった。画像に文字を追加してわずかに変更するだけで、アルゴリズムに混乱が生じやすいためだ。たとえば画像認識システムにリンゴを果物と識別させるための訓練では、リンゴに「iPod」と印刷した小さな紙片を貼り付けただけで、システムが簡単に騙されてリンゴをiPodと識別した。香港の民主化デモの参加者たちは、政府の顔認識システムを混乱させるために顔にペイントを施した。 AIを搭載した認識システムは、霧や雨、雪やまぶしい光などの環境要因によって大幅に精度が落ちる可能性もある。そのため現在の開発レベルならば、ドローンに対する防御として、比較的簡単な対策で認識システムを混乱させることができるかもしれない。 だが巻き添え被害や罪のない犠牲者を出すことをなんとも思っていない者たちにとって、システムの精度はさほど大きな問題ではない。彼らが飛ばすドローンは、どのみち標的（とおぼしき対象）を殺害するようにプログラムされている可能性がある。 911同時テロさえ色褪せるような被害 それに、個々の標的に狙いを定めるドローンに対してどんな防御策を取ったところで、ドローンが新たな大量破壊兵器として配備されるのを阻止できるわけではない。爆発物を搭載したドローンの大群がスポーツイベントや都市部の人口密集地域に突っ込んで爆発すれば、多くの死者が出ることになるし、それを阻止するのは難しいだろう。 現在複数の企業が、危険な飛行物体やドローンに対抗するシステムを販売しており、進歩的な軍では既に、ドローンの制御システムを妨害する対抗措置を導入している。だが今はまだ、ドローン1機を撃墜するのも難しい状況だ。 イスラエルが最近、ドローンを航空機から破壊できるレーザー兵器の実験に成功したが、ドローンの大群をまるごと撃墜するのは、まだ非常に難しい。そして新世代の自律型ドローンに対抗するには、通信を遮断するだけでは不十分だ。無用の混乱や被害を回避するためには、これらのドローンを安全に着陸させるための方法を開発することが不可欠だ。 自律型ドローンは、大きな被害をもたらすことを重視している集団にまったく新しい可能性を開くものとなる。一日で100カ所に攻撃を行うことができれば、9・11同時テロさえ色褪せて見えるような被害がもたらされることになる。 ===== 殺人ドローンに攻撃されるリスクはどの国にもあるが、第一弾として最も被害に遭う可能性が高いのは、国境警備が甘く法執行機関が弱い、貧しい国々だ。殺人ドローンを使った戦いは、まずはアメリカよりもアフリカで展開される可能性が高く、犠牲者もより多くなる可能性が高い。 新たな自律型飛行兵器を製造している各企業は、自社製品を激しく売り込んでいる。アメリカと中国はこれまでのところ、完全自律型の兵器の開発および製造の禁止を支持していない。これらの兵器メーカーや新たな殺人ドローンを戦場に配備している各政府の正統性を、暗に認めているのと同じことだ。 このようなドローンが役に立つこともあるのも確かだ。自律型・半自律型ドローンは、戦闘地帯の情勢を変えるのに利用されてもいる。たとえばシリアでは、反政府勢力がドローンを使って（政府軍が使っている）ロシア製の装甲車両を攻撃。安価なドローンを使って、数百万ドルの戦車を破壊している。 しかし、ドローンを有利に使えることのメリットよりも、それが悪意ある者たちの手に落ちて、きわめて精度の低い大量破壊兵器として配備されることのリスクの方が、はるかに大きい。 私たちの行動が未来を変える 無人航空機をはじめ、あらゆる類の殺人ロボットの開発や販売を世界中で停止させるのに、遅すぎることはない。それを実現するためには、複数の超大国が戦略変更を求められることになる。 開発や販売の停止は攻撃システムのみを対象として、あらゆる類の対ドローン防衛システムの開発・販売は許可されるべきだ。そして禁止措置の一環として、裕福な国の政府は、より貧しい国による対ドローン防衛システム購入に資金援助を検討し、また彼らにドローンの大群を打ち負かす方法を教えていくべきだ。ドローン技術は、人類が一丸となって対処すべき、世界規模の問題なのだから。 映画『ターミネーター』シリーズの中では、殺人ロボットは最終的には破壊される。だが現実には、AIを建設的な目的のためだけに使用させるための闘いは今後も続き、決して終わることはないだろう。 AIが殺人ドローンに導入されたことは、AIがもたらし得る混乱を綴った分厚い本の短い第一章にすぎない。私たちが行動を起こすのか、それともその本を閉じてしまうかによって、子どもたちに受け継いでいきたい未来の種類が変わってくる。 その未来は、あらゆる場所に死の不安があるターミネーター型の混乱の世界になるのだろうか。それとも、テクノロジーを紛争や暴力よりも社会を良くする活動や繁栄のために役立てようと人類が団結して取り組む、スタートレック型の世界になるのだろうか。 From Foreign Policy Magazine ===== ■AIを使って初めて自律的に人を殺すことに成功したと言われれるKargu-2

Source：Newsweek
ドローンが「知性」を持ち始めた。止めるなら今だ