国際法学会エキスパート・コメントNo.2020-10
福井 康人（広島市立大学広島平和研究所元准教授）
脱稿日：2020年6月9日
１．はじめに
特定通常兵器使用禁止制限条約（CCW）の枠組みで、現時点では存在しないものの過去7年間にジュネーブ国連本部（UNOG）で規制の検討が行われているのが、自律型致死性兵器システム（LAWS）と呼ばれ、市民団体からは「殺人ロボット」と呼ばれているものです。このLAWSについては自律的に行動し、致死的な殺傷能力を有するといった点が概ね共通理解とされており、主要国や赤十字国際委員会（ICRC）がいくつかの定義例を提唱しているものの、国際的に合意された定義はありません。このため、一連の会議でも作業上の定義を先ず検討することが行われています。しかしながら、CCW締約国会議の決定に基づき、2014年から非公式協議として、過去3年間は政府専門家会合に事実上格上げされて、正式に検討されており、市民団体のみならず、大学・研究機関のアカデミアを含む、CCW締約国以外の代表団を含めて議論が行われました。その結果、昨2019年締約国会議で今後の議論の指針が7年目にして漸く採択されました。
このような長年の議論の進展が遅いことにいら立ちを見せる国もあり、国際市民団体連合もそうした考えに同調する傾向があります。しかしながら、ジュネーブ軍縮会議と同様、コンセンサス方式で意思決定が行われるCCWの枠組みのなかで、各締約国が夜中まで議論し、表決でいわば「力ずく」で決定されている訳ではなく、関係国がぎりぎりの努力をして決定されたともいえます。
この会議で採択された指針のベースは、昨年のLAWS政府専門家報告書の第III章「新たな共通性（Commonality）、結論及び勧告」の第3節「ありうる指針（possible guiding principle）」を独立させたものです。それ以外の修正された部分は、その標題がCCWの名称を反映させた他に、新たな項目（c）として人間・マシーンの相互作用のパラが加筆されたのみです。（ｃ）項は関係国間で激論の結果挿入されたもので、これは米国が以前から国防省指令を根拠に、戦闘時において兵器による殺傷力を行使する際には、人の判断がその前提にあるべきとの考え方にも合致しており、人間の判断を経ずして、AI兵器のようなロボットのみの判断で人間が殺傷されて倫理上の問題を惹起しかねないとする市民団体の懸念にも応え得るものです。
２．議論の指針の合意
今般、新たに報告書附属として新たに採択されたことで、同文書を改めて分析してみます。一部の報道ではLAWSを巡っての新たな規則が制定されたと報じるものもありました。この指針はコンセンサス合意で採択されているものの、2020年のCCW締約国会議及び2021年CCW運用検討会議に向けて今後の「議論の方針」を示すものであり、何ら確定した規則ではなく、同指針を今後さらに発展させることが期待されます。即ち、来年以降の計画とともに同指針が11月に開催された締約国会議でエンドースされ、この指針は2020年及び2021年に政府専門家会合により、更に発展・改善され、法的、技術的、及び軍事的な側面について検討が進み、2017年、2018年及び2019年の報告書の結論を基に議論の精緻化が期待されています。指針冒頭には「国連憲章、国際人道法や適切な場合には倫理と言ったものに従って作業が継続され、」とか、「自律型性致死性兵器システムの分野における新たな技術により、国際人道法に対して生じる潜在的な挑戦に対して将来の議論の結果に予断を与るものではない」との条件が付されています。
このような条件付きの指針ですが、先ず（a）項は国際人道法が例外なく全ての兵器システムに適用されて、LAWSの開発のみならず使用を含めて適用対象になります。LAWSはいわゆる無人兵器ですが、途中で自律的に稼働するべく設計されても、最初に稼働させる局面ではオペレーターがスイッチを作動させる必要があります。また、万が一LAWSに誤作動が生じて想定外の作動をすると、人的又は物的損害を最小限にするため、兵器システムを緊急停止させる装置も必要になるでしょう。（b）項はLAWSの説明責任は（自律的に稼働している時であっても）常に人間側にあるとすておりますが、ここでは国家責任法等で使用される法的責任を意味するresponsibilityよりも、より範囲が広いaccountabilityの用語が使用されていることに留意が必要です。というのはLAWSの多面性を反映させようとするがゆえに意図的にこのような表現が使われる時もあり、他方で、こうした用語の微妙な違いが意識されずに使用されている場合もあり、どのような文脈で使用されているか注意する必要があります。
また、特に（c）項は、2019年8月29日の朝日新聞の特集では「人間と機械の意思疎通」として、人間とAIなどが十分に意思疎通の出来る技術が確立すれば、国際人道法に沿う、いわば合法的なLAWSが実現する可能性を発想のベースに起草されたとされています。即ち、LAWSがほぼ自律的に稼働しても、人間とのインターフェースが何らかの形で確保されていれば、LAWS稼働中に重大なエラーが発生した場合や第三者にコントロールを奪取されても、事態を是正し、コントロールを取戻し、場合によっては機能停止も必要になります。特にLAWSは通常兵器の一形態を開発されることを想定して議論が行われてきたものの、こうしたAI兵器の頭脳が特に大量破壊兵器の制御に使用される可能性も否定できず、いわば何らかの「縛り」がかかることは重要でしょう。
（d）項は、（b）項の趣旨とも若干重複しますが、「責任のある人間による命令及び指揮系統の範囲内で、このようなシステムの運用を通じて」確保されることが強調され、伝統的な国際人道法の適用のためにはこうした構図が維持されることが重視されています。続く（e）項は、ジュネーブ諸条約第一追加議定書第36条の内容を示しており、新たな兵器の合法性審査があいまいな部分を含むもの、重要な原則であると位置付けました。また（f）項はテロリスト・グループによる取得のリスクと言うLAWSの不拡散の懸念についてです。特に遠隔操作される無人兵器であることから、ハッキング又はデータのスプーフィング攻撃と言った事例も具体的にあげられ、（g）項では具体的な脅威のリスク・アセスメント及びリスク低減措置の必要性があげられています。
（h）項ではLAWSの関連で新たな技術の使用時には、国際人道法及びその他の国際的義務に合致する必要があるとされています。また、（i）項は義務と言うよりも、LAWSの議論では、どうしても映画「ターミネーター」等の影響があり、擬人化され議論されることが多いために、擬人化を想定した議論を排除すべく注意喚起されています。この点は重要で、まるで人造人間が製造され、あたかも戦闘員の如く人間を追尾して殺傷するシーンが繰り返しSF映画等で使われる傾向があり、会議がそのようなイメージに影響されないようにする上で重要です 。更に（j）項では「電算機により制御された自律的技術の平和的利用へのアクセス」が謳われており、LAWSを巡る新たな技術の多くがデュアル・ユースであることに鑑み、その平和的利用の権利が妨げられないためのものです。最後に（k）項はCCWがLAWSの問題を取り扱う最も適切な枠組みであるとともに、議論を更に進める上で、軍事的必要性と人道的考慮のバランスの均衡の重要性を強調します。
最終的にCCW締約国会議では、報告書の指針のみが採択され、議長が現場での議論を取り纏めた文書は、更に議論が必要とされ、今後の検討材料として使用されることになりました。CCW関連会合は主要な補足議定書ごとに日程が決まっており、2019年は11月11日から13日までに、CCW第V追加議定書締約会議、11月12日はCCW改正議定書II締約国会議が、最後に13日から15日までの期間にCCW締約国会議が開催されました。GGEの勧告は、①採択された指針を承認すること、②2021年に開催予定の第6回CCW運用検討会議に向けて、2020年は全体で2週間の会期に合意することが出来ました。この問題はCCWの分担金回収率に直結し、行財政問題が密接に関連します。なお、分担金支払いについては報告書でも取り上げられ、任意の運転資金ファンド設立も決定され、より円滑なLAWS関連会議の開催が可能となりました。
3．結びにかえて
もっともAI兵器については世界的に関心が高まる中で、政府専門家会合は具体的な成果を2021年運用検討会議までに出すことが期待されています。今後も政府専門家会合が定期的に開催され、日本に対しては伝統的に技術面での期待が高いこともあり、関係省庁及び傘下の研究者や学識経験者等も動員しつつ、目に見える貢献が期待されています。
ちなみにAIについて、理系研究者の方の意見を伺うと、殆どの方がAIの目覚しい発展振りを認めるとともに、意外に我々の予想を超えた速度で今後も高度化する可能性を示唆していました（ディープラーニング等）。その一方で、ロボット工学のハードウェアの専門家は、現実問題としてAIといった機器の制御部分の進歩の可能性を認めつつも、例えば人間の腕をモデルに作動するロボットを作成する場合でも、相当多くのモーターにより腕の動きを再現したうえで、これらを正確に同期させた上で作動させる必要があり、今日のロボット工学のレベルでは容易でなく、ソフトウエアの進歩にハードウェアの進歩が追随できないと複数の工学者が認めました。筆者も実際に身体機能を補助するロボットを装着した経験がありますが、腰部から上肢にかけての限定された動きの補助により歩幅を確保することには有益ですが、更なる軽量化が必要で、ある程度身体機能がしっかりしている人でないと実用レベルで使用できず、民生用のロボット開発も現実には容易でないことがわかます。LAWSの議論も現実には議論だけで終わりかねない側面がある一方で、AIの進歩は目覚ましいとの一見矛盾した現状があるといえます。