（①はこちら）

　（①はこちら）

　私の母国コスタリカがあるラテンアメリカおよびカリブ海地域は、第三国による核の瀬戸際政策にさらされた後、即座に行動を起こしました。それは、非核兵器地帯化することで安全の確約を求めるという規範的、法的、制度的な対応でした。

　核のリスクは兵器や戦略、条約によってのみ生み出されるものではありません。意思決定者や社会の価値観、さらに政治文化などによって生み出されるものです。

　核のタブーが薄れつつある現状は、他者の命を軽視するナショナリズム的な風潮と無関係ではありません。ナショナリズムは人々の命を不平等に扱い、大量破壊兵器が他者に影響を与えることについて、“ある程度許容できるもの”だと想像しやすくしてしまう。これに対抗するために、タブーは強化されなければなりません。地球の限界、連鎖的効果、深い相互依存が存在する世界にあって“許容可能な核兵器の使用”などというものは存在しないのです。

　私たちに国連という枠組みを残した世代は、エスカレーションの恐ろしさを理解していました。国連憲章の第33条は、紛争が国際の平和を脅かす恐れがある場合に、当事国はまず交渉、仲介、調停等といった「平和的手段」による解決を求めなければならないとうたっています。

　エスカレーションを防ぐ中核的な部分として、私たちは平和的解決を追求するという歴史的・規範的義務を記憶しておく必要があります。

　私の母国コスタリカがあるラテンアメリカおよびカリブ海地域は、第三国による核（かく）の瀬（せ）戸（と）際（ぎわ）政（せい）策（さく）にさらされた後、即（そく）座（ざ）に行動を起こしました。それは、非（ひ）核（かく）兵（へい）器（き）地帯化することで安全の確（かく）約（やく）を求めるという規（き）範（はん）的（てき）、法的、制度的な対応でした。

　核のリスクは兵器や戦（せん）略（りゃく）、条約によってのみ生み出されるものではありません。意思決定者や社会の価（か）値（ち）観（かん）、さらに政治文化などによって生み出されるものです。

　核のタブーが薄（うす）れつつある現状は、他者の命を軽（けい）視（し）するナショナリズム的な風（ふう）潮（ちょう）と無関係ではありません。ナショナリズムは人々の命を不平等に扱（あつか）い、大量破（は）壊（かい）兵器が他者に影（えい）響（きょう）を与（あた）えることについて、“ある程（てい）度（ど）許（きょ）容（よう）できるもの”だと想像しやすくしてしまう。これに対（たい）抗（こう）するために、タブーは強化されなければなりません。地球の限（げん）界（かい）、連（れん）鎖（さ）的（てき）効果、深い相（そう）互（ご）依（い）存（ぞん）が存（そん）在（ざい）する世界にあって“許容可能な核兵器の使用”などというものは存在しないのです。

　私たちに国連という枠（わく）組（ぐ）みを残した世代は、エスカレーションの恐（おそ）ろしさを理解していました。国連憲（けん）章（しょう）の第33条は、紛（ふん）争（そう）が国際の平和を脅（おびや）かす恐（おそ）れがある場合に、当事国はまず交（こう）渉（しょう）、仲（ちゅう）介（かい）、調（ちょう）停（てい）等といった「平和的手（しゅ）段（だん）」による解決を求めなければならないとうたっています。

　エスカレーションを防（ふせ）ぐ中（ちゅう）核（かく）的（てき）な部分として、私たちは平和的解決を追求するという歴史的・規範的義務を記（き）憶（おく）しておく必要があります。

　キューバ危機について語る時、私たちはしばしばワシントンとモスクワを思い浮かべます。まさに同じ危機の最中、日本の沖縄でも恐ろしい出来事が起きていました。

　証言によれば、緊張が頂点に達していた時、沖縄にある核ミサイル基地が実際に発射命令を受信したそうです。しかし、発射は行われませんでした。一人の軍人が直感を働かせたのです。

　彼は防衛準備態勢のレベルに矛盾があると気付きました。さらに彼は決定的な欠陥を認識しました。彼の指揮下にあるミサイルは、主にアジアを標的としていたのです。直感を信じ、彼は発射中止を命じました。

　現在は平和のための施設へと生まれ変わった沖縄のミサイル基地跡に立った時、私は血の気が引くのを覚えました。かつて何百万人もの命が、まさに一本の糸にぶらさがっており、それを救ったのが個人の判断であったという事実に恐怖を覚えました。

　広島と長崎への原爆投下から81年がたち、惨劇の現実は抽象的な歴史へと色あせつつあります。核爆発が実際に何を意味するのかという感情を失うと、私たちは核兵器を単なる地政学的ツールとして扱い始めます。

　被爆者の小倉桂子さんは、軍縮教育の最も重要な要素は想像力、つまり他者の痛みを感じる能力だと強調しました。この人間の想像力を働かせることができる人を増やすことこそ、核兵器を「使わせない」最大の抑止力なのです。

　キューバ危（き）機（き）について語る時、私たちはしばしばワシントンとモスクワを思い浮（う）かべます。まさに同じ危機の最中、日本の沖縄でも恐（おそ）ろしい出（で）来（き）事（ごと）が起きていました。

　証（しょう）言（げん）によれば、緊（きん）張（ちょう）が頂（ちょう）点（てん）に達していた時、沖縄にある核（かく）ミサイル基（き）地（ち）が実際に発（はっ）射（しゃ）命（めい）令（れい）を受信したそうです。しかし、発射は行われませんでした。一人の軍人が直感を働かせたのです。

　彼は防（ぼう）衛（えい）準（じゅん）備（び）態（たい）勢（せい）のレベルに矛（む）盾（じゅん）があると気付きました。さらに彼は決定的な欠（けっ）陥（かん）を認（にん）識（しき）しました。彼の指（し）揮（き）下（か）にあるミサイルは、主にアジアを標（ひょう）的（てき）としていたのです。直感を信じ、彼は発射中止を命じました。

　現在は平和のための施（し）設（せつ）へと生まれ変わった沖縄のミサイル基地跡（あと）に立った時、私は血の気が引くのを覚（おぼ）えました。かつて何百万人もの命が、まさに一本の糸にぶらさがっており、それを救（すく）ったのが個人の判（はん）断（だん）であったという事実に恐（きょう）怖（ふ）を覚えました。

　広島と長崎への原（げん）爆（ばく）投（とう）下（か）から81年がたち、惨（さん）劇（げき）の現実は抽（ちゅう）象（しょう）的（てき）な歴史へと色あせつつあります。核（かく）爆（ばく）発（はつ）が実際に何を意味するのかという感情を失うと、私たちは核兵器を単なる地政学的ツールとして扱（あつか）い始めます。

　被（ひ）爆（ばく）者（しゃ）の小倉桂子さんは、軍（ぐん）縮（しゅく）教育の最も重要な要（よう）素（そ）は想像力、つまり他者の痛（いた）みを感じる能力だと強調しました。この人間の想像力を働かせることができる人を増やすことこそ、核兵器を「使わせない」最大の抑（よく）止（し）力（りょく）なのです。

　現在、いわゆるグローバルな核秩序は極めて悲惨な状態にあり、核軍備管理の構造はほぼ完全に崩壊しています。また、民生用原子力施設への攻撃や、核兵器の使用あるいは使用の威嚇に見られるように、核のタブー（禁忌）は侵食され、核兵器保有国間の敬意、共感、信頼は完全に失われています。このような状況下において、本パネルのテーマは特別な重要性を持つと信じています。

　私は、国連軍縮担当上級代表である中満泉氏の“私たちは幸運にも核の惨禍を免れてきたが、運は戦略ではない”という見解に賛同します。さらに、CNSの同僚の「合理的に考えれば米国とロシアは協力せざるを得ない運命にある」という言葉にも同意しますが、私は単に「私たちが直ちに方針を変えない限り、破滅の運命をたどる」のではないかと危惧しています。

　それでも私にわずかな希望があるとすれば、それは過去の「核のニアミス」から得られた教訓がまだ存在し、それが私たちの未来の行動を導くことができる、むしろ導かなければならないと信じているからです。

　現在、いわゆるグローバルな核（かく）秩（ちつ）序（じょ）は極（きわ）めて悲（ひ）惨（さん）な状（じょう）態（たい）にあり、核軍（ぐん）備（び）管（かん）理（り）の構（こう）造（ぞう）はほぼ完全に崩（ほう）壊（かい）しています。また、民生用原子力施（し）設（せつ）への攻（こう）撃（げき）や、核兵器の使用あるいは使用の威（い）嚇（かく）に見られるように、核のタブー（禁（きん）忌（き））は侵（しん）食（しょく）され、核兵器保有国間の敬（けい）意（い）、共感、信（しん）頼（らい）は完全に失われています。このような状（じょう）況（きょう）下（か）において、本パネルのテーマは特別な重要性を持つと信じています。

　私は、国連軍（ぐん）縮（しゅく）担（たん）当（とう）上級代表である中満泉氏の“私たちは幸運にも核の惨（さん）禍（か）を免（まぬか）れてきたが、運は戦（せん）略（りゃく）ではない”という見（けん）解（かい）に賛（さん）同（どう）します。さらに、CNSの同（どう）僚（りょう）の「合理的に考えれば米国とロシアは協力せざるを得ない運命にある」という言葉にも同意しますが、私は単に「私たちが直ちに方（ほう）針（しん）を変えない限（かぎ）り、破（は）滅（めつ）の運命をたどる」のではないかと危（き）惧（ぐ）しています。

　それでも私にわずかな希望があるとすれば、それは過（か）去（こ）の「核（かく）のニアミス」から得られた教（きょう）訓（くん）がまだ存（そん）在（ざい）し、それが私たちの未来の行動を導（みちび）くことができる、むしろ導かなければならないと信じているからです。

　核戦争寸前の危機の経験は、NC3（核の指揮・統制・通信）の自動化と人間の制御について、何を教えてくれるでしょうか。

　一つの例が1979年と80年のNORAD（北米航空宇宙防衛司令部）の誤警報事件です。この時期、NORADはコンピューターのアップグレードを実施していました。79年11月に事件は起きました。NORADが、ソ連による大規模攻撃の警報を受信しました。後に判明したところでは、技術者が新しいシステムのテスト中に、大規模攻撃のシミュレーションテープをバックアップコンピューターに挿入したままにしており、宇宙通信リレーシステムがダウンした際、稼働中のコンピューターがその偽データを直接、読み込んでしまったのです。

　さらに、およそ半年後の80年6月、別の誤警報事件が発生しました。NORADのコンピューターシステム内にあるマイクロチップの故障が原因で、ミサイル数のカウントにランダムに「2」という数字が挿入されてしまったためでした。

　もう一つの事件は95年のノルウェー・ロケット事件です。ノルウェーの観測ロケットが打ち上げられました。ロケットのステージ分離が、米国や英国の潜水艦発射弾道ミサイルと全く同じタイミングで発生したのです。ロシアの早期警戒コンピューターがSLBMと一致する警報を発しました。

　ここから私たちは、どのような教訓を引き出せるでしょうか。

　第一に、自動化のリスクは新しいものではありません。システムに自動化機能があれば、自動化バイアス（意思決定時間の圧縮）とシステムの複雑性というリスクが伴い、事故の可能性を高めます。

　第二に、人間の判断は重要ですが、人間の制御が必ずしもニアミスを防ぐわけではないということです。これらすべての事件は、人間が制御している最中に起こりました。

　第三に、伝統的なリスク低減策は、新しい自動化リスクに対しても有効です。例えば95年の事件では、ロシアが即時発射の態勢をとっていなかったという事実により、安全性が確保されていました。

　2017年に開かれたアシロマ会議での人工知能（AI）と大量破壊兵器に関する原則を踏まえた議論を紹介して、私の話を終えたいと思います。

　●核兵器の使用に関する決定は人間の意味のある制御下にとどまらなければならない

　●AIシステムは学習データも含めて監査可能でなければならない

　●新しいNC3のシステムは、それが核兵器使用のリスクを確実に低減させることが示された場合にのみ配備されるべきである

　核（かく）戦（せん）争（そう）寸（すん）前（ぜん）の危（き）機（き）の経験は、NC3（核（かく）の指（し）揮（き）・統（とう）制（せい）・通信）の自動化と人間の制（せい）御（ぎょ）について、何を教えてくれるでしょうか。

　一つの例が1979年と80年のNORAD（北米航空宇（う）宙（ちゅう）防（ぼう）衛（えい）司令部）の誤（ご）警（けい）報（ほう）事件です。この時期、NORADはコンピューターのアップグレードを実（じっ）施（し）していました。79年11月に事件は起きました。NORADが、ソ連による大（だい）規（き）模（ぼ）攻（こう）撃（げき）の警（けい）報（ほう）を受信しました。後に判明したところでは、技術者が新しいシステムのテスト中に、大（だい）規（き）模（ぼ）攻（こう）撃（げき）のシミュレーションテープをバックアップコンピューターに挿（そう）入（にゅう）したままにしており、宇宙通信リレーシステムがダウンした際、稼（か）働（どう）中（ちゅう）のコンピューターがその偽（にせ）データを直（ちょく）接（せつ）、読み込（こ）んでしまったのです。

　さらに、およそ半年後の80年6月、別の誤警報事件が発生しました。NORADのコンピューターシステム内にあるマイクロチップの故（こ）障（しょう）が原因で、ミサイル数のカウントにランダムに「2」という数字が挿（そう）入（にゅう）されてしまったためでした。

　もう一つの事件は95年のノルウェー・ロケット事件です。ノルウェーの観（かん）測（そく）ロケットが打ち上げられました。ロケットのステージ分（ぶん）離（り）が、米国や英国の潜（せん）水（すい）艦（かん）発（はっ）射（しゃ）弾（だん）道（どう）ミサイルと全く同じタイミングで発生したのです。ロシアの早期警（けい）戒（かい）コンピューターがSLBMと一（いっ）致（ち）する警（けい）報（ほう）を発しました。

　ここから私たちは、どのような教（きょう）訓（くん）を引き出せるでしょうか。

　第一に、自動化のリスクは新しいものではありません。システムに自動化機能があれば、自動化バイアス（意思決定時間の圧（あっ）縮（しゅく））とシステムの複雑性というリスクが伴（ともな）い、事故の可能性を高めます。

　第二に、人間の判（はん）断（だん）は重要ですが、人間の制（せい）御（ぎょ）が必ずしもニアミスを防（ふせ）ぐわけではないということです。これらすべての事件は、人間が制御している最中に起こりました。

　第三に、伝統的なリスク低（てい）減（げん）策（さく）は、新しい自動化リスクに対しても有効です。例（たと）えば95年の事件では、ロシアが即（そく）時（じ）発（はっ）射（しゃ）の態（たい）勢（せい）をとっていなかったという事実により、安全性が確（かく）保（ほ）されていました。

　2017年に開かれたアシロマ会議での人工知能（AI）と大量破（は）壊（かい）兵器に関する原則を踏（ふ）まえた議（ぎ）論（ろん）を紹（しょう）介（かい）して、私の話を終えたいと思います。

　●核（かく）兵（へい）器（き）の使用に関する決定は人間の意味のある制御下にとどまらなければならない

　●AIシステムは学習データも含（ふく）めて監（かん）査（さ）可能でなければならない

　●新しいNC3のシステムは、それが核兵器使用のリスクを確実に低減させることが示（しめ）された場合にのみ配（はい）備（び）されるべきである