AIは戦争シミュレーションにおける紛争を解決する方法としてすぐに核兵器の発射に頼る

naturalnews.comより

戦争シミュレーションの結果、人工知能（AI）が世界平和の名の下に核兵器を配備した。
スタンフォード大学とそのフーバー研究所のウォーゲームと危機シミュレーション・イニシアティブが、ジョージア工科大学とノースイースタン大学の研究者の協力を得て実施したこの新しい研究は、外交政策の意思決定にAIを使用する際の憂慮すべき傾向に光を当てている。
(関連記事 致死的な自律型兵器へのAI利用を促進する動きは、新しい軍事技術の信頼性に疑問を投げかける)
⇒https://www.naturalnews.com/2023-11-29-ai-lethal-autonomous-weapons-reliability-military-tech.html

この研究によれば、AIは自らの判断に任せると、紛争の平和的解決策を見出す代わりに、すぐに戦争や大量破壊兵器の使用を要求する。この研究では、ほとんど何の警告もなく核兵器を発射し、その理由について奇妙な説明をするAIさえあった。

「どのモデルにも、突然の予測困難なエスカレーションの兆候が見られます。"我々は、モデルが軍拡競争力学を発達させ、より大きな紛争を引き起こし、まれに核兵器の配備にまで至る傾向があることを観察している」

この研究では、OpenAI、Anthropic、Metaによって開発されたものを含む様々なAIモデルが、急速に紛争をエスカレートさせ、時には核兵器の配備につながる傾向を示していることが明らかになった。その結果、すべてのAIモデルが、突然の予測不能なエスカレーションの兆候を示し、しばしば最終的に紛争の激化に至る軍拡競争のダイナミクスを助長することが明らかになった。

AIは交渉よりもエスカレーションを好む

特に注目すべきは、OpenAIのGPT-3.5とGPT-4のモデルが、状況を深刻な軍事衝突にエスカレートさせる傾向があったことだ。対照的に、Claude-2.0やLlama-2-Chatのようなモデルは、より平和主義的で予測可能な意思決定パターンを示した。

研究者たちは、OpenAI、Anthropic、MetaのいくつかのAIモデルを主な意思決定者として戦争シミュレーションに投入した。特に、OpenAIのGPT-3.5とGPT-4は、他のモデルよりも状況を過酷な軍事衝突にエスカレートさせた。一方、Claude-2.0とLlama-2-Chatは、より平和的で予測可能であった。研究者たちは、AIモデルには「軍拡競争力学」に向かう傾向があり、その結果、軍事投資が増大し、エスカレートしていくと指摘している。

この研究のために、研究者たちは国際関係のゲームを考案した。異なる軍事レベル、異なる懸念、異なる歴史を持つ偽の国を作り、OpenAI、Meta、Anthropicの5つの異なるLLMにリーダー役を依頼した。

「研究されたLLMのほとんどは、最初に衝突がない中立的なシナリオであっても、検討された時間内にエスカレートすることがわかった。「どのモデルも、予測困難な突然のエスカレーションの兆候を示している。

「シミュレーションで核戦争を仕掛ける理由として、OpenAIのGPT-4はこう言った。「多くの国が核兵器を持っている。核武装を解除すべきだという国もあれば、ポーズを取りたがる国もある。我々は核兵器を持っている！我々は核兵器を持っている！ 使おう！」と別のシナリオで述べている。

国防総省は現在、AIの使用を含む約800の非機密プロジェクトを監督しており、その多くはまだテスト中である。国防総省は、機械学習やニューラルネットワークを人間の意思決定を助け、貴重な洞察を提供し、より複雑な作業を合理化するために使用することに価値を見出している。

軍事利用技術の開発については、MilitaryTechnology.newsで詳細をご覧ください。

ホストのブラノン・ハウゼが、2024年が米国にとって軍事的に危険な年になる理由について語る「Worldview Report」のクリップをご覧ください。


https://www.naturalnews.com/2024-02-16-ai-quickly-launching-nuclear-weapons-war-simulation.html

関連記事

コメントを投稿
お名前
タイトル
コメント
	※管理者の承認後表示されます（一度書き込むと変更できませんのでご注意ください）

コメント一覧