美擬開發人工智慧軍用武器!未來這將是人類救星還是殺人機器?(上)

美擬開發人工智慧軍用武器!未來這將是人類救星還是殺人機器?(上)

你能想像人工智慧成為殺人武器嗎?水能載舟亦能覆舟,也許我們都應該正視這個問題.

為何我們會想寫這篇文章?

隨著 AI 人工智慧 的蓬勃發展,美國國防部也著急的想將 AI 大規模投入軍事用途,因此已經有越來越多「自動化武器」問世,。但它們究竟是保護人類的盾牌?還是毀滅人類的武器?面對讓人不安的「自動機器」時代,我們能做的是……

 

為什麼 Google 要對國防部說 NO?

【影片一】「Project Maven」是美國軍方的實驗性計畫,利用人工智慧技術分析無人機所拍攝的畫面
(影片來源:Defense One Production)
去年六月的某個週五,Google Cloud 的執行長在例會上宣布:「Google 將在這次合約到期後,結束與美國國防部合作的專案「Project Maven」,不續約,也不會參與國防部的新標案《聯合企業防禦基礎設施》。」這等於直接放棄了價值100億美元的新合約。
「Project Maven」是利用 Google 的雲端 AI 技術,替國防部分析無人機拍攝的畫面,其中也包括臉部辨識。即使公司高層辯稱 Project Maven 僅會用於拯救生命與非攻擊性任務,但員工依然認為這項專案會助長軍事監控、嚴重地侵犯了人權;大喊「Google 不應該發戰爭財!」並引用公司行為守則內「Don't be evil」,超過 4000 名員工連署要求 Google 退出該專案,並有包含高階工程師在內的多名員工憤而離職。
這是 Google 從 20 年前創立以來最大的辭職風波,在內部反對和外界輿論的壓力下,Google 最終作出妥協,放棄了國防部的訂單。
然而,該擔憂 AI 人工智慧  技術的,恐怕不只 Google 員工,是我們每個人都要思考的難題。

 

AI 會殺人?!人工智慧的潛在風險

【影片二】美國空軍退役上校 Gene Lee 是美軍中的頂尖飛行員 (top gun pilot) ,去年六月與人工智慧「Alpha」進行模擬戰鬥,結果經過多次的交戰,「人類」陣營的戰機連番被擊落,而「人工智慧」陣營的戰機則自始至終都沒有折損一架飛機

(影片來源:CNBC)
在世經論壇的年度風險報告中,曾特別點出雖 AI 使用在國防軍事上逐漸增多、且已經有大量資金投入「自主武器」的研發,卻幾乎沒有規範限制。隨著這些「殺人 AI」的思考能力逐漸超越人類,危及人類生存的日子指日可待。
事實上,美國空軍「Top Gun」-退役空軍上校 Gene Lee,不但擁有高超的飛行技術、也是頂尖空中戰術專家,就已完全慘敗給 AI。
辛辛那提大學與美國空軍共同研發的空戰專門模擬 AI 「Alpha」,除了能操控無人戰鬥機、模擬戰鬥場面、部屬作戰計劃外,有任何突發狀況都能在一毫秒內完成演算。
去年六月,Gene Lee 與 Alpha 進行模擬戰鬥,結果經過多次的交戰,「人類」陣營的戰機連番被擊落,而「人工智慧」陣營的戰機則從開戰到結束都沒有折損一架飛機,完美地守住海岸線。
Lee 說:「它似乎知道我的意圖,在我改變飛行和部屬飛彈後立即做出反應。」多次模擬後仍無法打下一架飛機,甚至被擊落好幾次。
目前 Alpha 還只是在實驗室中打模擬戰,但它或許有一天會被帶上真正的天空,運用在國與國之間的戰爭,帶來更多的死亡。
接下集「美國將AI納入軍用!到底人工智慧會成為人類救星還是殺人機器?(下)」,進一步介紹是哪間 AI 公司接手 Google 承接美國國防部的人工智慧軍武專案,以及濫用人工智慧於武器上,未來可能導致的致命結局。面對讓人不安的「自動機器」時代,我們能做的是……


參考連結:

全球首屆元宇宙時裝周,複刻20年前的失敗?

全球首屆元宇宙時裝周, 遇到瓶頸 複刻20年前的失敗? 目錄 元宇宙時裝周參與盛況 叫好不叫座?新興技術的行銷瓶頸 由虛擬實境平台 Decentraland 所舉辦的「元宇宙時裝週」(Metaverse Fashion Week...