你能想像人工智慧成為殺人武器嗎?水能載舟亦能覆舟,也許我們都應該正視這個問題.
為何我們會想寫這篇文章?
續上篇「美國將AI納入軍用!到底人工智慧會成為人類救星還是殺人機器?(上)」關於 Google 拒絕國防部 AI 合作的原因以及人工智慧潛在風險的介紹後，本篇進一步介紹是哪間 AI 公司接手 Google 承接美國國防部的人工智慧軍武專案，以及濫用人工智慧於武器上，未來可能導致的致命結局。面對讓人不安的「自動機器」時代，我們能做的是……
拯救更多性命，還是殺死更多人？
在 Google 結束美國國防部 Project Maven 專案後，國防部鍥而不捨地又找了 AI 新創公司 Clarifai 接手，繼續研發無人機影片的辨識技術，使Clarifai 能更精準地協助軍備。
經過 Google 員工的抗議，目前外界普遍對 AI 軍用化抱持反對。面對外界質疑，Clarifai 創辦人 Matt Zeiler 聲稱：「與軍方合作是為了拯救更多士兵和平民！」他認為，AI 能讓武器變得更精準而減少傷亡，最終將拯救更多性命。
但這像是一把雙面刃，能即時辨識影片中的人物，雖然可能及時拯救將死的性命，但也能被國家利用，成為監控人民的手段。AI 技術究竟是增進人類福祉、還是成為殺人武器？
充滿殺人機的未來世界
人工智慧教授斯圖亞特．羅素（Stuart Russell）曾分享一段 7 分鐘的影片，警告充滿 AI 的未來世界沒有我們想像的這麼樂觀。影片描述了一個人臉辨識、自動化無人機技術已經完全普及的世界，幾乎所有人都能使用這種科技。
片中最駭人的橋段，是一群大學生正在上課，突然之間好幾架比手掌還小的「機器屠夫」破門而入，先快速辨識人臉，下一秒槍聲此起彼落，學生一個個被擊斃，一名正和兒子視訊的母親眼睜睜看著自己的兒子被貫穿頭顱。
而後當新聞主播訪問專家：「你認為是什麼人犯下這樣的罪刑呢？」專家冷靜地說：「任何人。」
最可怕的是，這並不是什麼未來科技！這種殺人機器早已存在，只是還未臻精良、沒有大量生產，但其鎖定特定「敵人」的特徵：如臉部、指紋、聲音辨識等的基本原理，現已逐漸融入生活，如中國就已全面運用人像辨識技術來抓犯人。若這樣的科技繼續發展，將強大到足以毀滅大量人口。
AI 雖然給人類帶來許多便利，但若人們只依賴人工智慧，卻不理解這個系統是如何運作，將對自身帶來極大的危害，我們所能做的，或許就是努力去了解這些「最可靠也最可怕的存在」，才不會在未來任機器宰割。
參考連結:
