1940年由科幻作家阿西莫夫提出的著名的機器人三原則提到，第一條：機器人不得傷害人類，或看到人類受到傷害而袖手旁觀；第二條：機器人必須服從人類的命令，除非這條命令與第一條相矛盾；第三條：機器人必須保護自己，除非這種保護與以上兩條相矛盾。

然而，近日發生的事情卻似乎預示著，這三原則即將被打破。

據美國福克斯新聞網近日報道，美國舊金山警察局提出了一項政策草案，希望在有人生命受到威脅或其它特殊的危險情況下，允許軍用型機器人使用致命武力，舊金山市監督委員會在11月29日的投票中，以8票贊同、3票反對的結果批準了這項草案。

(資料圖片僅供參考)

舊金山警察局在政策草案中概述了將如何使用17個遙控型無人機器人，這些機器人通常用于拆除炸彈和處理危險物等。草案中表示，只有當公眾或警員面臨迫在眉睫的生命威脅，且超過了舊金山警察局可用的任何其它武力選項時，機器人才會被用作致命武力。

其實，美國警方此前已有使用機器人殺人的先例。早在2016年，在拉達斯的一場示威活動中，一名嫌疑犯連殺五人傷及多人，為了避免更多警員遇害，在場警官“別無選擇，只能出動機器人”。

最后，這場以“黑人生命同樣重要”（Black Lives Matter）為主題，抗議警察在執法過程中濫殺無辜的游行活動，以達拉斯警方使用一臺機器人炸死嫌犯而告終。

在當時，這被指是美國警方首次以這樣的自動裝置來執法，突顯了在執法上運用科技的新趨勢。

據了解在當時所采用的機器人為Remotec F5，采用的炸藥為 1 磅 C4。

來到致命機器人快速發展的2021-2022年，隨著AI機器人近年來的快速量產，就連過去和藹可親的四足機械狗也裝配上了槍械，搖身一變成為殘忍的“殺人兇器”。

2021年年末，美國陸軍協會年會上，就展示了配備特制槍械“SPUR”，30 倍光學變焦功能、6.5毫米口徑、10發彈夾、附帶消音器、有效射程可達1200 米的四足機器狗 Vision 60。并爆料該機械狗已經被美國及多個同盟國應用于CBRNE（化學、生物、放射、核和爆炸物檢測）、偵察、目標搜索、密閉空間和地下環境檢查、測繪、拆彈、無線網絡作業、邊境安全維護等任務中，其對警方工作也有一定程度的幫助。

不過，機器人被合法地允許殺人的想法已經引起了一些爭議。今年10月，一些機器人公司——包括現代的波士頓動力公司——簽署了一封公開信，稱通用機器人不應該被武器化。

“我們認為，給遠程或自主操作的機器人添加武器，向公眾廣泛提供，并能夠導航到人們生活和工作中以前無法到達的地方，會引起新的傷害風險和嚴重的道德問題，”該團體寫道。“這些新能力的機器人的武器化應用也將損害公眾對該技術的信任，損害它們將給社會帶來的巨大利益。”

《無主之軍——自主武器和戰爭的未來》一書的作者保羅·夏爾（Paul Scharre）也指出，機器人在軍事上的使用與執法上的使用有一個重要區別。首先，美國執法部門使用的機器人不是自主的，意味著它們仍然由人類控制。"對于部隊來說，它們被用于與敵人作戰，其目的是為了殺死敵人。這不是也不應該是警察部門的目的，"夏爾說。"他們是為了保護公民，可能會有需要使用致命武力的情況，但這絕對應該是最后的手段。"

夏爾表示，關于舊金山警察局的提議，令人擔憂的是，它似乎沒有經過深思熟慮。"一旦你授權使用這種武器，就很難再收回。他說，這一提議在使用機器人進行致命攻擊和將執法人員置于危險之中之間建立了一個錯誤的選擇。

同樣，“機器人殺手”的問題也在聯合國上引起廣泛爭議。去年12月13日，聯合國《特定常規武器公約》審查會議高級別會談在日內瓦召開，會議旨在就解決“殺手機器人”的使用問題達成協議，但美國等多個國家都批駁了簽署具有法律約束力協議的想法，認為這是“多此一舉”。

“機器人殺手”的說法，是反對致命性自主武器的國家提出的，反對派認為這種武器是對人權的侵犯，違反了人道主義，必須要禁止。

有反對派，自然就有支持派，支持派認為自主武器不會累、不會害怕、也不會注意力不集中，同時不會受到情緒影響，從技術角度更能夠保護國家安全，其它好處比如還可以減少戰時損失等。

在要禁止和要支持之間，還有一派是要管控、或者說限制自主武器，一方面認可自主武器所能帶來的好處，另一方面承認其可能引發的倫理道德問題，因此要對其使用和發展加以管控和限制。

華盛頓大學的一名法律和信息科學教授瑞安·卡洛（Ryan Calo）同時也研究機器人技術，他說，他長期以來一直關注美國警察部門的日益軍事化，但全美的警察部隊可能會被機器人所吸引，因為“它允許警察在不讓自己受到傷害的情況下，使危險人物失去行動能力。”卡洛又提出了一個問題：“必須問問自己，是否想在一個警察用機器人殺人的美國社會里？這讓人感覺到深深的非人化和軍國主義”。