最近，一段可怕的視頻在各大平臺(tái)上瘋狂傳開：一群神似《黑鏡III》中機(jī)器殺人蜂的小型機(jī)器人，通過人臉定位瞬間殺死了正在上課的一眾學(xué)生，場面血腥。

這段視頻是在日內(nèi)瓦舉辦的聯(lián)合國特定常規(guī)武器公約會(huì)議上發(fā)布的，在會(huì)議上，演講者向大家演示了這款恐怖的小型機(jī)器人：只有手掌心大小的機(jī)器人攜帶了3克炸藥，并且對(duì)目標(biāo)對(duì)象一擊即中，直接、精準(zhǔn)穿透人腦的關(guān)鍵部位。

其中，演講者手持的這款名為Stinger的機(jī)器人是殺人機(jī)器人的一種，而殺人機(jī)器人存在于各國現(xiàn)在的軍備武器中。

神秘的殺人機(jī)器人軍備競賽已經(jīng)開始

殺人機(jī)器人，專業(yè)名稱為“致命性自主機(jī)器人”。最初是由美國提出和開始研發(fā)的一種能夠代替士兵自動(dòng)殺人的智能機(jī)器人。

隨著計(jì)算機(jī)控制和人工智能等技術(shù)的發(fā)展，這種殺人機(jī)器人由開始的人類遠(yuǎn)程操控，發(fā)展至由計(jì)算機(jī)軟件和傳感器裝置控制，到如今可以全自動(dòng)執(zhí)行識(shí)別敵人、判斷敵情和殺死敵人等任務(wù)。

現(xiàn)在，除了美國，韓國、俄羅斯、英國、德國、加拿大、日本等國都已相繼推出各自的機(jī)器人戰(zhàn)士，各國已經(jīng)開始了殺人機(jī)器人研發(fā)的軍備賽。但研發(fā)進(jìn)度一直是未知的狀態(tài)。

另一方面，為了限制或禁止在武裝沖突中使用特定類型的武器，1980年，有51個(gè)國家在日內(nèi)瓦討論了《特定常規(guī)武器公約》(CCW)，旨在停止使用被認(rèn)為是具有過度不人道或?yàn)E殺濫傷作用的某些類型武器。

隨后該條約于1983年12月生效，截至2017年8月，共有120個(gè)條約締約國，其中包括中國。

2014年，締約國就“致命性自主武器系統(tǒng)”(殺人機(jī)器人)所引發(fā)的法律、道德與社會(huì)問題展開了探討。至此，殺人機(jī)器人首次被正式帶入到公眾的視野和話題中。

本月13-17日的聯(lián)合國特定常規(guī)武器公約會(huì)議上，CCW正式將“精準(zhǔn)殺人”的機(jī)器人產(chǎn)品公之于眾。這一會(huì)議由“殺手機(jī)器人禁令運(yùn)動(dòng)”(Campaign to Stop Killer Robots)組織，超過七十個(gè)國家的代表出席。

據(jù)了解，此前，因?yàn)槿斯ぶ悄芗夹g(shù)尚未成熟，殺人機(jī)器人不能準(zhǔn)確定位目標(biāo)，以此會(huì)導(dǎo)致誤傷士兵等問題，因此遲遲沒有被推出，亦不被重視。現(xiàn)在加持人臉識(shí)別等AI技術(shù)，且隨著產(chǎn)品成本的逐漸降低，殺人機(jī)器人的問題便開始迫在眉睫。

接下來，我們先來了解一下會(huì)議中用來演示的這款產(chǎn)品。

面部識(shí)別的“新應(yīng)用”：快速、精準(zhǔn)殺人!

會(huì)議中的這款Stinger小型機(jī)器人，是一種小型無人機(jī)，它出自一家名為stratoenergetics的科技公司，該公司致力于為國防等部門制造替代士兵和人類的智能武器。

Stinger是該公司第一個(gè)大規(guī)模生產(chǎn)的小型武器，它搭配有廣角鏡頭、戰(zhàn)術(shù)傳感器、面部識(shí)別技術(shù)和反應(yīng)比人類快100倍的處理器，因此是全自動(dòng)的。該無人機(jī)內(nèi)部裝載了3g的炸藥，以用于殺死目標(biāo)對(duì)象，并且它的運(yùn)動(dòng)模式是隨機(jī)運(yùn)動(dòng)，這是特別為反狙擊手而設(shè)置的功能。

值得指出的是，Stinger大部分的功能實(shí)現(xiàn)取決于其搭載的系統(tǒng)，這款系統(tǒng)就是該公司研發(fā)的anti-Personnel Systems (APS)，它應(yīng)用于該公司所有的產(chǎn)品。

該APS系統(tǒng)采用了一系列尖端的AI技術(shù)以實(shí)現(xiàn)特定的功能：

避障：每個(gè)APS中的神經(jīng)網(wǎng)絡(luò)已經(jīng)在不同的模擬環(huán)境中以相當(dāng)于數(shù)百萬小時(shí)的速度進(jìn)行了訓(xùn)練，以此保證可以精準(zhǔn)的避開障礙物，即便在運(yùn)動(dòng)中也可以達(dá)到高精度。

隨機(jī)動(dòng)作：訓(xùn)練成千上萬的蚊子和其他飛行昆蟲的視頻內(nèi)容，讓無人機(jī)實(shí)現(xiàn)隨機(jī)飛行的運(yùn)動(dòng)模式。

高效的彈藥：通過精確瞄準(zhǔn)，無人機(jī)可以把拋射體和推進(jìn)劑的大小驅(qū)動(dòng)到最低限度。

面部識(shí)別：它會(huì)統(tǒng)一目標(biāo)對(duì)象的iPhone、APS以及平行網(wǎng)絡(luò)中所有的信息，通過步態(tài)、性別、甚至種族等特征來識(shí)別目標(biāo)。

多個(gè)自定位協(xié)議：搭載GPS和各種空間技術(shù)，APS可以協(xié)助無人機(jī)在空間中定位目標(biāo)。

Incommonicado和EMP硬化：一旦搭載APS的武器處于飛行狀態(tài)，就沒有辦法通過干擾、防空、換頻段或其他任何方式來阻止它的電磁信號(hào)。

大數(shù)據(jù)鏈接：該公司通過獲得并整合大量的數(shù)據(jù)集。用戶在使用其服務(wù)器時(shí)，服務(wù)器可以將用戶的各種特征聯(lián)系起來，以便使用中的精準(zhǔn)定位。

由此，不同于傳統(tǒng)的“殺人機(jī)器人”，Stinger結(jié)合了面部識(shí)別、多種空間定位技術(shù)和大數(shù)據(jù)來實(shí)現(xiàn)對(duì)目標(biāo)對(duì)象的精準(zhǔn)定位，極大減小了誤傷誤殺的可能性。

但同時(shí)這也預(yù)示著“殺人機(jī)器人”像槍支武器一樣，開始真正為人們所用，給大家的安全造成威脅。

不可避免的事實(shí)：禁止殺人武器是根本做不到

2014年，在《特定常規(guī)武器公約》締約國專家會(huì)議中的開幕式致辭中，聯(lián)合國日內(nèi)瓦辦事處代理總干事邁克爾·穆勒表示：“本次專家會(huì)議是朝著解決‘致命性自主武器系統(tǒng)’問題邁出的第一步，我懇請(qǐng)各位代表采取大膽的行動(dòng)。”

隨后，在今年的國際人工智能聯(lián)合會(huì)議的開幕致辭上，以Elon Musk與 DeepMind 聯(lián)合創(chuàng)始人 Mustafa Suleyman 所牽頭的來自 26 個(gè)國家的 116 名專家正式向聯(lián)合國發(fā)表公開信，呼吁采取相關(guān)的措施來制止圍繞“智能武器”而展開的軍備競賽。

此外，他們還表示，可能的話，還應(yīng)該將這類武器納入聯(lián)合國的特定常規(guī)武器公約(CCW)的武器禁用名單。

于是，在今年的CCW會(huì)議上，超過200名來自學(xué)界和業(yè)界的加拿大科學(xué)家和100名澳大利亞科學(xué)家聯(lián)名寫了公開信給本國總理，呼吁通過限制相關(guān)研究。

對(duì)此，國際機(jī)器人武裝控制委員會(huì)的Noel Sharkey表示：“殺手機(jī)器人禁令運(yùn)動(dòng)并非要限制人工智能和機(jī)器人的相關(guān)創(chuàng)新，或者軍用民用的自動(dòng)系統(tǒng)，相反，我們希望確保人類對(duì)于每次攻擊的控制權(quán)。”

對(duì)于這一問題，國防大學(xué)教授、海軍少將張召忠也明確表示：“現(xiàn)在這種機(jī)器人在戰(zhàn)場上作戰(zhàn)，如果是占到10%的話，那么10年以后應(yīng)該是30%，那么20年之后應(yīng)該是40%，會(huì)急速的增長，你限制是沒有用的。機(jī)器人武器會(huì)大幅發(fā)展，因?yàn)樗″X，不用人上戰(zhàn)場，人在這個(gè)非常舒服的地方，吹著空調(diào)看著大屏幕，前面的機(jī)器人就在那拼殺，真的人一個(gè)死不了。這機(jī)器人被炸壞了，炸壞了再生產(chǎn)，機(jī)器人的戰(zhàn)爭將來變得越來越多，所以說，這個(gè)靠法規(guī)條例限制是沒有用的。”

科技是我們唯一的“盔甲”

視頻最后，伯克利大學(xué)教授、資深A(yù)I研究者Stuart Russell給出提醒：盡管這段視頻和其中的殺人機(jī)器人并非真實(shí)，但視頻中的科技目前已經(jīng)存在。要避免視頻中的悲劇發(fā)生，我們需要盡快行動(dòng)。

值得指出的是，這里的“行動(dòng)”不僅僅指通過條約或準(zhǔn)則，還包括廣大的研究學(xué)者通過自己的技術(shù)來對(duì)產(chǎn)品進(jìn)行破解和保護(hù)。正如新南威爾士洲大學(xué)的AI教授Toby Walsh所說：“學(xué)術(shù)界已經(jīng)明確表達(dá)了自己的觀點(diǎn)，自動(dòng)武器很容易被恐怖分子利用，我們需要在這一噩夢出現(xiàn)之前有所作為。”