“如果讓我選擇，我也會簽字，抵制人工智能武器應用。”昨天，美國辛辛那提大學講座教授李杰來滬并接受記者專訪，提及日前霍金、馬斯克等一批科學界、企業(yè)界人士針對人工智能問題公布警告信一事，李杰毫不猶豫地給出自己的答案。他認為，除了可能威脅人類生命的軍事應用，人工智能在日常應用、情感交流方面同樣存在潛在風險。不過，在人工智能進步的過程中，人類也從未停止思考評估。隨著機器人自主學習、自我進化，人類也會制定相應的規(guī)矩和界限。

據(jù)悉，李杰的新書《大數(shù)據(jù)與智能制造的新思維》將由上海交通大學出版社推出。

群體性警惕正是人類啟動的防御機制之一

科幻小說家阿西莫夫曾提出“機器人三定律”：機器人不得傷害人類;除非違背第一法則，機器人必須服從人類的命令;在不違背第一和第二法則的情況下，機器人必須保護自己。

但是，這一定律固若金湯、堅不可摧嗎?不消說大量科幻小說和電影中，機器人“誤傷”或“攻擊”人類的情節(jié)，現(xiàn)實世界里相似的悲劇也不幸上演。就在上個月，德國大眾汽車公司一位正在工作中的員工因被機器人重重壓向一塊金屬板而導致死亡，這一機器人“殺死”人類的意外引發(fā)了恐慌。

如今，機器人技術已成人類世界不可或缺的一環(huán)，但科學界憂心忡忡的是：人工智能崛起后，未來機器人會否自主決定傷害人類?對此，李杰的態(tài)度較為樂觀，他認為，人類可以拿出相應的足夠智慧來應對。“對于醫(yī)療、交通等日常生活領域的機器人應用，市場需求所釋放的信號，可以起到檢驗智能應用優(yōu)劣的作用;歐洲、日本則根據(jù)機器人三定律對部分機器人應用領域作出了明確限制?？吹贸?，人類依然在控制著智能應用的邊界與進程。”

換句話說，無論是霍金等科學家聯(lián)名簽署抵制信件，還是一大批科幻影視、文學作品中的憂患與反思內(nèi)核，都表明人類已經(jīng)對人工智能可能帶來的危害拉響了警報，“這種群體性警惕，也正是人類所開啟的自我防御機制的一種”。

當人機間產(chǎn)生高級情感時，人類該怎么辦

如今，智能制造已不僅僅是過去意義上的小電子玩偶或零部件，而是逐步介入人類情感生活，成為孤寡老人的“貼心保姆”、交流障礙人士的“傾訴對象”，或者干脆充當起一部分宅男的日常伴侶。當然，這些應用目前所占比例不大，但科學界預測認為，未來的這一現(xiàn)象可能變得不再稀奇。

身為美國國家科學基金會智能維護系統(tǒng)產(chǎn)學合作中心主任，李杰與團隊發(fā)現(xiàn)，一項新技術通常在15年左右被接受，30年達到廣泛應用。在接下來的幾十年里，人工智能也會飛速發(fā)展并嫁接到多個領域。很快，機器將學習到人類優(yōu)點和缺點，模擬人類感情。到那時人類應當如何與機器共處?

科幻電影《她》中，人類男性與女機器人愈發(fā)投緣，人機友誼也最終演變成一段不被世俗理解的奇異愛情?？瓷先ダ浔母呖萍济婕啠毁x予了高度人性化和活色生香的情趣，機器人不僅掌握高級思維和創(chuàng)作能力，還變得“有心肝”。科幻作家韓松在小說《佛性》里，對機器人參與信仰膜拜，展開了戲謔而又入木三分的勾畫。有評論家認為，一旦投射到現(xiàn)實世界中，超出一定限度的人機關系，必然會撬動人類最基本的倫理、婚姻、家庭價值觀。而在電影《機器姬》中，機器人表現(xiàn)出對人類的傾慕，結果只是利用了人類的信任與愛意，到頭來毀滅了曾經(jīng)的親密。這種暗黑式結尾無疑提醒人們——如何保證機器人判斷及行為合乎道德倫理，是科學家乃至社會學家、心理學家亟需思考并研究的命題。

“以往我們多是突出機器人的協(xié)助地位，但未來人機間的高度平等互動，這將帶來更多前所未有的樂趣和可能性，但無疑也考驗著人類的自覺擔當與道義責任。”李杰說。