直面隱憂 業(yè)界大咖談人工智能作惡
別“煉”出造反的AI
一場(chǎng)搶劫案后，格雷的妻子喪生，自己也全身癱瘓。他接受了一個(gè)天才科學(xué)家的“升級(jí)”改造治療——在他身體里植入了人工智能程序STEM，獲得了超強(qiáng)的能力，從一個(gè)“殘廢”直接升級(jí)成為職業(yè)殺手。隨著STEM的進(jìn)化升級(jí)，步步緊逼格雷交出身體使用權(quán)和大腦意識(shí)控制權(quán)……
本年度關(guān)于人工智能和人類未來的最佳影片，不少人認(rèn)為非《升級(jí)》莫屬。而人工智能和人類抗衡的探討，是科幻電影中的永恒話題，從《銀翼殺手》到《機(jī)械姬》，再到今年的低成本電影《升級(jí)》，都映射出未來人工智能對(duì)人類的威脅。
黑產(chǎn)超正規(guī)行業(yè) 惡意源于人類基因
AI造反，是科幻電影里太常見的橋段。問題在于，現(xiàn)實(shí)當(dāng)中真正的AI好像也在一步步向我們走來。不少人抱有憂慮和不安，人工智能會(huì)“作惡”嗎？
傾向于AI威脅論的人并不在少數(shù)。馬斯克曾在推特上表示：“我們要非常小心人工智能，它可能比核武器更危險(xiǎn)。”史蒂芬·霍金也說：“人工智能可能是一個(gè)‘真正的危險(xiǎn)’。機(jī)器人可能會(huì)找到改進(jìn)自己的辦法，而這些改進(jìn)并不總是會(huì)造福人類。”
“任何技術(shù)都是一把雙刃劍，都有可能用于作惡，為什么人工智能作惡會(huì)引起這么大的反響？”在近日召開的2018中國(guó)計(jì)算機(jī)大會(huì)的分論壇上，哈爾濱工業(yè)大學(xué)長(zhǎng)聘教授鄔向前拋出了問題，人工智能研究的底線到底在哪里？
早在1942年，阿西莫夫就提出了機(jī)器人三定律。但問題在于，這些科幻書中美好的定律，執(zhí)行時(shí)會(huì)遇到很大的問題。
“一臺(tái)計(jì)算機(jī)里跑什么樣的程序，取決于這個(gè)程序是誰寫的。”360集團(tuán)技術(shù)總裁、首席安全官譚曉生說，機(jī)器人的定律可靠與否，首先是由人定義的，然后由機(jī)器去存儲(chǔ)、執(zhí)行。
值得注意的是，“不作惡”已成科技行業(yè)的一個(gè)技術(shù)原則。那么，機(jī)器人作惡，惡意到底從何而來？
如今人工智能發(fā)展的如火如荼，最早擁抱AI的卻是黑產(chǎn)群體，包括用AI的方法來突破驗(yàn)證碼，去黑一些賬戶。譚曉生笑言：“2016年中國(guó)黑產(chǎn)的收入已超過一千億，整個(gè)黑產(chǎn)比我們掙的錢還要多，它怎么會(huì)沒有動(dòng)機(jī)呢？”
“AI作惡的實(shí)質(zhì)，是人類在作惡。”北京大學(xué)法學(xué)院教授張平認(rèn)為，AI不過是一個(gè)工具，如果有人拿著AI去作惡，那就應(yīng)該制裁AI背后的人，比如AI的研發(fā)人員、控制者、擁有者或是使用者。當(dāng)AI在出現(xiàn)損害人類、損害公共利益和市場(chǎng)規(guī)則的“惡”表現(xiàn)時(shí)，法律就要出來規(guī)制了。
目前，無人駕駛和機(jī)器人手術(shù)時(shí)引發(fā)的事故，以及大數(shù)據(jù)分析時(shí)的泛濫和失控時(shí)有耳聞。那么，人工智能會(huì)進(jìn)化到人類不可控嗎？屆時(shí)AI作惡，人類還能招架的住嗎？
任務(wù)驅(qū)動(dòng)型AI 還犯不了“反人類罪”
值得關(guān)注的是，霍金在其最后的著作中向人類發(fā)出警告，“人工智能的短期影響取決于誰來控制它，長(zhǎng)期影響則取決于它能否被控制。”言下之意，人工智能真正的風(fēng)險(xiǎn)不是惡意，而是能力。
“人工智能未來的發(fā)展會(huì)威脅到人類的生存，這不是杞人憂天，確實(shí)會(huì)有很大的風(fēng)險(xiǎn)，雖說不是一定會(huì)發(fā)生，但是有很大的概率會(huì)發(fā)生。”在譚曉生看來，人類不會(huì)被滅亡，不管人工智能如何進(jìn)化，總會(huì)有漏洞，黑客們恰恰會(huì)在極端的情況下找到一種方法把這個(gè)系統(tǒng)完全摧毀。
共2頁 [1] [2] 下一頁
外媒稱編程課成中國(guó)家長(zhǎng)新寵：人工智能從娃娃抓起
好鄰居獲曠視千萬美元投資 人工智能加持便利店
喜推人工智能名片獨(dú)創(chuàng)免打擾功能，讓銷售更舒心
強(qiáng)勢(shì)啟用新域名，喜推引領(lǐng)“人工智能名片”新趨勢(shì)
家政行業(yè)營(yíng)銷攻略：喜推人工智能名片破解獲客難、轉(zhuǎn)化低
搜索更多: 人工智能
