|
北京時間7月13日早間消息，據(jù)報道，多名人工智能專家本周在一場會議上表示，人工智能的快速發(fā)展有可能加劇社會問題，甚至對人類的生存構(gòu)成威脅，因此有必要加強全球范圍對人工智能的監(jiān)管。
近幾個月來，生成式人工智能的爆炸式發(fā)展既激起了人們對其技術(shù)潛力的興渠，也引發(fā)了擔(dān)憂。例如，這些技術(shù)可能導(dǎo)致一些工作崗位流失，經(jīng)濟(jì)發(fā)展模式被顛覆，甚至能力超過人類。生成式人工智能可以根據(jù)無限制的提示生成文本、照片和視頻。
在周二的會議上，Protect AI的首席執(zhí)行官、聯(lián)合創(chuàng)始人伊恩·斯旺森（Ian Swanson）表示：“我們正駕駛著這輛人工智能的汽車在高速公路上飛馳，那么我們需要做什么呢？我們需要進(jìn)行安全檢查，需要適當(dāng)?shù)幕揪S護(hù)，需要監(jiān)管。”該公司幫助企業(yè)保護(hù)人工智能和機器學(xué)習(xí)系統(tǒng)的安全。
“負(fù)責(zé)任人工智能研究所”所長賽斯·多布林（Seth Dobrin）則表示，監(jiān)管機構(gòu)只需看看社交媒體平臺，就可以明白一個新行業(yè)不受限制的發(fā)展會導(dǎo)致什么樣的負(fù)面后果。他說：“如果我們擴大數(shù)字鴻溝，將導(dǎo)致社會的分裂。監(jiān)管機構(gòu)需要考慮這點。”
目前，已有多個國家正在準(zhǔn)備通過監(jiān)管手段去解決圍繞人工智能的問題。例如，歐盟提議中的人工智能法案將把人工智能應(yīng)用劃分為不同的風(fēng)險級別，禁止被定性為“不可接受”的應(yīng)用，并對“高風(fēng)險”應(yīng)用進(jìn)行嚴(yán)格評估。
美國的立法者上個月提出了兩項獨立的人工智能法案，其中一項要求美國政府在使用人工智能與人互動時保持透明，另一項法案提出設(shè)立一個辦公室，調(diào)研美國在最新技術(shù)方面是否仍具備競爭力。
“未來生命研究所”創(chuàng)始人、執(zhí)行主任安東尼·阿吉雷（Anthony Aguirre）在會議上說，立法者和科技行業(yè)領(lǐng)袖必須警惕的一個新威脅是，人工智能可能會使核武器變得更強大。
越來越強的人工智能也將帶來社會失業(yè)的風(fēng)險，因為人類將無法通過簡單地學(xué)習(xí)新技能就進(jìn)入其他行業(yè)。阿吉雷說：“我們最終會陷入一個所掌握技能無關(guān)緊要的世界。”
未來生命研究所是一家非營利性組織，目標(biāo)是降低先進(jìn)人工智能帶來的災(zāi)難性風(fēng)險。今年3月，該研究所發(fā)布公開信，呼吁暫停訓(xùn)練比OpenAI的GPT-4更強的人工智能系統(tǒng)，吸引了媒體的密切關(guān)注。該機構(gòu)警告稱，人工智能實驗室已經(jīng)“陷入了一場失控的競賽”，正試圖開發(fā)“沒有人，甚至是它們的創(chuàng)造者，能夠理解、預(yù)測或可靠控制的強大數(shù)字思維”。
阿吉雷說：“這似乎是世界上最顯而易見的事情，不能讓人工智能獲得核指揮和控制權(quán)。但這并不意味著我們?nèi)祟惒粫@么做，因為我們以往也做過很多不明智的事情。”
來源：新浪科技
|
