|
谷歌DeepMind和Anthropic CEO，以及圖靈獎(jiǎng)獲得者都簽署了這封聯(lián)名信。
AI風(fēng)頭正盛，科技圈再次流出了一封重磅公開信。
當(dāng)?shù)貢r(shí)間5月30日，非營(yíng)利組織“人工智能安全中心”（Center for AI Safety）在其官網(wǎng)發(fā)布一封聯(lián)名公開信，稱這一堪比“疫情和核戰(zhàn)爭(zhēng)”的技術(shù)或?qū)θ祟悩?gòu)成生存威脅。
整個(gè)聲明只有一句話，22個(gè)單詞：
減輕AI（給人類）帶來(lái)的滅絕風(fēng)險(xiǎn)應(yīng)成為全球性的優(yōu)先事項(xiàng)，與大流行病及核戰(zhàn)爭(zhēng)等其他影響社會(huì)的大規(guī)模風(fēng)險(xiǎn)處于同等級(jí)別。
目前已有350位AI大佬簽署了這封聯(lián)名公開信，包括OpenAI首席執(zhí)行官Sam Altman、谷歌DeepMind首席執(zhí)行官Demis Hassabis和Anthropic首席執(zhí)行官Dario Amode三大AI公司掌門人。
值得一提的是，圖靈獎(jiǎng)獲得者、被譽(yù)為人工智能“教父”的Geoffrey Hinton和Yoshua Bengio也赫然在列。名單里也不乏中國(guó)學(xué)者的身影，包括中國(guó)工程院院士、清華大學(xué)智能產(chǎn)業(yè)研究院（AIR）院長(zhǎng)張亞勤，中國(guó)科學(xué)院自動(dòng)化研究所人工智能倫理與治理研究中心主任曾毅，清華大學(xué)副教授詹仙園。
其他簽署人還包括微軟首席技術(shù)官Kevin Scott，前聯(lián)合國(guó)裁軍事務(wù)高級(jí)代表Angela Kane，Skype聯(lián)合創(chuàng)始人Jaan Tallinn，Quora首席執(zhí)行官Adam D‘Angelo。
他們表示，雖然公眾一直在承認(rèn)人工智能的風(fēng)險(xiǎn)，但還有更多挑戰(zhàn)需要討論。他們還想“為越來(lái)越多的專家和公眾人物創(chuàng)造共同知識(shí)，他們也認(rèn)真對(duì)待先進(jìn)人工智能領(lǐng)域存在的一些最嚴(yán)重的風(fēng)險(xiǎn)”。
自去年ChatGPT發(fā)布以來(lái)，科技行業(yè)掀起了一場(chǎng)競(jìng)爭(zhēng)激烈的AI競(jìng)賽，同時(shí)也引發(fā)公眾對(duì)于這項(xiàng)未知技術(shù)的恐懼。
今年3月份，Bengio、馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak、Stability AI創(chuàng)始人Emad Mostaque等科技大佬發(fā)表聯(lián)名公開信，呼吁暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，暫停時(shí)間至少為6個(gè)月。
信中提到：
我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn)，將決定委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。只有當(dāng)確保強(qiáng)大的人工智能系統(tǒng)的效果是積極的，其風(fēng)險(xiǎn)是可控的才能繼續(xù)開發(fā)。
拜登政府近幾個(gè)月表示，人工智能對(duì)公共安全、隱私和民主構(gòu)成威脅，但政府對(duì)其監(jiān)管的權(quán)力有限。微軟創(chuàng)始人比爾·蓋茨曾表示，他認(rèn)為人工智能應(yīng)該受到適當(dāng)監(jiān)管，但對(duì)這項(xiàng)技術(shù)表示興奮，他沒(méi)有簽署周二的聯(lián)名信。
來(lái)源：華爾街見聞
|
