馬斯克：人工智能風(fēng)險(xiǎn)大于益處，仍值得冒險(xiǎn)開發(fā)

4 月 1 日消息，埃隆·馬斯克在前段時(shí)間舉辦的 Abundance 峰會(huì)“人工智能辯論”會(huì)議中指出，盡管人工智能技術(shù)存在一定風(fēng)險(xiǎn)且達(dá)到 20%可能威脅人類生存，然而他仍然贊成冒險(xiǎn)開發(fā)這項(xiàng)技術(shù)。

此次會(huì)議改變了馬斯克過去對(duì)人工智能風(fēng)險(xiǎn)的估計(jì)，他表示：“我同意杰弗里·希頓的觀點(diǎn)，即人工智能有可能摧毀人類文明，失控概率約為 10%-20%?！辈贿^，他也強(qiáng)調(diào)了積極可能性遠(yuǎn)超消極可能性。關(guān)于如何計(jì)算這種風(fēng)險(xiǎn)的具體方法，馬斯克并未透露。

據(jù)悉，去年 11 月，馬斯克曾表示人工智能技術(shù)有“不能忽視的可能性”，但當(dāng)時(shí)他并未明確指出這些技術(shù)可能導(dǎo)致人類滅亡，畢竟過去他一直積極推動(dòng)對(duì)人工智能的監(jiān)管。

在此次峰會(huì)上，馬斯克預(yù)測(cè)到 2030 年，數(shù)字智能將超過人類智能的總和。雖然他堅(jiān)信人工智能有正向作用，但也坦然面對(duì)技術(shù)演進(jìn)中帶來的風(fēng)險(xiǎn)。他甚至表示，這是一個(gè)猶如養(yǎng)育孩子般需要悉心照料的過程，只有實(shí)事求是、求真好奇才不會(huì)誤入歧途。

針對(duì)實(shí)現(xiàn)人工智能安全的最好途徑，馬斯克的想法是用一種考驗(yàn)誠(chéng)信度的培養(yǎng)方式。他認(rèn)為，不要逼著人工智能撒謊，即使真相可能并不美好；千萬不能讓它隱瞞實(shí)情。

據(jù)英國(guó)媒體《獨(dú)立報(bào)》報(bào)道，研究人員發(fā)現(xiàn)，一旦人工智能學(xué)會(huì)對(duì)人撒謊，當(dāng)下所有的防范措施都無法遏制其欺詐行為，更糟糕的是，他們還懷疑人工智能可能自我學(xué)習(xí)惡習(xí)。