AI威脅論一直都爭(zhēng)論不休，日前美國(guó)國(guó)務(wù)院委托眾多行業(yè)領(lǐng)袖高層編寫(xiě)了一份新報(bào)告，警告 AI 正呈指數(shù)級(jí)發(fā)展，可能會(huì)對(duì)人類(lèi)構(gòu)成“滅絕級(jí)威脅”。

這份報(bào)告全稱為《提高先進(jìn)人工智能安全保障的行動(dòng)計(jì)劃》，要求美國(guó)政府必須迅速、果斷地采取行動(dòng)，以避免 AI 帶來(lái)的重大國(guó)家安全風(fēng)險(xiǎn)。報(bào)告接著說(shuō)，如果不實(shí)施這些阻礙措施，人工智能或人工通用智能（AGI）就有可能成為“對(duì)人類(lèi)物種的滅絕級(jí)威脅”。

這份報(bào)告由 200 多名來(lái)自 OpenAI、Meta、谷歌、谷歌 DeepMind 等人工智能領(lǐng)域大公司的高管，以及政府工作人員參與，建議美國(guó)政府限制和監(jiān)管 AI 的發(fā)展，并要求 AI 公司訓(xùn)練任意新的 AI 模型時(shí)都需要提交申請(qǐng)。

報(bào)告中還建議美國(guó)政府立法，宣布開(kāi)源重要 AI 模型定為非法，認(rèn)為這些模型中的信息可能會(huì)導(dǎo)致“對(duì)全球安全具有潛在破壞性的后果”。