中新網(wǎng)北京3月2日電 (記者 夏賓)人工智能發(fā)展日新月異。近來(lái)，國(guó)產(chǎn)大模型的火熱降低了民眾與企業(yè)的使用門(mén)檻，但其帶來(lái)的安全問(wèn)題不容忽視。如何保護(hù)數(shù)據(jù)安全、識(shí)別虛假信息、防御網(wǎng)絡(luò)攻擊等都是人工智能(AI)產(chǎn)業(yè)成長(zhǎng)的“必答題”。
全國(guó)政協(xié)委員、360集團(tuán)創(chuàng)始人周鴻祎近日在北京接受中新網(wǎng)等媒體采訪時(shí)，談及人工智能技術(shù)進(jìn)步帶來(lái)的新風(fēng)險(xiǎn)。
他認(rèn)為，要正確認(rèn)識(shí)AI的安全問(wèn)題，不能夸大、不能忽視，也不要籠統(tǒng)地談AI安全。一些美國(guó)頭部AI公司想搞壟斷和封閉，往往會(huì)夸大AI不安全的問(wèn)題作為其不開(kāi)源的借口，這樣后來(lái)者就沒(méi)有機(jī)會(huì)趕上他們。“我一直認(rèn)為，不發(fā)展是最大的不安全”，周鴻祎說(shuō)，必須抓住AI的這次機(jī)會(huì)，提升生產(chǎn)力，讓每個(gè)人感受到科技普惠的成果。
周鴻祎稱，AI的安全和業(yè)務(wù)發(fā)展可以“同步走”。人工智能尤其是大模型的安全問(wèn)題不能以傳統(tǒng)網(wǎng)絡(luò)安全的解題方法來(lái)應(yīng)對(duì)，智能體的安全、知識(shí)數(shù)據(jù)的安全、客戶端的安全以及基座模型的安全，構(gòu)成一個(gè)人工智能安全的全新領(lǐng)域，解決方法的關(guān)鍵是“以模制模”。
“我們花了很多功夫?qū)ｉT(mén)做安全大模型，就是用聰明的大模型智力、能力去管理知識(shí)庫(kù)的使用，去管理智能體的調(diào)用，去管理基座模型的‘胡說(shuō)八道’和對(duì)人的‘PUA攻擊’。”周鴻祎說(shuō)。
談及當(dāng)下大模型發(fā)展路徑的開(kāi)源和閉源發(fā)展路線，周鴻祎說(shuō)，沒(méi)有開(kāi)源就沒(méi)有互聯(lián)網(wǎng)。開(kāi)源就是把自己的朋友搞得多多的、把自己的敵人搞得少少的，不分國(guó)家、不分種族，只要對(duì)人工智能有興趣的人都可以加入到開(kāi)源社區(qū)中，與所有人一起分享成果。開(kāi)源生態(tài)形成巨大的虹吸效應(yīng)，一般來(lái)說(shuō)，開(kāi)源一旦形成氣候，就能戰(zhàn)勝閉源。
他說(shuō)，開(kāi)源對(duì)整個(gè)中國(guó)傳統(tǒng)企業(yè)在利用大模型降本增效、打造新質(zhì)生產(chǎn)力等方面的杠桿作用大。因此，將來(lái)中國(guó)在AI領(lǐng)域會(huì)借助生態(tài)帶來(lái)更強(qiáng)的研發(fā)力量，帶來(lái)更多的創(chuàng)新和改進(jìn)，帶來(lái)更多的標(biāo)準(zhǔn)。(完)