中新網(wǎng)福州4月30日電 (記者 劉育英)奇安信集團(tuán)董事長(zhǎng)齊向東在第八屆數(shù)字中國(guó)建設(shè)峰會(huì)期間接受媒體采訪表示，層出不窮的新興場(chǎng)景，充分展現(xiàn)出人工智能大模型帶來(lái)的無(wú)限生產(chǎn)力、創(chuàng)造力。但新技術(shù)是把雙刃劍，大模型應(yīng)用在帶來(lái)機(jī)遇的同時(shí)，也面臨三重挑戰(zhàn)。

　　一是“小數(shù)據(jù)”安全問(wèn)題。傳統(tǒng)大數(shù)據(jù)存在碎片化、質(zhì)量參差不齊等問(wèn)題，而大模型需要經(jīng)過(guò)加工處理的“精華小數(shù)據(jù)”。一旦精華小數(shù)據(jù)被竊取、泄露或篡改，企業(yè)核心競(jìng)爭(zhēng)力將受損。

　　二是大模型“裸奔”風(fēng)險(xiǎn)。大模型深度融入關(guān)鍵領(lǐng)域，如智慧城市、工控系統(tǒng)、智慧政務(wù)等，風(fēng)險(xiǎn)串聯(lián)成網(wǎng)。奇安信監(jiān)測(cè)發(fā)現(xiàn)，大量Ollama大模型服務(wù)器“裸奔”，存在被攻擊導(dǎo)致業(yè)務(wù)中斷的風(fēng)險(xiǎn)。

　　三是AI決策失準(zhǔn)風(fēng)險(xiǎn)。對(duì)AI的過(guò)度依賴(lài)可能導(dǎo)致善惡真?zhèn)坞y辨，黑客可通過(guò)漏洞利用、數(shù)據(jù)投毒等方式干擾大模型決策。內(nèi)部員工更新知識(shí)庫(kù)時(shí)引入錯(cuò)誤信息，也會(huì)污染模型學(xué)習(xí)環(huán)境，導(dǎo)致錯(cuò)誤結(jié)論。

　　齊向東認(rèn)為，筑牢AI安全底線，要把握住五個(gè)關(guān)鍵：構(gòu)建大模型安全“紅域”形成多維度邊界隔離；權(quán)限強(qiáng)管控，以用戶(hù)身份為新邊界開(kāi)展網(wǎng)絡(luò)和數(shù)據(jù)安全防護(hù)；嚴(yán)把內(nèi)容關(guān)，構(gòu)建貫穿大模型全生命周期的內(nèi)容安全治理機(jī)制；以實(shí)戰(zhàn)為導(dǎo)向加強(qiáng)大模型應(yīng)用安全評(píng)估；運(yùn)營(yíng)可閉環(huán)，做到對(duì)安全威脅的實(shí)時(shí)監(jiān)測(cè)和應(yīng)急處置。(完)