首頁|必讀|視頻|專訪|運(yùn)營|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁 >> 互聯(lián)網(wǎng) >> 正文

周鴻祎透露360大模型安全解決方案:將推出Agent框架

2023年10月16日 07:13  新浪科技  

新浪科技訊 10月13日下午消息,在第38次全國計(jì)算機(jī)安全學(xué)術(shù)交流會(huì)上,三六零(下稱“360”)公司創(chuàng)始人周鴻祎透露了360大模型安全解決方案細(xì)節(jié)。他介紹指出,大模型發(fā)展已經(jīng)進(jìn)入第二階段,重點(diǎn)是放低身段,賦能產(chǎn)業(yè)數(shù)字化發(fā)展,最大的障礙是如何打造真正安全可用的大模型。

周鴻祎指出,大模型是一把“雙刃劍”,將帶來前所未有的安全挑戰(zhàn),他將安全風(fēng)險(xiǎn)劃分為短期、中期、長期三個(gè)階段。其中,短期風(fēng)險(xiǎn)是當(dāng)前最迫切要解決的問題,主要圍繞大模型自身引發(fā)的安全問題,如網(wǎng)絡(luò)安全、數(shù)據(jù)安全、生成內(nèi)容安全。中期風(fēng)險(xiǎn)主要指人為的對(duì)大模型惡意應(yīng)用,如日益猖獗的AI換臉、AI換聲詐騙。長期風(fēng)險(xiǎn)則是當(dāng)更強(qiáng)大的人工智能誕生,對(duì)人類生存帶來的安全挑戰(zhàn)。

周鴻祎表示,基礎(chǔ)大模型的安全問題,都會(huì)“遺傳”給垂直大模型。為此,360躬身入局,在國家級(jí)安全能力基礎(chǔ)上,打造原生安全大模型“360智腦”。周鴻祎介紹,在“安全、向善、可信、可控”這一安全四原則的基礎(chǔ)上,360已經(jīng)構(gòu)建體系化的大模型安全解決方案,保證大模型在企業(yè)級(jí)場景落地。他透露,為了讓大模型不作惡,360“向善”解決方案的核心是研發(fā)安全垂直“小模型”訓(xùn)練和監(jiān)控大模型,保證大模型輸出結(jié)果安全。

在解決大模型“可控”問題上,360將推出Agent框架,把人的能力賦予大模型,一方面讓大模型變得更強(qiáng)大,另一方面也能起到對(duì)大模型的約束。面對(duì)國內(nèi)大模型安全需求的井噴,周鴻祎表示,360的原生大模型安全解決方案能夠平移、復(fù)制給有需求的行業(yè)合作伙伴和客戶,以外掛式“360大模型安全管家”的形式對(duì)外賦能,提供網(wǎng)絡(luò)與數(shù)據(jù)安全、內(nèi)容護(hù)欄、搜索知識(shí)增強(qiáng)、可視化數(shù)據(jù)監(jiān)測等能力。(文猛)

編 輯:高靖宇
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問題,請(qǐng)?jiān)?0日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
工信部張?jiān)泼鳎捍蟛糠謬倚聞澐至酥蓄l段6G頻譜資源
精彩專題
專題丨“汛”速出動(dòng) 共筑信息保障堤壩
2023MWC上海世界移動(dòng)通信大會(huì)
中國5G商用四周年
2023年中國國際信息通信展覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像