構(gòu)建“安全可信、可控易用”的企業(yè)級(jí)大模型

周鴻祎    360集團(tuán)創(chuàng)始人

世界互聯(lián)網(wǎng)大會(huì)數(shù)字文明尼山對(duì)話討論的主題聚焦“構(gòu)建安全可信的人工智能”“人工智能賦能百行千業(yè)”，最近360自研的認(rèn)知大模型智腦也在相關(guān)方向有所探索，借這次機(jī)會(huì)，我想分享一些實(shí)踐中得到的經(jīng)驗(yàn)和思考。

這次ChatGPT大模型的誕生代表著通用人工智能、強(qiáng)人工智能的到來(lái)，是真正的智能涌現(xiàn)。大模型能夠真正地理解人類所有的語(yǔ)言，能夠很自然地做出各種交流和推理，這意味著人工智能第一次完整理解了我們?nèi)祟愂澜绲闹R(shí)，并且已經(jīng)從感知進(jìn)化到了認(rèn)知，不僅能夠理解文字、語(yǔ)言，還能做出分析、規(guī)劃。未來(lái)，傳統(tǒng)算法將被代替，大模型在自動(dòng)駕駛、機(jī)器人控制、蛋白質(zhì)分析等很多重要領(lǐng)域都會(huì)大顯身手。

目前，產(chǎn)學(xué)研各界已經(jīng)形成了共識(shí)，ChatGPT大模型將會(huì)帶來(lái)一場(chǎng)新的工業(yè)革命。數(shù)字時(shí)代最重要的是大數(shù)據(jù)，但大數(shù)據(jù)就像“石油”，難以直接使用。ChatGPT的出現(xiàn)就像發(fā)電廠，把大數(shù)據(jù)從“石油”加工成了“電”，賦能百行千業(yè)。如今數(shù)字化已上升為國(guó)家戰(zhàn)略，其中產(chǎn)業(yè)數(shù)字化是重要的發(fā)展機(jī)遇，我認(rèn)為產(chǎn)業(yè)數(shù)字化的終極目標(biāo)就是智能化，而ChatGPT大模型將會(huì)成為產(chǎn)業(yè)數(shù)字化重要的賦能者。

在這場(chǎng)工業(yè)革命中，大模型真正的機(jī)會(huì)在企業(yè)市場(chǎng)，它可作為生產(chǎn)力工具提升企業(yè)生產(chǎn)率。ChatGPT雖然是靠聊天功能破圈，但這只是它的一種“親民偽裝”，實(shí)際上大模型絕對(duì)不是一個(gè)娛樂(lè)工具，而是工業(yè)革命級(jí)的生產(chǎn)力工具。即使是個(gè)人消費(fèi)者，最終還是會(huì)利用大模型滿足剛需，將其應(yīng)用在辦公場(chǎng)景里，成為提高辦公效率的工具，比如公文寫(xiě)作等。因此我認(rèn)為，企業(yè)級(jí)市場(chǎng)才是大模型未來(lái)發(fā)展真正出彩的地方。

但是，當(dāng)我們帶著通用大模型真正走進(jìn)政府部門、城市、行業(yè)、企業(yè)時(shí)就會(huì)發(fā)現(xiàn)，公有大模型無(wú)法直接使用。因?yàn)楣写竽Ｐ痛嬖谝韵滤狞c(diǎn)不足：

第一，公有大模型雖然是通才，但它缺乏行業(yè)深度。我們之前認(rèn)為ChatGPT什么都會(huì)，但如果你是一個(gè)行業(yè)專家，你會(huì)發(fā)現(xiàn)ChatGPT在安全、金融這些垂直領(lǐng)域，知識(shí)深度是不夠的。很多公司自己訓(xùn)練大模型都發(fā)現(xiàn)了這個(gè)特點(diǎn)，想讓它能力很均衡，就會(huì)犧牲深度。所以未來(lái)垂直大模型是重要的發(fā)展方向，通用模型和各領(lǐng)域?qū)Ｓ兄R(shí)數(shù)據(jù)結(jié)合，讓大模型從“萬(wàn)事通”變成“政府通”“行業(yè)通”“企業(yè)通”，這才是真正的價(jià)值。最新資料表明，ChatGPT4也是由8個(gè)垂直模型組成的，從側(cè)面印證了這個(gè)觀點(diǎn)。

第二，公有大模型容易造成企業(yè)內(nèi)部數(shù)據(jù)泄露。一方面，公有大模型不是本地部署，它與外部進(jìn)行信息交流時(shí)必然存在數(shù)據(jù)泄露風(fēng)險(xiǎn)；另一方面，公有大模型也無(wú)法實(shí)現(xiàn)組織內(nèi)部權(quán)限分級(jí)管理。因此，政府、企業(yè)使用公有大模型必然存在安全風(fēng)險(xiǎn)。

第三，公有大模型無(wú)法保障內(nèi)容真正可信。這主要包含兩個(gè)問(wèn)題：一個(gè)是企業(yè)在日常生產(chǎn)經(jīng)營(yíng)過(guò)程中，知識(shí)庫(kù)是實(shí)時(shí)產(chǎn)生并且不斷變化的。它不像公有大模型的通用知識(shí)，是一成不變的“百科全書(shū)”。因此，企業(yè)使用公有大模型無(wú)法滿足時(shí)效性的需求。另一個(gè)是大模型自身的“幻覺(jué)”問(wèn)題，也就是我們常說(shuō)的“一本正經(jīng)地胡說(shuō)八道”。公有大模型經(jīng)常出現(xiàn)張冠李戴的問(wèn)題，需要通過(guò)企業(yè)內(nèi)部搜索、內(nèi)部知識(shí)庫(kù)進(jìn)行矯正。這些都需要專有大模型才能實(shí)現(xiàn)。

第四，公有大模型無(wú)法實(shí)現(xiàn)成本可控。 舉個(gè)例子，很多企業(yè)其實(shí)只需要大模型寫(xiě)代碼的能力，這時(shí)候公有大模型寫(xiě)詩(shī)、寫(xiě)論文的能力就是多余的。也就是說(shuō)，很多企業(yè)只需要百億級(jí)垂直大模型就滿足需求，如果使用千億級(jí)大模型就是成本浪費(fèi)。這個(gè)成本不只是大模型的采購(gòu)成本，還包括訓(xùn)練成本、部署成本、微調(diào)成本。在控制成本方面，垂直大模型將會(huì)有很大優(yōu)勢(shì)。因此，在一個(gè)用公開(kāi)數(shù)據(jù)訓(xùn)練的“通識(shí)”大模型基礎(chǔ)上，訓(xùn)練專有大模型，就能做到事半功倍，為企業(yè)降本增效。

大模型想要成為企業(yè)級(jí)的智能化賦能工具，必須要行業(yè)化、專有化，從“萬(wàn)事通”變成“城市通”“行業(yè)通”“企業(yè)通”。而企業(yè)落地大模型則需要分步來(lái)實(shí)現(xiàn)。目前的當(dāng)務(wù)之急叫做“小切口大縱深”，先把大模型最擅長(zhǎng)、最成熟的能力用好。剛開(kāi)始可以從辦公場(chǎng)景入手。因?yàn)榇竽Ｐ筒皇侨f(wàn)能的，最擅長(zhǎng)最成熟的能力肯定是自然語(yǔ)言處理。而且辦公場(chǎng)景能做到松耦合，與現(xiàn)有的業(yè)務(wù)系統(tǒng)無(wú)縫融合。具體來(lái)說(shuō)，一些細(xì)分場(chǎng)景包括信息分析、知識(shí)管理、內(nèi)容創(chuàng)作和智能客服等，讓員工上手嘗試，慢慢發(fā)掘大模型的能力，對(duì)大模型逐漸熟悉，之后再將大模型與業(yè)務(wù)進(jìn)行深度融合，這樣大模型的發(fā)展才能可控易用。

企業(yè)級(jí)場(chǎng)景要打造 “安全可信、可控易用”的專有大模型，需要堅(jiān)持五個(gè)原則，包括：安全原則，企業(yè)級(jí)應(yīng)用必須是安全的大模型；可信原則，大模型要解決準(zhǔn)確性、實(shí)時(shí)性的短板問(wèn)題；可控原則，堅(jiān)持把大模型定位在輔助工具上，確保人始終在業(yè)務(wù)決策的回路上；易用原則，這里面“數(shù)字人”“數(shù)字員工”有很大的想象空間；最后是普惠原則，要讓每個(gè)人都能用起來(lái)。

人工智能的發(fā)展要“以人為本”，大模型不能引發(fā)大規(guī)模裁員，而是要幫助企業(yè)員工提升能力和效率，成為易用的工具，讓每個(gè)普通員工都能真正用起來(lái)。因此，未來(lái)面向企業(yè)，“數(shù)字員工”會(huì)成為非常重要的一個(gè)概念。相比和機(jī)器進(jìn)行復(fù)雜的交互，與“人”對(duì)話更符合我們?nèi)粘Ａ?xí)慣，“數(shù)字員工”將大大降低大模型使用門檻。未來(lái)也不只企業(yè)老板能擁有“數(shù)字員工”做助理，每個(gè)企業(yè)員工都能有若干數(shù)字助手，比如法務(wù)助理、財(cái)務(wù)助理、市場(chǎng)助理，來(lái)協(xié)助創(chuàng)作、策劃、分析、總結(jié)等日常工作。

人工智能大模型這場(chǎng)工業(yè)革命已經(jīng)到來(lái)，未來(lái)大模型在各個(gè)城市、各個(gè)行業(yè)、各個(gè)企業(yè)將得到充分應(yīng)用，市場(chǎng)的機(jī)會(huì)也才剛剛開(kāi)始。360也將發(fā)揮過(guò)往在人工智能領(lǐng)域積累的經(jīng)驗(yàn)和優(yōu)勢(shì)，幫助各地構(gòu)建“安全可信、可控易用”的大模型，為產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型到智能化升級(jí)，貢獻(xiàn)自己的一份力量。

（本刊記者劉溫馨根據(jù)周鴻祎在世界互聯(lián)網(wǎng)大會(huì)數(shù)字文明尼山對(duì)話上的發(fā)言摘編。）

選自《新安全》2023.06（總第250期）