今天的面試就先到這里,幾位回去等通知吧
鄧永華聽完微微點(diǎn)頭:“一些行業(yè)里確實(shí)會(huì)存在這種問(wèn)題,我是搞網(wǎng)安方向的,
一般這種情況我們關(guān)注的都是如何保護(hù)已上傳的數(shù)據(jù)或者是在數(shù)據(jù)傳輸過(guò)程中進(jìn)行更加復(fù)雜的加密算法,
但是數(shù)據(jù)在傳輸過(guò)程中,無(wú)論加密多強(qiáng),理論上都存在被截獲和破解的風(fēng)險(xiǎn),而且數(shù)據(jù)包越多,傳輸時(shí)間越長(zhǎng),風(fēng)險(xiǎn)暴露窗口越大,
現(xiàn)在大模型的數(shù)據(jù)量都是巨大的,風(fēng)險(xiǎn)也會(huì)更大,所以一些保密性強(qiáng)的數(shù)據(jù),現(xiàn)在還是會(huì)采用光盤,硬盤這種物理的方式。
不過(guò)你這種方法也算是一種新的思路,繼續(xù)吧?!?/p>
“老師說(shuō)的沒錯(cuò),ai模型的邊緣部署如果能夠?qū)崿F(xiàn),可以很大程度上規(guī)避這類數(shù)據(jù)安全的問(wèn)題,讓數(shù)據(jù)可以直接在本地進(jìn)行使用,不用轉(zhuǎn)移?!?/p>
周昀將ppt翻到下一頁(yè):“其實(shí)現(xiàn)在已經(jīng)有了不少相關(guān)的研究,但是想要真正實(shí)現(xiàn)讓大模型在手機(jī)這種終端運(yùn)行還有很長(zhǎng)一段路要走?!?/p>
哪怕是明年年初deepseek公開論文中的蒸餾方法,也達(dá)不到周昀想要的結(jié)果。
其實(shí)憑借他現(xiàn)在變態(tài)的記憶力完全可以復(fù)現(xiàn)出大量還未出現(xiàn)的頂刊論文,包括很多開源的代碼。
但是他不會(huì)這么做,計(jì)算機(jī)能夠如此快速的發(fā)展,離不開兩個(gè)字——“開源”!
如果他真的做了“文抄公”,就相當(dāng)于是剽竊了別人的研究成果,哪怕是前世的周昀都沒有干過(guò)這種事情,更別說(shuō)現(xiàn)在了。
而且,憑他現(xiàn)在的智商,想發(fā)幾篇頂刊,很難嗎?
收回有些發(fā)散的思維,周昀繼續(xù)道:“現(xiàn)有的邊緣
ai部署我總結(jié)為以下三類:
1模型壓縮,這是最直接也最常用的方法之一,可以理解為將一塊充滿水分的海綿強(qiáng)行擠壓變小,主要的方法一般有量化、剪枝、知識(shí)蒸餾,不過(guò)這種方法也有一個(gè)缺陷,那就是模型的性能會(huì)變差。
2邊緣資源管理與調(diào)度,簡(jiǎn)單來(lái)說(shuō)就是智能地分配和優(yōu)化邊緣計(jì)算設(shè)備,如服務(wù)器、傳感器、網(wǎng)關(guān)的算力,以高效、低延遲地執(zhí)行
ai任務(wù),但是這種方法會(huì)帶來(lái)數(shù)據(jù)安全和隱私問(wèn)題。
3適應(yīng)性
ai系統(tǒng),這是我自己定義一種方法,即設(shè)計(jì)一種框架,讓大模型能夠自行優(yōu)化,縮小,達(dá)到能夠部署在邊緣設(shè)備的方法,通俗來(lái)講就是用ai調(diào)教ai。
這也是我提出的agileed的主要思想。
當(dāng)然,我所說(shuō)的方法都是軟件層面的,不管怎么設(shè)計(jì),其終究都是受限于物理設(shè)備,
但是在我看來(lái),如今的算法還遠(yuǎn)遠(yuǎn)沒有觸及到現(xiàn)有物理設(shè)備的上限?!?/p>
聽到這里,一同參加面試的四位學(xué)生已經(jīng)有點(diǎn)麻了。
滿臉的問(wèn)號(hào)已經(jīng)不足以形容他們的懵逼。
他們腦子里不由得同時(shí)發(fā)出靈魂三問(wèn):“我是誰(shuí)?我在哪?我要干什么?”
這還是雙非嗎?
不光是他們,其實(shí)就連邱彥和沈瑞都有些唏噓,雖然暫時(shí)周昀還沒有講到具體的算法,
但是光憑前面這些,就能看出來(lái)他在ai方面的功底不差,論文估計(jì)也沒少看,不然就鄧?yán)蠋焼?wèn)的