中國冶金報 中國鋼鐵新聞網(wǎng)
記者 樊三彩 報道
繼ChatGPT大模型后,國內智譜AI的ChatGLM、百度的文心一言、科大訊飛的星火等國產(chǎn)大模型如雨后春筍般涌現,被稱(chēng)為“百模大戰”。在它背后,不僅是各家技術(shù)實(shí)力的比拼,也是應用場(chǎng)景落地能力的較量。令市場(chǎng)狂熱的大模型究竟有何魔力?當鋼鐵行業(yè)遇見(jiàn)大模型,又會(huì )碰撞出怎樣的火花?近日,《中國冶金報》記者專(zhuān)訪(fǎng)了智譜AI CEO張鵬,圍繞當前的“大模型熱”進(jìn)行了對話(huà)。
智譜AI于2019年由清華大學(xué)計算機系技術(shù)成果轉化而成立,于次年便開(kāi)始了GLM預訓練架構的研發(fā),是國內最早從事大模型相關(guān)研究的機構之一?!懊鎸Α竽P蜔帷?,如果用一個(gè)詞來(lái)形容我的想法,那就是篤信?!睆堸i指出,“信”當然就是相信這件事情,大模型一定是通往AGI(通用人工智能)的必經(jīng)之路,能創(chuàng )造更大的價(jià)值;“篤”是一種踏實(shí)、審慎的態(tài)度,相信是基于對這件事情的理解和鉆研,而不是狂熱、沒(méi)有根基的。
從紙上談兵到實(shí)踐躬行,大模型為什么這么“熱”?
大模型的起源可以追溯到2017年,Transformer算法架構的誕生,開(kāi)啟了大模型演化的歷史進(jìn)程。雖然在接下來(lái)的幾年內,BERT、GPT-1、GPT-2也先后出現,甚至BERT在十多個(gè)自然語(yǔ)言理解任務(wù)上大大超過(guò)傳統算法的精度,但依舊沒(méi)有在業(yè)界引起太多的火花,直至2020年的到來(lái)?!斑@一年是大模型元年?!睆堸i表示。
GPT-3的問(wèn)世大大提高了模型的內容生成和邏輯推理能力,它在上下文學(xué)習和知識(常識)理解等方面展現出驚人能力。隨后在全球范圍內掀起了一股基礎模型研究的熱潮,國外如 Meta、微軟、谷歌等,國內如清華大學(xué)、北京智源人工智能研究院、百度、華為、阿里巴巴、智譜AI等,都競相追趕,提出包括Gopher、Chinchilla、PaLM、GLM-130B等在內的多個(gè)千億元級模型。
然而,復雜的研發(fā)技術(shù)以及高昂的訓練成本,也讓不少人望而卻步。在當時(shí),并不是所有人都能夠看清技術(shù)發(fā)展脈絡(luò ),而大模型對資金投入的要求很高,貿然投入風(fēng)險頗大?!爱敃r(shí),我們邀請了一些學(xué)界的教授對未來(lái)技術(shù)的演進(jìn)方向進(jìn)行研討,大家都認為這是大模型到達了一個(gè)臨界點(diǎn)的信號,AI開(kāi)始真正進(jìn)入了可用階段。但是我們在尋找算力、模型工程問(wèn)題等方面遇到了很多困難,最后猶豫了很久才決定all in(全部投入)大模型,開(kāi)始自研算法框架?!睆堸i表示。
直至2022年底,ChatGPT發(fā)布才真的激起了“百模大戰”的開(kāi)始,與過(guò)往的機器學(xué)習技術(shù)不同,ChatGPT不再是枯燥的技術(shù)理論,它能夠在各領(lǐng)域的應用場(chǎng)景反復驗證,人們才真正感受到大模型“智能涌現”的魅力。ChatGPT實(shí)現全球用戶(hù)破億僅用了短短兩個(gè)月,而電話(huà)用戶(hù)破億用了75年,手機用了16年,網(wǎng)站用了7年,此前用戶(hù)增長(cháng)最快的應用TikTok也用了9個(gè)月。
百家爭鳴、百花齊放,對“大模型熱”要注意什么?
ChatGPT的發(fā)布激發(fā)了更多機構和公司的研發(fā)斗志和熱情,眾多資本紛紛投入到大模型研發(fā)的藍海之中,相關(guān)部門(mén)也關(guān)注到了這一重要的技術(shù)創(chuàng )新,給予了非常多的政策支持,進(jìn)一步促進(jìn)了大模型的研發(fā)和優(yōu)化升級,形成了“百家爭鳴、百花齊放”的科技發(fā)展新態(tài)勢。這也讓已經(jīng)積累了兩年技術(shù)實(shí)力的智譜AI從幕后走到了臺前。
但面對“大模型熱”絕不能盲目。大模型的開(kāi)發(fā)和應用雖然會(huì )助推產(chǎn)業(yè)和經(jīng)濟發(fā)展,但如果不加以合理管控,也會(huì )給產(chǎn)業(yè)安全帶來(lái)風(fēng)險。一方面是芯片的“卡脖子”問(wèn)題。算力是大模型的基礎之一,如何保證算力的持續穩定供應是產(chǎn)業(yè)安全必須關(guān)注的問(wèn)題。另一方面,產(chǎn)業(yè)所使用的基座模型是否安全可控也是一個(gè)重要的問(wèn)題。模型的訓練數據是否安全合規,模型是否自主可控,會(huì )不會(huì )像“芯片進(jìn)口”一樣遇到各種限制?這些都是影響產(chǎn)業(yè)長(cháng)遠發(fā)展的重要問(wèn)題。
面對風(fēng)險挑戰,張鵬指出,作為一家創(chuàng )業(yè)公司,做大語(yǔ)言模型要有很大的決心,除了研究層面上的挑戰,還有模型訓練工程層面上涉及到的資源投入、團隊、訓練數據等一系列的事情。在芯片問(wèn)題上,智譜AI在研發(fā)之初便制訂了國產(chǎn)硬件適配計劃,目前已經(jīng)與十余家國產(chǎn)芯片廠(chǎng)商合作,希望可以在全方位適配的同時(shí),提升模型在國產(chǎn)硬件上的訓練推理效率。此外,智譜AI也選擇了從底層算法開(kāi)始自研,以實(shí)現基座模型安全可控的目標。
“國產(chǎn)大模型與國外大模型之間的差距依然存在,但我們有信心去追趕這個(gè)差距,我們一直在不斷創(chuàng )新的路上?!睆堸i表示。
傳統產(chǎn)業(yè)+大模型,如何放大應用價(jià)值?
當前,隨著(zhù)人工智能的快速發(fā)展,大模型的應用已經(jīng)逐漸從研究領(lǐng)域擴展到工業(yè)實(shí)踐中,形成工業(yè)大模型。從“通用”到“應用”,大模型正在叩響工業(yè)制造的大門(mén)。
從研發(fā)難度來(lái)看,無(wú)論是通用大模型,還是工業(yè)大模型,研發(fā)投入、核心人才和應用場(chǎng)景都是不可或缺的,也構成了市場(chǎng)的核心壁壘。而工業(yè)大模型對算法模型的有效性、高質(zhì)量的數據、算力的支撐能力有極高要求,模型的優(yōu)化迭代亦有賴(lài)于資金和人才的持續投入。因此,大模型的實(shí)際落地和行業(yè)應用能力成為了市場(chǎng)檢驗的重要標準。
“工業(yè)大模型的普適性商業(yè)應用尚需探索?!睆堸i認為,一是工業(yè)大模型需與其他數字化產(chǎn)品進(jìn)一步整合,滿(mǎn)足工業(yè)企業(yè)對網(wǎng)絡(luò )、算力以及數據管理的一體化要求,實(shí)現即買(mǎi)即用。二是工業(yè)企業(yè)使用門(mén)檻仍然較高,比如需要基于提示詞進(jìn)行應用開(kāi)發(fā),把問(wèn)題解決的長(cháng)線(xiàn)邏輯和相關(guān)案例融入進(jìn)去,使大模型能按照預設步驟、思考鏈路和回答格式來(lái)產(chǎn)生答案。三是工業(yè)各領(lǐng)域已存在大量工業(yè)軟件、工業(yè)互聯(lián)網(wǎng)平臺,如何利用大模型形成協(xié)同生態(tài)將深刻影響用戶(hù)感知及產(chǎn)品生命力,允許并鼓勵第三方開(kāi)發(fā)者基于工業(yè)大模型開(kāi)發(fā)插件是重要路徑,如OpenAI正基于ChatGPT+插件加快構建自己的生態(tài)圈。
大語(yǔ)言模型會(huì )重塑千行百業(yè)的業(yè)態(tài),但需要在具體的行業(yè)落地方面投入更多資源。任何一項技術(shù)發(fā)展到一定程度之后,都必然會(huì )產(chǎn)生更多實(shí)際價(jià)值。如何實(shí)現價(jià)值,常見(jiàn)的一種說(shuō)法是并不需要通用的基座大模型,只需要小的、中量級的、合適的行業(yè)模型。但大語(yǔ)言模型能力突破的根本原因在于,它對世界知識的學(xué)習和建模,使得它具備了接近人的理解推理和更進(jìn)階的認知能力。張鵬表示,最理想的狀態(tài)是,行業(yè)模型并不是完全獨立于基座模型和通用模型,而是生長(cháng)在基座模型之上,基于它進(jìn)行進(jìn)一步的訓練和微調。
當前,我國傳統產(chǎn)業(yè)正面臨智能化轉型,加入行業(yè)特色數據與知識、精準匹配真實(shí)應用場(chǎng)景的行業(yè)大模型,能夠極大地提升業(yè)務(wù)流程效率和水平,驅動(dòng)產(chǎn)業(yè)轉型升級。鋼鐵工業(yè)具有生產(chǎn)流程連續、工藝體系復雜、產(chǎn)品中間態(tài)多樣化、大型高溫高壓設備集中、人員安全要求高等特征,屬于典型的流程型制造業(yè),面臨著(zhù)嚴峻的資源、市場(chǎng)、環(huán)保、競爭等挑戰?!颁撹F工業(yè)亟需通過(guò)大模型等先進(jìn)技術(shù)及場(chǎng)景化創(chuàng )新應用,提升行業(yè)的綠色環(huán)保、安全保障水平和生產(chǎn)效率?!睆堸i說(shuō)。
對于大模型如何在鋼鐵行業(yè)應用,張鵬表示,可以打造鋼鐵工業(yè)人工智能解決方案,以具備通用基礎能力的AI大模型作為智能底座,結合行業(yè)知識和場(chǎng)景數據進(jìn)行訓練和微調,從而有效應對碎片化和多樣化需求,并大幅縮減研發(fā)、定制、部署、調優(yōu)等工程化過(guò)程中的人力、時(shí)間、費用等成本投入,也能解決好數據安全問(wèn)題,促進(jìn)人工智能在鋼鐵行業(yè)大規模應用,促進(jìn)鋼鐵行業(yè)智能化升級。
