百度創(chuàng)始人兼CEO李彥宏在2023中關(guān)村論壇全體會議上宣布,百度即將正式發(fā)布文心大模型的3.5版本。他說,自然語言人機交互將引領提示詞革命,他預測未來十年全球有50%的工作量會是提示詞工程,提問比解答更重要。我們的教育要教孩子提問,而不僅僅是教他們解答。
今年3月中旬,百度推出的大模型“文心一言”,目前已經(jīng)升級到3.5版本,完成了4次迭代。相比于第一版大模型推理服務,單機QPS(每秒查詢率)累計提升近10倍,這意味著大模型推理的成本降低為原來1/10,可同時為原來10倍數(shù)量的用戶提供服務;模型推理性能提升50%,即文心一言進化更快了,學習又快又好了,模型效果得到進一步提升;此外,飛槳一方面與大模型的訓練和部署進行協(xié)同優(yōu)化,另一方面向下承接芯片,相當于芯片的“指令集”,適配優(yōu)化后激發(fā)芯片的潛力,讓模型算力利用率提升了1倍。
百度首席技術(shù)官、深度學習技術(shù)及應用國家工程研究中心主任王海峰表示:“文心一言的進步首先是基于百度人工智能四層架構(gòu)的全棧布局,從芯片、深度學習框架,到大模型,再到應用,實現(xiàn)了層與層反饋,端到端優(yōu)化。尤其是飛槳和文心一言的聯(lián)合優(yōu)化,大幅提升模型訓練和推理速度。同時文心一言也建立起人類反饋、獎勵模型和策略優(yōu)化之間的飛輪機制,隨著真實用戶的反饋越來越多,模型效果越來越好,能力越來越強?!?/p>