首個中文原生DiT架構(gòu) 騰訊混元文生圖大模型宣布全面開源
- 來源:快科技
- 作者:3DM整理
- 編輯:方形的圓
快科技今日(5月14日)消息,今日,騰訊旗下混元文生圖大模型(混元DiT,Diffusion Models with Transformers)宣布全面開源。
目前已在Hugging Face、Github上發(fā)布,包含模型權重、推理代碼、模型算法等完整模型,供企業(yè)與個人開發(fā)者免費商用。
據(jù)媒體報道,騰訊混元文生圖負責人盧清林表示,混元DiT開源的價值有兩方面。
一方面這是業(yè)內(nèi)首個中文原生DiT架構(gòu),彌補了開源社區(qū)的空白,另一方面混元DiT為全面開放,與現(xiàn)網(wǎng)版本完全一致。
據(jù)介紹,此次開源的混元DiT采用了與Sora同樣的背后關鍵技術——DiT架構(gòu),還支持256字中文理解,不僅支持文生圖,也可作為視頻等多模態(tài)視覺生成的基礎。
騰訊方面表示,為了構(gòu)建混元DiT設計了Transformer結(jié)構(gòu)、文本編碼器和位置編碼,構(gòu)建了完整的數(shù)據(jù)管道,用于更新和評估數(shù)據(jù),為模型優(yōu)化迭代提供幫助。
為了實現(xiàn)細粒度的文本理解,還訓練了多模態(tài)大語言模型來優(yōu)化圖像的文本描述。
最終,混元DiT能夠與用戶進行多輪對話,根據(jù)上下文生成并完善圖像。

玩家點評 (0人參與,0條評論)
熱門評論
全部評論