10月13日消息,蘋果公司現(xiàn)已為旗下多模態(tài)大模型MM推出1.5版本,該版本模型基于前代MM1的架構(gòu),繼續(xù)延續(xù)數(shù)據(jù)驅(qū)動的訓(xùn)練原則,重點(diǎn)研究在不同訓(xùn)練周期中混合不同類型數(shù)據(jù)對模型性能的影響。
該版本模型提供10億-300億多種參數(shù)規(guī)模,擁有圖像識別和自然語言推理能力。蘋果公司研發(fā)人員在新版本中改進(jìn)了數(shù)據(jù)混合策略,顯著提升了模型在多文本圖像理解、視覺引用與定位(Grounding)以及多圖像推理方面的能力。
此外,研究人員在監(jiān)督式微調(diào)階段分析了不同數(shù)據(jù)類型對模型表現(xiàn)的影響,優(yōu)化了視覺指令微調(diào)數(shù)據(jù)的混合方式,從而為模型實(shí)現(xiàn)了更高的效率,團(tuán)隊(duì)表示,即便是小規(guī)模的模型(10、30億參數(shù)版本)也能表現(xiàn)出色。
值得關(guān)注的是,蘋果公司本次還推出了專門用于視頻理解的MM1.5-Video模型和專門處理移動設(shè)備用戶界面(UI)理解的MM1.5-UI模型,其中MM1.5-UI模型未來有望作為iOS幕后的“蘋果牌”AI,其能夠處理各種視覺引用與定位任務(wù)、總結(jié)屏幕上的功能,或者通過與用戶的對話進(jìn)行交互。
盡管MM1.5模型在多項(xiàng)基準(zhǔn)測試中取得了優(yōu)秀表現(xiàn),蘋果團(tuán)隊(duì)仍計(jì)劃通過進(jìn)一步融合文本、圖像和用戶交互數(shù)據(jù),設(shè)計(jì)更復(fù)雜的架構(gòu),來提升模型對移動設(shè)備UI的理解能力,加強(qiáng)“蘋果牌”AI的實(shí)力。
分享到微信 ×
打開微信,點(diǎn)擊底部的“發(fā)現(xiàn)”,
使用“掃一掃”即可將網(wǎng)頁分享至朋友圈。