小米首次公開披露大模型進展 重點突破輕量化本地部署

(資料圖片)

8月14日，雷軍年度演講現(xiàn)場，小米首次公開披露在大模型領域的技術進展。

雷軍表示，小米2023 年研發(fā)投入預計超過 200 億，5G必要標準首次進入世界前十。目前小米已布局 12 個技術領域，99 個細分賽道，未來 5 年技術投入 1000 億元人民幣。

從2016年組建第一支視覺AI團隊到今天，歷經(jīng)6次擴展，小米人工智能團隊已經(jīng)有了3000多人，已建立起視覺、語音、聲學、知識圖譜、NLP、機器學習、多模態(tài)等AI技術能力，全面賦能從手機到AIoT、自動駕駛、智能制造、機器人等多個業(yè)務。

其中在人工智能領域，小米早在今年4月就組建了Al大模型團隊，小米大模型技術主力突破方向是輕量化本地部署，目前小米AI大模型最新一個 13 億參數(shù)大模型已經(jīng)成功在手機本地跑通，部分場景可以媲美 60 億參數(shù)模型在云端運行結果。

目前小愛同學月活戶已超1.1 億，現(xiàn)已開始升級 AI 大模型能力，今日起開啟邀請測試。小米方面表示，經(jīng)過大模型技術加持，小愛同學已擁有一個更加強大的大腦，可以答疑解惑、激發(fā)靈感、創(chuàng)造藝術，還能扮演角色進行自然對話。結合大模型的對話特點升級了小愛的交互模型，同時讓小愛同學原有的豐富能力與大模型的強大通識能力結合。

此前，由小米開發(fā)的大規(guī)模預訓練語言模型MiLM-6B 曝光，其參數(shù)規(guī)模為64億。在 C-Eval榜單與CMMLU榜單上均取得同尺寸最好的效果。根據(jù) C-Eval 給出的信息，MiLM-6B 模型在具體各科目成績上，在 STEM（科學、技術、工程和數(shù)學教育）全部 20 個科目中，計量師、物理、化學、生物等多個項目獲得了較高的準確率。

今年一季度財報電話會上，小米總裁盧偉冰表示，小米會積極擁抱大模型，但不會像Open AI一樣做通用大模型，而是會深度和業(yè)務結合協(xié)同，利用AI技術提升內(nèi)部效率。

標簽：