復旦MOSS模型今日開源 展望語言大模型生態(tài)
新華財經上海4月21日電(記者 宋薇萍 實習生 譚镕)4月21日
,復旦大學自然語言處理實驗室開發(fā)的新版MOSS模型正式上線,成為國內首個插件增強的開源對話語言模型
。
復旦大學計算機科學技術學院教授MOSS系統(tǒng)負責人邱錫鵬表示:“對于下一階段的大型語言模型來講
,我們目前重點需要去做的事情,就是讓模型和現實世界以及人類的價值觀進行“對齊”
,成為一個真正的智能體?div id="jfovm50" class="index-wrap">!?/p>
MOSS:對話式大型語言模型今日開源
【資料圖】
近期
,關于語言模型的關注持續(xù)高漲
。相比之前的生成式對話產品
,ChatGPT在大范圍連續(xù)對話能力、生成內容質量
、語言理解能力和邏輯推理能力上都得到大幅提升,超出了大眾對于一款聊天機器人的預期
,是生成式AI(AIGC)極為關鍵的發(fā)展節(jié)點
。
MOSS是國內第一個發(fā)布的對話式大型語言模型。它可以執(zhí)行對話生成
、編程、事實問答等一系列任務
,打通了讓生成式語言模型理解人類意圖并具有對話能力的全部技術路徑
。
目前,MOSS模型已上線開源,相關代碼
、數據
、模型參數已在Github和Hugging Face等平臺開放,供科研人員下載
,促進人工智能模型研究和開源社區(qū)的生態(tài)繁榮。開源代碼涵蓋模型訓練和推理代碼
,開源數據包括超100萬條對話訓練數據
,開源模型包括160億參數中英雙語基座語言模型、對話模型以及插件增強的對話模型
。
MOSS基于公開的中英文數據訓練
,目前已經擁有200億參數,具有和人類對話的能力
,并可以通過與人類交互實現迭代優(yōu)化
。
其中隱含著三個非常重要的技術
?div id="jpandex" class="focus-wrap mb20 cf">!暗谝皇乔榫皩W習,大型語言模型可以直接和人交互
,這從產品角度來說也是一個很大的創(chuàng)新,還可以大幅降低下游開發(fā)成本
;第二是思維鏈
,不僅給出答案,也給出邏輯推導
;第三是自然指令學習,要讓機器明白我們的情感和真實意圖
,以前是從大數據中學
,現在可以直接從指令中學?div id="jfovm50" class="index-wrap">!鼻皴a鵬說道。
MOSS開源 改善行業(yè)生態(tài)
在業(yè)內看來
,自研通用預訓練大語言模型具有必要性角度
,在目前國際形勢下,自主可控是保障網絡安全
、信息安全的前提,自研基石模型具有高度戰(zhàn)略意義
。
邱錫鵬說
,人們之所以很容易有“卡脖子”問題,是因為缺乏一個好的行業(yè)生態(tài)
。就拿ChatGPT來說
,OpenAI公司只需專注做好模型,算力
、數據和系統(tǒng)則交給其他公司
。反觀國內,很多公司在做大型語言模型時所有環(huán)節(jié)都需要自己做,每家的數據和算力也有限
,結果是每家都做不大
。在發(fā)展過程中,大型語言模型訓練與在線推理成本過高也是一個重大問題
。
“我們考慮把MOSS開源而不是商業(yè)化
,就是希望改善這種生態(tài),有了這樣一個基座
,大家就不用重復開發(fā)底層技術
,可以在上面接不同的細分領域?div id="jpandex" class="focus-wrap mb20 cf">!睆偷┐髮W計算機科學技術學院教授
、MOSS系統(tǒng)負責人邱錫鵬說。
相關人士表示
,目前中國巨頭廠商深耕通用基礎大模型研發(fā)布局產業(yè)生態(tài)布局,肩部廠商基于開源模型或海量數據打造垂直基礎大模型
如有問題,請聯(lián)系我們!
,建立垂直行業(yè)的平臺生態(tài)
。語言大模型及下游應用產業(yè)對于國家數字經濟發(fā)展具有戰(zhàn)略性意義。
編輯:翟卓
關鍵詞:
責任編輯:孫知兵
免責聲明:本文僅代表作者個人觀點
,與太平洋財富網無關。其原創(chuàng)性以及文中陳述文字和內容未經本站證實,對本文以及其中全部或者部分內容、文字的真實性、完整性、及時性本站不作任何保證或承諾,請讀者僅作參考,并請自行核實相關內容。如有問題,請聯(lián)系我們!
- 復旦MOSS模型今日開源 展望語言大模型生態(tài)2023-04-21
- 安全性、豪華感兼?zhèn)洌篨C90彰顯沃爾沃汽車獨2023-04-21
- 信用卡分期賬單提前還款是真的嗎?信用卡分2023-04-21
- 信用卡分期賬單提前還款利息怎么算
?信用卡2023-04-21- 信用卡逾期一年多了怎么協(xié)商解決
?信用卡逾2023-04-21- 信用卡逾期一年多了會停卡嗎?信用卡逾期12023-04-21
- 品牌創(chuàng)新之路:Baseus倍思如何做到持續(xù)領先2023-04-21
- 信用卡逾期一年多了會不會坐牢
?信用卡逾期2023-04-21- 信用卡逾期還能繼續(xù)使用嗎
?信用卡2次逾期2023-04-21- 【環(huán)球速看料】神思電子率先打造城市能源行2023-04-21
- 臻鐳科技披露2022年報 營業(yè)收入同比漲超27%2023-04-21
- 交銀國際:予越秀地產買入評級 目標價12.82023-04-21
- 富瑞:中國電信估值極具吸引力 目標價6港2023-04-21
- 野村:重申網易-S買入評級 目標價上調至162023-04-21
- 環(huán)球最資訊丨午評:港股恒指跌0.64% 恒生2023-04-21
- 世界滾動:恒指半日跌0.64%
!半導體股回調,2023-04-21- 信用卡逾期會被凍結嗎
?信用卡借錢逾期不還2023-04-21,華夏保險高品質保險服務深入人心">產品與服務“雙管齊下”,華夏保...- 信用卡逾期影響買房嗎
?信用卡逾期4天怎么2023-04-21?德易車金融提供最優(yōu)解">預算不足但希望買輛車?德易車金...- 信用卡逾期除了被催收還有什么影響?網貸逾2023-04-21
- 信用卡逾期派出所會上門抓人嗎
?信用卡逾期2023-04-21- 信用卡逾期派出所打電話是真的嗎
?逾期怎么2023-04-21,癡人說夢話(望海樓)">唱衰中國發(fā)展,癡人說夢話(望海樓)- 預算不足但希望買輛車
?德易車金融提供最優(yōu)2023-04-21、東南亞多國出現極高溫天氣|天天最新">南亞、東南亞多國出現極高溫天氣|天天最新- 信用卡分期的用處是什么
?信用卡還不上怎么2023-04-21- 信用卡賬單分期怎么申請?信用卡如何賬單分2023-04-21
- 信用卡分期賬單怎么查?信用卡分期賬單怎么2023-04-21
- 資本偏愛優(yōu)等生,倍思科技詮釋全能選手2023-04-21
- 產品與服務“雙管齊下”,華夏保險高品質保2023-04-21
- 什么是皮肌炎間質肺炎_什么是皮肌炎2023-04-21
- 外匯局:我國宏觀基本面和外匯市場內在韌性2023-04-21
- 南亞、東南亞多國出現極高溫天氣|天天最新2023-04-21
- 歐冠:曼城戰(zhàn)平拜仁 總比分4:1闖入半決賽
- 賞花經濟助力鄉(xiāng)村振興
- 李從瑞升任中國金茂董事長,陶天海任中國...
- 海陽人社局深入開展“新型學徒制” 助...
- 當前最新:融創(chuàng)已獲超75%債權人支持 境...
- 淌組詞_用恕組詞
閱讀排行
- 品牌創(chuàng)新之路:Baseus倍思如何做...
- 【環(huán)球速看料】神思電子率先打造...
- 臻鐳科技披露2022年報 營業(yè)收入...
- 資本偏愛優(yōu)等生,倍思科技詮釋全...
- 面子里子都兼顧 vifa威法高端定...
- 寶馬MINI再次致歉 市值一夜蒸發(fā)...
,助你新年大展鴻“兔”!">泰康大健康事業(yè)合伙人英才計劃,助你新年大展鴻“兔”!關于我們 - 聯(lián)系方式 - 版權聲明 - 招聘信息 - 友鏈交換 - 網站統(tǒng)計
太平洋財富主辦 版權所有:太平洋財富網
?
中國互聯(lián)網違法和不良信息舉報中心
Copyright© 2012-2020 太平洋財富網(m.rkrking.com) All rights reserved.
未經過本站允許 請勿將本站內容傳播或復制 業(yè)務QQ:3 31 986 683
- 信用卡分期賬單提前還款利息怎么算