2024ITValue-文章详情顶部

小米AI大模型MiLM-6B首次曝光:64亿参数量,此前称不单独做ChatGPT|钛快讯

这是小米大模型产品的首次曝光,也是小米史上首个GPT大模型产品亮相。

小米总部园区

小米总部园区

在小米公司CEO雷军演讲前夕,其研发的人工智能(AI)大模型产品悄然现身。

钛媒体App获悉,8月11日,小米公司开发的大规模预训练语言模型 MiLM-6B/1.3B登陆代码托管平台GitHub,参数规模最高达64亿,而且现身在C-Eval、CMMLU基准评测榜单。

截至当前,小米大模型MiLM-6B在C-Eval总榜单排名第10、同参数量级排名第1,平均分为60.2分超过了阿里云Qwen-7B、OpenAI研发的ChatGPT(今年5月数据)等,而MiLM-1.3B排行第30名,平均分45.8分,接近谷歌投资的Anthropic公司的Claude 1.0版本大模型。

这是小米大模型产品的首次曝光,也是小米史上首个GPT大模型产品亮相。

事实上,随着ChatGPT风靡全球,今年4月14日,小米公司宣布成立小米 AI 实验室大模型团队,由栾剑带队向王斌汇报。据悉,AI实验室是小米AI战略的核心部门,而大模型负责人王斌曾在中科院从事了20多年NLP(自然语言处理)相关的研究和开发工作,2018年加入小米,2019年起负责AI实验室。

小米CEO雷军当时表示,公司正在研发一些技术和产品,等打磨好了再给大家演示。小米集团总裁卢伟冰称,小米目前拥有超过1200人的AI团队,会积极拥抱大模型,与业务深度结合,但不会像OpenAI一样。

今年6月,王斌对外透露,小米会去自研通用语言大模型,但不会单独发布一款类ChatGPT产品。他表示,小米第一步的目标基座模型参数在几百亿,而且小米大模型将会落地小爱同学、loT、自动驾驶、机器人等现有场景中,并利用丰富的应用场景反哺大模型能力。

成立仅仅四个月后的今天,小米公布了大模型产品——MiLM-6B,并在C-Eval和CMMLU基准评测上均取得同尺寸较好效果。

其中,在C-Eval评估中,MiLM-6B的平均得分为60.2,在不同学科和难度级别(如STEM、社会科学、人文学科等)得分从42分到71.7分不等。在CMMLU评估中,MiLM-6B在零样本和五样本测试中的平均得分分别为60.37分和57.17分,表现出良好的知识和推理能力。

据悉,C-Eval榜单是清华大学、上海交通大学和爱丁堡大学共同构建的综合汉语模型评估套件,而CMMLU则是综合汉语模型基准。

预计小米将会于8月14日举行2023雷军年度演讲,但目前雷军暂未透露是否会发布MiLM-6B大模型技术。

钛媒体App向团队询问关于MiLM-6B/1.3B是否开源、产品是否已经落地内测等问题,截至发稿前暂未得到小米官方回复。(本文首发钛媒体App,作者|林志佳)

转载请注明出处、作者和本文链接
声明:文章内容仅供参考、交流、学习、不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
  • 有当年网盘大战那味儿了

    回复 2023.08.17 · via android
  • 通用大模型的研发现在看来并不光明

    回复 2023.08.13 · via android
  • 还是个噱头吧

    回复 2023.08.12 · via android
  • 目测应该还不如文心一言

    回复 2023.08.12 · via pc
  • 小米现在也不平价了

    回复 2023.08.12 · via pc
  • 小米也搞大模型

    回复 2023.08.12 · via h5
  • 小米务实,先干出来再说。

    回复 2023.08.12 · via netease

快报

更多

2024-09-14 23:06

网传视频显示阿里云盘BUG致用户照片泄露

2024-09-14 23:04

公募REITs又有三只新品获批

2024-09-14 23:00

最高补贴800元,海南启动电动自行车以旧换新促销活动

2024-09-14 22:46

外资巨头发起M&G中国基金:股票估值已达到历史最低水平

2024-09-14 22:32

黑龙江将开展主题促消费活动,计划发放促消费资金约5430万元

2024-09-14 22:31

兴业证券王涵:A股市场估值处于历史相对较低水平

2024-09-14 22:12

多国科学家联合倡议启动“人类基因组计划二期”

2024-09-14 22:06

企业家圆桌会议在京召开

2024-09-14 22:05

博士伦与高盛合作探讨出售事宜

2024-09-14 21:50

中国与丹麦签署有机产品合作谅解备忘录

2024-09-14 21:47

广汽飞行汽车GOVE获颁民用无人驾驶航空器特许飞行证

2024-09-14 21:36

迪斯尼与卫星电视提供商DirecTV达成协议

2024-09-14 21:35

商务部国际贸易谈判代表兼副部长王受文会见巴西莱森能源公司高级副总裁内维斯

2024-09-14 21:34

金融监管总局:要求金融机构落实移动应用备案、网络安全、数据安全、外包管理、业务连续性及个人信息保护等监管要求

2024-09-14 21:19

Volocopter首席执行官德克·霍克将加入福伊特集团

2024-09-14 21:06

前8个月全国省际贸易销售额占比超40%

2024-09-14 21:05

大连:秋季房交会期间购房,可按成交价的1%给予补贴

2024-09-14 21:04

光大证券投行员工涉内幕交易:亏损532万元,被罚460万元

2024-09-14 20:59

“偏爱”高价药,30家医院被河北省医保局点名

2024-09-14 20:58

日本东海铁路公司自查发现10节车厢车轴嵌入作业施压超标

7

扫描下载App

Baidu
map