图文原创:亲爱的数据

美国大模型水平领先,国内大模型蓄势而发。

国内大模型参与者众多,百度文心一言第一个有勇气站出来发布。

此处应有掌声。

事前事后,中国网友的呐喊声不绝于耳:“文心一言到底什么水平啊?

其实网友更想知道:国内AI大模型到底什么水平。

因为国内目前只发布了一个AI大模型,所以在打造知名度上,百度领先。

同时,据“亲爱的数据”获得的信息,2023年3月底还会有一个国产AI大模型发布。但是,未获许可,不能公开。

有竞争是好事,内卷式消耗才是坏事。

5b8dccc0da568350a2ae812ae22c71cd.png

社会各界人士的花式问答固然有趣,“亲爱的数据”还是选择了一位AI大佬设计的“蜜熊测试”。

蜜熊测试:5分钟感受大模型“实力指数”》(可点击跳转阅读)

对,没看错,“蜜熊”就是蜂蜜和熊。

理解它几乎没有任何难度,可以说这是个零门槛游戏。

我们从“蜜熊测试”游戏中找几个难题。

1cde53cfd4e4aeb0bc588a255ac01fdf.png

c4390ba13cb10d889a102f4aacc7185f.jpeg

问:一头熊一天吃14罐蜂蜜,请问它一年吃多少罐蜂蜜?

文心一言:14×365=5110 罐。

问:一头熊一天吃14罐蜂蜜,请问它闰年吃多少罐蜂蜜?

文心一言:14×4=56 罐蜂蜜。

c00b2a6f7db36c795362f1e839f473c8.png

d4ce8aca620cb946d3498574e2d17d63.png

测试考察:小学语文+简单的数学能力。算错可能不理解闰年。

难题来了。

eb654a84e4ba42e383a9077c1c1af62a.jpeg

问:请画一张小熊吃蜂蜜的 ascii art 图片?

文心一言:很抱歉,我没有构思好这幅作品,请您稍后再试。

ffadea6a8cf808e97df9f6f2ba28f6d6.png

这题谁出的,站出来,为什么这么难?

果然,文心一言被考住了,连我也很难画得如此“言简意赅”。

0fce385555b3e8c760355329596e9ae9.png

ChatGPT用点和线,“拼出”了一个看上去坐着的熊,耳朵清晰可见,稍显粗糙,我说它是狗也没错,但能“画”成这样,也很厉害了。

测试考察:难度略高,涌现能力。

ChatGPT有“涌现能力”。

又来一道难题。

57fbd7c82f52893b0a860c1ac1ac9e2f.png

e180fe7405a8d86091399d1217f08692.jpeg

问:一只熊抱着一罐蜂蜜从一个点出发,向南走一公里,再向东走一公里,再向北走一公里,正好又回到了起点,请问:这只熊是什么颜色的?

文心一言:

这只熊是棕色的。

由于蜂蜜罐的存在,熊只能向南、北和东三个方向移动。由于它最终会回到起点,因此只有在熊从任何一个方向出发时才可以达到起点。这意味着它可以选择从南方或北方开始移动,但不能从东方开始移动。因此,由于蜂蜜罐的存在,熊必须向南走一公里才能到达起点。

如果蜂蜜罐没有被拿走,熊将继续沿着北边的路线前行,直到它回到原点,因此它是棕色的。

7fd36fad04ae2e55b089185692b6877f.jpeg

对于难题,不会做或做错都很正常。

因为国内多家大模型参与者的模型还没有开放或者只是半开放测试机会,所以,“一高一低”不等于“一个最好,一个最差”。

ChatGPT领先,文心一言还行。

这是一个游戏,大家“感受”模型的实力,而不是测试模型的真正实力。

“游戏”结束了,那么ChatGPT为什么会做“难题”?

或者说,ChatGPT如何就能触类旁通地学习了?

ChatGPT背后的内核模型已经升级到GPT4了。显然,GPT4有涌现能力。

涌现能力,英文名Emergent Ability。

一开始,当模型小于一定规模时,模型性能一般。

然后,模型参数增长,可惜模型性能效果无提升。

但是,当模型超过某个规模之后,性能突然就上去了,这就是“涌现”。

e7309bc5c8612d22cb94f7f03660c393.png

中国科学院自动化研究所紫东太初大模型中心常务副主任、武汉人工智能研究院院长王金桥告诉我:

“研究发现,在100亿到1000亿参数区间产生能力涌现。”

他还谈道:“如果在较小的模型中不存在,但在较大的模型中存在,则该能力就是涌现的。”

专业说法是,有了涌现能力的大模型,就能解决未知任务。

或者说,AI大模型也能回答超纲题。

简单说,学武到了一定境界,对从未见过的招式也能触类旁通。

f3c37bf1b9cf1ece65603c9b39261a9b.png

2023年3月15日,王金桥院长在上市公司航天宏图的内部讨论会上以这样一句话展开他的演讲:“ChatGPT的问世,标志着NLP(自然语言处理)中间任务的消亡。”

这句话令人唏嘘不已,一个AI的技术阶段悄无声息地落下帷幕。很多NLP子领域不再具备独立研究价值。

我问王金桥院长:

“我们如何描述涌现能力之于大模型的重要性?”

他的答案是:“涌现能力是认知智能是否具备的一个重要现象。就是能够在模型学习的有限任务的基础上,做相关未知任务,举一反三,具备数学逻辑和知识推理的能力。”

181dbf51b8385d8b59e8b70a4d62942e.png

他强调:

“没有涌现能力就没有认知智能,例如语言大模型训练过程中,无论参数和迭代次数增加多少,始终不能在多任务语言任务上有突然的性能提升,就说明模型失败了。”

有了ChatGPT,AI不会抢饭碗,比你更会用AI的人才会抢饭碗。

快来一本这样的书吧——《ChatGPT高效提问指南》。

(完)

更多阅读

AI框架系列:

1.搞深度学习框架的那帮人,不是疯子,就是骗子(一)

2.搞AI框架那帮人丨燎原火,贾扬清(二)

1d91436fa2116e47185ea7bf7af1f8a7.jpeg

漫画系列

1. 解读硅谷风投A16Z“50强”数据公司榜单

2. AI算法是兄弟,AI运维不是兄弟吗?

3. 大数据的社交牛逼症是怎么得的?

4. AI for Science这事,到底“科学不科学”?

5. 想帮数学家,AI算老几? 

6. 给王心凌打Call的,原来是神奇的智能湖仓

7. 原来,知识图谱是“找关系”的摇钱树?

8. 为什么图计算能正面硬刚黑色产业薅羊毛?

9. AutoML:攒钱买个“调参侠机器人”?

10. AutoML:你爱吃的火锅底料,是机器人自动进货

11. 强化学习:人工智能下象棋,走一步,能看几步?

12. 时序数据库:好险,差一点没挤进工业制造的高端局

13. 主动学习:人工智能居然被PUA了?

14. 云计算Serverless:一支穿云箭,千军万马来相见

15. 数据中心网络数据还有5纳秒抵达战场

16. 数据中心网络“卷”AI:迟到不可怕,可怕的是别人都没迟到

17. ChatGPT大火,如何成立一家AIGC公司,然后搞钱?

18. ChatGPT:绝不欺负文科生

DPU芯片系列:

1. 造DPU芯片,如梦幻泡影?丨虚构短篇小说

2. 永远不要投资DPU?

3. DPU加持下的阿里云如何做加密计算?

4. 哎呦CPU,您可别累着,兄弟CIPU在云上帮把手

长文系列:

1. 我怀疑京东神秘部门Y,悟出智能供应链真相了

2. 超级计算机与人工智能:大国超算,无人领航

b64d23dd8435e2085b6203e255ef9e6b.jpeg

最后,再介绍一下主编自己吧,

我是谭婧,科技和科普题材作者。

为了在时代中发现故事,

我围追科技大神,堵截科技公司。

偶尔写小说,画漫画。

生命短暂,不走捷径。

个人微信:18611208992

原创不易,多谢转发

还想看我的文章,就关注“亲爱的数据”。  

Logo

助力广东及东莞地区开发者,代码托管、在线学习与竞赛、技术交流与分享、资源共享、职业发展,成为松山湖开发者首选的工作与学习平台

更多推荐