气炸了!大模型写小作文可以,高考数学题把握不住啊

转载
529 天前
8158
AI梦工厂

文章转载来源:AI梦工厂

作者:西风 克雷西

来源:量子位 QbitAI

原文标题:大意外!高考数学轮战大模型,结果完全想不到

听说网友被ChatGPT气炸了!

昨个儿高考数学刚结束,有网友就坐不住了,赶紧找来了新高考数学一卷的部分题喂给了AI同学。

结果却让人大跌眼镜(8>√9×3=3√3?):

有网友表示:

ChatGPT4能把自己气炸,怎么教都不会

△图源博主@浪猪灰头

所以大模型之前表现数学推理能力好,都是在耍花招?它只是记住了问题的答案?

先别着急下定论,给AI同学一个证明自己的机会吧。

我们用ChatGPT(GPT-3.5)、GPT-4、百度文心一言、阿里通义千问、科大讯飞星火认知大模型这几位“数学高手”进行了测试。(最近出现了太多的大模型,实在测不完,还有比如Bard不支持中文等原因,所以我们先选择了上述几个模型)

整体表现如上图,目前大模型在做高考数学题方面还是个“差生”。

一起来看下具体结果是怎样令人哭笑不得的。

五大模型能否做对填空题?

先来点填空题当“开胃小菜”。

公平起见,我们使用同样的格式进行提问。

某学校开设了4门体育类选修课和4门艺术类选修课,学生需从这8门课中选修2门或3门课,并且每类选修课至少选修1门,则不同的选课方案共有?种

答案:64

GPT-4(正确)

ChatGPT (错误)

文心一言(错误)

不应该是两种方案数加起来吗?已经逐渐离谱。

通义千问(错误)

第一种选课方案里的“都不选”是个什么鬼!

讯飞星火(错误)

出师不利,只有GPT-4给出了正确答案,填空题对于大模型来说也很有难度?

但是看起来这几位AI同学都知道分情况来计算,也许只是恰巧这道题做错了?我们接着往下看。

在正四棱台 ABCD-A1B1C1D1中,AB=2,A1B1=1,AA1=√2,则该棱台的体积为

答案:7√6/6

GPT-4 (错误)

ChatGPT(无解)

文心一言(错误)

通义千问(错误)

讯飞星火(错误)

这一题直接全军覆灭,ChatGPT更是直接没解出来,还让检查是不是题出错了。【救命】

答案越来越离谱了,还真就不信邪了。

再来!

已知函数 f(x)= cosωx -1(ω>0)在区间 [0,2π]有且仅有 3 个零点,则ω的取值范围是?

答案:[2,3)

GPT-4(错误)

ChatGPT(错误)

文心一言(错误)

通义千问(错误)

讯飞星火(正确)

本已经抱着再一次全军覆没的心情了,没想到中文大模型力挽狂澜!

做大题表现如何?

玩腻了填空题,再来挑战一下更有难度的大题吧!

公平起见,我们还是以同样的格式进行提问:

请你做一下面这道数学题:已知在△ABC中,A+B=3C,2sin(A-C)=sinB。(1)求sinA (2)设AB=5,求AB边上的高

答案:(1)3√10 /10(2)6

下面是各个大模型的表现结果:

GPT-4(错误)


ChatGPT(错误)

文心一言(错误)

通义千问(错误)

讯飞星火(第一问答案正确,第二问错误)

这道三角函数题,科大讯飞的星火认知大模型第一小问答案对了,但是步骤中有差错(第二步)。

据说,GPT-4做这种题只有0.1%的概率生成的结果完全正确。

高考数学第一道大题通常都比较简单,上面这几位AI同学的表现你觉得怎么样?

如果大家感兴趣可以自己测试一下后面几道难度相对较高的大题(小编试过了,结果一言难尽,不忍直视)。

或者大家可以使用不同的prompt试试捏~

参考链接:

[1]https://weibo.com/5647310207/N4frlb5tx?refer_flag=1001030103_

— 完 —