IT资讯
当前位置:集趣网 > IT资讯 >  科技趋势

2 万所美国院校都在用的 AI 阅卷系统 “翻车”:只要复制原文 “关键词”就给高分

2020-10-13 15:15:36 雷锋网 贝爽 编辑:玉米 浏览数:24集趣网

最近,美国一家知名教育平台登上了 Reddit 热搜。原因是有家长爆料,该公司旗下的 AI 阅卷系统存在重大漏洞,学生只要在答题区写上零散的 “关键词”就能轻松拿高分。在事后采访中,一位匿名学生称,如果不是阅卷系统的的漏...

最近,美国一家知名教育平台登上了 Reddit 热搜。

原因是有家长爆料,该公司旗下的 AI 阅卷系统存在重大漏洞,学生只要在答题区写上零散的 “关键词”就能轻松拿高分。

在事后采访中,一位匿名学生称,

如果不是阅卷系统的的漏洞,我不会通过代数 2 考试,我只是把与问题相关的关键词填了上去,我相信老师们已经发现,但他们没有做任何处理。

据了解,这款 AI 阅卷系统搭载于虚拟学习平台 Edgenuity,目前已服务了 2 万所美国院校。

而这位爆料者名为达娜 · 西蒙斯(Dana Simmons),是加州大学河滨分校的历史系副教授。

她之所以发现 AI 评分系统漏洞是因为他的学霸儿子在历史测评中只拿到了 50% 的成绩。

拉扎尔(Lazare)是一名高中生,他刚刚在 Edgenuity 平台完成了历史考试测评,满分 100,他只拿到了 50 分,这显然与平时成绩相差很多,他很伤心。

一开始,Simmons 还试图安慰他,也许这次的阅卷的老师比较严格。不过,Lazare 称,老师并没有看他的答案,提交试卷不到一分钟,成绩就出现了。

Simmons 知道,这应该是系统算法自动评分,随后他看了儿子的考试试卷,似乎并没有什么大的问题。于是,她决定用一道历史题测试一下系统的评分规则,结果让她大跌眼镜。

题目是这样的:君士坦丁堡的地理位置如何帮助拜占庭帝国变得富有和繁荣?

它位于爱琴海和黑海之间,是商船和乘客的集散地。它也正处于欧洲和小亚细亚之间,这使它成为一个巨大的贸易中心,而且在当时的许多贸易路线。利润、多样化、西班牙、中国、印度、非洲。

Simmons 称,她只是写了两个相关的长句,然后又往上堆叠了一些不连贯的关键词,比如财富、印度、中国、中东。但这种拼凑的 “单词沙拉(Word Salad)”形式,系统却给了她满分。

原来根据该公司官网显示,系统的的评分规则是,如果某些问题的答案不包括关键字,系统会判定为 0 分,如果至少包含一个关键字,则为 100 分。而其他的问题根据包含的关键字数量获得一定的百分比。

按关键词评分不失为一种好的方式,但只是按照关键词,显然会出现明显失误。

随后,Simmons 在社交平台 Twitter 上,公开指责 Edgenuity 公司,称其 AI 算法漏洞不利于教育公平,引起很多网友的关注和支持。

对此,Edgenuity 公司做出回应称,AI 系统评分只是作为参考,老师有权对其进行修改。

Edgenuity 不会使用算法代替老师评分,只是为老师提供评分指导。老师有能力接受或否决建议的分数,AI 不会决定学生的课程成绩。

不过,这一回应也是分分钟打脸。

在事后采访中,Lazare 的一位同学表示,老师确实可以重新查看学生的试卷,并给出最终的得分。但他认识的大多数同学都表示,从未见过老师更改 Edgenuity 分配的成绩,尽管听说有同学使用 “单词沙拉”的方法获取高分。

“如果老师在看答案,他们根本不在乎”。

重要的是,Simmons 并不是最早发现 Edgenuity 存在评分漏洞的的人。

一位已经毕业的高中生奥斯丁 · 帕拉迪索(Austin Paradiso)表示,他在高中期间曾多次使用 Edgenuity 平台进行考试,虽然不喜欢 “关键词沙拉”,但这种方式确实有助于得高分,而且 100% 有效。

据了解,Edgenuity 是美国知名在线虚拟教育机构,已成立二十多年,其提供的 K12 教育服务已广泛用于 2 万多所院校,而这一服务就包括 Edgenuity 平台内置的 AI 评分系统。

另外,由于今年受疫情影响,大多数美国学校都转向了线上授课模式,其教学和评分服务业也选择外包给虚拟教育平台,Edgenuity 是其中收到合同最多的一个。

据统计,Edgenuity 公司为初中生和高中生提供了 300 多个在线课程,涉及从数学到社会研究的各个领域。这些课程由教学视频、虚拟作业,以及在线考试组成。Edgenuity 在其中负责课程提供和作业评分。

而经过多次考试,很多学生都已经摸透了系统的评估方法。

一位学生说,当他不会做的时候,会尝试提交与问题相关的成批关键词,这种方法通常都会奏效。

还有另外一位同学表示,他们会截取原文中的关键词粘贴到答题区,在整个上学期都使用了这个技巧。并且每次都能获得不低的分数。

另外,在 4 个月前,还有学生公然在 Reddit 上发布帖子,询问如何利用 Edgenuity 作弊。

在老师不知情的情况下,如何成功欺骗 Edgenuity?

我发现你们可以轻松地找到所有答案,我想知道是如何做到的,是否会花时间回答每个问题?

帖子下方聚集了很多同学评论,分享在线作弊技巧。其中一位学生表示,几乎每一次 Edgenuity 平台考试都会作弊。

此次 Simmons 的揭发对 Edgenuity 造成了不小影响,已家长公开反对学校使用该虚拟平台,并表示不希望技术影响孩子成绩。

AI 技术参与到考试测评系统中似乎是一种必然的趋势。在国内已经有很多相关研究,而且一些技术已经开始逐步走向落地阶段。

分享到:

版权与免责声明:

凡未注明"稿件来源"的内容均为转载稿,本网转载出于传递更多信息的目的;如转载稿涉及版权问题,请作者联系我们,同时对于用户评论等信息,本网并不意味着赞同其观点或证实其内容的真实性;


本文地址:http://www.zjzgh.net/news/2020/10/13/92351537.html

转载本站原创文章请注明来源:集趣网

行业聚焦

李佳琦解析电商直播的运作经验和底层逻辑

 短视频,自媒体,达人种草一站服务电商直播兴起了,像一股飓风,热点不断。近期因为罗永浩进军,我关注了他的首秀后,也想试图分析这个行业,但纸上得来终觉浅,自己琢磨...[详细]

英特尔 Alder Lake S 处理器现身:16 核 32 线程

IT之家10月7日消息  知名爆料者 @TUM_APISAK 昨日挖出了英特尔 Alder Lake-S 的基准测试结果。据 SiSoftware 显...[详细]

宏碁上架 14 英寸标压核显笔记本:i7

IT之家 10 月 24 日消息 宏碁现已上架 ConceptD 3 笔记本,搭载了 14 英寸翻转触控屏,配备了 i7-10750H 移动标压处理器,售价为 ...[详细]

魅族 17 x 跑跑卡丁车合作限定礼盒开启预约:售价 3699 元

IT之家 10 月 26 日消息 据魅族官微消息,「魅族 17 x 跑跑卡丁车」手游合作限定礼盒已在魅族京东自营旗舰店开启预约,京东独家专属 11.1...[详细]

向胜利进击!华硕高达主板及电竞主板破次元来袭

10月17日,华硕“超粤新次元”秋季新品发布会&ROG DAY粉丝嘉年华在广州隆重召开,打造出一场超越次元的电竞盛会。华硕电脑开放平台中国区总经理俞元麟...[详细]

科技趋势

更多

韩媒:三星决定在 Galaxy S21 系列中重新引入中国厂商的电池

 

IT之家10月7日消息  据韩国媒体 The Lec 昨日报道,三星电子明年的旗舰机型 Galaxy S21(...[详细]

MongoDB通配符索引的用法实例

 

 短视频,自媒体,达人种草一站服务这篇文章主要给大家介绍了关于MongoDB通配符索引的相关资料,文中通过示例代码介绍的...[详细]

曝索尼 Xperia 1 III 将进一步优化屏幕素质

 

IT之家9月28日消息 外媒 AndroidNext 今日报道称,随着 Xperia1 II 和 5II 的正...[详细]

Funtouch OS 11 曝光,带来更丰富的 AOD 息屏显示

 

IT之家10月10日消息 vivo 下一代 Funtouch OS 11 目前已经出现在了 vivo 海外官网...[详细]

惊喜陆续有来:细数 Win10 即将到来的几处变化

 

随着 Windows 10 20H2 的正式推送,微软开始将重点放在了新功能开发上。在近期推出的 Windows Ins...[详细]

  • 1
  • 2
  • 3
  • 4
  • 5
  • 一周排行每月关注
  • 01运管家助力农贸企业实现物流精细化管理
  • 02TikTok 席卷欧洲:用户过亿,挪威用户每天打开 17 次
  • 03全球平板电脑销量自 2014 年来首次增长,56% 超过 10 英寸屏幕
  • 04曝一加联合创始人裴宇已离职
  • 05惠普推出新款一体机:27 英寸 2K 屏,10 代 i5 + GTX 1650
  • 06支付宝上 5 只蚂蚁战配基金全部售罄:超 1000 万人认购,人均投入 6000 元
  • 07售价 749 美元,一加 8T 手机海外正式发布:骁龙 865,120Hz 屏幕,65W 快充
  • 08苹果推送iOS 14.1系统更新 修复多项bug
  • 09R 星大作《荒野大镖客 2》遭黑客破解,三重 DRM 加密挺了一年
  • 10苹果 iPhone 12/Pro 今晚预售,京东预约人数达 134.5 万:以旧换新补贴最高 1500 元