点击阅读英文原文
经过Turnitin新推出的检测软件检查的文章中,有1/10被发现包含大量可能由人工智能生成的内容。
该公司发布了新检测软件运行前3个月的数据。在此期间,用户已使用这个软件检测超过6500万篇论文。
这其中,有210万篇论文(占3.3%)被标记为至少80%为人工智能所撰写。近670万篇(占10.3%)的内容有超过20%的人工智能写作痕迹。
Turnitin表示,调查结果表明“生成式人工智能已进入课堂,然而,能否接受这种做法取决于教育工作者们自己”。
这家教育科技巨头推出了这项新工具,因为人们越来越担心便于使用的人工智能聊天机器人(例如 ChatGPT)的出现使得学生们更有可能在测试中作弊。
该软件声称能够在97%的情况下内检测到人工智能写作,且误报率“非常低”,尽管批评者称这一点尚未得到独立验证。
Turnitin的首席产品官安妮·切希特里(Annie Chechitelli)表示,人工智能检测工具正在“广泛被使用”,在已经使用诸如该公司的反剽窃软件的合作机构中,有98%的机构同时启用了该功能。
切希特里说:“我们分享该工具的使用情况和指示率,这是有助于提高对生成式人工智能在教学实践中的存在和使用理解的一种方式。”
“鉴于教育工作者对这些挑战所表达的紧迫性,以及公众对人工智能文本创建和检测的兴趣,我们致力于分享这些洞察,以便我们都能开始了解当前塑造教育的趋势。”
Turnitin的客户参与高级总监帕蒂·韦斯特·史密斯(Patti West-Smith)表示,她认为该工具旨在帮助教育工作者和学生就“正确使用写作工具、正确引用和原创思维”展开“有意义的对话”。
Turnitin 指出,文档中人工智能书写的比例非常高并不一定表明存在不当行为,因为一些高校正在指导学生如何使用该技术。
丹尼尔·索科尔(Daniel Sokol)是一位律师兼学术诚信专家,他曾指出基于检测软件错误指控学生使用人工智能的危险。他表示,大多数使用ChatGPT和其他AI程序的学生都会对文本做出一些修改,以尽量减少被发现的风险。
“Turnitin的数据表明,超过1/10的学生使用过人工智能并在作业中包含了大量人工智能生成的文本。然而,是否有1/10的学生被指控存在学术不端行为?我对此表示怀疑。我怀疑许多机构对这个问题视而不见,否则它们会被案例淹没。”
索科尔博士表示,那些确实希望允许学生使用人工智能的高校应该鼓励学生们保持透明度,例如将向人工智能的提问纳入附录。
索科尔博士补充说,在不允许使用人工智能的院校,一篇有20%内容由聊天机器人撰写的论文,“与有20%内容由私人导师撰写的论文一样,在学术上是不可接受的”。
“在这两种情况下,学生都要求第三方为他们做了大部分工作;而这第三方是人类还是人工智能都无关紧要。”