炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!
(来源:文汇报)
“太难了!好不容易通过了论文查重,没想到AI检测成为了新的‘大考’。”今年毕业季,不少高校毕业生在网上分享经历:辛苦写的论文,被系统判定“AI率超标”。
眼下,不少高校为了防止AI代写毕业论文,在原有查重检测的基础上,增加了AIGC检测(人工智能生成内容检测)的要求。于是,部分学生购买AI工具,试图用魔法打败魔法,却发现“虽然AI率下来了,读起来却像白开水,被导师批评逻辑不通,退回重改。”
不仅学生为此苦恼,大学教授也对AI审稿表达不满。日前,资深环境科学家、韩国忠南大学教授洪成进在《泰晤士高等教育》撰文吐槽,其团队论文疑因AI工具生成的评审意见被拒稿。
在AI大模型高歌猛进之时,AI工具已成为不少高校师生的重要研究工具。同时,它也被用到高校和学术期刊的审稿、检测环节中。一时间,“以子之矛,攻子之盾”的困境让学术界备受困扰:AI工具,究竟是帮助人类省事,还是“思维毒药”?引导大学生合理使用AI工具,大学该怎么办?为此,记者采访了相关专家。
AIGC检测,让不少大学生叫苦不迭
斯坦福大学一项研究显示,超过半数的研究生承认用AI撰写“非核心”论文章节。有学者担忧:当学生用AI写作业、审稿人用AI生成报告,知识界的批判性思维或将集体退化。甚至有人认为,证明自己是人类而非AI,或将成为一门新的大学生“必修课”。
某985高校一位从事AI方向研究的博士生坦言,课题组的同学在研究和写作中,使用AI的频率高达100%。“从选题思路、完成初稿到后期语言润色,我们都在使用AI,可以说已渗入论文生成的每个环节。”
不过,也有大学生在使用过程中遭遇“AI幻觉”。“AI会编出不存在的学者、论文,如果不是我特意去搜索,根本不会发现,这里面隐藏这么多坑。”在校大学生伊一(化名)就曾多次遭遇“AI幻觉”陷阱。近期,一项面向全国各地大学生的问卷调查显示,97.%受访大学遇到过AI提供错误或虚假信息的情况。
在论文查重环节,AIGC检测也让不少学生叫苦不迭。有学生“吐槽”说,他的一篇论文经导师指点修改后,AI率不减反增,从10%飙升到80%。
要知道,AIGC检测也挺费钱。以知网为例,AIGC检测单价为2元/千字符,维普的检测价格按篇计算,每篇20到38元不等。受访学生直言,一篇文章往往在多个平台检测比对数据才能放心,为此花上几百元并不出奇。
经典文本被判AI生成?典型的场景错用!
那么,AIGC检测结果权威吗?有网友将朱自清的《荷塘月色》、刘慈欣的《流浪地球》上传到检测平台,意外发现这些文章也被“盖章”为AI生成,疑似度分别高达62.88%和52.88%。那么,这是否意味着AIGC检测翻车了?
“大模型的运作思路和人脑类似,就是将知识存储起来,再根据已有知识做出推测和判断。”上海财经大学计算机与人工智能学院副教授崔万云直言,目前大模型在一些答题场景的准确率和反应时间方面已领先人类,但模型无法和真实世界完全对齐,要确保大模型答案永不出错并不现实,“合理的‘出错’也是大模型能力的一部分。”
华东师范大学计算机科学与技术学院青年研究员周杰分析,当前市面上的许多大模型在设计之初就以更好地服务人类为目标,旨在快速提供能够满足大多数用户需求的答案。因此,当面对超出其理解或处理能力的问题时,大模型可能会基于已有知识的概率分布“冒险”作答,而这恰恰也体现了模型在一定程度上的创造力。
由此谈及被大学生们口诛笔伐的AIGC检测,崔万云和周杰两位学者均认为,尽管大模型的准确率、AIGC检测有一定误差,但目前相关工具已比较成熟。
据知网官方解释,AIGC检测基于预训练大语言模型算法逻辑,从语言模式和语义逻辑两条链路,用AI对抗AIGC;维普AIGC率检测系统则是通过对文本的词汇、语法、语义等多方面特征进行分析,构建复杂的模型来识别AI生成的内容。
“目前市面上主流的AIGC检测工具大概率是根据数据库中已有的文章,做分类模型,将检测文章输入,进而根据语言风格、写作习惯区分AI生成和人为写作。”崔万云举例,机器写作中经常用到首先、其次、再次,还会大量使用排比和比喻。如果文中出现了上述表达,很可能被判定为AI写作。
他直言,虽然有学生被“误伤”,但大部分显示超标的论文,确实因为过度使用AI生成而被发现。并且,AIGC检测工具使用场景并非针对过去的经典文本,网友拿一些经典的文章给AI“过眼”,其实是属于场景错用。
警惕把AI当大脑,建立学术诚信很重要
在网络上,针对AI工具的讨伐依旧激烈。有人质疑,高校、期刊为何要将其引入,成为学生毕业论文评审的硬性要求?也有人称,“人类需要向机器自证身份,简直倒反天罡!”更有人疾呼,“AI看似提高了写作底线,但潜藏着机器决定人的表达上限的风险。”
对此,崔万云直言,学生掌握并使用AI工具并无不妥,关键在于如何更好地把握“度”。比如,在报告写作、文献翻译和文本润色方面,学生使用AI工具可以大大提升效率。但需要警惕的是,部分学生把AI当作大脑,习惯了直接得到答案,不假思索地搬用,甚至捏造实验数据。从这个角度来看,为了保证学术诚信,高校将AI率检测作为毕业参考有其合理性,但不能作为唯一的评判标准。“毕竟,真正决定论文价值的不是论文的文笔,抑或是含AI率的数值,而是其中凝结的思考深度与创新性实验发现。”
“AI时代必须强化学生AI素养、树立学术诚信意识。”同济大学教育评估研究中心主任樊秀娣认为,引导学生合规使用AI工具,指导老师的作用至关重要。“当前,重形式、轻内容的学术浮躁之风屡见不鲜,部分高校教师对学生疏于指导。试想一下,如果导师和学生频繁接触,从选题到实验、成文过程层层把关,又怎会轻易出现抄袭AI的情况?!”
她还建议,高校要严格毕业论文答辩环节。“很多时候,高校毕业论文答辩现场只有‘答’,没有‘辩’。”樊秀娣认为,如果评审老师可以就学生的某个学术问题锐利提问,且学生言之有物,就可以证明文章核心观点来自学生本人;相反,如果全程言之无物,那就不应让学生通过答辩。