专栏名称: 材料科学与工程
材料类综合、全面、专业的平台。主要发布与材料相关的知识信息。包括前沿资讯,基础知识,科研产业,考研求职等。材料科学网:www.cailiaokexue.com。
目录
51好读  ›  专栏  ›  材料科学与工程

用AI替写论文涉嫌学术不端,多校宣布引入AI检测服务系统——“AI检测”能否打败“AI论文”

材料科学与工程  · 公众号  ·  · 2024-08-13 21:42

正文

请到「今天看啥」查看全文


除了生成内容,还有不少大学生使用AI降低论文重复率。近日,南京大学生刘芯在提交课程论文时,发现重复率高达36%,于是便使用某国产大模型“降重”。她对AI发出指令:请将这段话改写,通过调整语序增减字数,替换同义词等方式,避免与原文出现连续8个字相同的句子,使这段话更有逻辑,符合论文的规范。“通过一晚上的尝试,论文重复率降到了15%。”

有专家提醒,由于目前很难判断AI生成的内容源自何处,是否为原创,有可能在使用时将虚假信息或是受版权保护的信息掺杂到文中,产生侵犯知识产权的风险。

“写作神器”还是“偷懒神器”?

记者了解到,多数学生使用AI写论文的原因,是为了节省时间。为什么AI写作可以这么快?“这其实与AI写作系统背后的大数据模型有关。当用户给出主题词,AI便会从海量的语料库采集相关信息,随后模型会根据用户需求,推断出满足要求的文字。理论上来说,如果语料库中的信息量足够大,那么AI写出来的文字可以达到真人写作的效果。”东南大学网络空间安全学院副教授宋宇波说。

尽管如此,仍然时常有人吐槽AI会“一本正经地胡说八道”。宋宇波认为,其最主要原因在于,模型的推断和预测本身并不像人一样具备思考的能力,而只是基于现有语料库中的内容重新进行文字组合。“这是目前大模型领域的一个技术缺陷,也被称为‘幻象’。换句话说,当用户所提问的内容与大模型语料库中的一些内容正好相符,那么AI写作生成的内容就会很符合现实;而如果用户提问的内容与语料库中的素材不相符,那么大模型常常会生成一段看上去符合人类表达逻辑的语句,但这些内容很可能是虚假或者错误的。”

当AI已经成为很多大学生的作业帮手时,学校也必须应对AI对教学可能带来的冲击。“过去我们在学术写作的考核评分中,有50%是针对语言的应用,另外50%针对文章的布局把控和细节的详尽程度。”西交利物浦大学语言学院教学副院长夏令表示,由于AI的出现,老师们也针对性地增加了后者的考核权重。

夏令还发现一个比较有趣的现象,“当学生越来越多使用AI助力时,写作作业的质量逐渐出现两极分化的趋势,强的学生更好了,弱的学生更弱了。”夏令猜测,可能是AI让平时成绩较差的学生有了更多“偷懒”的机会,而成绩较好的同学则可以借助于AI技术更好地提升作业的质量。夏令认为,人工智能正对教学模式、考核标准等产生重要影响,“比如我们在尝试将过去单纯的写作考核转变为项目制考核,增加纸笔考试、提高口语表达考试的比重等。”

AI确实可以助力很多工作,在日常学习中不可避免地成为一些学生的“偷懒神器”。夏令说,“AI可以在几分钟内快速生成好几周才能写出来的文本,一些学生很难不受到诱惑,而且目前传统的查重检测方法也无法有效识别,我们在教学上的应对方法非常有限。同时,应该如何评判学生对于AI的使用,学生是否尽到其应尽的努力,目前来看也没有确切的答案。”







请到「今天看啥」查看全文