首页 > 每日科学

新工具可识别AI“代笔”

2023-06-13 中国科学报 冯维维
【字体:

语音播报

不久前,人工智能(AI)聊天机器人ChatGPT的首次亮相引起了全世界热议,它具有强大的文本处理和对话能力。不过,许多线索可以帮助人们区分机器人和人类。

如今,美国科学家开发了一种工具,可以识别人工智能生成的学术文本,准确率超过99%。相关研究近日发表于《细胞报告物理学》。

“我们努力创造一种易于使用的方法,用来辨别人工智能写作问题。如此一来,高中生也可以建立一个针对文本的人工智能检测器。”论文第一作者、美国堪萨斯大学教授Heather Desaire说。

“目前,人工智能写作存在一些明显的问题。”Desaire说,“最大的一个问题是,它汇集了许多来源的文本,却没有任何形式的准确性检查。”

尽管网上有许多人工智能文本检测器,并且表现相当好,但它们并不是专门为学术写作而构建的。为了填补这一空白,该团队希望构建一个具有更好性能的学术写作检测工具。他们关注的是观点文章——科学家撰写的特定研究主题的概述。该团队选择了64个主题,并在相同的研究主题上创建了128篇由ChatGPT生成的文章来训练模型。当他们比较这些文章时,发现了人工智能写作的一个指标——可预测性。

与人工智能相反,人类写作的段落结构更复杂,每段的句子数量和总字数都不一样,句子长度也不稳定。此外,对标点符号和词汇的偏好也是一个线索。例如,科学家倾向于使用“然而”“但是”和“尽管”这样的词,而ChatGPT在写作中经常使用“其他人”和“研究人员”。最终,该团队为新模型列出了20个指标。

经过测试,对于整篇观点文章,该模型区分人类和人工智能作者的准确率达到100%。对于识别单个段落,该模型的准确率为92%,远远超过了市场上现有的人工智能文本检测器。

接下来,研究人员计划确定模型的适用范围。他们想在更广泛的数据集和不同类型的学术写作中测试它。随着人工智能聊天机器人的不断发展,研究人员想知道该模型能否跟得上形势。

“当人们听到这项研究时,他们可能首先想到‘我可以用它来判断我的学生是否真的写了论文’。”Desaire说。尽管该模型在区分人工智能和人类作者方面非常熟练,但Desaire表示,它的设计初衷并不是为了区分人工智能生成的学生论文。不过她指出,人们可以很容易地复制他们的技术建立有针对性的新模型。

相关论文信息:http://doi.org/10.1016/j.xcrp.2023.101426

打印 责任编辑:侯茜
  • AI语言模型“提速”药物发现
  • 量子材料内首次测量电子自旋

扫一扫在手机打开当前页

© 1996 - 中国科学院 版权所有 京ICP备05002857号-1 京公网安备110402500047号 网站标识码bm48000002

地址:北京市西城区三里河路52号 邮编:100864

电话: 86 10 68597114(总机) 86 10 68597289(总值班室)