美国人工智能公司OpenAI此前推出了人工智能产品ChatGPT,在海外掀起一阵狂风,出现不少学者利用ChatGPT代写的问题,没想到近日OpenAI公司又推出AI分类器,该工具能够识别一些文字是不是人工智能软件撰写的,很显然,该工具就是针对ChatGPT被滥用开发的,只不过目前还在测试阶段。

OpenAI推出AI分类器

ChatGPT这一工具是在去年11月份推出的,之后立刻在网络上火爆一时,受到使用者称赞欢迎。用户可以输入一些提示性命题文字,这一工具能够撰写各种文章、散文、笑话,甚至是诗歌。不过这一人工智能撰稿软件也引发了版权和抄袭方面的质疑。

OpenAI公司新推出的产品名叫“AI分类器”(AI classifier),这一软件使用的语言模型,经过了大量针对同一话题的人类文稿和人工智能文稿的数据训练,能够识别某一文稿到底是人类撰写还是人工智能软件生成。

OpenAI公司介绍说,这一产品背后整合了来自多家供应商的技术,能够用于解决各种现实问题,比如软件机器人疯狂在社交媒体上传播虚假信息、以及学术论文撰写的不端行为。

创新科技网 WWw.zQcyzg.cOM

这款产品目前还处在测试版阶段,OpenAI公司表示,对于小于1000个字符的文章,工具的识别表现还不是太稳定。另外,人工智能撰写的文章经过人类编辑之后,可以欺骗AI分类器。

该公司表示,将让社会公众使用这款新产品,希望能够从使用者那里获得一些反馈信息,即这样一款还不够完美的人工智能产品是否能够产生某些实际用途。

该公司表示,在学校教育行业,开发团队意识到,要识别出学生利用人工智能软件代笔的文章是一个十分重要的课题,同样重要的是,需要弄清楚AI分类器对于学生文章识别判断存在哪些不足、将产生怎样的影响。

自从ChatGPT在网络上受到热捧,并获得数百万用户点赞后,这引发了美国一些学区的警觉。包括纽约市在内的学区宣布,禁止学生使用这一人工智能撰稿工具,他们担心学生会使用这一工具撰写文章欺骗老师,或是进行抄袭剽窃。

为了帮助老师和学校识别学生的文章是否是人工智能所撰写,行业内已经出现了第三方开发的识别工具,其中包括“GPTZeroX”。

OpenAI表示,他们正在和教育行业积极沟通,讨论ChatGPT的用途或者局限性,并且将会继续开发完善识别人工智能所撰写文章的工具。