ChatGPT
1教育工作者呼吁OpenAI就该工具的使用方式提供反馈，因为人们对大学人工智能辅助作弊的担忧日益加剧人工智能程序 ChatGPT 背后的研究实验室 OpenAI 发布了一种工具，旨在检测文本是否由人工智能编写，但警告说它还不完全可靠。在周二的一篇博客文章中，OpenAI 链接到一个新的分类器工具，该工具经过训练可以区分人类编写的文本和各种人工智能编写的文本，而不仅仅是 ChatGPT。Open AI 研究人员表示，虽然“不可能可靠地检测到所有 AI 编写的文本”，但好的分类器可以识别出文本是由 AI 编写的迹象。他们说，在人工智能被用于“学术不诚实”以及人工智能聊天机器人被定位为人类的情况下，该工具可能会有用。但他们承认分类器“并不完全可靠”，只能正确识别 26% 的人工智能编写的英文文本。它还在 9% 的情况下错误地将人类编写的文本标记为可能由 AI 工具编写。“我们的分类器的可靠性通常会随着输入文本长度的增加而提高。与我们之前发布的分类器相比，这个新的分类器在来自最近的 AI 系统的文本上更加可靠。”自从 ChatGPT 向公众开放以来，它在世界各地的教育机构中引发了一波担忧，担心它可能导致考试或评估作弊。英国的讲师被敦促审查他们课程的评估方式，而一些大学已经完全禁止该技术并恢复纸笔考试以阻止学生使用人工智能。澳大利亚迪肯大学的一位讲师表示，她在澳大利亚夏季期间评分的评估中，约有五分之一使用了人工智能辅助。许多科学期刊也禁止在论文文本中使用 ChatGPT。OpenAI 表示，分类器工具有几个局限性，包括它对 1000 个字符以下的文本不可靠，以及将一些人类编写的文本错误识别为 AI 编写的文本。研究人员还表示，它应该只用于英文文本，因为它在其他语言中的表现“明显更差”，并且在检查代码时不可靠。OpenAI 表示：“它不应该被用作主要的决策工具，而应该作为其他确定一段文本来源的方法的补充。”OpenAI 现在呼吁教育机构分享他们在课堂上使用 ChatGPT 的经验。虽然大多数人以禁令回应人工智能，但有些人已经接受了人工智能浪潮。南澳大利亚的三所主要大学上个月更新了他们的政策，称只要公开，就可以使用像 ChatGPT 这样的 AI。
OpenAI 表示，分类器工具有几个局限性，包括它对 1000 个字符以下的文本不可靠，以及将一些人类编写的文本错误识别为 AI 编写的文本。研究人员还表示，它应该只用于英文文本，因为它在其他语言中的表现“明显更差”，并且在检查代码时不可靠。OpenAI 表示：“它不应该被用作主要的决策工具，而应该作为其他确定一段文本来源的方法的补充。”OpenAI 现在呼吁教育机构分享他们在课堂上使用 ChatGPT 的经验。虽然大多数人以禁令回应人工智能，但有些人已经接受了人工智能浪潮。南澳大利亚的三所主要大学上个月更新了他们的政策，称只要公开，就可以使用像 ChatGPT 这样的 AI。