纽约市公立学校对 ChatGPT 的访问受到限制， ChatGPT是一种人工智能系统，可以在学校网络和设备上生成一系列主题和各种风格的文本。正如今天上午广泛报道并由纽约市教育部发言人向 TechCrunch 证实的那样，实施该限制是出于对 ChatGPT 产生的内容“[对学生学习的负面影响”和“安全性和准确性”的担忧.
这位发言人通过电子邮件告诉 TechCrunch，“虽然该工具可能能够为问题提供快速简单的答案，但它不会培养批判性思维和解决问题的能力，而这对于学业和终身成功至关重要。”访问是应学校的要求而进行的。
这本身并不是禁令。纽约市公立学校系统对ChatGPT使用相同的过滤器，该过滤器用于阻止学校财产上的其他应用程序和网站（例如 YouTube 和 Facebook）。个别学校可以要求解锁 ChatGPT，发言人表示，纽约市教育局将“欢迎”有机会与 ChatGPT 背后的初创公司 OpenAI 就如何将该工具应用于教育进行对话。
至于 OpenAI，当联系到该公司发言人征求意见时，该公司发言人表示，OpenAI 正在开发“缓解措施”，以帮助任何人发现 ChatGPT 生成的文本。这很重要。虽然 TechCrunch 最近报道说 OpenAI 正在试验一种用于 AI 生成文本的水印技术，但这是 OpenAI 第一次确认它正在开发专门用于识别来自 ChatGPT 的文本的工具。
“我们将 ChatGPT 作为研究预览提供，以从现实世界的使用中学习，我们认为这是开发和部署功能强大、安全的 AI 系统的关键部分。我们不断吸取反馈和经验教训，”OpenAI 发言人说。 “我们一直呼吁提高 AI 生成文本的使用透明度。我们的政策要求用户在使用我们的 API 和创意工具时要先与他们的听众交流……我们期待与教育工作者合作开发有用的解决方案，以及其他帮助教师和学生从 AI 中受益的方法。”
ChatGPT有能力回答从诗歌到编码等主题的问题，但它最大的缺陷之一是它有时会给出听起来令人信服但事实并非如此的答案。这导致问答编码网站 Stack Overflow 暂时禁止用户分享 AI 生成的内容，称 ChatGPT 让用户很容易在平台上充斥着可疑的答案。最近，世界上最大的人工智能和机器学习会议之一的国际机器学习会议宣布禁止发表包含由 ChatGPT 和其他类似人工智能系统生成的文本的论文，以免出现“意外后果”。
在教育领域，争论主要围绕作弊的可能性展开。在 Google 上搜索“ChatGPT 来写学校论文”，您会发现许多教育工作者、记者和学生通过使用 ChatGPT 来完成家庭作业和标准化论文测试来试水的例子。 《华尔街日报》专栏作家乔安娜·斯特恩使用ChatGPT 撰写了一篇及格的 AP 英语论文，而《福布斯》的工作人员艾玛·惠特福德则利用它在 20 分钟内完成了两篇大学论文。亚利桑那州立大学教授 Dan Gillmor 在接受卫报采访时回忆说，他是如何给 ChatGPT 布置他通常给学生的作业之一，并发现人工智能的论文会获得“好成绩”。
剽窃是另一个问题。与其他文本生成人工智能系统一样，ChatGPT——根据公共数据进行训练，通常是在未经同意的情况下收集的——有时可以在不引用任何来源的情况下逐字逐句地重复这些信息。这包括前面提到的事实不准确，以及有偏见的——包括公然的种族主义和性别歧视——观点。 OpenAI 继续引入过滤器和技术来防止有问题的文本生成，但每天都会出现新的解决方法。
尽管存在这些限制和问题，一些教育工作者还是看到了 ChatGPT 和其他形式的生成式 AI 技术的教学潜力。在斯坦福大学教育研究生院网站最近的一篇文章中，斯坦福大学教育学副教授 Victor Lee 指出，ChatGPT 可以帮助学生“以他们目前没有的方式思考”，例如帮助他们发现和澄清他们的想法。他认为，教师也可以从 ChatGPT 中受益，通过为学生提供许多基本内容保持不变但风格、句法或语法不同的叙述示例。
“ChatGPT 可以 [allow] 学生多次阅读、反思和修改，而不会像此类过程经常引起的痛苦或沮丧，[同时] 教师可以使用该工具来生成某种形式或类型的许多示例和非示例，”李在一份声明中说。 “显然，教师对计算机为学生做大量跑腿工作不太高兴。学生仍然需要学习写作。但是以什么方式，什么样的写作呢？这种新药的一个……副作用是它需要我们所有人提出这些问题，并可能对我们教学的总体目标和方法做出一些实质性的改变。”
无论如何，纽约市公立学校的政策似乎是全国首创，肯定会迫使其他地方的学区展开讨论。随着技术使用的增长——截至去年 12 月，ChatGPT 拥有超过一百万用户—— 独立研究人员和公司已经开始试用工具来检测学生提交的 AI 生成文本的使用情况。一些教育工作者可能会选择接受它们，而像李这样的其他人则鼓励使用 ChatGPT 作为辅助写作工具。
由于纽约市公立学校封锁了 ChatGPT，OpenAI 表示它正在研究“缓解措施”以帮助发现由Kyle Wiggers最初发布在TechCrunch上的 ChatGPT 生成的文本