用聊天机器人编程

迈克·伍尔德里奇仍然和我们在一起。我想知道他对今天听到的事情有什么看法。凯瑟琳提到人工智能检测软件能够检测出虚假的科学论文。但这是万无一失的吗？

迈克尔-这不是万无一失的，远非万无一失。我认为还有很多工作要做。我认为其中一个有趣的想法是现在正在进行的工作是开放的人工智能可以插入文本ChatGPT生成数字水印。它可以让你分析一段文本，并告诉你它实际上是由一个系统产生的。我们还没有做到这一点，但我认为这是一个非常有趣的方向。但目前，我认为我们教育工作者现在感到头疼的是如何识别这一点。研究人员，当我们看到摘要和研究论文时，这将是未来几年的挑战。我真正担心的是同行评议，这是我们用来评估科学贡献的过程，已经处于压力之下。但是像这样的系统可能会被用来淹没同行评议，你只会得到很多看起来很合理的报告和论文，这些报告和论文都是由这样的系统产生的。因此，目前人们对这些问题有很多担忧。

James -我们还没有机会讨论ChatGPT生成计算机代码的潜力。有什么可能性呢?

Michael:正如我刚才提到的，这些程序的训练方式基本上就是你下载整个万维网然后在上面训练它。在这一切之中，有大量的计算机代码。我们喜欢用来上传代码来证明我们有多聪明的网站叫做GitHub。如果你去GitHub，那里有成千上万，甚至上百万的计算机程序已经上传，你可以分析。像Python这样的计算机编程语言比像英语这样的人类语言更容易理解。它们要简单得多。它们定义良好，分析起来非常简单。因此，像ChatGPT这样的系统在分析和生成计算机代码方面应该非常擅长，这并不奇怪。目前的技术水平是能够制作相对较短的节目。几十行计算机代码，通常是我们在计算机编程中可能会用到的有用的小工具和实用程序。 I don't envisage them being able to produce Microsoft Windows or Microsoft Excel anytime soon. But there are some really fascinating applications of this. One of the most interesting is that ChatGPT can't do arithmetic and it can't do mathematics because that's not what it was designed for. But it can write computer programmes that can do mathematics and arithmetic. In other words, there's a problem that it can't solve itself, but it can write a computer programme to solve that problem. And at this point, I just wish Alan Turing was alive to see this technology. He would love to see this. This would really tickle, I think, his fancy, it's absolutely fascinating from the point of view of computer science.

詹姆斯-难以置信，不是吗?迈克，还有一件事，我想问你，因为另一项人工智能技术似乎每天都在变得更好，那就是深度造假，当我们能够以某种方式将复杂的ChatGPT与深度造假软件集成在一起时，我们的想法令人难以置信。我们现在是否处在一个几乎需要质疑我们在网上看到的任何东西的阶段?

迈克尔-我认为绝对是这样。我认为，我们现在正处于不能相信社交媒体上的文本等的阶段。没有理由这么做。这就是为什么有信心知道这段文字的出处是非常重要的。但计算机生成的图像和视频也很快就会出现。我的意思是，这已经近在眼前了。