批判性推理和生成式人工智能

我在数学教育过程中的一个重要经验是在微积分课上计算积分时遇到困难。为了计算数分钟，我费尽心思地涂写，最后我向老师展示了我认为是正确答案的积分结果。她说，“这是一个负数。”我有点惊讶（抱歉！）地说：“那又怎样？”然后她补充道：“你试图计算的是一个体积。”

那个教训在我心中留下了几十年，我不想去计算。你不需要懂微积分才能理解几何体的体积不可能小于零。更广泛的教训是在解决问题时，无论是使用你不完全理解或信任的方法或技术，永远要运用简单的批判性推理技巧。

如果你牢记这个教训，你就不会那么容易受到幻觉、系统偏见以及生成式人工智能的其他陷阱的影响。

例如，如果像ChatGPT这样的生成式AI系统用一种挑衅性的陈述回复你，请核实其内容。只需要花一点时间在网上搜索可靠的来源来核实。即使生成式AI引用了它可能也会产生的来源，也要自己进行搜索！验证一个答案是否正确通常要比提出那个答案容易得多（参阅P vs. NP问题），因此采取“信任但核实”的方法。

如果您正在使用生成式AI系统进行推理，比如数学证明或因果链，可以对响应的每一个步骤进行质疑。更好的做法是，询问AI与您最初请求的相反情况。如果发现系统自相矛盾，将会让您学会变得不那么信任它。

这是一个使用ChatGPT的真实例子。

我让ChatGPT证明没有以7结尾的质数。即使你不是数学专业的，也不应该花太长时间就能发现7、17和37都是质数。

但这里是ChatGPT的回应：

在这个“证明”中，如果你没有看到错误，那就是说20k + 17“显然能被17整除” - 对于大多数k的值来说显然不是这样。

但即使您沒注意到這個缺陷，您也可以簡單地向ChatGPT請求以7結尾的質數。它會樂意回答以下問題：

至少ChatGPT对其之前的错误表示道歉，这还算是有点礼貌！

我相信未来会给我们带来更可靠的生成式人工智能系统。但是，没有任何技术会是完美的，也没有任何技术会减轻我们进行批判性思考的责任。

希望这些简单技巧能帮助你充分利用生成式人工智能，同时避免其中的缺陷。记住，人工智能只是一种工具。你有责任做出自己的决策，并承担其后果。