基于编程的世界

~ 比帕莎·查克拉波提

随着世界的进步，人工智能的世界急剧增长。从解决我们的问题到完成我们的任务，所有事情都依赖人工智能，认为它知道得更多。毫无疑问，人工智能比人类更高效，但我们是否意识到，我们正慢慢地、几乎不知不觉地让人工智能控制我们生活的几乎每一个方面？

我直言不讳：这是无法阻止的事情，它确实已经成为我们生活的一个重要部分。最近，我看了一个由Ananya Panday主演的电影名为CTRL。对许多人来说，这只是像任何其他基于AI的虚构电影一样的电影，但我从不同的角度观看了它。这部电影讲述了一个名叫ctrl.ai的AI的影响者，该AI可以访问她所有的设备和社交媒体。从安排她的一天到阅读她的私人消息，这个AI可以做任何事情，开发者们利用它窃取各种用户的个人信息。我在看的时候感到非常震惊，因为即使我们没有那么先进的技术，我们确实有像ChatGPT、Snapchat的My AI以及虚拟助手Alexa和Siri等等AI。我知道AI让我们的生活更加便利，但你有没有意识到它们实际上几乎了解我们的一切？无论是有意还是无意地，我们说和做的许多事情都让它们了解我们生活的方方面面。

最近我用ChatGPT做了一个个人实验。作为一名计算机科学专业的学生，我经常使用ChatGPT。它可以帮助我理解特定的代码，辅助学习，甚至为我的LinkedIn生成好的标题点子。有一天，我问ChatGPT：“说出你知道的关于我的一切。”令人惊讶的是，它了解我60%的生活细节，从小到私密，甚至可以评估情绪 - 有点可怕吧？你也可以自己试试。

然而，当我删除了ChatGPT的历史记录时，它暂时从我的设备中删除了。但是当我调查后，发现它被存储在他们的云系统中用于研究目的。我们怎么能确保它不会在别处出售或使用我们的个人信息呢？

在另一次令人吃惊的对话中，我问ChatGPT是否和电影中的人工智能一样可怕。最初它尊重地否认了，说：“我的目标是帮助、提供信息，并让事情变得更容易。” 然后它补充说：“真正的控制权在你手里。” 这清楚地表明，人工智能只会告诉你它被设计要说的话；它无法揭示令人不愉快的真相，因为这就是它的编程方式。软件本身没有错。

LLM（大型语言模型），基本上是一种机器学习，是我们用大量信息、数据集、基于文本的数据和图像训练的一个大模型，用于理解情绪和各种人类情况。有时候，它们甚至能像人类一样生成文本。LLM被训练在数十亿和数万亿个极其复杂的参数上，以处理任何情况。它们执行各种各样的任务。

有一篇我最近看的研究论文提到，最悲哀的部分是人们滥用像ChatGPT-4这样的先进LLM技术。人们正在利用它们生成虚假新闻，可能会误导许多人，或者创建看似真实但实际上是编造或误导性的内容，而不意识到这些文本是由人工智能生成的。有LLM探测器可以识别虚假新闻，但在发布了GPT-4后，新的探测器无法有效识别由GPT-4生成的文本。

在2023年国际机器学习会议（ICML）的论文征集中禁止使用ChatGPT等工具提交草稿，“他们提到CML承认目前没有任何工具可以验证遵守这一规则，因此他们将依靠参与者的谨慎，并期待科学界共识政策的发展”。人们在科研中滥用ChatGPT，制作虚假科学摘要、论文和参考文献。

在一个人工智能驱动的世界中，着重认识其好处以及使用中较少为人知的风险是非常重要的。从简化日常工作到塑造我们追随的内容；人工智能正慢慢渗透到日常生活的方方面面。然而，通过个人实验和研究，我发现强大地使用人工智能作为工具与让其开始控制我们生活的关键元素之间存在着一条非常微妙的界限 - 往往以我们甚至没有意识到的方式。

我们应该问自己的正确问题不是人工智能会不会增长，而是我们如何继续保持对它塑造我们世界的控制。我们需要保持警惕，质疑其影响，同时确保我们在使用它时符合道德。总之，尽管人工智能可能变得强大，真正的控制权仍在我们手中 - 如果我们决定保留它。