ChatGPT：一种增强力还是危险威胁？

AI动力聊天机器人已经引起了关于其实用性和有效性的大量讨论。

一个传世吟游诗人

莎士比亚著名剧作《凯撒大帝》的第一幕有一个关键场景。罗马参议员盖乌斯·朗吉努斯通过写假信，声称来自“公众意见”，来激发一个刺杀凯撒大帝的阴谋，以说服他的妹夫马库斯·布鲁图斯杀死凯撒。

也许，这是 astroturfing 的首个“虚构”案例，它是模拟公众自发评论以支持某一事业或产品的欺骗性策略。之所以提到这一现象，是因为随着具有争议的全新高级人工智能语言模型 ChatGPT（聊天生成预训练变压器）的出现，这样的莎士比亚式故事在营销战略甚至政治竞选的社区外展中可能成为现实，以生成大量支持。

一个例子是2016年美国总统选举，俄罗斯的“机器人”（不真实的受控账户）被指控制造对唐纳德·特朗普的虚假支持，并对他的对手希拉里·克林顿进行假批评，以影响选举结果。这种推动选民支持某个候选人，以另一个候选人为代价的干预可轻易扩大使用 ChatGPT 这类应用，而且还能大幅减少预算、人员和技术基础设施。

我们将无法辨认一篇文学作品（无论是新闻、学术、科学、医学还是司法领域）是一篇原创作品还是仅仅是大量文本数据的混合体，这是令人感到害怕的前景。这不仅因为我们将无法真正区分经过充分研究和巧妙撰写的作品与生成类人写作的 AI 应用，更重要的是因为这将成为不可能的事情。

那么，ChatGPT究竟是什么？该应用程序的开发者OpenAI声称，它希望能以类似人类互动的方式回答提出的问题和提示，并具有超越人类速度和规模的特点。让我们看看这个“预先训练的转换器”的优点和缺点，以评估它对社会是福利还是祸害。

聊天GPT的优点

速度与效率：ChatGPT拥有庞大的训练数据和先进的算法，可以在几毫秒内生成高质量的回复，适用于广泛的输入。这意味着企业和组织可以快速而有效地获取所需信息，而不必等待人类的响应。

一致性：另一个好处是它的一致性。与人类员工不同，ChatGPT不会感到疲倦，犯错误或休息。这意味着企业和组织可以依靠ChatGPT在24/7提供准确，一致的答案，不受请求量的影响。

可定制性：ChatGPT 可以定制以满足不同企业组织的特殊需求。例如，可以微调它以针对特定问题提供特定的回答或使用特定的语气或风格。这种定制程度使企业组织可以根据自己的特定需求定制 ChatGPT，使其成为各种应用的理想解决方案。

成本效益：使用ChatGPT可能比雇佣人类员工更具成本效益。由于无需支付薪水、福利或休假，企业和组织可以大大减少费用，通过使用ChatGPT来处理常规任务和回答常见问题。

ChatGPT 的缺点

缺乏同理心：与人类员工不同，ChatGPT无法理解或响应情感线索，其响应可能看起来是机械化或不人性化。在提供客户支持或处理敏感信息时，这可能是一个缺点。

在理解能力方面存在限制：虽然ChatGPT已经通过了大量的文本数据的训练，但它在语言和上下文的理解方面仍存在限制。这可能会导致其回应的不准确，特别是在处理复杂或抽象的概念时。

偏见和歧视：在ChatGPT上的另一个问题是可能会持续存在偏见和歧视。这是因为模型是在反映现有偏见和偏见的文本数据上进行训练的，因此它可能会生成反映这些偏见的响应。企业和组织要意识到这个问题并采取措施来缓解它，例如微调模型以消除偏见并促进多样性和包容性。

隐私和安全问题：ChatGPT可以处理和存储大量敏感信息，这可能引起隐私和安全问题。例如，如果一个AI模型是在与健康有关的数据上进行的训练，则可能会访问有关个人健康状况的敏感信息。

故事结局的转折点

现在，如果揭示上述“利弊”部分只是从ChatGPT生成的响应中逐字复制粘贴，那会怎么样呢？是的，这实际上证明了这种工具产生高质量内容的同时，也反映出它真正的模型是一个无个性的，陈词滥调和机械化的工具。这就带我们来到了ChatGPT的另一个至关重要的方面，即它对新闻业的影响。

书记们呢？

这种人工智能应用程序可以显著减少记者编写准确新闻文章、摘要和信息图表所需的时间和精力，同时在覆盖范围和语法上也是全面的和无可挑剔的。然而，ChatGPT能否捕捉故事的真正精髓呢？无论是关于战乱国家里人类困境的报道，还是自然灾害后的报道，抓住整个国家在赢得FIFA世界杯时的欢腾，甚至是描述由家庭烘焙师准备的红丝绒蛋糕的微妙香味和口感；这些基本的人类情感能否被一个没有感情 (从字面上) 的计算机生成的新闻文章呈现出来呢？

此外，如果此类应用程序得到发展，生成虚假新闻文章、政治宣传和其他虚假信息的可能性可能会增加，尽管通过社交媒体平台快速传播此类危险内容的能力被验证。

人工智能会长寿并繁荣发展。

尽管安全专家、学者、记者和技术人员指出了聊天GPT的几种潜在危害，特别是如果它被大众广泛采用时，但这些生成性AI算法将会继续存在并扩展。随着谷歌和微软宣布计划推出竞争的深度学习模型，如“巴德”和经过改进的必应搜索引擎，这是世界适应变革时代或冒险在人工智能竞赛中落后的时刻。

就民主制度自身的概念和运作被破坏而言，这是所有国家面临的真正威胁。人类以相互有益的方式组织自己的社会政治概念是一个非常有机的现象。ChatGPT及其类似物可以以破坏民主制度本意和侵犯公民自由的方式来扰乱这种现象。不论是起草监管通信的规则、游说立法者提出某些提案或为政治领袖争取支持，生成的AI应用程序都可以帮助扭曲民意，要么支持、要么反对一个特定的个体实体或组织。最近的一个例子是在2021年的沙特阿拉伯，当美国情报机构报告指控统治者在伊斯坦布尔的沙特领事馆谋杀《华盛顿邮报》专栏作家Jamal Khashoggi后，沙特推特被涌入支持其王储的机器人。

因此，政府和监管机构是否准备好应对这种技术冲击对其职能的影响？是否会设置足够的防护栏来检测和防止先进的人工智能应用程序的负面影响？

印度的情况

在印度的背景下，ChatGPT 可以提高公民的生活质量，特别是在教育、农业和卫生领域；这反过来又可以促进我们的经济增长。如果有效利用，这样的 AI 模型可以提供个性化教育工具的更容易接近、为农民提供有关天气条件和作物管理的预测分析、为患者提供实时诊断而无需去医院等潜在的好处。另一方面，随着此类 AI 聊天机器人的进入，失业和人员流动是真实的可能性，除了通过煽动性的“假”社交媒体帖子和破坏社会和谐来制造社区紧张局势的危险。

总之，ChatGPT对社会功能的影响是建设性的还是不良的，仍需观察。我们知道一件事情，那就是它是一种复杂的技术，具有多方面的好处和缺点，需要谨慎利用，才能真正为公众利益服务。

值得庆幸的是，ChatGPT依然缺少独创性思维技能、抽象推理能力，并且无法处理模棱两可的问题。因此，通常单调而孤独的写报纸专栏的职业并没有受到立即的威胁。哎呀，太好了！

结束时候用一个隐喻, ChatGPT 就像一辆过山车, 可怕但又令人兴奋。