停止担心ChatGPT会夺走你的工作；有害的人工智能已经存在，你可能甚至都没有注意到。

AI在过去一年中吸引了公众的注意力，尤其是生成式AI（例如ChatGPT）的进步使其对普通用户来说更加可接触。伴随着公众的关注，对于这种人工智能可能如何造福人类，危害人类的猜测也随之而来。

有一天可能会出现这样的情况，这些人工智能的新进展被大规模地用于有害的方式，或者大量的工人被基于人工智能的工具取代。但直到那时，你担心的是错误的事情。其他类型的人工智能已经在大规模和日常基础上对你和整个社会造成了伤害。

这篇文章是关于其中一种有害用途的，就是哈佛商业评论在上个月称之为“决定性差异化因素”的一种，它可以让企业的利润“两位数百分比”增长。听起来很棒，对吧？事实上，它是一种特殊类型的人工智能模型，悄无声息地操纵着你所做的几乎每个金融决策。

你可能甚至没有意识到。也许你有时以微妙的方式感受到它。有些事情只是感觉不同了，比从前更加紧张，更加不自然。你可能会责怪全球通货膨胀、社交媒体、大流行病或你最喜欢的政治替罪羊，但你无法确切地描述这种感觉。

世界上发生了很多事情，有很多原因会让人感到这种方式。然而，有证据表明其中一个潜在原因，这个原因在过去的2-3年里得到了广泛应用。让我告诉你这种人工智能技术被用在哪里以及它是如何运作的，然后我们再来看看为什么这对你个人和整个社会都是有害的。

为了更好地理解这个问题，我们需要一些背景知识。一个企业如何决定其产品的定价？

在我的职业生涯初期，我曾在一家销售和维修重型机械（卡车、挖掘机等）的企业的仓库工作。当我们向客户销售零件时，我们明白我们需要赚取的利润率，以使公司盈利（大约为15-20%）。因此，我们会将我们购买该零件的批发成本加上20%，以这个价格销售出去。如果我们真的喜欢这个客户，或者他们声称竞争对手给他们一个更低的价格，我们可能只会涨价10%或15%以进行折扣。以较低的利润率销售总比不销售要好。在我所在公司的家族眼中，这是一种诚实的经营方式。

这是一种相当幼稚的方法，但当时许多公司都是按照这种方式设定价格的。

成功的公司已经意识到，竞争定价远比成本加固定利润更为复杂，并且认识到他们需要考虑其他因素，包括顾客对产品价值的感知、品牌认可度、消费者可选择的替代品数量、竞争产品的售价、宏观经济状况、季节性购买模式等等，这就是经济学家所称的定价弹性。大型零售商拥有专门负责收集这类信息和为其产品定价的部门。然而，从简单来说，定价仍然是一种基本尝试，旨在以客户认为相对于产品价值公平的经济成本来最大化收入。

在网上零售和电子餐厅菜单出现之前，改变产品的价格是昂贵且耗时的。还记得小时候在百货公司看到人们拿着贴有新价格标签的贴标枪在每件服装上覆盖价格吗？在那些日子里，只有在具有超过手动更新价格费用的有力理由时，才会改变价格。

随着在线零售的出现，一家公司的销售价格可以更轻松地进行调整，定价策略也在某种程度上相应调整。处于高度季节性行业（如航空和酒店）或奢侈品市场的企业采取了更加积极的定价策略，根据预期需求将价格上调或下调。

所有这一切都已经改变了。进入这种强大的新型人工智能，它已经广泛使用。

这个人工智能收集的信息超出了一个个体人类所能理解的范围。它正在监控每个竞争对手的网站并追踪他们的价格。它正在衡量消费者情绪、经济状况、天气、社交媒体趋势、每个地理区域每天和每周的购买习惯、您的收入水平估计以及成千上万的其他变量。然后，它利用像城市街区大小的数据中心来做一件事：找出（精确到每一分钱）您在任何给定时刻愿意为产品支付的绝对最高价格。

除此之外，它还在不断地对您进行实验和学习。它会玩弄产品的价格并观察消费者行为。顾客是否离开去别处购买了？我将给下一个顾客少收几个便士。下周芝加哥会下雪吗？让我们看看我能在那里将手套和铁铲的价格提高多高，然后消费者开始选择其他替代产品。然后，让我们利用这些信息在下一次暴风雪来临之前设定价格。我的竞争对手的库存是否供不应求？提高价格，因为现在顾客没有选择。我在最后一刻能添加多大的“服务费”而依然能够完成购买呢？

而且它正在实时地以毫秒为单位完成所有这些工作。自几年前它的发明以来，你几乎每次日常购买都受到这种人工智能的影响。这不仅仅是奢侈品或可选物品，甚至包括衣服、家居用品，甚至杂货。如果你租房或公寓，你下一份租约可能会使用这种人工智能来定价。

不要只相信我的话。这是一份关于如何在您的企业实施这一步骤指南，由哈佛商业评论提供。您还可以从图灵（Turing）、DynamicPricing.AI和麦肯锡的Periscope等公司购买使用该人工智能技术。

以下是我最喜欢的蛋白棒在一个5天的时间窗口内的价格历史，这是一个使用Keepa.com追踪亚马逊价格变动的网站的现实例子。5月18日，在6小时的时间里，价格波动了5次，区间从22美元到27美元不等！

发生了什么变化？亚马逊为将这些棒棒糖放在仓库货架上而支付的成本变了吗？那个早上，盒子里的棒棒糖的内容改变了5次吗？亚马逊在早上4点至5点之间遇到了“供应链问题”吗？不！出于某种未知的原因（甚至可能是对于亚马逊.com建立AI的人员而言也是未知的），AI模型确定在短暂的时间内可以向该客户收取27美元而不是22美元，仍然能够完成销售。也许它知道周四上午是忙碌的父母最有可能注意到孩子的早餐食品库存不足并重新下单而不是先比价。无论出于什么原因做出这样的定价决策，可以肯定这个决策对亚马逊有利，而不是对您有利。

以个体为规模的价格欺诈和勾结。从客户的角度来看，这种人工智能实际上是在学习您在财务决策过程中的脆弱时刻，并利用它们来提高价格。此外，在一些专家看来，它间接协调与竞争对手提高价格来针对您。而这一切完全合法。

如果您更喜欢在实体商店购物，那么您也无法幸免。像沃尔玛（Walmart）这样的零售商已经开始在店内应用这种技术，用数字标牌取代可以即时和自动更新的价格标签。研究公司Gartner预测，到2025年，所有主要零售商都将实施“实时定价”。甚至餐厅也开始尝试使用人工智能制作电子菜单，在高峰用餐时间根据天气、交通情况以及附近其他餐厅的繁忙程度等因素来提高价格。

既然我们知道它是如何工作的，我们可能会同意它感觉有点不太正当。它冒犯了我们的公平和公正感。你可能会想，“为什么我要因为住在某个地区或选择在更方便的时间购买而支付更多呢？”

此外，这显然对你的家庭预算产生重大影响。如果先进的人工智能正在学习我们的购买决策，并寻找各种方式让我们支付更多的钱，这意味着我们将会比过去拥有更少的钱。我相信你可以理解这一点！

但是，这真的有害吗？我认为是的，以下是原因。

首先，简要说明一下背景：行为经济学是研究人们为什么做出特定经济决策的学科。它是一个相对较新的研究领域，由杜克大学的丹·阿里尔等研究人员首创并普及。他们的研究发现了一种心理现象，它在经济交换过程中（例如购买商品或服务）出现，被称为“付款痛苦”。

它的工作原理如下：每当您经历或即将经历经济损失（在这种情况下是支付某物），您会感受到心理痛苦。感知到的损失越大，您所感受到的痛苦就越大。您所得到的价值可以在一定程度上减轻这种痛苦。如果您认为产品的价值超过了财务损失，您可能会称其为“好交易”或“公平价格”。如果痛苦过大，您将决定不购买。

研究人员进一步探索了这个现象，并发现当大脑在这些决策过程中通过fMRI进行观察时，支付痛觉会激活与身体疼痛相同的脑功能。换句话说，支付痛觉几乎以与实际身体疼痛相同的方式影响着你的大脑。

那么，当一种专门设计用于找出你在任何给定时刻愿意承受的精确最大“痛苦”程度的人工智能技术在你每天的经济决策中不断对抗你时，会发生什么呢？

各种类型的疼痛的长期影响已有详细记录。至少它会负面影响您的情绪并增加烦躁感。最糟糕的是，它可能导致抑郁、焦虑和其他形式的心理疾病。

我假设近几年来，人工智能在我们经济生活的各个领域的实施，嵌入了一种前所未有的持续心理痛苦和疲劳。个体在几乎每次交易中都感受不到经济损失的公平价值回报。

与其感觉到获得了些什么，每次交易让你感到丧失了什么，但并没有更好的选择。简而言之，你总是感觉自己被坑了一样。每次交易都会有一种模糊的沮丧、威胁或危险的感觉，对你的福祉构成威胁。

过去几年对大多数人来说充满了挑战和动荡，有很多因素导致了这种情况。我认为我们忽视了一个重要的因素。在这种情况下，人工智能被用来对社会造成有形的伤害，以追求（已经创纪录的高）利润率的增长。

很不幸，我不确定我们能做很多事情来改变它。

只是意识到这一点会有一点帮助。我们还可以促使立法者加强价格操纵法律，以解决这种行为更为严重的情况。我们可以督促他们要求更多透明度，揭示这些人工智能工具所做的定价决策。很可能，如果有人仔细研究，他们会发现这些人工智能模型正在以不可接受的方式歧视特定群体。目前有人正在进行相关研究。

如果你喜欢寻找便宜货的刺激，你可以使用在线工具来跟踪你最喜欢的零售网站上的价格变动，并在AI模型降低你想购买的物品价格时迅速行动。这需要一种大多数人没有时间付出的警觉性，但对于一些人来说，这可能有助于恢复控制感。

有一个想法吗？在评论中分享吧。

随着人工智能的不断发展，我相信它将在许多方面为我们带来好处。然而，对于伤害的潜在影响不会以轰动的事件包裹在耸人听闻的标题中呈现出来。伤害将是隐秘而微妙的，但不可忽视的影响力仍然存在。

最后，我们要记住人工智能不具备道德主体性。它只会按照它所构建的方式行动，而构建者都是人类。或许，我们所能做的最好就是要求这些人类负责，无论是技术的构建者还是使用者。对于我们这些从事AI模型开发的人来说，这也意味着要考虑到我们的模型可能对人类造成的影响，并且在预见到伤害的情况下拒绝继续推进，即使我们知道我们的竞争对手没有同样的道德坚定性。