关于集体超智能

在过去的十年里，作为一名人工智能研究者，我的目标一直是推动开发能够为人工超级智能提供可行替代方案的AI系统，这种系统通过增强人类智力而不是取代人类来实现超级智能的能力。我的理由很简单：我相信创造出人工超级智能将对我们的物种来说是一次极其危险和非人性化的步骤。如果你需要说服，可以看看我在2020年出版的小型图书《到达意识》。

那么，是否存在一条更安全的通往超智能的路径呢？当我在2008年开始探索这个问题时，我得出的结论是，我们最好的方法是创建一个集体超智能，利用人工智能的力量，在实时中放大大型群体的综合思想、意见、洞察力和智慧。不，我不是在说要像LLMs那样使用人工智能处理人类的综合遗存。相反，我指的是处理人类群体的实时思想和意见，不是为了复制我们的集体思维，而是为了促进和放大它。

老实说，我一开始并不确定这是否有可能以一种流畅自然的方式实现，但Unanimous AI的新研究让我相信这个愿景是可能的。更令人兴奋的是，实现集体超智能的道路可能会包括近期技术，可以立即改变大型团体的合作方式，创造全新的企业协作、深入公民参与以及大规模政府决策的模式。

在我深入探讨之前，请让我先提供一些背景信息：

我的灵感来自于大自然。因为生物系统在数亿年的演化过程中展示出了实时群体智能的巨大力量。例如，大鱼群、蜜蜂群和鸟群能够协同思考，使得它们能够像超级有机体一样有效地运作，无缝地提高整体群体的智慧。生物学家称之为群体智能。十多年前，我提出的一个重要问题是人类群体是否能够达到类似的结果。

为了追求这个目标，我于2014年创立了Unanimous AI。在过去的十年里，我们进行了许多学术研究，证明人类群体可以形成一种群体智能，极大增强他们的集体洞察力。这让我相信集体超级智能的长期目标是可行的。我们还发现这是一个困难的挑战，因为它涉及人类群体之间以及与实时人工智能系统的相互作用的动态的理解。

我们的核心技术被称为人工群体智能（Swarm AI），并且发挥良好。著名的是，我在2016年受到一名记者的挑战，他冒险要求我们的团队使用“人类群体”预测肯塔基德比的前四匹马的顺序。当时我们接受了这个挑战，但并没有意识到这是体育竞技中最难赢得的赌注之一。

这是当时在《新闻周刊》报道的结果：“人工智能将20美元变成了11000美元，在肯塔基德比赛上进行了赌博。”当然，运气也参与其中，但打败540赔1的赔率并非偶然。我们的系统（称为Swarm）将20个赛马爱好者的见解结合成了实时的集体智慧。而且它起作用了：

同时在2016年，我们进行了世界上第一次实时集体智能的“问我任何事”活动。我们在Reddit上进行了现场直播，可以说这是相当冒险的，但它成功了——数百名网络人士作为统一的群体回答了问题。它引起了很多关注，华盛顿邮报在一篇文章中记录了这一重要事件，并列举了一些此次里程碑活动所得出的预测。尤其令人注目的是，他们发表了一个预测，即加利福尼亚州将在年底前合法化大麻。五个月后，这个预测成真了。

多年来，我们的Swarm AI技术已被联合国、美国空军和财富500强企业所使用。但是构建一种集体超智能的宏伟追求似乎遥不可及。在过去的18个月中，随着新的AI方法（包括LLMs）的出现，一系列突破使我们能够在安静中追求无缝的集体超智能，这成为可能性。

我们最令人兴奋的创新是对话式群体智能。这项技术是我们在2018年开始追求的，但直到我们能够以独特的方式利用LLMs，它才能在规模上可行。它承诺可以让几乎任何规模的群体（50人、500人，甚至500万人）进行实时对话式的协商，收敛于群体智能的威力放大的统一解决方案。这个核心概念受鱼群启发，并经过正式测试的验证，它确实有效。

这与鱼群有什么关系呢？事实证明，鱼群可以在成千上万的成员之间进行实时的“对话”，迅速做出集体决策，无需中央权威进行调解即可在海洋中航行。每条鱼都使用一种称为“侧线”的独特器官与其他鱼类进行交流，侧线可以感知周围鱼类引起的水压变化。每条鱼关注的邻居数量因物种而异，但都只是整个群体的一个小子集。由于每条鱼与其他鱼的部分子集交互作用，信息可以快速传播到整个族群，从而形成统一的群体智能。

我们能在人类中实现类似的功能吗？结果证明，我们可以通过使用我们在2018年开发的一个概念，称为超群或者分形叠加群体，将实时人群分成重叠的子群体来实现。例如，我们可以将一个由1000个网络个体组成的大团体分成200个由5人组成的群体，每个子组的成员自动连接到他们自己独特的聊天室或视频会议室中。如果我们向他们发送相同的问题讨论或问题解决的话题，现在我们就有了200个平行的对话，每个对话的规模适合进行深思熟虑的讨论。

当然，并行群体不会创建群体智能，因为内容不能在整个群体中传播。我们通过将被LLMs驱动的对话智能代理的新颖运用，来模拟鱼类的侧线器官的功能，从而解决了这个问题。具体而言，我们在200个子群体中插入一个人工智能代理（称为观察者代理），并指示该代理监控该群体的对话，提取关键内容，并通过自然对话方式将内容表达给相邻的群体。通过这种方式，每个200个群体都被分配一个额外的人工智能观察者成员，该观察者有任务监控讨论中的实时见解，并以对话方式表达给一个或多个其他群体，使信息能够在整个群体中传播。可以用下图来表示：

但是这个疯狂的想法能行吗？说实话，我不确定大群体能够以这种方式进行统一的对话，并在实时中达成一致的解决方案 - 但事实证明，他们可以。更令人惊讶的是，当参与者将单个大型聊天室中的对话与进入一个对话群体进行比较时，他们绝大多数人更喜欢生物启发结构。实际上，绝大多数参与者都报告称在这种独特的群体结构中，他们能够更好地表达自己的观点并使他们的意见被听到，而不是在传统的大型聊天室或论坛等传统结构中。

为了解释对话性聚群智能的运作原理，我分享了我在10月14日举行的第7届国际联合会议上关于在广告中的对话性写作的演讲。该演讲描述了我们今年早些时候与卡内基梅隆大学合作进行的一项研究。这是我们进行的众多评估CSI益处的研究之一。结果很有希望。

为什么要做这个实验？我坚信我们需要一个替代人工超级智能的解决方案，这个解决方案使用人类参与者的实时价值观、道德、感性、智慧和见解来构建。我并不是在谈论像传统人工智能那样处理人类遗留下来的物品。我在谈论的是实时连接人类团体，使其能够作为一个统一的超级智能进行运作。如果我们能实现这一点，我相信我们可以利用人工智能的力量帮助人类做出更好的决策，并通过优化我们共同思考的能力来解决困难的问题。

如果我们不建立一个集体超智能，我担心我们只是在建造我们自己的数字替代品。关于为什么这是一个真正的风险的详细信息，请参阅我2017年的TED演讲：https://www.youtube.com/watch?v=Eu-RyZt_Uas

你有兴趣参与对话蜂群吗？如果你有一个庞大的网络团队（50人或更多），可能想参与“beta测试”对话蜂群智能，我们将继续与卡内基梅隆大学合作进行会议。因此，请发送电子邮件给我们，并询问更多信息：Gregg@Unanimous.ai