提示的民族志学

制定方案不仅仅是提问。

ChatGPT中文站

语言和感知

作为一个物种,我们一直利用我们的感官来产生语言,以便探索和捕捉世界的各个方面,从天气、河流、植物和动物到人类互动。产生意义的行动不仅让我们与外部世界联系在一起,还允许我们深入挖掘代代传承下来的集体知识和观点。

象征性技术

我们对感知进行符号化注册的历史可以追溯到古代,这可以通过考古发现如Lebombo和Ishango骨头来证明,它们是已知的最古老的数学对象。从那时起,我们存储和解释符号的能力已经深深根植于我们的物种中。我们通过使用材料来创造对象、标记表面和装饰自己来扩展我们的认知能力。互联网已经发展成为一个合成的超级生命体,超越了它的物理存在。

语言模型的本质:随着我们日益依赖数字工具,我们的外部能力不断扩展,而在内心,我们追求与感官获得的同样的愉悦。我们对数字工具的似乎瞬间响应的思考机制感到惊奇。这些技术赋予的超自然符号力量超出了我们的理解,部分原因在于媒体的描绘。

伦理和社会影响

在不断变化的文化环境中,信息已经取代传统成为推动力。虽然语言模型有助于语言生成,但必须承认,它们最终还是由人类设计和开发的。应强调人机交互在语言生产及其文化方面的合作性,以获得更准确的理解。伦理问题出现在存在偏见算法、低工资劳动力及相关的可解释性挑战。

语言和交流

语言模型,如LLMs,是由人类设计和开发用于辅助语言生成的工具。理解它们的文化产出需要解决算法偏差、数据收集和模型训练中人类劳动的角色,以及解释机器生成语言所面临的挑战。我们应该超越“缺乏主观体验”的假设,探讨我们对这些系统的着迷,考虑它们可能会持续存在的社会差距。

公共意识的编织

在我们数字化的时代,出现了“类有机”的产品概念,从基因改造生物到人造肉。图像、声音、语言和思维现在都是数字化的,存在但不可触摸。语言的生产除了简单的提示外,还有其限制。机器无法超越被提示的内容,尽管与它们相联系,有一种“即时知识”的感觉。我们自己的语言规则,类似于米开朗基罗的大理石雕像,为这种魔力做出了贡献。

通过深入探讨“有机般”的概念,并以由非有机来源生成的语言为背景,我们可以更清楚地理解语言模型产生幻觉“行为”的现象。与其仅关注机器生成语言和人类语言间的限制和差异,我们应该拥抱它们所带来的魅力,认识到底层的人类编写代码以及其所隐含的社会差异。

2023-10-20 16:44:46 AI中文站翻译自原文