道德考量与协同创新：我作为AI产品经理的角色

我的名字是David Akinyemi，我在Atlassian公司担任产品经理已经超过两年了，最近我同时领导Confluence AI和Confluence Big Data平台团队。自加入AI创新的动态领域以来，我意识到作为AI产品经理的责任远不止监督项目和执行功能。作为最新技术进步的监护人，我的角色将创新与道德责任相结合，塑造AI驱动解决方案的轨迹，并坚持道德标准。

自从转到我们的人工智能团队后，我对作为传统项目经理与从构思到客户影响的整个产品生命周期的差异有了更深刻的认识。

我的上一篇文章写了一些关于产品管理的神话，为对加入这个领域感兴趣的人提供了一些见解。这篇文章有些不同——它的目的是阐明人工智能产品经理和传统产品经理的区别，分享一下我作为人工智能产品经理的角色以及如何在确保促进协作创新的同时解决伦理考虑的问题。

以道德审慎为锚定的创新

AI的创新追求不仅需要技术造诣，还需要对伦理影响保持警惕。这些影响是多方面的，涵盖了各个领域，包括：

偏见和公正性：避免持续和放大社会偏见。
隐私和安全：处理敏感用户数据，引发对隐私和安全性的担忧。
透明度和可解释性：最小化复杂且不透明的系统，使用户难以理解其决策过程。

在阿特拉斯尼亚，这种平衡是不可或缺的。

当我介绍使用Atlassian Intelligence这个工具来定义缩写、首字母缩略词、不熟悉的术语以及团队或项目特定名称时，它可以在不离开当前阅读内容的情况下，通过利用LLM技术来为你解释这些内容。这不仅涉及概念化和开发先进的功能，还需要与法律和隐私团队密切合作进行广泛的伦理评估。我们创建这个工具是因为在使用Confluence阅读内容时，最具挑战性的事情之一就是获取你所需的上下文来理解你所阅读的内容，所以我们希望Atlassian Intelligence能够为你节省时间，为你定义这些内容。

但正如我之前提到的，成为一个人工智能产品经理不仅仅是交付功能，还要评估潜在的偏见、隐私问题以及通过我们客户的视角来评估人工智能倡议的广泛社会影响。在Atlassian，这是我们创新过程中至关重要的一个方面。以下简要介绍我们如何真正理解人工智能的力量、人工智能的局限性，但更重要的是如何保护客户数据。

减轻偏见和不公平性：为了解决偏见和公平性问题，我们的后台生成性 AI 开发过程包括频繁的红队/蓝队模拟，扮演对比角色来识别、利用和减轻我们系统中存在的潜在偏见。我们的红队有意探测漏洞，测试和利用偏见，并执行模拟真实世界情景的场景，以了解我们是否有适当的伦理过滤措施（或需要加强该措施），在向客户发布之前。我们的蓝队致力于检测、分析并理解红队揭示的漏洞，制定应对策略来减轻偏见，例如改进训练数据、修改算法，最终确保产品始终遵守 Atlassian 的可接受使用政策。
提高隐私和安全性：为了解决隐私和安全问题，我们在过程中非常细致，只利用我们内部开发的人工智能或来自OpenAI的人工智能。我们开发了团队协作图，这是一个与客户的项目或服务工作相关的独特图表，还包括内部语言模型和OpenAI，以提供与客户上下文相关的结果。此外，我们努力确保这种能力完全基于用户选择，以优先考虑数据保护措施，并确保透明地收集、使用和共享数据。
遵守透明度和可解释性：为了追求透明度和可解释性，使用户能够理解基于人工智能的结果背后的推理过程，我们与内容设计和产品营销密切合作，剔除了花哨的技术术语，直接与人们交流。

这对我来说是人工智能产品经理和传统产品经理之间的主要区别之一。这完全关乎确保我们在人工智能领域的进步不仅与技术上的卓越相契合，而且与道德审慎相一致。

虽然我们想要突破创新的边界，挑战现状，但作为项目经理，你的工作是确保这不会以牺牲客户为代价。客户是你们的生命线。没有满意的客户，我们注定要失败。所以，首要考虑客户的视角 - 不仅仅是个别的几个人。 Note: The translation is provided in simplified Chinese characters.

以下是我通常用来引导自己对负责任技术的五个问题：

你是否提供关于新技术（如人工智能）的使用，以及它们的功能、局限性和数据使用的清晰、诚实的沟通，毫不虚伪？
您是否将隐私保护、用户选择以及安全可靠性置于首位，与客户和合作伙伴共同合作不断加强？
您是否积极寻求反馈，欢迎客户的意见，并不断学习和改进，以激发对技术的集体责任感？
您是否在培养一个包容、公正和可访问的环境，优先关注人权、多样性和公平，同时积极应对和减轻对用户的潜在负面影响？
您是否在负责任地使用技术，确保利益公平分配并促进积极的社会成果？

现在它们可能感觉像存在主义问题，但为了确保技术负责，每个人都需要建立一套原则，指导他们的团队在构建、部署和使用诸如人工智能之类的新技术。

如果您对在Atlassian特定方法感兴趣。我们正在公开开源我们的AI技术审查模板，以帮助您在组织中导航和实施AI。通过阅读我们的《负责任技术原则》来了解更多信息！

合作：包容创新的催化剂

通过跨学科团队的协作创造的协同效应，定义了人工智能产品管理的本质，而不仅仅是一个想法有多酷或引人注目（哈哈显然）。

当我们的团队合作使用Atlassian Intelligence撰写或编辑内容时，目标是引入一个新的虚拟队友，以帮助您和您的团队更有效地工作。从自动生成新内容和总结到转换现有内容，我们希望Atlassian Intelligence成为一个能够帮助客户节省时间并提高生产力的强大工具。

我们没有预料到我们收到的与响应质量问题有关的早期客户反馈的数量，很快意识到如果这些问题继续存在，长期的特征采用和采用将面临风险。我的团队由BE/MLEs组成，致力于构建有关生成式人工智能响应质量的关键指标。

测量了该功能和改进措施在满足用户需求方面的效果。
可用于在推出阶段进行A/B测试。
积极监控，识别并向团队发出有关任何质量下降的警报。

从普通人的角度来说，我们想知道“我们的 AI 服务在执行你的要求方面表现得如何？”

一旦此指标得到对齐，我们与前端同事密切合作，全面了解用户对产品的参与情况。我们密切关注并频繁听取客户反馈，并采取主题式方法来确定高优先级问题并实施及时的改变解决方法。为了便于理解，prompt是人类与大型语言模型（LLM）进行交互的一种方式。就像与模型对话，你可以提问、提供文本或代码片段，并给出例子。Prompt用于引导学习过程，并帮助模型生成所需输出。它们提供关于当前任务的信息，并帮助模型专注于重要的数据特征。

我们快速迭代并对不同的MLE提示更改进行实验，并利用A/B和回归测试来确保不断改进。我们通过实施并行处理来提高延迟，其中包括道德过滤等各种API进程，以确保响应及时交付而不延迟。同时，我们的前端同事正在认真识别关键的客户痛点，并通过设计实验来提升用户体验，使其更直观和交互，同时确保明确的客户期望和整体体验。这种跨职能的合作展示了多元化观点的转变力量-从工程师和数据科学家到PM和UX研究人员-共同契合以用户为中心的反馈，打造深度根植于用户反馈的AI解决方案。

这个经验真正向我展示了一个人工智能产品经理需要一种超越个体专业知识的协作方式。以下是我在每个人工智能项目中确定的成功协作的三个关键要素：

高频沟通：简化信息交流非常重要，因为它允许团队成员快速分享更新、洞见和反馈，对我们来说，这是每天都在进行的。通过保持持续的沟通流动，团队成员可以保持一致，做出明智决策，并尽快解决任何挑战或障碍。这有助于确保每个人都在同一个页面上，并高效有效地努力实现项目的目标。
对定性目标的团队对齐：这提供了明确的方向和共同的理解，以实现所期望的指标升级。当团队对一个指标进行对齐时，他们可以更有效地共同合作，利用不同的手段实现关键结果。除了有助于优先处理工单并避免跨职能冲突外，这还使实验和回归测试更加清晰，始终将团队置于做出明智决策的最佳位置。
关注客户反馈：改进产品和服务的最佳方式是确保项目满足客户的需求和期望。通过积极倾听客户的反馈，您可以找出改进的领域，解决任何问题或关切，并进行必要的调整。这应该是一种促进团队和客户之间信任和透明度的合作方式。创造一个环境，在其中，不断的客户反馈不断提供，或者如果量很大，主题化的客户反馈成为一个一致的声音。这种方法将带来改进的结果和更大的项目成功。

尽管这并不是一个重大的区别，但对我来说，作为一名人工智能产品经理，这比传统产品经理更加重要。人工智能产品经理必须积极与跨职能团队互动，培养对可用数据、用户问题和客户期望的整体理解。这是创造最佳解决方案的关键。

无限与超越

如果您已经到达这一点，我觉得有责任提供一个免责声明：“我并不是知道一切的”。

随着人工智能发展的迅猛步伐，这一持续不断的努力仍在继续，每天都会出现新的挑战，旨在塑造未来。在未来的文章中，我希望能更深入地探索人工智能项目管理的多方面世界，揭示道德困境的复杂性，讨论整合不同观点的困难，并提出在推动人工智能创新的同时维护道德完整性的策略。然而，目前让我们共同渴望一个道德人工智能的未来。

我们必须致力于培育一个创新和道德责任相辅相成的未来。突破性人工智能解决方案与坚定的道德完整性的融合是我们的追求——一场超越技术先驱，强调我们对道德人工智能的承诺的旅程。

继续改变我们的世界，但准备好担当起这种强大技术的道德护卫者的角色。通过促进协作创新和解决道德考虑，人工智能产品经理可以塑造一个未来，其中人工智能增进人类福祉，同时也坚持支撑公正、公平和负责任社会的价值观和原则。

了解更多信息，请通过领英与我联系：David Akinyemi。