打造明显:从MobileXGenAI黑客马拉松学到的教训

参加一次黑客马拉松是非常令人兴奋的。团队合作、紧张和创意在脑海中飞来飞去——这是一系列令人疲惫和激动人心的瞬间。我们很幸运能成为“MobileXGenAI Hackathon”的一部分。这个独一无二的活动专注于移动应用程序的生成式人工智能(GenAI),特别注重设备直接使用解决方案而不是使用云计算的解决方案。

LLMobile的诞生

在我们遇到的所有想法中,有一个格外闪耀,成为我们的指路明灯——LLMobile。这个创新性的解决方案赋予开发者使用大型语言模型(LLMs)直接在移动设备上进行快速工程处理的能力,不需要实现LLMs。当我们努力将这个想法付诸现实时,感觉我们快要迎来一个重大突破。

技术支柱

LLMobile直接整合到移动操作系统中。它使用操作系统中的进程间通信(IPC)机制,使各种应用程序与设备上的大型语言模型(LLM)之间实现轻松互动。关键是,开发人员可以使用专门的SDK连接LLM来执行IPC。这个独特的功能使他们能够在设备上高效地使用LLM,而无需增加应用程序大小或依赖于基于云的模型。

这个概念并非全新。谷歌已经成功地将类似的功能集成到Google Play服务中以支持谷歌的ML Kit。他们的方法为开发人员提供了现成的机器学习解决方案,使一些任务的人工智能集成变得更加容易。

ChatGPT中文站
Effortless Sharing: How Apps and Google Play Services Talk to Each Othe

然而,我们决定挑战极限。通过使用LLAMA模型创建了LLMobile最小可行产品(MVP),LLM可直接在移动设备上运行。这一进步意味着开发者可以利用LLM的能力而不必担心延迟增加、隐私问题或应用程序体积过大。

ChatGPT中文站

面对法官们

当我们向评审团展示我们的解决方案时,一位评委的评论引起了我们的注意。

他说:“你正在建造显而易见的东西。”

起初,这似乎是一个奇怪的评论。但仔细思考后,我们意识到他的意思。从商业角度来看,这个解决方案可能自然而然地被谷歌的 ML Kit 团队或苹果的 Core ML 团队考虑并正在努力解决。

法官的评论揭示了创新的一个重要方面:“显而易见”的概念常常是主观的。对于一个人来说可能是开创性的创意,对另一个人来说可能是显然的下一步。它提醒我们,颠覆性的想法有时可以是最明显的,等待某个人来执行它们。

然而,这种认识并没有降低我们的骄傲或成就感。相反,它为我们对创新环境的理解增添了一层深度。无论我们的解决方案是“显而易见”的还是“革命性”的,并不重要。重要的是,我们识别了一个问题,设计了一个解决方案,并付诸实施。

最后的想法

MobileXGenAI 黑客马拉松是一次难得的经历。我们不仅获得了技术上的见解和一个有前途的解决方案,也领悟了创新和业务策略的深刻教训。

对于那些创新者和企业家,要记住,不要回避“显而易见的”。毕竟,今天的显而易见可以成为明天的不可或缺的。

2023-10-20 16:59:08 AI中文站翻译自原文