迈向智能手机上运行成熟人工智能的时代——谷歌“AI Edge Gallery”及其能力的影响

谷歌刚刚发布了「AI边缘画廊」在单个智能手机上运行成熟的人工智能模型，实现图像分析和文本生成等各种处理。

在本文中，我们将围绕谷歌发布的“AI Edge Gallery”、其带来的好处、企业可以获得的实际价值以及未来对社会的影响，详细解读谷歌推动的边缘AI技术的最新趋势。

本文内容在上面的GPT主播室以简单易懂的音频进行讲解。。

2024 年 6 月，谷歌一款名为“AI Edge Gallery”的 Android 实验性应用程序已在 GitHub 上作为开源悄然发布。它在一般应用程序商店中不提供，并根据 Apache 2.0 许可证向开发人员和高级用户发布。

这个应用程序最大的特点是Hugging Face 等平台的人工智能模型可以直接下载到您的设备上，无需互联网连接即可运行。

以前只能在云端处理的高级人工智能现在可以在智能手机上本地执行图像分析、文本生成、代码支持、多步骤对话和其他任务。谷歌解释说，“我们可以完全在本地提供创造性和实用的人工智能使用体验”，可以说，一种新的人工智能使用方式已经开始。

轻量级AI模型为您带来云端般的性能

AI Edge Gallery 的幕后工具是 Google 开发的工具。移动优化框架，例如“LiteRT”（以前称为 TensorFlow Lite）和“MediaPipe”是。

这使得源自 JAX、Keras、PyTorch 和 TensorFlow 等各种机器学习框架的模型即使在资源有限的智能手机环境中也能顺利运行。

核心是《杰玛3号》它是一个名为``的紧凑型 529MB 语言模型，在移动 GPU 上每秒可以处理超过 2,500 个令牌。响应几乎是实时的，文本生成和图像分析与云服务一样快。

该应用程序的核心功能是：

此外，您可以在不同模型之间切换并比较它们的性能和功能。还显示处理速度、代币生成速度和延迟等实时基准，允许用户选择最适合自己的模型。

谷歌在技术文档中解释「Int4量子化」技术与之前的模型相比，这将模型大小减少了多达四分之一，并显着减少了内存使用量和延迟。这使得更大的模型能够在智能手机上实际运行。

AI Edge Gallery最大的价值在于通过“数据本地处理”显着提高隐私和安全性是。

在传统的人工智能服务中，典型的流程是将输入数据发送到云端并在那里进行分析。然而，在医药、金融等处理敏感信息的行业中，通过云端泄露数据的风险一直是一个主要问题。许多公司都面临着如果想保护自己的隐私就不得不放弃使用人工智能的困境。

像 AI Edge Gallery 这样的边缘人工智能方法从根本上推翻了这一困境。由于处理是在设备内部完成的，因此可以同时实现“高级AI功能”和“数据保护”。

还，无网络依赖这也是一个很大的优势。即使在通信不稳定的工作场所、无线电波难以到达的户外工作或离线环境中，您也可以充分利用人工智能的力量。

因此，将其引入广泛的领域已成为现实，包括现场工作人员的支持工具、处理个人信息的业务流程，甚至教育和政府环境。对于企业来说，它将降低云成本，减轻基础设施管理负担，并扩大创建新服务的可能性。

Google 在 GitHub 上开源 AI Edge Gallery 的原因是“人工智能民主化”和“生态系统扩展””是我们的目标。

通过开放平台，我们创造了一个环境，让来自个人开发者、初创公司和行业的广泛参与者可以创建独特的基于人工智能的解决方案。另一个吸引人的功能是，通过与 Hugging Face 合作，您可以轻松引入各种开源 AI 模型。未来，每家公司都将能够根据其独特的业务需求和法规，快速为边缘设备部署定制的人工智能。

AI Edge Gallery的推出是智能手机从“只是一个设备”向“成熟的人工智能引擎”演变的转折点。未来，预计更加轻量化、高性能的AI模型的开发、终端硬件的演进以及操作系统层面的AI融合将会取得进展。

事实上，谷歌还暗示有可能将 AI Edge Gallery 等功能作为未来 Android 操作系统的标准功能，让人工智能在每部智能手机体验背后无缝运行成为现实。

谷歌的 AI Edge Gallery 无疑支持未来智能手机从“使用人工智能的设备”发展为“人工智能运行的成熟平台”。

任何人都可以轻松享受尖端人工智能带来的好处，同时摆脱对云的依赖，满足个人和企业的隐私和安全需求的时代终于成为现实。未来随着边缘人工智能的发展，我们的工作、生活方式和社会规范将如何变化？我们将继续密切关注这一前线。