谷歌 Edge Gallery 的推出,让人工智能世界向前迈出了巨大的一步。就在上周,谷歌悄然推出了 AI Edge Gallery,这是一款让人工智能更平民化的应用。谷歌 Edge AI 能够直接在智能手机上执行强大的语言模型,消除对云端的依赖,并且无需任何订阅费用。
这标志着完全私密且可访问的人工智能时代的到来。此版本的意义远不止于便捷性。本地人工智能处理颠覆了用户赋能和控制的核心原则。您的设备可以继续作为强大的人工智能工作站运行,而不会损害个人隐私或数据安全。
什么是Edge Gallery?
Google AI Edge Gallery 是一款实验性应用,旨在革新 Android 手机。它充当着连接用户和 Hugging Face 模型的桥梁。它允许直接下载并在本地执行生成式 AI 模型。您的助手将随时为您服务,完全在您的设置范围内。
这个平台打破了用户与顶尖 AI 技术之间的传统壁垒。谁需要技术知识才能轻松掌握语言模型功能呢?您可以通过易于导航的用户界面轻松管理复杂的模型切换,让用户无需任何外部帮助或遇到任何限制即可尝试和测试各种 AI 模型。
Source: Google
简而言之,Edge Gallery 是 Google 的一项计划,旨在将 AI 带给全球各地的每个人。实验阶段的 Edge Gallery 能够快速创新并整合用户反馈。新更新提供了更多功能,并增强了与模型的兼容性。
Edge Gallery的主要功能
Edge Gallery 的突出特点包括:
- 完全离线功能:最重要的特点是它在设置后完全独立于任何形式的连接。下载模型后,您的设备将成为一个独立的实体。所有 AI 处理都在本地进行,不会将任何数据发送到外部服务器。
- 广泛的模型库访问:Google Edge Gallery 直接连接到 Hugging Face 庞大的模型库,因此用户可以轻松比较和下载适合其任务的模型。该平台可以执行文本生成、图像分析和代码辅助。通过允许切换模型,该平台鼓励用户尝试 AI 世界中可用的不同方法和功能。
- 用户友好的体验设计:该应用程序拥有简洁的消息式界面,用户熟悉。凭借 AI 提供的所有功能,导航保持相当直观。模型管理、设置和对话贯穿整个设计。该平台的设计理念是,即使是非技术人员也能从一开始就高效地使用它。
- 最大程度的隐私保护:由于所有内容都在本地处理,因此消除了任何数据泄露或未经授权访问的威胁。您的对话永远不会进入任何外部服务器或任何第三方数据库。完全私密的信息始终由用户独自控制。因此,它可以提供比大多数基于云的 AI 服务更好的隐私保护。
本地运行LLM的优势
市面上有很多 LLM 应用,但这款应用脱颖而出的原因在于它允许我们在本地运行 LLM,而且是以离线方式运行。以下是本地运行 LLM 的一些优势:
- 绝不妥协的数据隐私:本地执行确保个人信息永远不会离开设备边界。因此,在敏感对话中所说的话、文档中的详细信息以及研究查询或信息都将完全保密和受到保护。因此,对于企业间谍或政府监控来说,处理在技术上是不可能的。您的数据将完全由您保管,无需依赖任何第三方。
- 显著的成本功能:由于模型在本地运行,所有订阅费和付费定价均被免除。此后,下载的模型将为您运行,无需考虑任何后续成本或付款。这实际上意味着您可以无限制地使用人工智能,而无需担心财务限制。
- 性能独立性和可靠性:互联网连接问题不会中断您的人工智能工作流程或任务。无论网络复杂程度如何,性能都能保持持续,从而提供可靠的人工智能辅助。设备的处理能力决定了响应速度,而不是连接质量。
- 无限的创作自由:尝试不同的模型,无需担心使用限制。本地执行促进了无限的创造力和无障碍搜索。用户可以突破界限,而不会被别人监视或过滤他们的内容。
如何开始使用Edge Gallery
以下是开始试用 Edge 图库的步骤。按照这些步骤,您可以在您喜欢的系统中设置应用,并立即开始试用。
步骤 1:检查系统要求
目前,该应用支持处理能力充足的安卓设备。建议最低配置 4GB 内存,以确保设备运行流畅、稳定。此外,至少需要 8GB 的可用存储空间来存储下载的文件。配备 64 位处理器的现代智能手机将提供最佳的用户满意度。
步骤 2:检查您的设备是否受支持
Android 8 或更高版本的手机被认为是完全兼容的。知名制造商的旗舰设备性能和稳定性最佳。配置充足的平板电脑也能很好地运行该应用。设备的兼容性完全取决于可用的内存和处理能力。
步骤 3:安装和设置过程
从官方渠道或授权应用商店下载 APK 文件。此应用需要从未知来源安装,因此请前往“安全设置”并开启。初始阶段的设置和配置也需要开发者选项。
请授予所有必要的权限,以确保应用运行顺畅,并管理模型。请按照安装向导操作,确保安装过程顺利进行。初始安装过程取决于设备性能,通常需要 5-10 分钟。首次下载模型可能需要一些时间,具体取决于型号。
探索Edge Gallery的应用界面
安装 Edge Gallery 应用后,您将看到一个界面,让我们看看如何使用它的一些功能:
主仪表盘导航
主界面呈现了各种现有功能的视图,例如 Ask Image, Prompt Lab 和 AI Chat。在这些功能下方,模型类别带有标签,以便快速访问和选择。下载状态和模型状态显示在主仪表盘上。
快速操作按钮可立即访问已搜索的 AI 模型。存储使用情况指示器可帮助用户跟踪设备空间。设置快捷方式也有助于轻松导航到所有自定义选项和首选项。仪表盘还会根据用户和模型活动动态更新。
Source: Google
模型浏览器和选择
正如您在界面中所见,每个功能都有三到四种模型类型可供选择。筛选选项有助于根据规模、功能和需求缩小选择范围。模型描述提供了有关功能和性能特征的详细信息。预览功能允许用户在下载模型并占用本地存储空间之前进行测试。
您还可以查看评分和社区反馈,这有助于用户确定要选择的模型。热门模型会突出显示,以帮助用户找到最常用的模型。高级筛选选项允许用户根据自身需求精确匹配模型。
交互式聊天界面
它拥有用户熟悉的对话界面,方便用户使用任何商业消息应用程序。它支持输入问题、上传图片和多轮对话,并在用户输入时实时生成回复。上下文保留功能提供了多轮对话和会话流,从而保持对话的连续性。
它允许在对话过程中切换模型,这可用于比较和测试目的。聊天历史记录保存在本地计算机上,以供参考和后续使用。导出对话可以保存重要的聊天内容和 AI 渲染内容。它还支持语音输入,让您无需动手即可与 AI 模型进行交互。
全面的设置管理
它通过界面提供自定义模型参数、性能相关和应用相关的偏好设置。使用提供的控件管理已下载模型的存储、使用情况和更新偏好设置。高级用户可以进行进一步的自定义,以调整模型行为及其响应特性。
隐私设置可确保数据处理符合个人需求和标准。它还具有以性能为导向的设置,可在使用速度和电池消耗之间取得平衡。模型和应用更新可自动管理。
Edge Gallery的实际操作
我们已经讨论了很多关于 Edge Gallery 的内容,现在让我们看看它的实际性能。使用其突出功能的任务如下:
任务 1:使用Ask Image提取文档文本
本任务演示了 Edge Gallery 的离线功能如何在提供上下文提示的情况下帮助进行图像分析。
- 在 Edge Gallery 中打开 Ask Image 功能
- 下载您首选的模型。
- 在本任务中,我们将下载“Gemma-2n-E2B-it-int4”。
- 下载后,点击“Try it”。
- 拍摄任何手写笔记、收据或打印文档的清晰照片。
- 将图像上传到所选的视觉模型。
- 输入提示“Extract all text from the image and summarize the key information”。
- 然后,由于 AI 需要时间来处理图像并提供合适的响应,如果您对响应不满意,可以要求它提供详细的反馈来改进。
- 您可以提出一个后续问题:“What are the main points given in the document/Image?”
- 要测试离线功能,您只需断开网络连接,然后提出以下问题即可。
- 保存结果以供将来参考。
任务 2:使用Prompt Lab进行专业电子邮件改写
此任务演示了 Edge Gallery 如何支持专业沟通,或在完全离线的情况下为我们的问题/提示提供结果。
- Use the export function to store the best version.
- 从仪表板上的三个选项中选择“Prompt Lab”。
- 从可用选项中选择您喜欢的文本生成模型并下载。
- 在我们的任务中,我们将从“Gemma-3n-E4B-it-int4”、“Gemma3-1B-IT-q4”和“Qwen2.5-1.5B-Instruct q8”四个选项中选择“Gemma-3n-E2B-it-int4”。
- 下载模型后,点击“Try it”。
- 撰写一份简单、非正式的电子邮件草稿(例如,“Hey, can you send me that report? Thanks.”)。
- 提示词:“Rewrite this email in a professional, polite tone: [paste your draft].”
- 生成回复并进行分析。如果您对回复不满意,可以要求它以更好、更结构化的方式进行格式化。
- 您可以尝试输入提示:“Make it more formal and add a proper subject line suggestion.”
- 选择另一个模型并输入相同的提示来比较结果。
- 使用导出功能存储最佳版本。
Edge Gallery的优势
以下是使用 Google Edge Gallery 的一些优势:
- 革命性的隐私保护:它提供数据主权,这意味着信息永远不会离开设备边界。企业和政府监控将在技术上无法处理。
- 零持续运营成本:安装后无需支付订阅费、上下文限制或隐藏费用。可以无限使用 AI 能力,并且无需承担任何额外的财务义务。
- 完全独立于网络:即使在网络连接或信号覆盖不佳的情况下也能高效工作。这意味着兼容飞行模式,在旅途中也能在全球范围内提供不间断的 AI 辅助。
- 模型种类繁多,灵活性高:允许访问数千个 Hugging Face 模型以用于不同的任务。根据每个特定任务的需求或用户偏好,轻松切换模型。
Edge Gallery的局限性
每当有新模型发布时,它都会带来许多优于现有模型的优势,但也存在一些局限性。以下是 Edge Gallery 的一些局限性:
- 硬件性能依赖性:由于 AI 处理耗电,老款智能手机已失去竞争力。处理能力较弱意味着响应时间较慢,并严重损害用户的整体好感度。
- 大容量存储需求:LFM 需要设备上有足够的存储空间。小型设备上的可用存储空间很快就会被多个模型占用。因此,用户必须谨慎分配存储空间以获得最佳性能。
- 模型兼容性限制:并非所有 Hugging Face 模型都与移动平台兼容。有些模型所需的资源超出了智能手机的实际容量。与基于云端的 AI 服务相比,提供的模型集数量有限。
- 平台限制可用性:目前仅限于 Android 系统,iOS 系统即将推出,Apple 用户必须等待 iOS 版本的正式发布日期。截至目前,尚未确认 iOS 应用的正式发布时间表。
- 响应缓慢:由于模型在 CPU 上运行,与 LLM 相比,它需要花费大量时间来响应我们的提示。
与其他最新本地LLM的比较
让我们比较一下目前一些最热门、最新的本地 LLM。这些平台允许用户直接在设备上运行强大的LLM,但其功能因平台而异。
特性 | Google Edge Gallery | Ollama | LM Studio |
---|---|---|---|
平台支持 | Android(即将支持 iOS) | 仅桌面/服务器 | 仅桌面 |
模型库 | 直接对接 Hugging Face | 自定义/多源 | 多源 |
安装 | 简单 APK 安装 | 命令行设置 | 图形界面安装 |
离线能力 | 完全离线 | 完全离线 | 完全离线 |
模型管理 | 应用内简单管理 | 基于命令 | 图形界面 |
资源使用 | 移动优化 | 高性能 | 高度可配置 |
用户界面 | 移动原生 | 终端/网页 UI | 桌面 GUI |
模型多样性 | Hugging Face 子集 | 广泛库 | 广泛选择 |
性能 | 依赖设备 | 硬件优化 | 完全可定制 |
学习曲线 | 初学者友好 | 技术用户 | 中等难度 |
社区支持 | 快速增长 | 大型社区 | 积极开发 |
更新 | 自动更新 | 手动更新 | 集成更新 |
成本 | 完全免费 | 完全免费 | 完全免费 |
小结
Google Edge Gallery 代表着人工智能在安全意识方面的重大转变。这款实验性应用将可运行的生成式人工智能作品带给用户。这种方法在保护用户隐私的同时,还能为用户提供最先进的人工智能技术。本地处理消除了传统上用户与先进技术之间的障碍。
虽然存在设备兼容性和模型选择相关的限制,但其基于价值的优势掩盖了这些限制。这款免费的、以隐私为中心的解决方案使每个人都能访问先进的人工智能。它对教育部门、研究人员以及注重隐私的用户尤其有用。这种方法意味着发展中地区可以平等地使用人工智能技术和基础设施。
评论留言