谷歌 Edge Gallery 的推出,讓人工智慧世界向前邁出了巨大的一步。就在上週,谷歌悄然推出了 AI Edge Gallery,這是一款讓人工智慧更平民化的應用。谷歌 Edge AI 能夠直接在智慧手機上執行強大的語言模型,消除對雲端的依賴,並且無需任何訂閱費用。
這標誌著完全私密且可訪問的人工智慧時代的到來。此版本的意義遠不止於便捷性。本地人工智慧處理顛覆了使用者賦能和控制的核心原則。您的裝置可以繼續作為強大的人工智慧工作站執行,而不會損害個人隱私或資料安全。
什麼是Edge Gallery?
Google AI Edge Gallery 是一款實驗性應用,旨在革新 Android 手機。它充當著連線使用者和 Hugging Face 模型的橋樑。它允許直接下載並在本地執行生成式 AI 模型。您的助手將隨時為您服務,完全在您的設定範圍內。
這個平臺打破了使用者與頂尖 AI 技術之間的傳統壁壘。誰需要技術知識才能輕鬆掌握語言模型功能呢?您可以透過易於導航的使用者介面輕鬆管理複雜的模型切換,讓使用者無需任何外部幫助或遇到任何限制即可嘗試和測試各種 AI 模型。
Source: Google
簡而言之,Edge Gallery 是 Google 的一項計劃,旨在將 AI 帶給全球各地的每個人。實驗階段的 Edge Gallery 能夠快速創新並整合使用者反饋。新更新提供了更多功能,並增強了與模型的相容性。
Edge Gallery的主要功能
Edge Gallery 的突出特點包括:
- 完全離線功能:最重要的特點是它在設定後完全獨立於任何形式的連線。下載模型後,您的裝置將成為一個獨立的實體。所有 AI 處理都在本地進行,不會將任何資料傳送到外部伺服器。
- 廣泛的模型庫訪問:Google Edge Gallery 直接連線到 Hugging Face 龐大的模型庫,因此使用者可以輕鬆比較和下載適合其任務的模型。該平臺可以執行文字生成、影像分析和程式碼輔助。透過允許切換模型,該平臺鼓勵使用者嘗試 AI 世界中可用的不同方法和功能。
- 使用者友好的體驗設計:該應用程式擁有簡潔的訊息式介面,使用者熟悉。憑藉 AI 提供的所有功能,導航保持相當直觀。模型管理、設定和對話貫穿整個設計。該平臺的設計理念是,即使是非技術人員也能從一開始就高效地使用它。
- 最大程度的隱私保護:由於所有內容都在本地處理,因此消除了任何資料洩露或未經授權訪問的威脅。您的對話永遠不會進入任何外部伺服器或任何第三方資料庫。完全私密的資訊始終由使用者獨自控制。因此,它可以提供比大多數基於雲的 AI 服務更好的隱私保護。
本地執行LLM的優勢
市面上有很多 LLM 應用,但這款應用脫穎而出的原因在於它允許我們在本地執行 LLM,而且是以離線方式執行。以下是本地執行 LLM 的一些優勢:
- 絕不妥協的資料隱私:本地執行確保個人資訊永遠不會離開裝置邊界。因此,在敏感對話中所說的話、文件中的詳細資訊以及研究查詢或資訊都將完全保密和受到保護。因此,對於企業間諜或政府監控來說,處理在技術上是不可能的。您的資料將完全由您保管,無需依賴任何第三方。
- 顯著的成本功能:由於模型在本地執行,所有訂閱費和付費定價均被免除。此後,下載的模型將為您執行,無需考慮任何後續成本或付款。這實際上意味著您可以無限制地使用人工智慧,而無需擔心財務限制。
- 效能獨立性和可靠性:網際網路連線問題不會中斷您的人工智慧工作流程或任務。無論網路複雜程度如何,效能都能保持持續,從而提供可靠的人工智慧輔助。裝置的處理能力決定了響應速度,而不是連線質量。
- 無限的創作自由:嘗試不同的模型,無需擔心使用限制。本地執行促進了無限的創造力和無障礙搜尋。使用者可以突破界限,而不會被別人監視或過濾他們的內容。
如何開始使用Edge Gallery
以下是開始試用 Edge 相簿的步驟。按照這些步驟,您可以在您喜歡的系統中設定應用,並立即開始試用。
步驟 1:檢查系統要求
目前,該應用支援處理能力充足的安卓裝置。建議最低配置 4GB 記憶體,以確保裝置執行流暢、穩定。此外,至少需要 8GB 的可用儲存空間來儲存下載的檔案。配備 64 位處理器的現代智慧手機將提供最佳的使用者滿意度。
步驟 2:檢查您的裝置是否受支援
Android 8 或更高版本的手機被認為是完全相容的。知名製造商的旗艦裝置效能和穩定性最佳。配置充足的平板電腦也能很好地執行該應用。裝置的相容性完全取決於可用的記憶體和處理能力。
步驟 3:安裝和設定過程
從官方渠道或授權應用商店下載 APK 檔案。此應用需要從未知來源安裝,因此請前往“安全設定”並開啟。初始階段的設定和配置也需要開發者選項。
請授予所有必要的許可權,以確保應用執行順暢,並管理模型。請按照安裝嚮導操作,確保安裝過程順利進行。初始安裝過程取決於裝置效能,通常需要 5-10 分鐘。首次下載模型可能需要一些時間,具體取決於型號。
探索Edge Gallery的應用介面
安裝 Edge Gallery 應用後,您將看到一個介面,讓我們看看如何使用它的一些功能:
主儀表盤導航
主介面呈現了各種現有功能的檢視,例如 Ask Image, Prompt Lab 和 AI Chat。在這些功能下方,模型類別帶有標籤,以便快速訪問和選擇。下載狀態和模型狀態顯示在主儀表盤上。
快速操作按鈕可立即訪問已搜尋的 AI 模型。儲存使用情況指示器可幫助使用者跟蹤裝置空間。設定快捷方式也有助於輕鬆導航到所有自定義選項和首選項。儀表盤還會根據使用者和模型活動動態更新。
Source: Google
模型瀏覽器和選擇
正如您在介面中所見,每個功能都有三到四種模型型別可供選擇。篩選選項有助於根據規模、功能和需求縮小選擇範圍。模型描述提供了有關功能和效能特徵的詳細資訊。預覽功能允許使用者在下載模型並佔用本地儲存空間之前進行測試。
您還可以檢視評分和社羣反饋,這有助於使用者確定要選擇的模型。熱門模型會突出顯示,以幫助使用者找到最常用的模型。高階篩選選項允許使用者根據自身需求精確匹配模型。
互動式聊天介面
它擁有使用者熟悉的對話介面,方便使用者使用任何商業訊息應用程式。它支援輸入問題、上傳圖片和多輪對話,並在使用者輸入時即時生成回覆。上下文保留功能提供了多輪對話和會話流,從而保持對話的連續性。
它允許在對話過程中切換模型,這可用於比較和測試目的。聊天曆史記錄儲存在本地計算機上,以供參考和後續使用。匯出對話可以儲存重要的聊天內容和 AI 渲染內容。它還支援語音輸入,讓您無需動手即可與 AI 模型進行互動。
全面的設定管理
它透過介面提供自定義模型引數、效能相關和應用相關的偏好設定。使用提供的控制元件管理已下載模型的儲存、使用情況和更新偏好設定。高階使用者可以進行進一步的自定義,以調整模型行為及其響應特性。
隱私設定可確保資料處理符合個人需求和標準。它還具有以效能為導向的設定,可在使用速度和電池消耗之間取得平衡。模型和應用更新可自動管理。
Edge Gallery的實際操作
我們已經討論了很多關於 Edge Gallery 的內容,現在讓我們看看它的實際效能。使用其突出功能的任務如下:
任務 1:使用Ask Image提取文件文字
本任務演示了 Edge Gallery 的離線功能如何在提供上下文提示的情況下幫助進行影像分析。
- 在 Edge Gallery 中開啟 Ask Image 功能
- 下載您首選的模型。
- 在本任務中,我們將下載“Gemma-2n-E2B-it-int4”。
- 下載後,點選“Try it”。
- 拍攝任何手寫筆記、收據或列印文件的清晰照片。
- 將影像上傳到所選的視覺模型。
- 輸入提示“Extract all text from the image and summarize the key information”。
- 然後,由於 AI 需要時間來處理影像並提供合適的響應,如果您對響應不滿意,可以要求它提供詳細的反饋來改進。
- 您可以提出一個後續問題:“What are the main points given in the document/Image?”
- 要測試離線功能,您只需斷開網路連線,然後提出以下問題即可。
- 儲存結果以供將來參考。
任務 2:使用Prompt Lab進行專業電子郵件改寫
此任務演示了 Edge Gallery 如何支援專業溝通,或在完全離線的情況下為我們的問題/提示提供結果。
- Use the export function to store the best version.
- 從儀表板上的三個選項中選擇“Prompt Lab”。
- 從可用選項中選擇您喜歡的文字生成模型並下載。
- 在我們的任務中,我們將從“Gemma-3n-E4B-it-int4”、“Gemma3-1B-IT-q4”和“Qwen2.5-1.5B-Instruct q8”四個選項中選擇“Gemma-3n-E2B-it-int4”。
- 下載模型後,點選“Try it”。
- 撰寫一份簡單、非正式的電子郵件草稿(例如,“Hey, can you send me that report? Thanks.”)。
- 提示詞:“Rewrite this email in a professional, polite tone: [paste your draft].”
- 生成回覆並進行分析。如果您對回覆不滿意,可以要求它以更好、更結構化的方式進行格式化。
- 您可以嘗試輸入提示:“Make it more formal and add a proper subject line suggestion.”
- 選擇另一個模型並輸入相同的提示來比較結果。
- 使用匯出功能儲存最佳版本。
Edge Gallery的優勢
以下是使用 Google Edge Gallery 的一些優勢:
- 革命性的隱私保護:它提供資料主權,這意味著資訊永遠不會離開裝置邊界。企業和政府監控將在技術上無法處理。
- 零持續運營成本:安裝後無需支付訂閱費、上下文限制或隱藏費用。可以無限使用 AI 能力,並且無需承擔任何額外的財務義務。
- 完全獨立於網路:即使在網路連線或訊號覆蓋不佳的情況下也能高效工作。這意味著相容飛航模式,在旅途中也能在全球範圍內提供不間斷的 AI 輔助。
- 模型種類繁多,靈活性高:允許訪問數千個 Hugging Face 模型以用於不同的任務。根據每個特定任務的需求或使用者偏好,輕鬆切換模型。
Edge Gallery的侷限性
每當有新模型釋出時,它都會帶來許多優於現有模型的優勢,但也存在一些侷限性。以下是 Edge Gallery 的一些侷限性:
- 硬體效能依賴性:由於 AI 處理耗電,老款智慧手機已失去競爭力。處理能力較弱意味著響應時間較慢,並嚴重損害使用者的整體好感度。
- 大容量儲存需求:LFM 需要裝置上有足夠的儲存空間。小型裝置上的可用儲存空間很快就會被多個模型佔用。因此,使用者必須謹慎分配儲存空間以獲得最佳效能。
- 模型相容性限制:並非所有 Hugging Face 模型都與移動平臺相容。有些模型所需的資源超出了智慧手機的實際容量。與基於雲端的 AI 服務相比,提供的模型集數量有限。
- 平臺限制可用性:目前僅限於 Android 系統,iOS 系統即將推出,Apple 使用者必須等待 iOS 版本的正式釋出日期。截至目前,尚未確認 iOS 應用的正式釋出時間表。
- 響應緩慢:由於模型在 CPU 上執行,與 LLM 相比,它需要花費大量時間來響應我們的提示。
與其他最新本地LLM的比較
讓我們比較一下目前一些最熱門、最新的本地 LLM。這些平臺允許使用者直接在裝置上執行強大的LLM,但其功能因平臺而異。
特性 | Google Edge Gallery | Ollama | LM Studio |
---|---|---|---|
平臺支援 | Android(即將支援 iOS) | 僅桌面/伺服器 | 僅桌面 |
模型庫 | 直接對接 Hugging Face | 自定義/多源 | 多源 |
安裝 | 簡單 APK 安裝 | 命令列設定 | 圖形介面安裝 |
離線能力 | 完全離線 | 完全離線 | 完全離線 |
模型管理 | 應用內簡單管理 | 基於命令 | 圖形介面 |
資源使用 | 移動最佳化 | 高效能 | 高度可配置 |
使用者介面 | 移動原生 | 終端/網頁 UI | 桌面 GUI |
模型多樣性 | Hugging Face 子集 | 廣泛庫 | 廣泛選擇 |
效能 | 依賴裝置 | 硬體最佳化 | 完全可定製 |
學習曲線 | 初學者友好 | 技術使用者 | 中等難度 |
社羣支援 | 快速增長 | 大型社羣 | 積極開發 |
更新 | 自動更新 | 手動更新 | 整合更新 |
成本 | 完全免費 | 完全免費 | 完全免費 |
小結
Google Edge Gallery 代表著人工智慧在安全意識方面的重大轉變。這款實驗性應用將可執行的生成式人工智慧作品帶給使用者。這種方法在保護使用者隱私的同時,還能為使用者提供最先進的人工智慧技術。本地處理消除了傳統上使用者與先進技術之間的障礙。
雖然存在裝置相容性和模型選擇相關的限制,但其基於價值的優勢掩蓋了這些限制。這款免費的、以隱私為中心的解決方案使每個人都能訪問先進的人工智慧。它對教育部門、研究人員以及注重隱私的使用者尤其有用。這種方法意味著發展中地區可以平等地使用人工智慧技術和基礎設施。
評論留言