PocketPal AI是在您的Android或iPhone上本地運行AI模型的最簡單方法

從諸如Chatgpt和Gemini之類的巨人到被低估的寶石（如困惑和Grok），您可以根據自己的要求選擇大量的AI聊天機器人。但是，這些聊天機器人會在其服務器上處理您的查詢。結果，它們可能是一場隱私的噩夢，尤其是如果您在查詢中分享個人詳細信息或文件時。

對於私人AI體驗，在您的設備上本地使用聊天機器人是最好的選擇。雖然有幾種方法可以在計算機上執行此操作，但您在智能手機上的選項有限。在可用的產品中，PocketPal AI最容易使用。這就是為什麼使用PocketPal AI在智能手機上本地運行AI模型所需的一切。

什麼是PocketPal AI？

PocketPal AI是一個免費的開源應用程序，可讓您在智能手機上本地運行小語言模型（SLMS），而無需互聯網連接。由於它可以在本地處理您的查詢，因此您的對話和數據永遠不會離開手機。

您可以從包括Phi，Gemma和Qwen在內的大量開源型號中進行選擇，以及在擁抱臉等平台上可用的型號，並可以根據需要在它們之間進行切換。該應用程序甚至使您可以在擁抱臉上訪問封閉式模型。您需要做的就是在設置中設置身份驗證令牌。

PocketPal AI的另一個亮點是朋友。您可以將它們視為具有不同個性和設置的個性化AI助手，您可以設置這些助手來處理特定的任務。

Android和iPhone都可以使用PocketPal AI。

相關：如何在iPhone上本地安裝和運行AI模型

PocketPal AI如何從其他應用中脫穎而出

PocketPal AI並不是唯一具有在智能手機上運行SLM的功能的應用程序。還有其他一些好的應用程序也提供了此功能。但是，有幾件事使它在其他方面脫穎而出。

• 巨大的型號庫：您可以在PocketPal AI中使用各種開源型號。這意味著您的選項不僅限於該應用程序策劃的選項；您也可以在擁抱臉等來源上下載並使用可用的型號。
• 可調推理設置：該應用程序為您提供了為下載模型自定義各種參數的選項。這包括系統提示，溫度，開始序列（BOS）令牌和聊天模板之類的內容。
• AI角色： PocketPal AI讓您創建朋友。好朋友有兩種：助理朋友（用於一般助理任務）和角色扮演好朋友（用於角色扮演場景）。例如，您可以在研究或從事項目工作時建立一個研究朋友，因此模型是背景知覺的，並且可以做出相應的響應。同樣，當您想幫助起草電子郵件或匯總報告時，您可以創建管理PAL。
• 完全免費使用：許多提供類似功能的應用程序遵循免費增值模型，在其中，它們將某些功能保留在付費牆後面。相比之下，PocketPal AI完全免費使用，因此您可以訪問整個功能集並使用任何兼容的語言模型而無需任何限制。
• 社區方面： PocketPal AI允許用戶在手機上運行基準並在社區中分享結果。這樣，其他用戶可以了解哪種型號更適合其設備，並相應地選擇一個型號。

如何設置並使用PocketPal AI

PocketPal AI的設置非常簡單。

首先，使用以下鏈接從相應的應用商店下載應用程序或iPhone。

下載
下載

啟動該應用程序並授予其要求的權限。

接下來，您需要下載計劃在應用程序中使用的模型。但是在這樣做之前，請切換到穩定的Wi-Fi連接，因為語言模型通常很大，如果您在移動數據上下載，則可能會耗盡日常數據限制。

完成後，點擊主屏幕上的下載模型按鈕。在下面的屏幕上，將可用的下載部分展開，如果還沒有，您將看到兼容型號的列表。每個模型都會提及諸如其大小，使用的參數以及其技能的細節，即它所表現出的內容。點擊模型以了解有關它的更多信息。找到要使用的模型後，點擊下載以開始將其下載到您的設備上。

下載完成後，點擊模型卡上的“加載”按鈕將其加載到內存中。現在，您將在屏幕上看到類似聊天的界面。

開始將查詢鍵入下面的文本字段，並根據所使用的模型，您會在屏幕上看到響應。您可以詢問模型後續問題，或通過在頂部點擊新對話按鈕來開始新的對話。

此外，您可以啟用朋友。在文本字段的左側點擊向上的箭頭，轉到“ PALS”選項卡，然後點擊可用的PAL。例如，Gemma提供Lookie Pal，它使您可以在當地的設備上分析視頻。

您可以通過在右上角中點擊三點菜單並選擇“導出/導入>導出所有會話”來進一步導出此會話。同樣，您可以導入會話來重新審視它，並繼續在關閉的位置。

借助某些模型，例如Smolvlm2-500m教學，您還可以分析圖像並了解其內容。只需點擊文本字段左側的+按鈕，然後選擇相機或畫廊，具體取決於您要拍照並分析或分析已經拍攝的圖片。然後，該模型將返迴響應。

在智能手機上使用PocketPal AI的感覺如何

PocketPal AI是一個漂亮的應用程序。它非常輕巧，界面最少，易於使用。另外，還有幾種配置選項（包括應用程序和模型），可以調整個性化您的體驗。

出現性能，PocketPal AI應該在大多數現代智能手機（具有8GB RAM或更多）上有效運行，并快速處理您的請求。響應時間的很大一部分也取決於您使用的模型，但是除非您使用的是較舊的或下層手機之一，否則不應該有明顯的滯後，或者在最壞的情況下，應用程序崩潰。

我一直在我的Galaxy S23 Ultra和Oneplus 13上使用PocketPal AI，例如Gemma-2-2b-it，Smolvlm2-500m教學，Phi-3.5 Mini 4K指令，以及Llama-3.2-3b-Instruct，以及Llama-3.2-3b-Instruct。該應用程序從來沒有崩潰，儘管它確實停止了幾次中途回复我的查詢。同樣，對某些推理查詢的回答花費了更長的時間。但是，我不會對這些問題進行太大的壓力，因為它們與該應用沒有直接相關。

也就是說，我想提一下，選擇正確的語言模型是對您的查詢進行合理響應的關鍵。例如，Smolvlm2-500m教學法未能列出不同的機械鍵盤開關，無法告訴我哪種最適合遊戲。相比之下，對於Gemma-2-2b-it來說，這是一項簡單的工作，因為它在不同的數據集上進行了培訓，具有較大的參數尺寸並使用高級體系結構，這使其更適合此類任務。

您不需要單獨依靠PocketPal AI

PocketPal AI的離線優先方法在您的智能手機上提供了私人AI體驗，使您可以通過傳統的AI聊天機器人來查詢通常不會的東西。但是，您無法完全承諾，因為它有幾個限制。

首先，PocketPal AI只能訪問小型型號。這些模型較小，具有較少的參數。因此，它們沒有細微的語言理解，因此具有狹義的使用範圍。

離線的另一個缺點是，您無法獲得實時信息，例如最新新聞，股票市場更新或現場分數。因此，您不能將PocketPal AI用於需要最新數據的主題的查詢。

同樣，儘管較小的模型與一代相當，但由於參數有限，它們缺乏您使用大語言模型（LLM）獲得的創意廣度。這意味著您可能無法用細微的詞彙和語言生成所需的輸出。

因此，最好找到一個中間立場：使用PocketPal AI進行瑣碎或私人查詢，然後切換到LLMS進行複雜或創造性的任務，例如涉及深度分析，高級解決問題，事實檢驗或媒體的生成的任務。