PocketPal AI - самый простой способ запустить модели искусственного интеллекта на местном уровне на вашем Android или iPhone

От таких гигантов, как Chatgpt и Gemini, до недооцененных драгоценных камней, таких как Displexity и Grok, у вас есть богатый выбор чат -ботов ИИ на выбор на основе ваших требований. Тем не менее, эти чат -боты обрабатывают ваши запросы на своих серверах. В результате они могут быть кошмаром конфиденциальности, особенно если вы делитесь личными данными или документами в своих вопросах.

Для частного опыта искусственного интеллекта, использование чат -бота на вашем устройстве является вашим лучшим выбором. Несмотря на то, что на компьютере есть несколько способов сделать это, у вас есть ограниченные варианты на смартфоне. Среди доступных, PocketPal AI является самым простым в использовании. Вот почему и все, что вам нужно знать об использовании AI PocketPal для запуска моделей искусственного интеллекта на вашем смартфоне.

Что такое PocketPal AI?

PocketPal AI-это бесплатное приложение с открытым исходным кодом, которое позволяет вам запускать малые языковые модели (SLMS) на вашем смартфоне без подключения к Интернету. Поскольку он обрабатывает ваши запросы локально, ваши разговоры и данные никогда не покидают ваш телефон.

Вы можете выбрать из огромной коллекции моделей с открытым исходным кодом, включая PHI, Gemma и QWEN, а также те, которые доступны на платформах, таких как обнимающееся лицо, и можете переключаться между ними по мере необходимости. Приложение даже позволяет вам получить доступ к закрытым моделям при обнимании лица. Все, что вам нужно сделать, это настроить токен аутентификации в настройках.

Еще одна изюминка PocketPal AI - друзья. Вы можете думать о них как о персонализированных помощниках искусственного интеллекта с различными личностями и настройками, которые вы можете настроить для решения конкретных задач.

PocketPal AI доступен как на Android, так и на iPhone.

Связанный: как установить и запускать модели искусственного интеллекта на вашем iPhone

Как карманная ай -ай выделяется среди других приложений

PocketPal AI - не единственное приложение, предлагающее возможность запускать SLMS на смартфонах. Есть несколько других хороших приложений, которые также предоставляют эту функциональность. Тем не менее, есть несколько вещей, которые выделяют его среди других.

• Огромная библиотека моделей: вы можете использовать широкий спектр моделей с открытым исходным кодом в PocketPal AI. Это означает, что ваши варианты не ограничиваются теми, которые курируют приложением; Вы также можете скачать и использовать модели, доступные на таких источниках, как обнимающееся лицо.
• Настройки настройки вывода: приложение дает вам возможность настроить различные параметры для ваших загруженных моделей. Это включает в себя такие вещи, как подсказка для системы, температура, токены начала последовательности (BOS) и шаблоны чата.
• AI Personas: PocketPal AI позволяет вам создавать приятелей. Други - два вида: помощники приятелей (для общих задач) и ролевых приятелей (для сценариев ролевой игры). Например, вы можете создать учебный приятель, когда вы изучаете или работаете над проектами, поэтому модель имеет контекст и может ответить соответствующим образом. Точно так же вы можете создать приятеля -администратора в течение времен, когда вы хотите помочь с составлением электронных писем или обобщением отчетов.
• Быть полностью свободным в использовании: многие приложения, предлагающие аналогичные функциональные возможности, следуют модели Freemium, в которой они сохраняют определенные функции за платным положением. Напротив, PocketPal AI полностью свободен в использовании, поэтому вы можете получить доступ к всему набору функций и использовать любую совместимую языковую модель без каких -либо ограничений.
• Аспект сообщества: PocketPal AI позволяет пользователям запускать тесты на своих телефонах и делиться результатами в сообществе. Таким образом, другие пользователи могут получить представление о том, какая модель лучше подходит для их устройства и соответственно выбрать его.

Как настроить и использовать PocketPal AI

PocketPal AI имеет довольно простую установку.

Во -первых, загрузите приложение на свой Android или iPhone из соответствующего магазина приложений, используя ссылки ниже.

Скачать
Скачать

Запустите приложение и предоставьте ему запрошенные разрешения.

Далее вам нужно скачать модель, на которой вы планируете использовать в приложении. Но прежде чем сделать это, переключитесь на стабильное соединение Wi-Fi, поскольку языковые модели обычно велики, и вы можете исчерпать свой ежедневный лимит данных, если вы загружаете их на мобильные данные.

После этого нажмите кнопку «Скачать модель» на главном экране. На следующем экране разверните раздел «Доступный для загрузки» , если он еще нет, и вы увидите список совместимых моделей. Каждая модель упоминает детали, такие как его размер, параметры, которые он использует, и ее навыки, т. Е. Что она превосходит. Нажмите на модель, чтобы узнать больше об этом. После того, как вы нашли модель, которую хотите использовать, нажмите «Скачать» , чтобы начать загрузку ее на свое устройство.

После завершения загрузки нажмите кнопку загрузки на карте модели, чтобы загрузить ее в память. Теперь вы увидите интерфейс, похожий на чат, на экране.

Начните вводить свой запрос в текстовое поле ниже, и, в зависимости от модели, которую вы используете, вы увидите ответ на экране. Вы можете задать модель последующие вопросы или начать новый разговор, нажав на новую кнопку разговора вверху.

Кроме того, вы можете включить друзей. Нажмите на стрелку вверх, указывающую слева от текстового поля, перейдите на вкладку PALS и нажмите на доступный приятель. Например, Gemma предлагает The Lookie Pal, который позволяет анализировать видео на вашем устройстве на локальном уровне.

Вы можете дополнительно экспортировать эту сеанс, нажав на меню «Трехлеть» в правом верхнем углу и выбрав экспорт/Импорт> Экспорт всех сессий . Точно так же вы можете импортировать сеанс, чтобы вернуться к нему и продолжить, где вы остановились.

С некоторыми моделями, такими как Smolvlm2-500M-Instruct, вы также можете анализировать изображения и узнать больше об их содержании. Просто нажмите кнопку + слева от текстового поля и выберите камеру или галерею , в зависимости от того, хотите ли вы сфотографировать и проанализировать или проанализировать ту, которую вы уже взяли. Модель затем вернет ответ.

Каково это использовать AI PocketPal AI на смартфоне

PocketPal AI - это изящное приложение. Он довольно легкий, с минимальным интерфейсом и простым в использовании. Кроме того, есть несколько вариантов конфигурации - как для приложений, так и для моделей - которые вы можете настроить, чтобы персонализировать свой опыт.

Приходя в производительность, PocketPal AI должен эффективно работать на большинстве современных смартфонов (с 8 ГБ оперативной памяти или более) и быстро обрабатывать ваши запросы. Большая часть времени отклика также зависит от модели, которую вы используете, но если вы не используете один из телефонов старшего или более низкого уровня, не должно быть заметного задержки или, в худшем случае, приложением.

Я использую AI PocketPal с несколькими моделями, такими как Gemma-2-2B-IT, SmolvlM2-500M-Instruct, PHI-3.5 Mini 4K Instruct и Llama-3.2-3b-instruct, на моей Galaxy S23 Ultra и OnePlus 13, и этот опыт был плавным. Ни в коем случае приложение не удалось на меня, хотя оно не перестало отвечать на мой запрос на полпути пару раз. Точно так же ответы на определенные запросы рассуждений заняли немного больше времени. Тем не менее, я бы не стал много подчеркнуть эти проблемы, поскольку они не связаны напрямую с приложением.

Тем не менее, я хотел бы упомянуть, что выбор правильной языковой модели является ключом к получению разумных ответов на ваши запросы. Например, Smolvlm2-500M-Instruct не перечислил различные механические переключатели клавиатуры и не смог бы сказать, что лучше для игр. Напротив, это была легкая работа для GEMMA-2-2B-IT, потому что она обучена различным наборам данных, оснащена большим размером параметров и использует расширенную архитектуру, что делает ее лучше подходить для таких задач.

Вам не нужно полагаться только на AI PocketPal

PocketPal Ai, который впервые представляет подход, предоставляет личный опыт ИИ на вашем смартфоне, что позволяет вам запросить вещи, которые вы обычно не имели бы с традиционным чатботом ИИ. Тем не менее, вы не можете полностью посвятить его, так как у него есть несколько ограничений.

Начнем с того, что PocketPal AI предлагает доступ только к моделям небольших размеров. Будучи меньше, эти модели имеют меньше параметров. Таким образом, они лишены нюансированного понимания языка и, следовательно, имеют узкий объем использования.

Еще один недостаток в автономном режиме заключается в том, что вы не можете получить информацию в режиме реального времени, такую как последние новости, обновления фондового рынка или живые оценки. Из-за этого вы не можете использовать AI PocketPal для запросов по темам, которые требуют передовых данных.

Точно так же, хотя более мелкие модели приличны с поколением, им не хватает творческой широты, которую вы получаете с большими языковыми моделями (LLMS) из -за ограниченных параметров. Это означает, что вы не сможете генерировать желаемые результаты с помощью нюансированного словаря и языка.

Следовательно, лучше всего найти среднюю землю: используйте AI PocketPal для тривиальных или частных запросов и переключиться на LLMS для сложных или творческих задач, таких как те, которые включают глубокий анализ, передовое решение проблем, проверку фактов или генерация средств массовой информации.