Pocketpal AI adalah cara termudah untuk menjalankan model AI secara lokal di Android atau iPhone Anda

Dari raksasa seperti Chatgpt dan Gemini hingga permata yang diremehkan seperti kebingungan dan grok, Anda memiliki banyak pilihan chatbots AI untuk dipilih berdasarkan kebutuhan Anda. Namun, chatbots ini memproses pertanyaan Anda di server mereka. Akibatnya, mereka bisa menjadi mimpi buruk privasi, terutama jika Anda berbagi detail atau dokumen pribadi dalam pertanyaan Anda.

Untuk pengalaman AI pribadi, menggunakan chatbot secara lokal di perangkat Anda adalah taruhan terbaik Anda. Meskipun ada beberapa cara untuk melakukan ini di komputer, Anda memiliki opsi terbatas pada smartphone. Di antara yang tersedia, AI Pocketpal adalah yang termudah untuk digunakan. Inilah sebabnya, dan semua yang perlu Anda ketahui tentang menggunakan AI PocketPal untuk menjalankan model AI secara lokal di ponsel cerdas Anda.

Apa itu AI Pocketpal?

PocketPal AI adalah aplikasi sumber terbuka dan terbuka yang memungkinkan Anda menjalankan model bahasa kecil (SLM) secara lokal di ponsel cerdas Anda, tanpa koneksi internet. Karena memproses pertanyaan Anda secara lokal, percakapan dan data Anda tidak pernah meninggalkan ponsel Anda.

Anda dapat memilih dari koleksi besar model open-source, termasuk PHI, Gemma, dan Qwen, serta yang tersedia di platform seperti memeluk wajah, dan dapat beralih di antara mereka sesuai kebutuhan. Aplikasi ini bahkan memungkinkan Anda mengakses model yang terjaga keamanannya pada wajah memeluk. Yang perlu Anda lakukan adalah mengatur token otentikasi Anda dalam pengaturan.

Sorotan lain dari Pocketpal AI adalah teman -teman. Anda dapat menganggapnya sebagai asisten AI yang dipersonalisasi dengan kepribadian dan pengaturan yang berbeda yang dapat Anda atur untuk menangani tugas -tugas tertentu.

PocketPal AI tersedia di Android dan iPhone.

Terkait: Cara Menginstal dan Menjalankan Model AI Secara Lokal di iPhone Anda

Bagaimana AI PocketPal menonjol dari aplikasi lain

Pocketpal AI bukan satu -satunya aplikasi yang menawarkan kemampuan untuk menjalankan SLM di smartphone. Ada beberapa aplikasi bagus lainnya yang juga menyediakan fungsi ini. Namun, ada beberapa hal yang membuatnya menonjol dari orang lain.

• Perpustakaan besar model: Anda dapat menggunakan berbagai macam model open-source di Pocketpal AI. Ini berarti pilihan Anda tidak terbatas pada yang dikuratori oleh aplikasi; Anda dapat mengunduh dan menggunakan model yang tersedia di sumber -sumber seperti memeluk wajah juga.
• Pengaturan Inferensi Tunable: Aplikasi ini memberi Anda opsi untuk menyesuaikan berbagai parameter untuk model yang Anda unduh. Ini termasuk hal-hal seperti sistem prompt, suhu, token awal-urutan (BOS), dan templat obrolan.
• AI Personas: Pocketpal AI memungkinkan Anda membuat teman. Pals adalah dua jenis: asisten sahabat (untuk tugas asisten umum) dan teman permainan peran (untuk skenario bermain peran). Misalnya, Anda dapat mendirikan Pal Studi saat Anda meneliti atau mengerjakan proyek, sehingga modelnya sadar konteks dan dapat meresponsnya. Demikian pula, Anda dapat membuat Pal Admin untuk saat -saat ketika Anda ingin membantu menyusun email atau meringkas laporan.
• Menjadi benar -benar bebas untuk digunakan: Banyak aplikasi yang menawarkan fungsi yang sama mengikuti model freemium, di mana mereka menjaga fitur -fitur tertentu di balik paywall. Sebaliknya, AI PocketPal benar -benar bebas digunakan, sehingga Anda dapat mengakses seluruh set fitur dan menggunakan model bahasa yang kompatibel tanpa batasan apa pun.
• Aspek Komunitas: PocketPal AI memungkinkan pengguna untuk menjalankan tolok ukur di ponsel mereka dan berbagi hasil di komunitas. Dengan begitu, pengguna lain bisa mendapatkan gambaran tentang model mana yang lebih cocok untuk perangkat mereka dan memilih satu sesuai.

Cara Mengatur dan Menggunakan AI Pocketpal

Pocketpal AI memiliki pengaturan yang cukup mudah.

Pertama, unduh aplikasi ke Android atau iPhone Anda dari App Store masing -masing menggunakan tautan di bawah ini.

Unduh
Unduh

Luncurkan aplikasi dan berikan izin yang diminta.

Selanjutnya, Anda perlu mengunduh model yang Anda rencanakan untuk digunakan di aplikasi. Tetapi sebelum Anda melakukannya, beralih ke koneksi Wi-Fi yang stabil, karena model bahasa biasanya besar, dan Anda dapat menghabiskan batas data harian Anda jika Anda mengunduhnya di data seluler.

Setelah selesai, ketuk tombol Model Unduh di layar Beranda. Pada layar berikut, perluas bagian yang tersedia untuk diunduh , jika belum, dan Anda akan melihat daftar model yang kompatibel. Setiap model menyebutkan detail seperti ukurannya, parameter yang digunakannya, dan keterampilannya, yaitu, apa yang unggul. Ketuk model untuk mempelajari lebih lanjut tentang itu. Setelah Anda menemukan model yang ingin Anda gunakan, tekan unduh untuk mulai mengunduhnya ke perangkat Anda.

Setelah unduhan selesai, ketuk tombol Muat pada kartu model untuk memuatnya ke dalam memori. Sekarang Anda akan melihat antarmuka seperti obrolan di layar.

Mulailah mengetikkan kueri Anda ke bidang teks di bawah ini dan, tergantung pada model yang Anda gunakan, Anda akan melihat respons di layar. Anda dapat mengajukan pertanyaan tindak lanjut model atau memulai percakapan baru dengan mengetuk tombol percakapan baru di bagian atas.

Selain itu, Anda dapat mengaktifkan teman. Ketuk panah yang menunjuk ke atas di sebelah kiri bidang teks, buka tab Pals , dan ketuk sobat yang tersedia. Misalnya, Gemma menawarkan The Lookie Pal, yang memungkinkan Anda menganalisis video di perangkat Anda secara lokal.

Anda dapat mengekspor sesi ini lebih lanjut dengan mengetuk menu tiga titik di sudut kanan atas dan memilih Ekspor/Impor> Ekspor semua sesi . Demikian juga, Anda dapat mengimpor sesi untuk meninjau kembali dan melanjutkan ke tempat yang Anda tinggalkan.

Dengan model tertentu, seperti SMOLVLM2-500M-instruct, Anda juga dapat menganalisis gambar dan mempelajari lebih lanjut tentang konten mereka. Cukup ketuk tombol + di sebelah kiri bidang teks dan pilih kamera atau galeri , tergantung pada apakah Anda ingin mengambil gambar dan menganalisisnya atau menganalisis yang sudah Anda ambil. Model kemudian akan mengembalikan respons.

Bagaimana rasanya menggunakan AI PocketPal di smartphone

Pocketpal AI adalah aplikasi yang bagus. Cukup ringan, dengan antarmuka minimal, dan mudah digunakan. Plus, ada beberapa opsi konfigurasi - keduanya untuk aplikasi dan model - yang dapat Anda ubah untuk mempersonalisasikan pengalaman Anda.

Datang ke kinerja, AI PocketPal harus berjalan secara efisien di sebagian besar smartphone modern (dengan RAM 8GB atau lebih) dan memproses permintaan Anda dengan cepat. Sebagian besar waktu respons juga tergantung pada model yang Anda gunakan, tetapi kecuali Anda menggunakan salah satu ponsel yang lebih tua atau lebih rendah, seharusnya tidak ada kelambatan yang terlihat, atau dalam kasus terburuk, crash aplikasi.

Saya telah menggunakan AI Pocketpal dengan beberapa model, seperti Gemma-2-2b-it, Smolvlm2-500m-instruct, PHI-3,5 Mini 4K Instruksi, dan Llama-3.2-3B-instruct, pada Galaxy S23 Ultra dan OnePlus 13, dan pengalaman umumnya mulus. Tidak ada titik, aplikasi menabrak saya, meskipun itu berhenti menanggapi pertanyaan saya di tengah beberapa kali. Demikian pula, tanggapan terhadap pertanyaan penalaran tertentu membutuhkan waktu sedikit lebih lama. Namun, saya tidak akan banyak menekankan tentang masalah ini, karena mereka tidak terkait langsung dengan aplikasi.

Yang mengatakan, saya ingin menyebutkan bahwa memilih model bahasa yang tepat adalah kunci untuk mendapatkan tanggapan yang masuk akal untuk pertanyaan Anda. Misalnya, SMOLVLM2-500M-instruct gagal mendaftar sakelar keyboard mekanik yang berbeda dan tidak bisa memberi tahu saya mana yang terbaik untuk bermain game. Sebaliknya, itu adalah pekerjaan yang mudah untuk Gemma-2-2b-it karena dilatih pada beragam kumpulan data, menampilkan ukuran parameter yang lebih besar, dan menggunakan arsitektur canggih, yang membuatnya lebih cocok untuk tugas-tugas tersebut.

Anda tidak perlu mengandalkan AI saku sendiri

Pendekatan Offline-First AI PocketPal memberikan pengalaman AI pribadi di ponsel cerdas Anda, memungkinkan Anda untuk menanyakan hal-hal yang biasanya tidak Anda lakukan dengan chatbot AI tradisional. Namun, Anda tidak dapat sepenuhnya berkomitmen untuk itu, karena memiliki beberapa keterbatasan.

Untuk mulai dengan, AI PocketPal menawarkan akses hanya ke model berukuran kecil. Menjadi lebih kecil, model ini memiliki parameter lebih sedikit. Dengan demikian, mereka tidak memiliki pemahaman bahasa yang bernuansa dan, oleh karena itu, memiliki ruang lingkup penggunaan yang sempit.

Kelemahan lain dari menjadi offline adalah Anda tidak bisa mendapatkan informasi real-time, seperti berita terbaru, pembaruan pasar saham, atau skor langsung. Karena itu, Anda tidak dapat menggunakan AI PocketPal untuk pertanyaan tentang topik yang memerlukan data terkini.

Demikian pula, meskipun model yang lebih kecil layak dengan generasi, mereka tidak memiliki luas kreatif yang Anda dapatkan dengan model bahasa besar (LLM) karena parameter yang terbatas. Ini berarti Anda mungkin tidak dapat menghasilkan output yang diinginkan dengan kosakata dan bahasa yang bernuansa.

Oleh karena itu, yang terbaik adalah menemukan jalan tengah: Gunakan AI PocketPal untuk pertanyaan sepele atau pribadi dan beralih ke LLMS untuk tugas-tugas yang kompleks atau kreatif, seperti yang melibatkan analisis mendalam, pemecahan masalah canggih, pengecekan fakta, atau pembuatan media.