PocketPal AI, Android veya iPhone'unuzda yerel olarak AI modellerini çalıştırmanın en kolay yoludur

Chatgpt ve Gemini gibi devlerden şaşkınlık ve grook gibi küçümseyen taşlara kadar, gereksinimlerinize göre seçim yapabileceğiniz zengin bir AI chatbot seçeneğiniz var. Ancak, bu sohbet botları sorgularınızı sunucularında işler. Sonuç olarak, özellikle sorgularınızdaki kişisel bilgileri veya belgeleri paylaşıyorsanız, gizlilik kabusu olabilirler.

Özel bir AI deneyimi için, cihazınızda yerel olarak bir chatbot kullanmak en iyi bahistir. Bunu bir bilgisayarda yapmanın birkaç yolu olsa da, bir akıllı telefonda sınırlı seçenekleriniz var. Mevcut olanlar arasında, Pocketpal Ai kullanımı en kolay olanıdır. İşte nedeni ve akıllı telefonunuzda yerel olarak AI modellerini çalıştırmak için PocketPal AI kullanmayı bilmeniz gereken her şey.

Pocketpal AI nedir?

PocketPal AI, internet bağlantısı olmadan akıllı telefonunuzda yerel olarak küçük dil modellerini (SLMS) çalıştırmanıza izin veren ücretsiz ve açık kaynaklı bir uygulamadır. Sorgularınızı yerel olarak işlediğinden, konuşmalarınız ve verileriniz asla telefonunuzdan ayrılmayın.

Phi, Gemma ve Qwen dahil olmak üzere büyük bir açık kaynaklı model koleksiyonunun yanı sıra Hugging Face gibi platformlarda mevcut olanlar arasından seçim yapabilirsiniz ve gerektiğinde aralarında geçiş yapabilirsiniz. Uygulama, sarılma yüzünde geçitli modellere erişmenizi sağlar. Tek yapmanız gereken kimlik doğrulama jetonunuzu ayarlar içinde kurmaktır.

Pocketpal AI'nın bir başka vurguları arkadaşlar. Bunları, belirli görevleri üstlenmek için ayarlayabileceğiniz farklı kişiliklere ve ayarlara sahip kişiselleştirilmiş AI asistanları olarak düşünebilirsiniz.

Pocketpal AI hem Android hem de iPhone'da mevcuttur.

İlgili: İPhone'unuza yerel olarak AI modelleri nasıl kurulur ve çalıştırılır

Pocketpal AI diğer uygulamalardan nasıl öne çıkıyor

PocketPal AI, akıllı telefonlarda SLMS çalıştırma yeteneği sunan tek uygulama değil. Bu işlevi de sağlayan birkaç iyi uygulama daha var. Ancak, başkalarından öne çıkmasını sağlayan birkaç şey var.

• Büyük bir model kütüphanesi: Pocketpal AI'da çok çeşitli açık kaynaklı modeller kullanabilirsiniz. Bu, seçeneklerinizin uygulama tarafından küratörlüğünde olanlarla sınırlı olmadığı anlamına gelir; Hugging Face gibi kaynaklarda bulunan modelleri indirebilir ve kullanabilirsiniz.
• Ayarlanabilir çıkarım ayarları: Uygulama, indirdiğiniz modeller için çeşitli parametreleri özelleştirme seçeneği sunar. Bu, sistem istemi, sıcaklık, sekansın başlangıcı (BOS) jetonları ve sohbet şablonları gibi şeyleri içerir.
• AI Personas: Pocketpal AI, arkadaşlar yaratmanızı sağlar. Pals iki çeşittir: yardımcı arkadaşlar (genel yardımcı görevler için) ve rol oyun arkadaşları (rol oynama senaryoları için). Örneğin, projeler üzerinde araştırma yaparken veya çalışırken bir çalışma arkadaşı kurabilirsiniz, böylece model bağlam farkındadır ve buna göre yanıt verebilir. Benzer şekilde, e -postalar hazırlamak veya raporları özetlemek için yardımcı olmak istediğiniz zamanlar için bir yönetici arkadaşı oluşturabilirsiniz.
• Kullanımı tamamen özgür olmak: Benzer bir işlevsellik sunan birçok uygulama, bir ödeme duvarının arkasında belirli özellikleri sakladıkları bir freemium modelini takip eder. Buna karşılık, PocketPal AI'nın kullanımı tamamen ücretsizdir, böylece tüm özellik kümesine erişebilir ve herhangi bir sınırlama olmadan uyumlu dil modelini kullanabilirsiniz.
• Topluluk yönü: PocketPal AI, kullanıcıların telefonlarında kriterler çalıştırmasına ve sonuçları topluluktaki paylaşmalarına olanak tanır. Bu şekilde, diğer kullanıcılar hangi modelin cihazları için daha uygun olduğu hakkında bir fikir edinebilir ve buna göre bir tane seçebilir.

Pocketpal AI Nasıl Kurulur ve Kullanılır

Pocketpal AI oldukça basit bir kurulum var.

İlk olarak, uygulamayı aşağıdaki bağlantıları kullanarak ilgili App Store'dan Android veya iPhone'unuza indirin.

İndirmek
İndirmek

Uygulamayı başlatın ve istenen izinleri verin.

Ardından, uygulamada kullanmayı planladığınız modeli indirmeniz gerekir. Ancak bunu yapmadan önce, dil modelleri tipik olarak büyük olduğundan, kararlı bir Wi-Fi bağlantısına geçin ve mobil verilere indirirseniz günlük veri sınırınızı tüketebilirsiniz.

Yapıldıktan sonra, ana ekranda indirme modeli düğmesine dokunun. Aşağıdaki ekranda, zaten değilse, indirme bölümünü genişletin ve uyumlu modellerin bir listesini göreceksiniz. Her model, boyutu, kullandığı parametreler ve becerileri, yani neyin mükemmel olduğu gibi ayrıntılardan bahseder. Bu konuda daha fazla bilgi edinmek için bir modele dokunun. Kullanmak istediğiniz modeli bulduktan sonra, cihazınıza indirmeye başlamak için indirmeye basın.

İndirme tamamlandıktan sonra, belleğe yüklemek için modelin kartındaki yük düğmesine dokunun. Artık ekranda sohbet benzeri bir arayüz göreceksiniz.

Sorgunuzu aşağıdaki metin alanına yazmaya başlayın ve kullandığınız modele bağlı olarak ekranda bir yanıt göreceksiniz. Model takip sorularını sorabilir veya en üstteki yeni konuşma düğmesine dokunarak yeni bir konuşma başlatabilirsiniz.

Ayrıca, arkadaşları etkinleştirebilirsiniz. Metin alanının solundaki yukarı işaret eden oka dokunun, PALS sekmesine gidin ve mevcut dostuma dokunun. Örneğin Gemma, cihazınızdaki videoları yerel olarak analiz etmenizi sağlayan Lookie Pal'ı sunar.

Sağ üst köşedeki üç noktalı menüye dokunarak ve tüm oturumları dışa aktarma/içe aktar> dışa aktarma seçerek bu oturumu daha fazla dışa aktarabilirsiniz. Aynı şekilde, onu tekrar ziyaret etmek için bir oturum içe aktarabilir ve kaldığınız yerde devam edebilirsiniz.

SMOLVLM2-500M-BUCK gibi bazı modellerle, görüntüleri analiz edebilir ve içerikleri hakkında daha fazla bilgi edinebilirsiniz. Metin alanının solundaki + düğmesine dokunun ve resim çekmek ve analiz etmek veya daha önce çektiğiniz birini analiz etmek isteyip istemediğinize bağlı olarak kamera veya galeriyi seçmeniz yeterlidir. Model daha sonra bir yanıt döndürür.

Bir akıllı telefonda pockpal yapayüz kullanmak nasıl bir şey

Pocketpal AI şık bir uygulamadır. Minimum arayüze sahip oldukça hafif ve kullanımı kolay. Ayrıca, deneyiminizi kişiselleştirmek için ayarlayabileceğiniz birkaç yapılandırma seçeneği - hem uygulamalar hem de modeller için - vardır.

Performansa gelince, PocketPal AI çoğu modern akıllı telefonda (8GB RAM veya daha fazla) verimli bir şekilde çalışmalı ve isteklerinizi hızlı bir şekilde işlemelidir. Yanıt süresinin büyük bir kısmı da kullandığınız modele bağlıdır, ancak daha eski veya alt kademe telefonlardan birini kullanmadığınız sürece, belirgin bir gecikme veya en kötü durumda bir uygulama çökmesi olmamalıdır.

Gemma-2-2b-IT, Smolvlm2-500m-in-instruct, Phi-3.5 mini 4K talimatı ve Llama-3.2-3b-intruct gibi Galaxy S23 Ultra ve OnePlus 13 ve OnePlus 13 gibi çeşitli modellerle PocketPal AI kullanıyorum ve deneyim genellikle pürüzsüz. Her ne kadar benim sorguya birkaç kez cevap vermeyi bıraktı, hiçbir noktada uygulama bana çarptı. Benzer şekilde, belirli akıl yürütme sorgularına verilen yanıtlar biraz daha uzun sürdü. Ancak, doğrudan uygulama ile ilgili olmadıkları için bu sorunlar hakkında çok fazla stres olmazdım.

Bununla birlikte, doğru dil modelini seçmenin sorgularınıza makul yanıtlar almanın anahtarı olduğunu belirtmek isterim. Örneğin, SMOLVLM2-500M-DÜŞÜNME, farklı mekanik klavye anahtarlarını listelemedi ve bana hangisinin oyun için en iyi olduğunu söyleyemedi. Buna karşılık, GEMMA-2-2B-IT için kolay bir işti çünkü çeşitli veri kümelerinde eğitildi, daha büyük parametre boyutlarına sahip ve bu tür görevler için daha uygun hale getiren gelişmiş mimariyi kullanıyor.

Yalnız Pocketpal Ai'ye güvenmenize gerek yok

Pocketpal AI'nın çevrimdışı birinci yaklaşımı, akıllı telefonunuzda özel bir AI deneyimi sağlar ve genellikle geleneksel bir AI Chatbot ile yapamayacağınız şeyleri sorgulamanıza olanak tanır. Ancak, birkaç sınırlaması olduğu için tam olarak taahhüt edemezsiniz.

Başlangıç olarak, Pocketpal AI sadece küçük boyutlu modellere erişim sunar. Daha küçük olan bu modellerin daha az parametresi vardır. Bu nedenle, nüanslı dil kavrayışından yoksundurlar ve bu nedenle dar bir kullanım kapsamına sahiptirler.

Çevrimdışı olmanın bir başka dezavantajı, en son haberler, borsa güncellemeleri veya canlı puanlar gibi gerçek zamanlı bilgiler alamamanızdır. Bu nedenle, poctpal AI'yı dakika verileri gerektiren konularda sorgular için kullanamazsınız.

Benzer şekilde, daha küçük modeller nesil ile iyi olmasına rağmen, sınırlı parametreler nedeniyle büyük dil modelleri (LLMS) ile elde ettiğiniz yaratıcı genişliğe sahip değiller. Bu, nüanslı kelime dağarcığı ve dil ile istenen çıktılar üretemeyeceğiniz anlamına gelir.

Bu nedenle, orta bir zemin bulmak en iyisidir: önemsiz veya özel sorgular için PocketPal AI kullanın ve derin analiz, gelişmiş problem çözme, gerçek kontrol veya medya üretimi içeren karmaşık veya yaratıcı görevler için LLMS'ye geçin.