Perplexity, veriyi cihazda tutan Portable Computer'ı kullanıma sundu

2 dk okuma
Kısa cevap

Portable Computer, yapay zekâ iş yükünü Nvidia DGX Spark üzerinde yerel olarak çalıştırıyor ve cihazdaki işlemlerde token kredisi tüketmiyor. Buluta veri aktarımı için ilgili ayarın etkinleştirilmesi ve her işlemde ayrı kullanıcı onayı verilmesi gerekiyor.

Perplexity, salı günü yapay zekâ işlemlerini tamamen yerel bir makinede yürütebilen Portable Computer adlı hizmetini kullanıma sundu. Şirket, özel verilerin cihazda kalacağını ve yalnızca ihtiyaç duyulan görevlerin açık izinle buluta aktarılacağını belirtiyor.

Perplexity Computer'ın yerel sürümü olan hizmet, Nvidia DGX Spark üzerinde Qwen 3.8 27B veya Qwen modelinin sonradan eğitilmiş bir versiyonu olan PPLX 27B ile çalışıyor. Perplexity ayrıca model seçiciye yakında 30B büyüklüğünde açık bir model ekleneceğini açıkladı. Düzenleyici, planlayıcı, araç yönlendirici, zamanlayıcı, kalıcı görev kuyruğu ve yerel arama dizini dahil olmak üzere sistemin temel bileşenlerinin tamamı cihazda çalışıyor.

Portable Computer'ın temel işletim sistemi olarak Linux gerekiyor. Windows desteğinin ise daha sonra sunulması planlanıyor. Kurumsal BT açısından öne çıkan iki unsur, verilerin yerelde tutulması ve cihaz üzerinde yapılan çalışmaların token kredisi harcamaması. Müşteriler yalnızca daha gelişmiş araştırma ve akıl yürütme amacıyla hesaplamanın açıkça buluta taşınmasını istediklerinde ücretlendiriliyor.

Yerel işlem ile bulut desteği birlikte kullanılıyor

Sistem, gizli bir sözleşme belgesinin ayrıntılarını cihazda işlerken güncel piyasa karşılaştırmaları veya yakın tarihli anlaşmalar için buluttan yararlanabiliyor. Bulut tarafı ayrıca güncel bilgiye, tarayıcı kullanımına, bağlı uygulamalara ve gelişmiş akıl yürütme için 15'ten fazla üst düzey modele erişim sağlıyor. Uygulama bağlantıları arasında Google Drive, Gmail, Slack ve GitHub bulunuyor.

Tribeca Softtech Strateji Direktörü Aman Mahapatra, yalnızca bir modeli değil, buluta geçiş kararını veren bütün kontrol katmanını yerelde çalıştırmanın önemli olduğunu söyledi. Ancak bazı danışmanlar ve analistler, ürünün maliyet yapısının ve kurumsal denetim özelliklerinin yeterince olgunlaşıp olgunlaşmadığını sorguluyor.

Gartner Başkan Yardımcısı Analisti Nader Henein, açıklanan bazı modellerin hazır ekran kartlarına sahip üst düzey dizüstü bilgisayarlarda çalıştırılabildiğini, ancak Portable Computer'ın fiyatı bilinmeden ekonomik değerlendirme yapmanın zor olduğunu belirtti. LexisNexis Risk Solutions Group CISO'su Flavio Villanustre ise RAM ve GPU dahil donanım gereksinimlerinin yüksek olduğuna dikkat çekti. Villanustre'ye göre sistem, en az 24 GB VRAM'e sahip yerel bir GPU gerektiriyor ve devam eden giderleri azaltabilse de başlangıçta özel donanım yatırımı istiyor.

Buluta veri çıkışı tartışma yarattı

Danışmanların diğer çekincesi, yerel işlem ile bulut kullanımı arasındaki kararların nasıl uygulandığına ilişkin ayrıntılar oldu. Kullanıcıların anlamadıkları izinleri alışkanlıkla onaylayabileceği veya saldırganların gizli komutlarla sistemi buluta yönlendirmeye çalışabileceği değerlendiriliyor. Acceligence CEO'su Justin Greis, yerel öncelikli yaklaşımın yalnızca yerel çalışma anlamına gelmediğini ve işletmelerin yapay zekânın bazı durumlarda izin istemesini dahi engelleyebilmesi gerektiğini savundu.

Aikido Security kurumsal CISO'su Mike Wilkes, dış erişimi tamamen kapatmanın bulut kullanımını önleyebileceğini ancak bağlantının birçok kullanım senaryosunun temelini oluşturduğunu söyledi. Mahapatra ise uygulama düzeyindeki izinlerin tek başına kurumsal denetim için yeterli olmadığını; zorunlu çıkış proxy'si, her aktarımda veri kaybı önleme denetimi, belirli veri kategorilerini engelleyen kurallar ve değiştirilemez kayıtlar gerektiğini ifade etti.

Perplexity İletişim Müdürü Beejoli Shah, yerel bir belgedeki içeriğin kendi başına buluta geçiş izni veremeyeceğini açıkladı. Shah'a göre kullanıcı önce ayarlardan danışman yönlendirmesine izin vermeli, ardından her bulut işlemini uygulama içinde ayrıca onaylamalı. İzin yalnızca tek bir aktarım için geçerli oluyor; görevin geri kalanına veya sonraki oturumlara taşınmıyor. Ayar etkin değilse hiçbir çalışma buluta gönderilemiyor.