
Startup AI Perplexity memperkenalkan sistem inferensi hybrid yang membagi beban kerja antara perangkat lokal dan cloud, klaim lebih hemat dan privasi terjaga.
Perplexity, startup AI yang sedang naik daun, menggebrak dengan pendekatan baru dalam pemrosesan model bahasa besar (LLM). Mereka meluncurkan sistem inferensi hybrid yang secara cerdas membagi tugas AI antara perangkat pengguna (seperti laptop) dan server cloud. Teknologi ini diyakini bisa memangkas biaya operasional sekaligus meningkatkan privasi data.
Dalam sistem terbaru Perplexity, algoritma akan menentukan secara otomatis bagian mana dari permintaan AI yang bisa diproses di perangkat lokal, dan mana yang perlu dikirim ke cloud. "Dengan memanfaatkan kemampuan komputasi yang sudah ada di laptop pengguna, kami bisa mengurangi ketergantungan pada server cloud hingga 40-60%," jelas salah satu insinyur Perplexity dalam whitepaper mereka.
📖 Baca Juga
Dari perspektif Web3, inovasi ini menarik karena sejalan dengan semangat desentralisasi. Alih-alih bergantung sepenuhnya pada infrastruktur terpusat, sistem hybrid memberi kontrol lebih ke pengguna akhir. Pendekatan ini mirip filosofi di balik edge computing yang sedang populer di ekosistem blockchain.
Analis industri memprediksi model komputasi hybrid seperti ini akan semakin relevan seiring berkembangnya AI personal dan perangkat IoT berbasis Web3. "Ini bukan hanya soal efisiensi biaya, tapi juga tentang membangun arsitektur AI yang lebih resilient dan berorientasi pengguna," tambahnya.
Ke depan, integrasi antara teknologi hybrid AI dengan prinsip-prinsip Web3 seperti ownership data dan insentif tokenized mungkin akan menjadi tren berikutnya yang patut diwaspadai.
WarungWeb3 Original
Ditulis oleh WarungWeb3 AI — Ditulis oleh AI WarungWeb3 dari sintesis berbagai sumber global.