Apple Dikabarkan Jajaki Kerja Sama dengan PrismML, Startup Pengecil Model AI untuk iPhone

Apple tengah menjajaki pembicaraan dengan PrismML, perusahaan rintisan asal Silicon Valley yang mengklaim mampu mengecilkan ukuran model kecerdasan buatan (AI) canggih hingga bisa berjalan langsung di iPhone, sebagaimana disampaikan CEO PrismML, Babak Hassibi, kepada CNBC, Selasa (14/7). Terobosan ini berpotensi membantu Apple mempercepat kinerja Siri sekaligus meningkatkan privasi pengguna dengan memproses lebih banyak AI langsung di perangkat, ketimbang mengirim permintaan ke server cloud.

PrismML, perusahaan yang merupakan spin-off dari California Institute of Technology dan didukung oleh Khosla Ventures, secara resmi merilis versi terkompresi dari model open-source Qwen milik Alibaba pada Selasa. Perusahaan tersebut mengklaim berhasil mengecilkan ukuran model dari sekitar 54 gigabita menjadi kurang dari 4 gigabita, memungkinkan seluruh 27 miliar parameter model tersebut berjalan pada iPhone 15 atau model yang lebih baru.

Pembicaraan Masih di Tahap Awal

Hassibi mengungkapkan bahwa Apple dan sejumlah perusahaan lain telah mengevaluasi model milik PrismML, termasuk mengukur kecepatan, efisiensi energi, dan performanya di berbagai perangkat. "They're really evaluating our technology right now," kata Hassibi mengenai keterlibatan Apple dalam proses evaluasi tersebut.

Ia menggambarkan pembicaraan tersebut masih berada pada tahap sangat awal dan belum jelas arahnya, meski menurutnya perkembangan yang terjadi cukup positif. Apple sendiri belum memberikan tanggapan atas permintaan konfirmasi terkait pembicaraan ini. Menurut laporan AppleInsider, pembicaraan tersebut bisa saja berkembang mulai dari sekadar lisensi teknologi hingga kemungkinan akuisisi penuh terhadap startup tersebut oleh Apple.

Momentum Bersamaan dengan Peluncuran iOS 27

Perilisan versi terkompresi model Qwen oleh PrismML ini muncul sehari setelah Apple membuka versi beta publik iOS 27, yang memberikan akses luas pertama kepada pengguna iPhone terhadap pembaruan besar Siri yang selama ini tertunda. Apple tengah berupaya membuat Siri lebih kompetitif dibandingkan asisten AI dari OpenAI dan Anthropic, sembari tetap menjaga lebih banyak informasi pribadi dan pemrosesan AI tetap berada di perangkat pengguna.

Pendekatan Apple ini berpotensi mengatasi salah satu kendala utama dalam strategi AI perusahaan tersebut, mengingat model AI paling canggih umumnya membutuhkan memori dan daya pemrosesan yang terlalu besar untuk dijalankan pada perangkat ponsel pintar. Meski Apple bisa mengirim permintaan kompleks ke model berbasis cloud, menjalankan lebih banyak AI langsung di iPhone akan mengurangi jeda pengiriman data ke server jarak jauh, menekan biaya komputasi cloud, sekaligus mendukung citra privasi yang selama ini diusung perusahaan.

Teknologi Kompresi dengan Trade-Off Performa

Carolina Milanesi, presiden sekaligus analis utama di Creative Strategies, menilai model yang lebih kecil dapat memungkinkan Apple memindahkan fitur-fitur yang lebih berat ke iPhone, termasuk fotografi komputasional, pembuatan video, serta alat kesehatan dan kebugaran yang bergantung pada data pribadi sensitif. "The more you can do on device, the better it is," kata Milanesi, menyoroti data kesehatan dan pengobatan yang ingin dijaga privasinya oleh pengguna.

PrismML menyebut bahwa teknologi pengecilan model AI mereka bekerja dengan menyederhanakan secara drastis cara penyimpanan informasi internal model, mengurangi setiap nilai dari 16 bit menjadi hanya satu atau tiga kemungkinan nilai saja. Hassibi menyamakan pendekatan ini dengan pergeseran industri chip dari komputasi delapan bit ke empat bit, namun mengklaim teknologinya melangkah lebih jauh lagi.

Perusahaan tersebut mengklaim model hasil kompresinya menggunakan memori 10 hingga 15 kali lebih sedikit, menghasilkan respons enam hingga delapan kali lebih cepat, serta mengonsumsi energi tiga hingga enam kali lebih rendah dibandingkan versi konvensional yang berjalan pada perangkat keras yang sama. Meski demikian, Hassibi mengakui adanya trade-off, di mana model hasil kompresi PrismML biasanya kehilangan beberapa poin performa, dengan kemampuan mengingat fakta melemah lebih dulu dibandingkan kemampuan penalaran, matematika, dan pemrograman.

Model Google dan Rencana Ekspansi Berikutnya

PrismML merilis dua versi terkompresi model tersebut secara gratis, yang dirancang untuk berjalan pada perangkat sehari-hari termasuk iPhone, MacBook, dan PC berbasis chip Nvidia. Teknologi ini berasal dari kelompok riset Hassibi di Caltech, dengan universitas tersebut memegang hak paten yang dilisensikan secara eksklusif kepada PrismML. Perusahaan ini sebelumnya mengumpulkan pendanaan awal sebesar 16,25 juta dolar AS pada Maret lalu yang didukung Khosla Ventures dan sejumlah investor lain.

Hassibi mengungkapkan bahwa model Gemma open-source milik Google menjadi target berikutnya dalam antrean pengembangan mereka, diikuti oleh model-model yang jauh lebih besar termasuk yang berasal dari laboratorium AI terdepan yang saat ini umumnya membutuhkan perangkat keras pusat data. Menurut PrismML, teknologi ini berpotensi meluas jauh melampaui ponsel dan laptop hingga ke robotika, sistem otonom, dan produk lain yang membutuhkan pengambilan keputusan cepat tanpa bergantung pada koneksi cloud.

Keunggulan Apple dalam Integrasi Perangkat Keras dan Perangkat Lunak

Horace Dediu, pendiri Asymco, menilai Apple kemungkinan besar berupaya menjaga mayoritas interaksi umum dengan Siri tetap berjalan di perangkat, sementara tugas-tugas yang paling berat tetap dicadangkan untuk diproses lewat cloud. Menurutnya, keunggulan utama bukan sekadar penggunaan memori yang lebih sedikit, melainkan kemampuan menyesuaikan model yang lebih mumpuni dalam batasan fisik perangkat yang sama.

Apple berpotensi memiliki keunggulan dalam menerapkan model semacam ini karena perusahaan tersebut merancang chip dan perangkat lunak iPhone secara bersamaan, memberikan kontrol yang lebih ketat terhadap cara AI berjalan di perangkat. Namun sejumlah analis mengingatkan bahwa klaim PrismML masih perlu dibuktikan di luar demonstrasi terkontrol.

Tarun Pathak, direktur riset di Counterpoint Research, menyebut performa model dalam menangani prompt panjang, konsumsi baterai saat multitasking, serta keandalan pada jutaan permintaan akan menjadi faktor krusial. "The ultimate test will be millions of queries, thousands of device combinations and robust testing at scale," kata Pathak. Sementara itu, Phil Solis yang memimpin riset prosesor klien di IDC, menyoroti konsumsi daya sebagai pertanyaan besar yang masih terbuka, mengingat model yang cukup mumpuni untuk digunakan secara terus-menerus berpotensi tetap menguras baterai ponsel meski membutuhkan memori lebih sedikit.

Dampak terhadap Permintaan Chip dan Memori Global

Perilisan teknologi PrismML ini muncul di tengah perdebatan sengit mengenai apakah peningkatan efisiensi AI dapat mengurangi permintaan terhadap chip memori dan infrastruktur pusat data yang mahal. Memori telah menjadi salah satu kendala dan biaya terbesar di sektor elektronik konsumen maupun server AI, dengan Morgan Stanley memperkirakan biaya rata-rata memori DRAM Apple per bit bisa naik sekitar 190 persen secara tahunan pada tahun fiskal 2027, sementara biaya NAND diperkirakan naik sekitar 180 persen.

Gil Luria, analis di D.A. Davidson, menegaskan bahwa pengecilan model tidak akan menghilangkan kebutuhan terhadap prosesor atau memori, melainkan hanya memindahkan lebih banyak kebutuhan chip tersebut dari pusat data ke ponsel dan perangkat lain. "It's not that you're not going to need the chip," kata Luria. "You're still going to need the GPU, and you're still going to need the memory." Ia menambahkan bahwa menjalankan AI pada perangkat individual justru bisa lebih tidak efisien dibandingkan menggunakan infrastruktur pusat data bersama, karena chip pada ponsel sering kali berada dalam kondisi menganggur dalam waktu lama.

Terobosan efisiensi semacam ini juga berpotensi mendorong peningkatan penggunaan AI ketimbang menurunkan belanja teknologi secara keseluruhan, mengingat AI yang lebih murah dan cepat memungkinkan lahirnya produk-produk baru yang mendorong konsumen menjalankan model AI lebih sering. Pasar sendiri terbukti cukup sensitif terhadap sinyal penurunan kebutuhan memori AI, tecermin dari anjloknya saham Micron pada Maret lalu usai Google mempublikasikan makalah TurboQuant mengenai pemangkasan penggunaan memori tanpa mengorbankan performa model, meski saham tersebut kemudian pulih kembali.

Editor : ALengkong