TREND TEKNOLOGI – Dalam lanskap dinamis Kecerdasan Buatan (AI), raksasa teknologi seperti Google, Meta, dan Microsoft dengan sungguh-sungguh menampilkan inovasi AI mereka. Namun, di tengah kekacauan AI, Apple justru diam saja, sehingga membuat banyak orang bertanya-tanya mengenai posisinya dalam perlombaan senjata AI. Bertentangan dengan apa yang terlihat, Apple diam-diam telah mengerjakan kemajuan AI selama bertahun-tahun, dan perkembangan terkini menunjukkan lompatan maju yang signifikan. Makalah penelitian terobosan, berjudul “LLM in a Flash: Inferensi Model Bahasa Besar yang Efisien dengan Memori Terbatas,” yang diterbitkan pada 12 Desember, mengungkap langkah Apple dalam mengintegrasikan AI tingkat lanjut ke dalam iPhone-nya.
Teknik terobosan Apple melibatkan penyederhanaan Model Model Bahasa (LLM) yang besar menggunakan pengoptimalan penyimpanan flash. Teknik ini, setelah terintegrasi, siap untuk merevolusi pengalaman iPhone, menawarkan pengalaman visual yang lebih mendalam dan memungkinkan pengguna mengakses sistem AI yang kompleks di iPhone dan iPad.
Makalah penelitian ini terutama membahas tantangan menjalankan model bahasa besar secara efisien pada perangkat dengan kapasitas Dynamic Random Access Memory (DRAM) yang terbatas. DRAM, yang biasa digunakan di PC, dikenal dengan kecepatannya yang cepat, kepadatannya yang tinggi, harganya yang terjangkau, dan konsumsi daya yang rendah. Makalah ini memperkenalkan Model Biaya Inferensi untuk mengoptimalkan transfer data dari memori flash, dengan mempertimbangkan karakteristik flash dan DRAM.
Makalah penelitian ini memperkenalkan teknik-teknik utama yang bertujuan untuk mengatasi tantangan menjalankan model bahasa besar (LLM) pada perangkat dengan kapasitas Dynamic Random Access Memory (DRAM) yang terbatas. Teknik-teknik ini termasuk “Windowing,” yang berfokus pada pengurangan transfer data dengan menggunakan kembali neuron yang sebelumnya diaktifkan. Teknik lain, “Bundling Baris-Kolom,” dirancang untuk meningkatkan ukuran potongan data, mengoptimalkan pembacaan memori flash untuk efisiensi. “Eksploitasi Ketersebaran” memanfaatkan ketersebaran di lapisan Jaringan FeedForward (FFN) untuk memuat parameter secara selektif, sehingga meningkatkan efisiensi secara keseluruhan. Selain itu, makalah ini membahas “Manajemen Memori,” yang mengusulkan strategi untuk menangani data yang dimuat di DRAM secara efisien, meminimalkan potensi overhead. Teknik-teknik ini secara kolektif mewakili pendekatan inovatif Apple untuk menjadikan AI tingkat lanjut lebih mudah diakses pada perangkat dengan perangkat keras terbatas seperti iPhone dan iPad.
Dengan menggunakan model seperti OPT 6.7B dan Falcon 7B, penelitian ini menunjukkan peningkatan kecepatan CPU dan GPU masing-masing sebesar 4–5x dan 20–25x, dibandingkan dengan metode tradisional. Dalam penerapan praktis, model ini menunjukkan peningkatan yang signifikan dalam lingkungan dengan sumber daya terbatas.
Temuan inferensi LLM yang efisien dengan memori terbatas memberikan harapan besar bagi pengguna iPhone. Dengan LLM canggih yang berjalan secara efisien pada perangkat dengan DRAM terbatas, pengguna dapat mengharapkan peningkatan kemampuan AI, termasuk peningkatan pemrosesan bahasa, asisten suara yang canggih, privasi yang ditingkatkan, potensi pengurangan penggunaan bandwidth internet, serta aksesibilitas dan daya tanggap AI yang canggih secara keseluruhan.
Meskipun kemajuan Apple dalam penelitian dan penerapan AI patut dipuji, para ahli menekankan perlunya kehati-hatian dan tanggung jawab. Perlindungan privasi, strategi untuk memitigasi potensi penyalahgunaan, dan dampak sosial secara keseluruhan harus dipertimbangkan secara hati-hati seiring dengan diterapkannya kemajuan ini ke dalam kasus penggunaan di dunia nyata.
Penelitian inovatif Apple membuka babak baru dalam AI pada perangkat, menyiapkan landasan bagi pengalaman pengguna generasi berikutnya. Integrasi LLM yang efisien dalam lingkungan dengan keterbatasan perangkat keras menandai tonggak sejarah yang signifikan, menunjukkan komitmen Apple untuk tetap menjadi yang terdepan dalam inovasi AI. Ketika kemajuan ini mulai membuahkan hasil, dunia menantikan dampak transformatif terhadap pengalaman pengguna iPhone dan lanskap aplikasi AI yang lebih luas.