Search
Minggu 30 Juni 2024
  • :
  • :

MediaTek: AI Generatif di Industri Ponsel Pintar

MAJALAH ICT – Jakarta. Integrasi AI generatif dengan ponsel pintar tentu bakal memicu transformasi besar. Berkaca pada setiap inovasi teknologi di masa silam, saat tahap-tahap awal eksplorasi, fungsi dan fitur baru akan diperkenalkan terlebih dulu pada produk-produk unggulan dan sub-unggulan yang memiliki sumber daya komputasi melimpah. Selanjutnya, fitur ini dengan cepat menjadi nilai penting yang terdiferensiasi. Berjalannya waktu, kemampuan AI generatif bakal kian cepat untuk menurunkan kisaran harga dan memberikan manfaat bagi basis konsumen yang lebih luas di seluruh dunia.

Ponsel AI generatif menggunakan model AI generatif berskala besar dan telah dilatih sebelumnya guna mencapai pembuatan konten multimodal, kesadaran kontekstual (contextual awareness), dan menunjukkan peningkatan kemampuan mirip manusia dari waktu ke waktu. Munculnya AI generatif juga menandai dimulainya era baru dalam pengembangan ponsel pintar. Untuk jangka panjang, ponsel pintar akan berkembang menjadi mobile intelligence.

Untuk dianggap sebagai ponsel AI generatif, suatu perangkat harus memenuhi kriteria, pemrosesan model dasar pada perangkat atau hybrid, yang memungkinkan ponsel pintar melakukan tugas AI generatif kompleks tanpa bergantung pada peladen berbasis cloud.

Kemampuan multimodal, yang memungkinkan perangkat memproses teks, gambar, suara, dan bentuk masukan lainnya untuk menghasilkan berbagai output, seperti terjemahan atau pembuatan gambar dan video.

Pengalaman pengguna yang lancar dan mulus, sehingga memungkinkan perangkat berinteraksi secara alami dan merespons intuitif terhadap input dan permintaan pengguna.

Spesifikasi perangkat keras yang mampu mendukung kemampuan tersebut, tidak terbatas pada prosesor yang dibangun pada node proses terbaru yang dirancang untuk melakukan beban kerja AI yang memanfaatkan unit pemrosesan neural network terintegrasi atau mandiri (standalone) (seperti APU/NPU/TPU), kapasitas memori berukuran besar dengan bandwidth tinggi, pilihan konektivitas stabil dan berkecepatan tinggi, serta solusi keamanan tingkat perangkat keras dan perangkat lunak.

Selain itu, berkembangnya kognisi AI, agen AI akan memperoleh kemampuan yang lebih komprehensif. MediaTek meyakini agen AI masa depan juga memiliki kemampuan pengambilan keputusan secara otonom, bisa jadi mampu melakukan “Perencanaan”, “Memori”, dan “Tindakan”, Perencanaan – Memiliki kemampuan untuk menjelaskan tugas dan refleksi diri. Memori – Memiliki memori jangka pendek dan jangka panjang. Dan Tindakan, Mengeksekusi atau menggunakan alat secara langsung untuk menyelesaikan tugas tertentu bagi pengguna.

Dalam pandangan MediaTek, agen AI juga diprediksi dapat mempelajari dan mengingat kebiasaan, minat, dan preferensi pengguna ponsel pintar, lalu membantu pengguna dalam mengelola tugas-tugas kehidupan sehari-hari (makanan, pakaian, perumahan, dan transportasi) dan pekerjaan (perencanaan, pelaksanaan, pelaporan). Oleh karenanya, kondisi ini memungkinkan manusia untuk lebih fokus dalam menetapkan target dan mengambil keputusan. Misal, terkait skenario jalan-jalan (travelling), agen AI dapat menyesuaikan rencana perjalanan untuk pengguna dan secara dinamis menyesuaikan rencana secara tepat waktu berdasarkan cuaca, lalu lintas, informasi lokasi wisata, bahkan kondisi tak terduga, sehingga perjalanan pengguna menjadi lebih mudah dan personal.

MediaTek telah bergerak maju dalam revolusi ponsel AI generatif. Perusahaan juga telah meluncurkan beberapa platform komputasi seluler yang mendukung penerapan model AI multimodal besar pada ponsel pintar. Cipset yang mencakup kemampuan itu ialah Dimensity 9300 dan Dimensity 8300 dari MediaTek. Dimensity 9300 MediaTek sebagai contoh, kecepatan inferensi untuk LLM pada perangkat dengan 7 miliar parameter dapat mencapai hingga 20 token per detik; ini sangat cocok dengan kecepatan baca rata-rata manusia.

MediaTek dengan pengalamannya yang kaya selama bertahun-tahun dalam aplikasi AI untuk ponsel pintar telah memberikan serangkaian peralatan lengkap untuk OEM dan pengembang dalam memfasilitasi pengembangan aplikasi. Ini diwakili lewat produk kami: MediaTek NeuroPilot SDK. NeuroPilot adalah inti MediaTek guna membangun ekosistem AI generatif. Saat ini mencakup APU generasi ketujuh terbaru MediaTek, toolkit, pusat model pengembangan (GAI Model Hub), dan ekosistem pengembangan. GAI Model Hub untuk pengembang berisi serangkaian model AI untuk masalah tertentu yang memungkinkan pengembang menggunakan model AI dengan mudah dan cepat. Dengan ekosistem yang disediakan oleh Neuropilot, pengembang dapat dengan cepat dan efisien menerapkan AI generatif pada perangkat.

Ada tiga aspek utama dari strategi AI generatif MediaTek – perangkat keras, perangkat lunak, dan ekosistem. Untuk perangkat keras, mesin APU baru dibangun berdasarkan arsitektur Transformer mainstream dan mendukung berbagai tipe data integer dan floating-point, termasuk INT4, INT8, INT16 dan FP16, memberikan hemat daya terdepan di industri. Dalam hal perangkat lunak, MediaTek menyediakan perangkat pengembangan lengkap dan lingkungan pengembangan terintegrasi bagi pengembang untuk menerapkan model AI besar dan mengembangkan aplikasi AI pada perangkat yang didukung oleh platform Dimensity. Adapun dalam kolaborasi ekosistem, MediaTek terus memperluas kerja sama dengan OEM ponsel pintar, pengembang model AI besar, dan pengembang aplikasi untuk bersama-sama membangun ekosistem aplikasi seluler AI generatif.

MediaTek saat ini telah meningkatkan mekanisme keamanan tingkat perangkat keras seluler yang ada menjadi solusi keamanan tingkat AI generatif, yaitu memberikan proteksi komprehensif mulai parameter model hingga privasi pengguna, serta data operasional. Mengingat besarnya kebutuhan penyimpanan data AI generatif, MediaTek meningkatkan arsitektur keamanan AI-nya dengan meningkatkan Secure Memoriy, Secure APU, dan Secure Decryption Machine yang telah meningkatkan batas atas kapasitas penyimpanan, efisiensi pengoperasian APU, dan deskripsi kecepatan. AI Security 2.0 yang baru telah mewakili peningkatan signifikan dan membawa keamanan tingkat AI generatif ke tingkat yang lebih tinggi.

Ponsel AI generatif akan berkembang menjadi agen seluler pintar yang membuka imajinasi baru. Hal ini tentu bakal mendukung dan menjaga kejayaan industri ponsel pintar dan ekosistem aplikasi seluler, serta membantu industri lebih siap menghadapi era 6G.

Untuk mengeksplorasi AI generatif lebih lanjut dalam industri ponsel pintar, sebuah whitepaper telah dirilis bersama oleh Counterpoint Research dan MediaTek bersama dengan mitra lainnya, termasuk 01.AI, Alibaba Cloud Tongyi Qianwen, Baichuan-AI, Huya, Kugou, OPPO, Soul, Tencent AI Lab, Tencent Hunyuan dan vivo (dalam urutan abjad).

*Ditulis oleh Finbarr Moynihan, General Manager dan Vice President Marketing MediaTek.