Media90 (media.gatsu90rentcar.com) – Revolusi AI generatif saat ini sebagian besar berfokus pada menjalankan model AI yang besar dan kompleks di pusat data server.
Namun, beberapa model AI sudah cukup dioptimalkan untuk berjalan di komputer biasa, dan Intel telah membuat beberapa kemajuan signifikan dalam hal ini.
Intel baru-baru ini mengumumkan bahwa lebih dari 500 model AI telah dioptimalkan untuk prosesor Intel Core Ultra barunya.
Meskipun daftar tersebut kemungkinan mencakup banyak model eksperimental dan pengujian yang mungkin tidak memiliki tujuan praktis untuk sebagian besar aplikasi, namun ada beberapa yang menonjol seperti Phi-2, Meta’s Lllama model, Mistral, Bert, Whisper, dan Stable Diffusion 1.5.
Dalam siaran pers, Intel menyatakan bahwa model-model ini membentuk tulang punggung fitur perangkat lunak yang ditingkatkan AI seperti penghapusan objek, resolusi super gambar, atau ringkasan teks.
Ada hubungan langsung antara jumlah model yang diaktifkan dan dioptimalkan dan luasnya fitur AI yang dapat diakses oleh pengguna.
Sebagian besar model AI tersebut memang dapat berjalan pada perangkat keras non-Intel, tetapi dengan menambahkan dukungan untuk fitur perangkat keras yang lebih baru khusus untuk chip terbaru Intel, menjadikannya lebih praktis.
Misalnya, proses pengoptimalan model AI OpenVINO mencakup penyeimbangan beban di semua unit komputasi, mengompresi model agar berjalan secara efisien di PC AI, dan mengoptimalkan runtime untuk memanfaatkan bandwidth memori dan arsitektur inti dalam Intel Core Ultra.
Meskipun pembelajaran mesin dan model AI yang berjalan secara lokal di komputer bukanlah hal baru, menjalankan model AI generatif yang lebih baru secara lokal di PC memiliki beberapa kasus penggunaan yang menarik.
Pengguna sekarang dapat menjalankan model seperti ChatGPT dan Microsoft Copilot sepenuhnya di PC mereka sendiri, yang berpotensi menghilangkan masalah privasi dan persyaratan konektivitas jaringan yang terkait dengan pengiriman data cepat ke server eksternal.
Chatbot lokal seperti ChatRTX NVIDIA adalah langkah awal menuju itu, meskipun masih dalam tahap eksperimental dan membutuhkan PC dengan kartu grafis seri RTX 30 atau 40 yang kuat.
