Profil Model AI untuk Pemunggahan Pengiraan Cekap dalam Sistem AI Pinggir Heterogen

Senarai Kandungan

• 1. Pengenalan
• 2. Peta Hala Tuju Penyelidikan
  • 2.1 Profil Model AI Tempatan
  • 2.2 Ramalan Sumber dan Masa
  • 2.3 Penyingkiran dan Penjadualan Tugas
• 3. Butiran Teknikal
  • 3.1 Mathematical Formulations
  • 3.2 Code Implementation
• 4. Keputusan Eksperimen
• 5. Analisis Asal
• 6. Aplikasi dan Hala Masa Depan
• 7. Rujukan

1. Pengenalan

Pertumbuhan pesat aplikasi AI pengguna akhir, seperti pengecaman imej masa nyata dan AI generatif, telah menyebabkan permintaan data dan pemprosesan tinggi yang sering melebihi keupayaan peranti. Edge AI menangani cabaran ini dengan memindahkan pengiraan ke pinggir rangkaian, di mana pemprosesan AI dipercepatkan perkakasan boleh berlaku. Pendekatan ini adalah penting untuk AI dan RAN, komponen utama rangkaian 6G masa depan seperti yang digariskan oleh AI-RAN Alliance. Dalam 6G, integrasi AI merentasi peranti edge-RAN dan extreme-edge akan menyokong pengagihan data yang cekap dan teknik AI teragih, meningkatkan privasi dan mengurangkan kependaman untuk aplikasi seperti Metaverse dan pembedahan jarak jauh.

Walaupun terdapat manfaat ini, Edge AI menghadapi cabaran. Ketersediaan sumber yang terhad di pinggir boleh menghalang prestasi semasa pemindahan serentak. Selain itu, andaian seni bina sistem homogen dalam literatur sedia ada adalah tidak realistik, kerana peranti pinggir berbeza secara meluas dalam kelajuan pemproses dan seni bina (contohnya, 1.5GHz berbanding 3.5GHz, atau X86 berbanding ARM), yang mempengaruhi pemprosesan tugas dan penggunaan sumber.

2. Peta Hala Tuju Penyelidikan

Pelan hala tuju penyelidikan kami memberi tumpuan kepada pemprofilan model AI untuk mengoptimumkan pelepasan pengiraan dalam sistem Edge AI heterogen. Proses ini melibatkan persediaan sistem, pemprofilan model AI, latihan model teragih, dasar pelepasan, dan penjadualan tugas.

2.1 Profil Model AI Tempatan

Peringkat ini menganalisis bagaimana dinamik peranti dan ciri-ciri sistem mempengaruhi prestasi model AI merentas pelbagai konfigurasi perkakasan. Matlamatnya adalah untuk mendedahkan hubungan antara faktor seperti jenis model AI (MLP, CNN), hiperparameter (kadar pembelajaran, pengoptimum), spesifikasi perkakasan (seni bina, FLOPS), dan ciri-ciri set data (saiz, saiz kelompok), serta kesannya terhadap ketepatan model, penggunaan sumber, dan masa penyiapan tugas.

2.2 Ramalan Sumber dan Masa

Dengan menggunakan data profil, kami meramal keperluan sumber dan masa penyiapan tugas untuk membolehkan penjadualan cekap merentasi nod edge. Teknik seperti XGBoost digunakan untuk mencapai ketepatan ramalan yang tinggi.

2.3 Penyingkiran dan Penjadualan Tugas

Berdasarkan ramalan, tugas-tugas dihantar dan dijadualkan untuk mengoptimumkan peruntukan sumber dan meningkatkan prestasi Edge AI dalam persekitaran heterogen.

3. Butiran Teknikal

3.1 Mathematical Formulations

Rumus utama termasuk RMSE ternormal untuk ketepatan ramalan: $NRMSE = \frac{\sqrt{\frac{1}{n} \sum_{i=1}^{n} (y_i - \hat{y}_i)^2}}{y_{\max} - y_{\min}}$, di mana $y_i$ ialah nilai sebenar, $\hat{y}_i$ ialah nilai ramalan, dan $y_{\max} - y_{\min}$ ialah julat nilai sebenar. Penggunaan sumber dimodelkan sebagai $R = f(M, H, D)$, di mana $M$ ialah jenis model, $H$ ialah spesifikasi perkakasan, dan $D$ ialah ciri set data.

3.2 Code Implementation

Pseudokod untuk proses pemprofilan:

def ai_model_profiling(model_type, hyperparams, hardware_specs, dataset):

4. Keputusan Eksperimen

Eksperimen awal melibatkan lebih daripada 3,000 operasi dengan konfigurasi yang berbeza. Menggunakan XGBoost untuk ramalan, kami mencapai RMSE ternormalisasi sebanyak 0.001, peningkatan ketara berbanding MLP dengan lebih 4 juta parameter. Ini membuktikan keberkesanan pendekatan pemprofilan kami dalam mengoptimumkan peruntukan sumber dan meningkatkan prestasi Edge AI.

Rajah 1 menggambarkan peta jalan penyelidikan, menunjukkan aliran daripada persediaan sistem peranti ke penjadualan tugas, menekankan integrasi data pemprofilan ke dalam dasar pelimpahan.

5. Analisis Asal

Penyelidikan ini membentangkan kemajuan kritikal dalam Edge AI dengan menangani heterogeniti peranti pinggir melalui pemprofilan model AI yang sistematik. Pendekatan ini selaras dengan visi AI-RAN Alliance untuk rangkaian 6G, di mana pelepasan beban pengiraan yang cekap adalah penting untuk aplikasi sensitif-kelengahan seperti kenderaan autonomi dan realiti tertambah. Penggunaan XGBoost untuk ramalan sumber, mencapai RMSE ternormal 0.001, mengatasi kaedah tradisional seperti MLP, serupa dengan peningkatan yang dilihat dalam CycleGAN untuk tugas terjemahan imej (Zhu et al., 2017). Kecekapan ini adalah penting untuk sistem masa nyata di mana kekangan sumber adalah paling utama, seperti yang dinyatakan dalam kajian daripada IEEE Edge Computing Consortium.

Metodologi profil menangkap kebergantungan antara hiperparameter model, spesifikasi perkakasan, dan metrik prestasi, membolehkan penjadualan ramalan. Ini serupa dengan teknik pembelajaran pengukuhan dalam sistem teragih, seperti yang diterokai oleh Google Research untuk pengoptimuman pusat data. Walau bagaimanapun, fokus pada persekitaran tepi logam-tulen menambah lapisan kerumitan disebabkan oleh kebolehubahan perkakasan, yang sering diabaikan dalam sistem AI berasaskan awan homogen. Integrasi dengan infrastruktur 6G menjanjikan privasi yang dipertingkatkan dan kependaman yang dikurangkan, menyokong aplikasi baru seperti Metaverse. Kerja masa depan boleh meneroka integrasi pembelajaran persekutuan, seperti yang dicadangkan oleh Konečný et al. (2016), untuk menambah baik privasi data sambil mengekalkan ketepatan pemprofilan.

Secara keseluruhan, penyelidikan ini merapatkan jurang dalam literatur Edge AI dengan menyediakan penyelesaian skalabel untuk sistem heterogen, dengan impak berpotensi terhadap pemiawaian 6G dan rangka kerja pengkomputeran tepi. Keputusan empirikal daripada 3,000 pelaksanaan mengesahkan pendekatan tersebut, meletakkan asas untuk pembongkaran adaptif dalam persekitaran dinamik.

6. Aplikasi dan Hala Masa Depan

Aplikasi masa depan termasuk pengalaman Metaverse yang dipertingkat, pemantauan penjagaan kesihatan jarak jauh, dan kumpulan dron autonomi. Hala tuju melibatkan integrasi pembelajaran terfederasi untuk privasi, memanfaatkan pembahagian rangkaian 6G untuk peruntukan sumber dinamik, dan mengembangkan pemprofilan untuk memasukkan seni bina pengkomputeran neuromorfik.

7. Rujukan

1. AI-RAN Alliance. (2023). AI-RAN Working Groups. Diperoleh daripada https://ai-ran.org/working-groups/
2. Zhu, J. Y., Park, T., Isola, P., & Efros, A. A. (2017). Unpaired Image-to-Image Translation using Cycle-Consistent Adversarial Networks. In IEEE International Conference on Computer Vision (ICCV).
3. Konečný, J., McMahan, H. B., Yu, F. X., Richtárik, P., Suresh, A. T., & Bacon, D. (2016). Federated Learning: Strategies for Improving Communication Efficiency. arXiv preprint arXiv:1610.05492.
4. IEEE Edge Computing Consortium. (2022). Edge Computing Standards and Practices. Retrieved from https://www.ieee.org