علوم رایانشی

علوم رایانشی

بهبود یادگیری ائتلافی در خودروهای خودران با استفاده از الگوریتم تاریخچه خطا و وزن‌دهی نمایی: یک رویکرد منصفانه

نوع مقاله : مقاله پژوهشی

نویسندگان
1 گروه کامپیوتر، واحد قم، دانشگاه آزاد اسلامی، قم، ایران
2 استادیار گروه مهندسی کامپیوتر، دانشکده فنی و مهندسی، دانشگاه آزاد اسلامی، واحد تبریز، تبریز، ایران
3 استادیار دانشکده مهندسی، دانشگاه آزاد اسلامی واحد آشتیان، آشتیان، ایران
10.22034/csj.2024.203197
چکیده
در یادگیری ائتلافی خودروهای خودران، چالش اصلی عدم توازن و انصاف در دسترسی به داده‌های مختلف از سوی مشترکین است که می‌تواند منجر به کاهش دقت مدل و افزایش نوسانات در فرآیند یادگیری شود. این مسئله به ویژه زمانی که داده‌ها به صورت نابرابر بین مشترکین توزیع شده‌اند، نمایان‌تر می‌شود. برای رفع این چالش، یک الگوریتم جدید مبتنی بر تاریخچه خطا و وزن‌دهی نمایی پیشنهاد می‌دهیم. الگوریتم پیشنهادی از تاریخچه خطای n دور اخیر استفاده می‌کند و نرمال شده خطای هر مشترک را در گرادیان ارسالی ضرب می‌کند. این رویکرد باعث می‌شود تا از نوسانات شدید در به‌روزرسانی وزن‌ها جلوگیری شود و بهبود دقت و همگرایی سریع‌تر حاصل گردد. علاوه بر این، وزن‌دهی نمایی کمک می‌کند تا انصاف در فرآیند یادگیری حفظ شود، به گونه‌ای که مشترکین با داده‌های نامتوازن نیز عملکرد بهتری داشته باشند. برای ارزیابی عملکرد الگوریتم، آزمایش‌های گسترده‌ای بر روی مجموعه داده شبیه‌سازی شده KITTI انجام دادیم. نتایج نشان می‌دهد که الگوریتم پیشنهادی در مقایسه با الگوریتم‌های استاندارد مانند FedAvg، به 3 درصد دقت بالاتر دست می‌یابد. همچنین، استفاده از وزن‌دهی نمایی به بهبود انصاف در فرآیند یادگیری کمک می‌کند، به گونه‌ای که اختلاف واریانس دقت الگوریتم پیشنهادی با بقیه الگوریتم‌ها در بهترین حالت 400 می‌باشد.
کلیدواژه‌ها
موضوعات

[1]    J. Kabzan, L. Hewing, A. Liniger, and M. N. Zeilinger, "Learning-based model predictive control for autonomous racing," IEEE Robotics and Automation Letters, vol. 4, no. 4, pp. 3363-3370, 2019.
[2]    H. Ye, L. Liang, G. Y. Li, J. Kim, L. Lu, and M. Wu, "Machine learning for vehicular networks: Recent advances and application examples," ieee vehicular technology magazine, vol. 13, no. 2, pp. 94-101, 2018.
[3]    N. Darapaneni et al., "Autonomous car driving using deep learning," in 2021 2nd International Conference on Secure Cyber Computing and Communications (ICSCCC), 2021: IEEE, pp. 29-33.
[4]    L. Paulino, M. Zhu, and W. Wang, "Learning Autonomous Driving in Tangible Practice: Development and On-Road Applications of a 1/10-Scale Autonomous Vehicle," in 2021 IEEE Frontiers in Education Conference (FIE), 2021: IEEE, pp. 1-4.
[5]    S. Shalev-Shwartz, S. Shammah, and A. Shashua, "Safe, multi-agent, reinforcement learning for autonomous driving," arXiv preprint arXiv:1610.03295, 2016.
[6]    A. Kendall et al., "Learning to Drive in a Day," 2019 International Conference on Robotics and Automation (ICRA), pp. 8248-8254, 2018.
[7]    M. Kuderer, S. Gulati, and W. Burgard, "Learning driving styles for autonomous vehicles from demonstration," in 2015 IEEE international conference on robotics and automation (ICRA), 2015: IEEE, pp. 2641-2646.
[8]    S. Lefevre, A. Carvalho, and F. Borrelli, "A learning-based framework for velocity control in autonomous driving," IEEE Transactions on Automation Science and Engineering, vol. 13, no. 1, pp. 32-42, 2015.
[9]    S. Grigorescu, B. Trasnea, T. Cocias, and G. Macesanu, "A survey of deep learning techniques for autonomous driving," Journal of field robotics, vol. 37, no. 3, pp. 362-386, 2020.
[10]  R. Parekh et al., "Gefl: Gradient encryption-aided privacy preserved federated learning for autonomous vehicles," IEEE Access, vol. 11, pp. 1825-1839, 2023.
[11]  V. P. Chellapandi, L. Yuan, S. H. Żak, and Z. Wang, "A survey of federated learning for connected and automated vehicles," in 2023 IEEE 26th International Conference on Intelligent Transportation Systems (ITSC), 2023: IEEE, pp. 2485-2492.
[12]  S. Wu et al., "Motley: Benchmarking heterogeneity and personalization in federated learning," arXiv preprint arXiv:2206.09262, 2022.
[13]  A. Kendall et al., "Learning to drive in a day," in 2019 international conference on robotics and automation (ICRA), 2019: IEEE, pp. 8248-8254.
[14]  L. Anzalone, S. Barra, and M. Nappi, "Reinforced curriculum learning for autonomous driving in CARLA," in 2021 IEEE International Conference on Image Processing (ICIP), 2021: IEEE, pp. 3318-3322.
[15]  X. Tang, J. Zhang, Y. Fu, C. Li, N. Cheng, and X. Yuan, "A Fair and Efficient Federated Learning Algorithm for Autonomous Driving," in 2023 IEEE 98th Vehicular Technology Conference (VTC2023-Fall), 2023: IEEE, pp. 1-5.
[16]  S. Khanal, K. Thar, and E.-N. Huh, "Route-based proactive content caching using self-attention in hierarchical federated learning," IEEE Access, vol. 10, pp. 29514-29527, 2022.
[17]  L. Fantauzzo et al., "Feddrive: Generalizing federated learning to semantic segmentation in autonomous driving," in 2022 IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS), 2022: IEEE, pp. 11504-11511.
[18]  K. Yang, Y. Shi, Y. Zhou, Z. Yang, L. Fu, and W. Chen, "Federated machine learning for intelligent IoT via reconfigurable intelligent surface," IEEE network, vol. 34, no. 5, pp. 16-22, 2020.
[19]  M. Aparna, R. Gandhiraj, and M. Panda, "Steering angle prediction for autonomous driving using federated learning: The impact of vehicle-to-everything communication," in 2021 12th International Conference on Computing Communication and Networking Technologies (ICCCNT), 2021: IEEE, pp. 1-7.
[20]  J.-H. Chen, M.-R. Chen, G.-Q. Zeng, and J.-S. Weng, "BDFL: A byzantine-fault-tolerance decentralized federated learning method for autonomous vehicle," IEEE Transactions on Vehicular Technology, vol. 70, no. 9, pp. 8639-8652, 2021.
[21]  A. Yadav and A. Kaur, "BIFT: A federated learning System for Connected and Autonomous Vehicles Based on Blockchain," in 2023 3rd International Conference on Advance Computing and Innovative Technologies in Engineering (ICACITE), 2023: IEEE, pp. 1724-1727.
[22]  A. Mollanejad, A. H. Navin, and S. Ghanbari, "Fairness-aware loss history based federated learning heuristic algorithm," Knowledge-Based Systems, p. 111467, 2024.
[23]  C. Zhao, Z. Gao, Q. Wang, K. Xiao, Z. Mo, and M. J. Deen, "FedSup: A communication-efficient federated learning fatigue driving behaviors supervision approach," Future Generation Computer Systems, vol. 138, pp. 52-60, 2023.
[24]  K. Doshi and Y. Yilmaz, "Federated learning-based driver activity recognition for edge devices," in Proceedings of the IEEE/CVF Conference on computer Vision and Pattern Recognition, 2022, pp. 3338-3346.
[25]  G. Rjoub, O. A. Wahab, J. Bentahar, and A. S. Bataineh, "Improving autonomous vehicles safety in snow weather using federated YOLO CNN learning," in International Conference on Mobile Web and Intelligent Information Systems, 2021: Springer, pp. 121-134.
[26]  L. U. Khan, Y. K. Tun, M. Alsenwi, M. Imran, Z. Han, and C. S. Hong, "A dispersed federated learning framework for 6G-enabled autonomous driving cars," IEEE Transactions on Network Science and Engineering, 2022.
[27]  X. Liang, Y. Liu, T. Chen, M. Liu, and Q. Yang, "Federated transfer reinforcement learning for autonomous driving," in Federated and Transfer Learning: Springer, 2022, pp. 357-371.
[28]  A. Nguyen et al., "Deep federated learning for autonomous driving," in 2022 IEEE Intelligent Vehicles Symposium (IV), 2022: IEEE, pp. 1824-1830.
[29]  B. McMahan, E. Moore, D. Ramage, S. Hampson, and B. A. y Arcas, "Communication-efficient learning of deep networks from decentralized data," in Artificial Intelligence and Statistics, 2017: PMLR, pp. 1273-1282.
[30]  T. Li, M. Sanjabi, A. Beirami, and V. Smith, "Fair resource allocation in federated learning," arXiv preprint arXiv:1905.10497, 2019.
[31]  J. Stallkamp, M. Schlipsing, J. Salmen, and C. Igel, "The German Traffic Sign Recognition Benchmark: A multi-class classification competition," in The 2011 International Joint Conference on Neural Networks, 31 July-5 Aug. 2011 2011, pp. 1453-1460, doi: 10.1109/IJCNN.2011.6033395.