علوم رایانشی

علوم رایانشی

یک رویکرد مبتنی بر یادگیری تقویتی جهت بهبود مصرف انرژی در شبکه‌های حسگر بی‌سیم به کمک عامل متحرک

نوع مقاله : مقاله پژوهشی

نویسندگان
1 دانشجوی کارشناسی گروه مهندسی کامپیوتر، دانشکدۀ فنی و مهندسی، دانشگاه بین‌‌المللی امام‌‌خمینی، قزوین، ایران
2 استادیار، گروه مهندسی کامپیوتر، دانشکدۀ فنی و مهندسی، دانشگاه بین‌‌المللی امام‌‌خمینی، قزوین، ایران
10.22034/csj.2025.227839
چکیده
محدودیت انرژی و مدیریت مصرف آن یکی از چالش‌‌های اساسی در شبکه‌‌های حسگر بی‌‌سیم محسوب می‌‌شود. در این شبکه‌ها، گره‌های نزدیک به ایستگاه پایه معمولاً انرژی بیشتری مصرف کرده و زودتر از کار می‌افتند؛ در نتیجه، کارآیی و طول عمر شبکه به شدت کاهش می‌یابد. یکی از راه‌‌های غلبه بر این مشکل، استفاده از عامل متحرک است که می‌‌تواند داده‌‌ها را از گره‌‌های شبکه جمع‌آوری کرده و حتی آنها را شارژ کند. این پژوهش، یک رویکرد مبتنی بر یادگیری تقویتی برای بهبود عملکرد عامل متحرک ارائه می‌‌دهد. در رویکرد پیشنهادی، عامل متحرک به صورت هوشمندانه تصمیم می‌گیرد که هنگام رسیدن به یک گره جدید، آیا آن گره را شارژ کند یا داده‌های آن را جمع‌آوری نماید. علاوه بر این، عامل متحرک پس از اتمام عملیات، مقصد بعدی خود را نیز مبتنی بر یادگیری انتخاب می‌کند. برای این منظور، عملکرد عامل متحرک با استفاده از فرآیند تصمیم‌‌گیری مارکف مدل‌‌سازی شده، سپس یک راه‌‌حل مبتنی بر یادگیری تقویتی برای آن ارائه شده ‌‌است. نتایج شبیه‌سازی نشان می‌دهد که رویکرد پیشنهادی مصرف انرژیِ حسگرها را در کل شبکه‌‌ به صورت متوازن‌‌تری توزیع کرده و طول عمر شبکه را در مقایسه با روش‌‌های پیشین‌‌ به طور متوسط 16 درصد افزایش می‌‌دهد.
کلیدواژه‌ها
موضوعات

  1. Kandris, D., Nakas, C., Vomvas, D. & Koulouras, G. 2020. “Applications of wireless sensor networks: an up-to-date survey,” Applied system innovation, vol. 3, no. 1, Art. no. 14.
  2. Singh, J., Kaur, R. & Singh, D. 2021. “Energy harvesting in wireless sensor networks: A taxonomic survey,” International Journal of Energy Research, vol. 45, no. 1, pp.118-140.
  3. Khalaf, O. I., & Abdulsahib, G. M. 2020. “Energy efficient routing and reliable data transmission protocol in WSN,” J. Advance Soft Compu. Appl, vol. 12, no. 3, pp.45-53.
  4. Karimi-Bidhendi, S., Guo, J., & Jafarkhani, H. 2022. "Energy-Efficient Deployment in Static and Mobile Heterogeneous Multi-Hop Wireless Sensor Networks," IEEE Transactions on Wireless Communications, vol. 21, no. 7, pp. 4973-4988.
  5. Altowaijri, S. M. 2022. “Efficient next-hop selection in multi-hop routing for IoT enabled wireless sensor networks,” Future Internet, vol. 14, no. 2, Art. no. 35.
  6. Sah D. K., & Amgoth, T. 2020. “Renewable energy harvesting schemes in wireless sensor networks: A survey,” Information Fusion, vol. 63, pp.223-247.
  7. Li, H., Dai, Y., Chen, Q., Liao, D. & Jin, H. 2024.“Energy efficient mobile sink driven data collection in wireless sensor network with nonuniform data,” Scientific Reports, vol. 14, no. 1, Art. no. 28190.
  8. Singh, J., Kaur, R., & Singh, D. 2021. “Energy harvesting in wireless sensor networks: A taxonomic survey,” International Journal of Energy Research, vol. 45, no. 1, pp.118-140.
  9. Nguyen, M. T., Nguyen, C. V., Tran, H. T. & Viola, F. 2023. “Energy harvesting for mobile agents supporting wireless sensor networks,” Energy Harvesting and Systems, vol. 10, no. 2, pp.267-275.
  10. Sonai, V., & Bharathi, I. 2024. "A New Statistical Compression-Based Method for Wireless Sensor Networks Energy Efficient Data Transmission," IEEE Sensors Letters, vol. 8, no. 3, pp. 1-4.
  11. Saravanan R., & Sathya, V. 2024. “Wireless sensor network data gathering using a multi-fold gravitational search algorithm with a mobile agent,” International Journal of System of Systems Engineering, vol. 14, no. 1, pp.23-41.
  12. Fissaoui, M. E., Beni-hssane, A., Ouhmad, S. & Makkaoui, K. E. 2021. “A survey on mobile agent itinerary planning for information fusion in wireless sensor networks,” Archives of computational methods in engineering, vol. 28, pp.1323-1334.
  13. Alsboui, T., Hill, R., Al-Aqrabi, H., Farid, H. M. A., Riaz, M., Iram, S., Shakeel, H. M., & Hussain, M. 2022. “A dynamic multi-mobile agent itinerary planning approach in wireless sensor networks via intuitionistic fuzzy set,” Sensors, vol. 22, no. 20, Art. no. 8037.
  14. Gao, Z., Liu, C., & Chen, Y. 2024.“Scheduling of ERD-assisted charging of a WRSN using a directional mobile charger,” IEEE Transactions on Mobile Computing, vol. 23, no. 6, pp. 6681-6696.
  15. Kamble, A. A. & Patil, B. M. 2021.“Systematic analysis and review of path optimization techniques in WSN with mobile sink,” Computer Science Review, vol. 41, Art. no. 100412.
  16. Matsuo, Y., LeCun, Y., Sahani, M., Precup, D., Silver, D., Sugiyama, M., Uchibe, E. & Morimoto, J. 2022. “Deep learning, reinforcement learning, and world models, Neural Networks, vol. 152, pp.267-275.
  17. Steimle, L. N., Kaufman, D. L. & Denton, B. T. 2021. “Multi-model Markov decision processes,” IISE Transactions, vol. 53, no. 10, pp.1124-1139.
  18. Clifton, J. & Laber, F. 2020. “Q-learning: Theory and applications,” Annual Review of Statistics and Its Application, vol. 7, no. 1, pp.279-301.
  19. Xie, G., Ota, K., Dong, M., Pan, F. & Liu, A. 2017. "Energy-efficient routing for mobile data collectors in wireless sensor networks with obstacles," Peer-to-Peer Networking and Applications, vol. 10, no. 3, pp. 472–483.
  20. Chen, S-S., Chen, J.-J., Gao, X.-Y., & Chen, T.-C. 2022. "Mobile Charging Strategy for Wireless Rechargeable Sensor Networks," Sensors, vol. 22, no. 1, pp. 359.
  21. Yang, Y., Li, C., & Pan, W. 2022. "Mobile Charging Strategy for Wireless Rechargeable Sensor Networks," Sensors, vol. 22, no. 1, pp. 359.
  22. Lohani, D., & Varma, S. 2016. "Energy Efficient Data Aggregation in Mobile Agent Based Wireless Sensor Network," Wireless Personal Communications, vol. 89, pp. 1165–1176.
  23. Alsboui, T., Hill, R., Al-Aqrabi, H., et al., 2022. "A Dynamic Multi-Mobile Agent Itinerary Planning Approach in Wireless Sensor Networks via Intuitionistic Fuzzy Set," Sensors, vol. 22, no. 20, pp. 8037.
  24. Teymourzadeh, M., Vahed, R., Alibeygi, S., & Dastanpour, N. 2020. "Security in Wireless Sensor Networks: Issues and Challenges," arXiv preprint arXiv:2007.05111.
  25. Lohani, D. & Varma, S. 2016. "Energy Efficient Data Aggregation in Mobile Agent Based Wireless Sensor Network," Wireless Personal Communications, vol. 89, pp. 1165–1176.
  26. Tran, H. T., Nguyen, C. V., Phung, N. T., & Nguyen, M. T. 2023. "Mobile Agents Assisted Data Collection in Wireless Sensor Networks Utilizing ZigBee Technology," Bulletin of Electrical Engineering and Informatics, vol. 12, no. 2, pp. 4541–4548.
  27. Nguyen, M. T., Nguyen, C. V., Tran, H. T., & Viola, F. 2023. "Energy harvesting for mobile agents supporting wireless sensor networks," Energy Harvesting and Systems, vol. 10, no. 2, pp. 267-275.
  28. Saravanan, R. & Sathya, V. 2024. “Wireless sensor network data gathering using a multi-fold gravitational search algorithm with a mobile agent,” International Journal of System of Systems Engineering, vol. 14, no. 1, pp. 23-41.
  29. Singh, H., Bala, M. & Bamber, S. S. 2020. “Augmenting network lifetime for heterogenous WSN assisted IoT using mobile agent,” Wireless Networks, vol. 26, pp. 5965–597.
  30. Heinzelman, W. R., Chandrakasan, A., & Balakrishnan, H. 2000. "Energy-efficient communication protocol for wireless microsensor networks," Proceedings of the 33rd Annual Hawaii International Conference on System Sciences, Maui, HI, USA.
  31. Camli, B., Sarioglu, B., & Yalcinkaya, A. D. 2014. "Photodiodes for Monolithic CMOS Circuit Applications," IEEE Journal of Selected Topics in Quantum Electronics, vol. 20, no. 6, pp. 336-343, Art. no. 3803908.