研究目的
为具有能量收集功能的物联网设备提出基于强化学习的计算卸载方案,以在无需预先了解MEC、能耗和计算延迟模型的情况下优化卸载策略。
研究成果
基于强化学习的卸载方案使物联网设备无需预先掌握模型知识即可实现最优卸载策略,在降低能耗、计算延迟和任务丢弃率的同时提升效用。深度强化学习方案加速了学习进程并优于基准方法,其理论边界通过仿真得到验证。未来工作包括实验实施。
研究不足
假设包括已知的EH模型和基于马尔可夫链的无线传输速率,这些可能无法完全捕捉现实世界的动态。深度强化学习的计算复杂度对于资源受限的物联网设备来说可能较高,且这些方案依赖于足够的探索时间来实现收敛。
1:实验设计与方法选择:
本研究采用强化学习(RL)和深度强化学习技术,特别是Q学习和深度卷积神经网络(CNN),将卸载过程建模为马尔可夫决策过程(MDP)。算法1(RLO)和算法2(DRLO)根据系统状态(包括电池电量、无线传输速率和预测采集能量)设计卸载策略选择方案。
2:样本选择与数据来源:
针对具有射频能量采集功能的物联网设备进行仿真,该设备以120 kb/s速率生成计算任务,相关参数(如无线传输速率和距离)采用马尔可夫链建模。
3:实验设备与材料清单:
包含能量采集??榈奈锪璞?、边缘设备、射频能量发射器以及计算资源(例如用于深度学习实现的高通骁龙800平台和英伟达Tegra K1平台)。
4:实验流程与操作步骤:
时间被划分为时隙;每个时隙中,物联网设备估算采集能量、观测系统状态、使用ε-贪婪法选择卸载策略、执行任务卸载、评估效用并更新Q函数或CNN权重。
5:数据分析方法:
性能指标包括能耗、计算延迟、任务丢弃率和效用值。仿真将所提方案与基准方法(如DRL、Q学习、非卸载方案)按时隙进行对比,并推导收敛的理论边界。
独家科研数据包,助您复现前沿成果,加速创新突破
获取完整内容-
Nvidia Tegra K1
Tegra K1
Nvidia
IoT platform supporting deep learning implementation for computation offloading.
-
Qualcomm Snapdragon 800
Snapdragon 800
Qualcomm
IoT platform supporting deep learning implementation for computation offloading.
-
RF energy harvester
Captures ambient RF signals for energy harvesting in IoT devices.
-
Photovoltaic modules
Converts solar energy to electricity for IoT devices.
-
Wind turbines
Converts wind energy to electricity for IoT devices.
-
登录查看剩余3件设备及参数对照表
查看全部