讯享网

 <p id="1GVVQ9PH"><br/>卷积神经网络(CNN)是解决图像分类、分割、目标检测等任务的流行模型。本文将CNN应用于解决简单的二维路径规划问题。主要使用Python, PyTorch, NumPy和OpenCV。</p><p id="1GVVQ9PI">任务</p><p id="1GVVQ9PJ">简单地说，给定一个网格图，二维路径规划就是寻找从给定起点到所需目标位置（目标）的最短路径。 机器人技术是路径规划至关重要的主要领域之一。 A、D、D* lite 和相关变体等算法就是为解决此类问题而开发的。 如今强化学习被广泛用于解决这一问题。 本文将尝试仅使用卷积神经网络来解决简单的路径规划实例。</p><p id="1GVVQ9PK">数据集</p><p id="1GVVQ9PL">我们的主要问题是（在机器学习中一如既往）在哪里可以找到数据。 虽然没有现成的数据集可用，但是我们可以通过制作随机二维地图创建自己的路径规划数据集。 创建地图的过程非常简单：</p><p id="1GVVQ9PM">从一个 100x100 像素的方形空矩阵 M 开始。</p><p id="1GVVQ9PN">对于矩阵中的每一项（像素），从0到1均匀分布抽取一个随机数r。 如果 r &gt; diff，则将该像素设置为 1； 否则，将其设置为 0。这里的 diff 是一个参数，表示像素成为障碍物（即无法穿越的位置）的概率，它与在该地图上找到可行路径的难度成正比.</p><p id="1GVVQ9PO">然后让我们利用形态学来获得更类似于真实占用网格地图的“块状”效果。 通过改变形态结构元素的大小和 diff 参数，能够生成具有不同难度级别的地图。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2F6e468f35j00rp2qfu004wc000uk00fim.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9PR">对于每张地图需要选择 2 个不同的位置：起点 (s) 和终点 (g)。 该选择同样是随意的，但这次必须确保 s 和 g 之间的欧几里得距离大于给定阈值（使实例具有挑战性）。</p><p id="1GVVQ9PS">最后需要找到从 s 到 g 的最短路径。 这是我们训练的目标。 所以可以直接使用了流行的 D* lite 算法。</p><p id="1GVVQ9PT">我们生成的数据集包含大约 230k 个样本（170k 用于训练，50k 用于测试，15k 用于验证）。 数据量很大，所以我使用 Boost c++ 库将自定义的 D* lite 重写为 python 扩展模块。使用这个模块，生成超过 10k 个样本/小时，而使用纯 python 实现，速率约为 1k 个样本/小时（i7–6500U 8GB 内存）。 自定义 D* lite 实现的代码会在文末提供</p><p id="1GVVQ9PU">然后就是对数据做一些简单的检查，比如删掉余弦相似度很高，起点和终点坐标太近的地图。数据和代码也都会在文末提供.</p><p id="1GVVQ9PV">模型架构</p><p id="1GVVQ9Q0">模型是经典的编码器-解码器架构，将 20 个卷积层分为 3 个卷积块（编码部分），然后是另外 3 个转置卷积块（解码部分）。 每个块由 3 个 3x3 卷积层组成，每个层之间有BN和 ReLU 激活。 最后，还有另外 2 个 conv 层，加上输出层。 编码器的目标是找出输入压缩后的相关表示。解码器部分将尝试重建相同的输入映射，但这次嵌入的有用信息应该有助于找到从 s 到 g 的**路径。</p><p id="1GVVQ9Q1">该网络的输入是：</p><p id="1GVVQ9Q2">map：一个 [n, 3, 100, 100] 张量，表示占用网格图。 n 是批量大小。 这里的通道数是 3 而不是简单的 1。稍后会详细介绍。</p><p id="1GVVQ9Q3">start: 一个 [n, 2] 张量，包含每个地图中起点 s 的坐标</p><p id="1GVVQ9Q4">goal：一个[n, 2]张量，包含每个地图中目标点g的坐标</p><p id="1GVVQ9Q5">网络的输出层应用 sigmoid 函数，有效地提供了一个“分数图”，其中每个项目的值都在 0 和 1 之间，与属于从 s 到 g 的最短路径的概率成正比。 然后可以通过从 s 开始并迭代地选择当前 8 邻域中得分最高的点来重建路径。 一旦找到与 g 具有相同坐标的点，该过程就会结束。 为了提高效率，我为此使用了双向搜索算法。</p><p id="1GVVQ9Q6">在模型的编码器和解码器块之间，我还插入了 2 个跳过连接。 该模型现在非常类似于 U-Net 的架构。 跳过连接将给定隐藏层的输出注入网络中更深的其他层。 在我们的任务中关心的细节是 s、g 的确切位置，以及我们在轨迹中必须避开的所有障碍物。 所以加入跳过链接大大提高了效果。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2F6390ae2bj00rp2qfu009pc000uk00kcm.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9Q9">训练</p><p id="1GVVQ9QA">在Google Colab 上对模型进行了大约 15 小时或 23 个周期的训练。 使用的损失函数是均方误差 (MSE)。 可能有比 MSE 更好的选择，但我一直坚持使用它，因为它简单易用。</p><p id="1GVVQ9QB">学习率最初使用 CosineAnnealingWithWarmRestarts 调度程序设置为 0.001（略微修改以降低每次重启后的最大学习率）。 批量大小设置为 160。</p><p id="1GVVQ9QC">我尝试对输入图应用高斯模糊，并在第一个卷积层应用一个小的 dropout。 这些技术都没有带来任何相关效果，所以我最终放弃了它们。</p><p id="1GVVQ9QD">下面是训练后模型原始输出的可视化。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Ff4j00rp2qfu004pc000uk00fim.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2F85d5028fj00rp2qft0055c000uk00fim.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Fd69b50c4j00rp2qfu004ac000uk00fim.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9QK">卷积的一些问题</p><p id="1GVVQ9QL">起初使用输入是一个形状为 [n, 1, 100, 100]（加上起始位置和目标位置）的张量。但无法获得任何令人满意的结果。 重建的路径只是完全偏离目标位置并穿过障碍物的随机轨迹。</p><p id="1GVVQ9QM">卷积算子的一个关键特征是它是位置不变的。 卷积滤波器学习的实际上是一种特定的像素模式，这种像素模式在它所训练的数据分布中反复出现。 例如下面的图案可以表示角或垂直边缘。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Fej00rp2qfu002wc000uk00fim.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9QP">无论过滤器学习什么模式，关键的问题是它学会独立于图像中的位置来识别它。对于像图像分类这样的任务来说，这无疑是一个理想的特性，因为在这些任务中，表征目标类的模式可能出现在图像的任何地方。但在我们的情况下，位置是至关重要的!我们需要这个网络非常清楚的知道轨迹从哪里开始，从哪里结束。</p><p id="1GVVQ9">位置编码</p><p id="1GVVQ9QR">位置编码是一种通过将数据嵌入(通常是简单的和)到数据本身中来注入关于数据位置的信息的技术。它通常应用于自然语言处理(NLP)中，使模型意识到句子中单词的位置。我想这样的东西对我们的任务也有帮助。</p><p id="1GVVQ9QS">我通过在输入占用图中添加这样的位置编码进行了一些实验，但效果并不好。可能是因为通过添加关于地图上每个可能位置的信息，违背了卷积的位置不变性，所以滤波器现在是无用的。</p><p id="1GVVQ9QT">所以这里基于对路径规划的观察，我们对绝对位置不感兴趣，而只对相对范围感兴趣。也就是说，我们感兴趣的是占用图中每个单元格相对于起点s和目标点g的位置。例如，以坐标(x, y)为单元格。我并不真正关心(x, y)是否等于(45,89)还是(0,5)。我们关心的是(x, y)距离s 34格，距离g 15格。</p><p id="1GVVQ9QU">所以我为每个占用网格图创建2个额外的通道，现在它的形状为[3,100,100] 。第一个通道是图像。第二个通道表示一个位置编码，它为每个像素分配一个相对于起始位置的值。第三通道则是相对于结束位置的值。这样的编码是通过分别从以s和g为中心的二维高斯函数创建2个特征映射来实现的。Sigma被选为核大小的五分之一(通常在高斯滤波器中)。在我们的例子中是20，地图大小是100。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Fb7e8ed01p00rp2qfq0000c0006d0012m.png&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9R1">在注入关于期望的轨迹起始和最终位置的有用信息的同时，我们还部分地保留了与过滤器位置不变性的一致性。可学习的模式现在只依赖于相对于给定点的距离，而不是地图上每个可能的位置。距离s或g相同距离的2个相等的图案现在将触发相同的过滤器激活。经过实验这个小技巧在收敛训练中非常有效。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Fcb21e84cj00rp2qfu001vc000uk00fim.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9R4">结果和结论</p><p id="1GVVQ9R5">通过测试了超过 51103 个样本的训练模型。</p><p id="1GVVQ9R6">95% 的总测试样本能够使用双向搜索提供解决方案。 也就是说，该算法使用模型给出的得分图可以在 48556 个样本中找到从 s 到 g 的路径，而对于其余 2547 个样本则无法找到。</p><p id="1GVVQ9R7">总测试样本的 87% 提供了有效的解决方案。 也就是说从 s 到 g 的轨迹不穿越任何障碍物（该值不考虑 1 个单元格的障碍物边缘约束）。</p><p id="1GVVQ9R8">在有效样本上，真实路径与模型提供的解决方案之间的平均误差为 33 个单元格。 考虑到地图是 100x100 单元格，这是相当高的。 错误范围从最小 0（即，在 2491 个样本中的真实路径被“完美”的重建了）到最大……745 个单元（这个肯定还有一些问题）</p><p id="1GVVQ9R9">下面可以看看我们测试集中的一些结果。图像的左侧描述了训练过的网络提供的解决方案，而右侧显示了D* lite算法的解决方案。</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Fcf2c3cefj00rp2qfu006ac000uk00fam.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Fej00rp2qfs004dc000ku00afm.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9RE">我们网络提供的解决方案比D* lite给出的解决方案短</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2F48232e34j00rp2qfu0048c000uk00fam.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2F2d66aae6j00rp2qft0050c000uk00fam.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9RJ">下面就是一些错误的图</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Fa63f9451j00rp2qfu0038c000uk00fam.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2Fb3ae4cedj00rp2qfs002lc000ku00afm.jpg&thumbnail=660x&quality=80&type=jpg"/><br/><br/></p><p id="1GVVQ9RO">看着应该是感受野不太大，所以在感受野的区域内没有找到任何的边缘，这个可能还要再改进模型</p><p id="1GVVQ9RP">最后，这项工作远非最先进的结果，如果你有兴趣的话可以继续改进。</p><p id="1GVVQ9RQ">https://avoid.overfit.cn/post/c595e81d1dead17ccfca3cf79b</p><p id="1GVVQ9RR">作者：Davide Caffagni</p><p class="f_center"><img src="https://nimg.ws.126.net/?url=http%3A%2F%2Fdingyue.ws.126.net%2F2023%2F0126%2F8b4f357ej00rp2q5d0036d000zk00b8p.jpg&thumbnail=660x&quality=80&type=jpg"/><br/></p>