https://wiki.swarma.org/index.php?action=history&feed=atom&title=%E7%94%9F%E9%95%BF%E5%9E%8B%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C 2026-11-03T00:31:09Z 本wiki的该页面的版本历史 MediaWiki 1.35.0 https://wiki.swarma.org/index.php?title=%E7%94%9F%E9%95%BF%E5%9E%8B%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C&diff=34790&oldid=prev 2024-05-21T09:12:03Z

<p><span dir="auto"><span class="autocomment">基本思路</span></span></p> <table class="diff diff-contentalign-left diff-editfont-monospace" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="zh-Hans-CN"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">←上一版本</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">2024年5月21日 (二) 09:12的版本</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l16" >第16行：</td> <td colspan="2" class="diff-lineno">第16行：</td></tr> <tr><td class='diff-marker'> </td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>* 对比神经元对下一层的连接权重，可以得到比较重要的神经元，权重越大越重要，反之则不重要，可以考虑去掉</div></td><td class='diff-marker'> </td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>* 对比神经元对下一层的连接权重，可以得到比较重要的神经元，权重越大越重要，反之则不重要，可以考虑去掉</div></td></tr> <tr><td class='diff-marker'> </td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>* 每层神经元数量有个上限，当所有神经元都已经得到最大化利用之后，考虑增加层数</div></td><td class='diff-marker'> </td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>* 每层神经元数量有个上限，当所有神经元都已经得到最大化利用之后，考虑增加层数</div></td></tr> <tr><td class='diff-marker'>−</td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #ffe49c; vertical-align: top; white-space: pre-wrap;"><div>[[<del class="diffchange diffchange-inline">category</del>:<del class="diffchange diffchange-inline">旧词条迁移</del>]]</div></td><td class='diff-marker'>+</td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div>[[<ins class="diffchange diffchange-inline">Category</ins>:<ins class="diffchange diffchange-inline">待润色</ins>]]</div></td></tr> </table>

Gyt666 https://wiki.swarma.org/index.php?title=%E7%94%9F%E9%95%BF%E5%9E%8B%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C&diff=15451&oldid=prev 2020-10-16T05:07:17Z

<p></p> <table class="diff diff-contentalign-left diff-editfont-monospace" data-mw="interface"> <col class="diff-marker" /> <col class="diff-content" /> <col class="diff-marker" /> <col class="diff-content" /> <tr class="diff-title" lang="zh-Hans-CN"> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">←上一版本</td> <td colspan="2" style="background-color: #fff; color: #202122; text-align: center;">2020年10月16日 (五) 05:07的版本</td> </tr><tr><td colspan="2" class="diff-lineno" id="mw-diff-left-l16" >第16行：</td> <td colspan="2" class="diff-lineno">第16行：</td></tr> <tr><td class='diff-marker'> </td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>* 对比神经元对下一层的连接权重，可以得到比较重要的神经元，权重越大越重要，反之则不重要，可以考虑去掉</div></td><td class='diff-marker'> </td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>* 对比神经元对下一层的连接权重，可以得到比较重要的神经元，权重越大越重要，反之则不重要，可以考虑去掉</div></td></tr> <tr><td class='diff-marker'> </td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>* 每层神经元数量有个上限，当所有神经元都已经得到最大化利用之后，考虑增加层数</div></td><td class='diff-marker'> </td><td style="background-color: #f8f9fa; color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #eaecf0; vertical-align: top; white-space: pre-wrap;"><div>* 每层神经元数量有个上限，当所有神经元都已经得到最大化利用之后，考虑增加层数</div></td></tr> <tr><td colspan="2"> </td><td class='diff-marker'>+</td><td style="color: #202122; font-size: 88%; border-style: solid; border-width: 1px 1px 1px 4px; border-radius: 0.33em; border-color: #a3d3ff; vertical-align: top; white-space: pre-wrap;"><div><ins style="font-weight: bold; text-decoration: none;">[[category:旧词条迁移]]</ins></div></td></tr> </table>

小趣木木 https://wiki.swarma.org/index.php?title=%E7%94%9F%E9%95%BF%E5%9E%8B%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C&diff=15450&oldid=prev 2020-10-16T05:06:02Z

<p>创建页面，内容为“=目的= * 创建一个神经网络算法，它的结构是生长出来的 * 在相同的损失函数上，相比于传统方法有着不低于传统方法的准确…”</p> <p><b>新页面</b></p><div>=目的=<br /> * 创建一个神经网络算法，它的结构是生长出来的<br /> * 在相同的损失函数上，相比于传统方法有着不低于传统方法的准确率<br /> * 相比传统方法结构更简单，模型的体积更小<br /> <br /> =现状=<br /> * learning rate的自动调节策略已经发展的很成熟<br /> * learning 2 learn 的方案可以自动学习参数，但主要是调整参数的思路<br /> * 利用遗传算法可以选择多种神经网络结构，但是也摆脱不了调参数的思路<br /> * 可以对输入数据进行预分析，直接得到最优*网络结构（曹旭东2015 DataScienceBow）<br /> <br /> =基本思路=<br /> * 不要引入大量额外计算，所以要最大化利用现在nn已经算出来的东西<br /> * 通过神经元不同状态分布，计算信息熵，信息熵越高，说明这个神经元包含的信息量比较多，是个好神经元，考虑分身<br /> * 对比神经元对上一层输入权重，可以得到相似的神经元，相似神经元可以考虑合并<br /> * 对比神经元对下一层的连接权重，可以得到比较重要的神经元，权重越大越重要，反之则不重要，可以考虑去掉<br /> * 每层神经元数量有个上限，当所有神经元都已经得到最大化利用之后，考虑增加层数</div>

小趣木木