138
个编辑
更改
跳到导航
跳到搜索
第6行：
第6行： − + − + − + 第31行：
第31行： − + − + − + − +
无编辑摘要
==概述==
==概述==
神经形态工程 Neuromorphic engineering（也称为神经形态计算 Neuromorphic computing或类脑计算 Brain-inspired computing）。<ref>Monroe, D. (2014). "[https://datascienceassn.org/sites/default/files/Neuromorphic%20Computing%20Ready%20for%20Big%20Time.pdf Neuromorphic computing gets ready for the (really) big time]". Communications of the ACM. 57 (6): 13–15. doi:[https://datascienceassn.org/sites/default/files/Neuromorphic%20Computing%20Ready%20for%20Big%20Time.pdf 10.1145/2601069].</ref><ref>Zhao, W. S.; Agnus, G.; Derycke, V.; Filoramo, A.; Bourgoin, J. -P.; Gamrat, C. (2010). "Nanotube devices based crossbar architecture: Toward neuromorphic computing". Nanotechnology. 21 (17): 175202. Bibcode:2010Nanot..21q5202Z. doi:10.1088/0957-4484/21/17/175202. <nowiki>PMID 20368686</nowiki>.</ref><ref>The Human Brain Project SP 9: Neuromorphic Computing Platform on YouTube</ref>
神经形态工程 Neuromorphic engineering（也称为神经形态计算 Neuromorphic computing或类脑计算 Brain-inspired computing）。<ref>Monroe, D. (2014). "[https://datascienceassn.org/sites/default/files/Neuromorphic%20Computing%20Ready%20for%20Big%20Time.pdf Neuromorphic computing gets ready for the (really) big time]". Communications of the ACM. 57 (6): 13–15. doi:[https://datascienceassn.org/sites/default/files/Neuromorphic%20Computing%20Ready%20for%20Big%20Time.pdf 10.1145/2601069].</ref><ref>Zhao, W. S.; Agnus, G.; Derycke, V.; Filoramo, A.; Bourgoin, J. -P.; Gamrat, C. (2010). "[https://iopscience.iop.org/article/10.1088/0957-4484/21/17/175202 Nanotube devices based crossbar architecture: Toward neuromorphic computing]". Nanotechnology. 21 (17): 175202. Bibcode:2010Nanot..21q5202Z. doi:[https://iopscience.iop.org/article/10.1088/0957-4484/21/17/175202 10.1088/0957-4484/21/17/175202]. <nowiki>PMID 20368686</nowiki>.</ref><ref>The Human Brain Project SP 9: Neuromorphic Computing Platform on YouTube</ref>
是指使用包含电子模拟电路的超大规模集成电路系统来模拟神经系统中生理结构的研究方法。神经形态计算机或神经形态芯片包括任何使用由硅制成的人造神经元进行计算的设备。<ref>Mead, Carver (1990). "Neuromorphic electronic systems" (PDF). Proceedings of the IEEE. 78 (10): 1629–1636. doi:10.1109/5.58356.</ref><ref name=":0">"Neuromorphic Circuits With Neural Modulation Enhancing the Information Content of Neural Signaling | International Conference on Neuromorphic Systems 2020" (in English). doi:10.1145/3407197.3407204.</ref>近年来，神经形态学 neuromorphic被用来描述能够实现神经系统模型功能（如感知、运动控制，多感官整合等）的模拟、数字、模拟/数字混合模式超大规模集成电路和软件系统。神经形态计算的硬件实现可以通过基于氧化物的记忆电阻器 Memristor（简称忆阻器）、自旋电子存储器、阈值开关和晶体管来实现。<ref name=":0" /><ref>Zhou, You; Ramanathan, S. (2015-08-01). "Mott Memory and Neuromorphic Devices". Proceedings of the IEEE. 103 (8): 1289–1310. doi:10.1109/JPROC.2015.2431914. ISSN 0018-9219.</ref>对基于软件的脉冲神经网络系统的训练可以通过误差反向传播机制来实现，例如，使用snnTorch等基于Python的框架<ref>Eshraghian, Jason K.; Ward, Max; Neftci, Emre; Wang, Xinxin; Lenz, Gregor; Dwivedi, Girish; Bennamoun, Mohammed; Jeong, Doo Seok; Lu, Wei D. (1 October 2021). "Training Spiking Neural Networks Using Lessons from Deep Learning". arXiv:2109.12894.</ref>，或使用BindsNet等典型的受生物启发的学习模式<ref>"Hananel-Hazan/bindsnet: Simulation of spiking neural networks (SNNs) using PyTorch". 31 March 2020.</ref>。
是指使用包含电子模拟电路的超大规模集成电路系统来模拟神经系统中生理结构的研究方法。神经形态计算机或神经形态芯片包括任何使用由硅制成的人造神经元进行计算的设备。<ref>Mead, Carver (1990). "[https://ieeexplore.ieee.org/document/58356 Neuromorphic electronic systems]" (PDF). Proceedings of the IEEE. 78 (10): 1629–1636. doi:[https://ieeexplore.ieee.org/document/58356 10.1109/5.58356].</ref><ref name=":0">"[https://dl.acm.org/doi/10.1145/3407197.3407204 Neuromorphic Circuits With Neural Modulation Enhancing the Information Content of Neural Signaling] | International Conference on Neuromorphic Systems 2020" (in English). doi:[https://dl.acm.org/doi/10.1145/3407197.3407204 10.1145/3407197.3407204.]</ref>近年来，神经形态学 neuromorphic被用来描述能够实现神经系统模型功能（如感知、运动控制，多感官整合等）的模拟、数字、模拟/数字混合模式超大规模集成电路和软件系统。神经形态计算的硬件实现可以通过基于氧化物的记忆电阻器 Memristor（简称忆阻器）、自旋电子存储器、阈值开关和晶体管来实现。<ref name=":0" /><ref>Zhou, You; Ramanathan, S. (2015-08-01). "[https://ieeexplore.ieee.org/document/7137616 Mott Memory and Neuromorphic Devices]". Proceedings of the IEEE. 103 (8): 1289–1310. doi:[https://ieeexplore.ieee.org/document/7137616 10.1109/JPROC.2015.2431914.] ISSN 0018-9219.</ref>对基于软件的脉冲神经网络系统的训练可以通过误差反向传播机制来实现，例如，使用snnTorch等基于Python的框架<ref>Eshraghian, Jason K.; Ward, Max; Neftci, Emre; Wang, Xinxin; Lenz, Gregor; Dwivedi, Girish; Bennamoun, Mohammed; Jeong, Doo Seok; Lu, Wei D. (1 October 2021). "[https://arxiv.org/abs/2109.12894 Training Spiking Neural Networks Using Lessons from Deep Learning]". arXiv:[https://arxiv.org/abs/2109.12894 2109.12894.]</ref>，或使用BindsNet等典型的受生物启发的学习模式<ref>"Hananel-Hazan/bindsnet: Simulation of spiking neural networks (SNNs) using PyTorch". 31 March 2020.</ref>。
神经形态工程领域的一个关键问题，就是理解单个神经元形态、神经回路、应用和整体结构如何产生理想的计算，如何影响信息的表示和对破坏的鲁棒性，如何整合学习和发展，如何适应局部变化(可塑性) 并促进逐渐发展的变化。
神经形态工程领域的一个关键问题，就是理解单个神经元形态、神经回路、应用和整体结构如何产生理想的计算，如何影响信息的表示和对破坏的鲁棒性，如何整合学习和发展，如何适应局部变化(可塑性) 并促进逐渐发展的变化。
神经形态工程是以生物学、物理学、数学、计算机科学和电子工程<ref name=":0" />等学科为基础，设计人工神经系统（如视觉系统、头眼系统、听觉处理器以及物理结构和设计原则都受启发于生物神经系统的自主机器人）的一门交叉学科<ref>Boddhu, S. K.; Gallagher, J. C. (2012). "Qualitative Functional Decomposition Analysis of Evolved Neuromorphic Flight Controllers". Applied Computational Intelligence and Soft Computing. 2012: 1–21. doi:10.1155/2012/705483.</ref>。20世纪80年代后期，Carver Mead极大地推动了神经形态工程领域的发展<ref>Mead, Carver. "carver mead website". carvermead.</ref>。
神经形态工程是以生物学、物理学、数学、计算机科学和电子工程<ref name=":0" />等学科为基础，设计人工神经系统（如视觉系统、头眼系统、听觉处理器以及物理结构和设计原则都受启发于生物神经系统的自主机器人）的一门交叉学科<ref>Boddhu, S. K.; Gallagher, J. C. (2012). "[https://downloads.hindawi.com/journals/acisc/2012/705483.pdf Qualitative Functional Decomposition Analysis of Evolved Neuromorphic Flight Controllers]". Applied Computational Intelligence and Soft Computing. 2012: 1–21. doi:[https://downloads.hindawi.com/journals/acisc/2012/705483.pdf 10.1155/2012/705483.]</ref>。20世纪80年代后期，Carver Mead极大地推动了神经形态工程领域的发展<ref>Mead, Carver. "carver mead website". carvermead.</ref>。
== 发展脉络==
== 发展脉络==
自然是向更可持续计算场景发展的重要灵感来源。在这种场景中，由于非易失性存储器、模拟/数字处理电路的集成等因素，神经形态系统具备复杂数据环境中的动态学习能力，显示出比传统处理器低得多的功耗。构建模拟生物对应物的人工神经网络是计算领域剩下的挑战之一。如果基本技术问题在未来几年内得到解决，低功耗、高速的神经形态计算机将推动对神经形态设备的需求，神经形态计算市场预计将从2025年的2亿美元上升到2035年的220亿美元<ref>Yole 2021 Neuromorphic computing and sensing 2021 Yole Reports www.yole.fr</ref>。
自然是向更可持续计算场景发展的重要灵感来源。在这种场景中，由于非易失性存储器、模拟/数字处理电路的集成等因素，神经形态系统具备复杂数据环境中的动态学习能力，显示出比传统处理器低得多的功耗。构建模拟生物对应物的人工神经网络是计算领域剩下的挑战之一。如果基本技术问题在未来几年内得到解决，低功耗、高速的神经形态计算机将推动对神经形态设备的需求，神经形态计算市场预计将从2025年的2亿美元上升到2035年的220亿美元<ref>Yole 2021 Neuromorphic computing and sensing 2021 Yole Reports www.yole.fr</ref>。
神经形态计算的目标不是完美地模拟大脑及其所有功能，而是利用已知的大脑结构和运转机制来研发或优化实际的计算系统。任何神经形态学系统都不会声称或试图复制神经元和突触中的每一个元素，但所有人都一致认可将计算高度分散于一系列类似于神经元的小型计算元素的理念。研究人员用不同的方法来追求这一普遍目标<ref>Furber, Steve (2016). "Large-scale neuromorphic computing systems". Journal of Neural Engineering. 13 (5): 1–15. Bibcode:2016JNEng..13e1001F. doi:10.1088/1741-2560/13/5/051001. <nowiki>PMID 27529195</nowiki>.</ref>。
神经形态计算的目标不是完美地模拟大脑及其所有功能，而是利用已知的大脑结构和运转机制来研发或优化实际的计算系统。任何神经形态学系统都不会声称或试图复制神经元和突触中的每一个元素，但所有人都一致认可将计算高度分散于一系列类似于神经元的小型计算元素的理念。研究人员用不同的方法来追求这一普遍目标<ref>Furber, Steve (2016). "[https://iopscience.iop.org/article/10.1088/1741-2560/13/5/051001 Large-scale neuromorphic computing systems]". Journal of Neural Engineering. 13 (5): 1–15. Bibcode:2016JNEng..13e1001F. doi:[https://iopscience.iop.org/article/10.1088/1741-2560/13/5/051001 10.1088/1741-2560/13/5/051001.] <nowiki>PMID 27529195</nowiki>.</ref>。
===代表性成果===
===代表性成果===
早在2006年，佐治亚理工学院的研究人员就研发出了一种现场可编程神经阵列<ref>Farquhar, Ethan; Hasler, Paul. (May 2006). A field programmable neural array. pp. 4114–4117. doi:10.1109/ISCAS.2006.1693534. <nowiki>ISBN 978-0-7803-9389-9</nowiki>.</ref>。在此之后，一系列越来越复杂的浮栅晶体管阵列被成功研发出来，这些晶体管阵列可以通过在金属-氧化物半导体效应晶体管MOSFET的栅极上编程来模拟大脑中神经元的离子通道特性，这也是以硅为主要材料的可编程神经元阵列的最早成功案例之一。
早在2006年，佐治亚理工学院的研究人员就研发出了一种现场可编程神经阵列<ref>Farquhar, Ethan; Hasler, Paul. (May 2006). [https://ieeexplore.ieee.org/document/1693534 A field programmable neural array]. pp. 4114–4117. doi:[https://ieeexplore.ieee.org/document/1693534 10.1109/ISCAS.2006.1693534.] <nowiki>ISBN 978-0-7803-9389-9</nowiki>.</ref>。在此之后，一系列越来越复杂的浮栅晶体管阵列被成功研发出来，这些晶体管阵列可以通过在金属-氧化物半导体效应晶体管MOSFET的栅极上编程来模拟大脑中神经元的离子通道特性，这也是以硅为主要材料的可编程神经元阵列的最早成功案例之一。
2011年11月，麻省理工学院的一组研究人员研发出一种计算机芯片，该芯片上使用标准的互补金属氧化物半导体CMOS制造技术集成了400个晶体管，能够模拟神经元间突触中基于离子的通讯<ref>"MIT creates "brain chip"". Retrieved 4 December 2012.</ref><ref>Poon, Chi-Sang; Zhou, Kuan (2011). "Neuromorphic silicon neurons and large-scale neural networks: challenges and opportunities". Frontiers in Neuroscience. 5: 108. doi:10.3389/fnins.2011.00108. PMC 3181466. <nowiki>PMID 21991244</nowiki>.</ref>。
2011年11月，麻省理工学院的一组研究人员研发出一种计算机芯片，该芯片上使用标准的互补金属氧化物半导体CMOS制造技术集成了400个晶体管，能够模拟神经元间突触中基于离子的通讯<ref>"MIT creates "brain chip"". Retrieved 4 December 2012.</ref><ref>Poon, Chi-Sang; Zhou, Kuan (2011). "[https://www.frontiersin.org/articles/10.3389/fnins.2011.00108/full Neuromorphic silicon neurons and large-scale neural networks: challenges and opportunities]". Frontiers in Neuroscience. 5: 108. doi:[https://www.frontiersin.org/articles/10.3389/fnins.2011.00108/full 10.3389/fnins.2011.00108.] PMC 3181466. <nowiki>PMID 21991244</nowiki>.</ref>。
2012年6月，普渡大学的自旋电子学研究人员发表了一篇关于利用侧向自旋阀和忆阻器设计神经形态芯片的论文。他们认为，这种芯片结构的工作原理与神经元相似，因此可以用于大脑运行机制的复刻方法的测试。此外，这些芯片在能耗方面明显优于传统芯片<ref>Sharad, Mrigank; Augustine, Charles; Panagopoulos, Georgios; Roy, Kaushik (2012). "Proposal For Neuromorphic Hardware Using Spin Devices". arXiv:1206.3227 [cond-mat.dis-nn].</ref>。
2012年6月，普渡大学的自旋电子学研究人员发表了一篇关于利用侧向自旋阀和忆阻器设计神经形态芯片的论文。他们认为，这种芯片结构的工作原理与神经元相似，因此可以用于大脑运行机制的复刻方法的测试。此外，这些芯片在能耗方面明显优于传统芯片<ref>Sharad, Mrigank; Augustine, Charles; Panagopoulos, Georgios; Roy, Kaushik (2012). "[https://arxiv.org/abs/1206.3227 Proposal For Neuromorphic Hardware Using Spin Devices]". arXiv:[https://arxiv.org/abs/1206.3227 1206.3227] [cond-mat.dis-nn].</ref>。
惠普实验室在莫特忆阻器上的研究表明，尽管它们可以是非易失性的，但是在相变温度以下时表现出的易失性行为可以被用来制造类神经元电阻器（一种生物学启发的模仿神经元行为的硬件）<ref>Pickett, M. D.; Medeiros-Ribeiro, G.; Williams, R. S. (2012). "A scalable neuristor built with Mott memristors". Nature Materials. 12 (2): 114–7. Bibcode:2013NatMa..12..114P. doi:10.1038/nmat3510. <nowiki>PMID 23241533</nowiki>.</ref>。2013年9月，他们通过模型和仿真展示了这些类神经元电阻器的脉冲行为如何产生图灵机的所需元素<ref>Matthew D Pickett; R Stanley Williams (September 2013). "Phase transitions enable computational universality in neuristor-based cellular automata". Nanotechnology. IOP Publishing Ltd. 24 (38). 384002. Bibcode:2013Nanot..24L4002P. doi:10.1088/0957-4484/24/38/384002. <nowiki>PMID 23999059</nowiki>.</ref>。
惠普实验室在莫特忆阻器上的研究表明，尽管它们可以是非易失性的，但是在相变温度以下时表现出的易失性行为可以被用来制造类神经元电阻器（一种生物学启发的模仿神经元行为的硬件）<ref>Pickett, M. D.; Medeiros-Ribeiro, G.; Williams, R. S. (2012). "A scalable neuristor built with Mott memristors". Nature Materials. 12 (2): 114–7. Bibcode:2013NatMa..12..114P. doi:10.1038/nmat3510. <nowiki>PMID 23241533</nowiki>.</ref>。2013年9月，他们通过模型和仿真展示了这些类神经元电阻器的脉冲行为如何产生图灵机的所需元素<ref>Matthew D Pickett; R Stanley Williams (September 2013). "Phase transitions enable computational universality in neuristor-based cellular automata". Nanotechnology. IOP Publishing Ltd. 24 (38). 384002. Bibcode:2013Nanot..24L4002P. doi:10.1088/0957-4484/24/38/384002. <nowiki>PMID 23999059</nowiki>.</ref>。