神经形态计算

来自集智百科 - 复杂系统|人工智能|复杂科学|复杂网络|自组织
薄荷（讨论 | 贡献）2022年5月2日 (一) 14:29的版本
跳到导航 跳到搜索


神经形态工程 Neuromorphic engineering（也称为神经形态计算 Neuromorphic computing或类脑计算 Brain-inspired computing）[1][2][3]是指使用包含电子模拟电路的超大规模集成电路系统来模拟神经系统中生理结构的研究方法。神经形态计算机或神经形态芯片包括任何使用由硅制成的人造神经元进行计算的设备。[4][5]近年来，神经形态学 neuromorphic被用来描述能够实现神经系统模型功能（如感知、运动控制，多感官整合等）的模拟、数字、模拟/数字混合模式超大规模集成电路和软件系统。神经形态计算的硬件实现可以通过基于氧化物的记忆电阻器 Memristor（简称忆阻器）、[6]自旋电子存储器、阈值开关和晶体管来实现。[7][5]对基于软件的脉冲神经网络系统的训练可以通过误差反向传播机制来实现，例如，使用snnTorch等基于Python的框架，[8] 或使用BindsNet等典型的受生物启发的学习模式。[9]


神经形态工程领域的一个关键问题，就是理解单个神经元形态、神经回路、应用和整体结构如何产生理想的计算，如何影响信息的表示和对破坏的鲁棒性，如何整合学习和发展，如何适应局部变化(可塑性) 并促进逐渐发展的变化。


神经形态工程是以生物学、物理学、数学、计算机科学和电子工程[5]等学科为基础，设计人工神经系统（如视觉系统、头眼系统、听觉处理器以及物理结构和设计原则都受启发于生物神经系统的自主机器人）的一门交叉学科。[10]20世纪80年代后期，Carver Mead极大地推动了神经形态工程领域的发展。[11]


神经生物学启发

神经形态工程形成的灵感来源于现已知的大脑结构及运作机制知识，它将我们对大脑功能的了解用于研究和优化计算机系统。该领域工作主要集中于对生物计算模拟特性和神经元在认知中所发挥作用的复刻。


神经元及其突触的生理学过程极其复杂，难以进行人工模拟。神经元在所有处理过程中都使用化学模拟信号，这是大脑的一个关键生理学特征。这个特征大大增加了在计算机中复制大脑的难度，因为目前的计算机是完全数字化的。然而，部分特征可以抽象为数学函数，这些函数能够紧密捕捉神经元运行的本质。


神经形态计算的目标不是完美地模拟大脑及其所有功能，而是利用已知的大脑结构和运转机制来研发或优化实际的计算系统。任何神经形态学系统都不会声称或试图复制神经元和突触中的每一个元素，但所有人都一致认可将计算高度分散于一系列类似于神经元的小型计算元素的理念。研究人员用不同的方法来追求这一普遍目标。[12]


代表性成果

早在2006年，佐治亚理工学院的研究人员就研发出了一种现场可编程神经阵列。[13]在此之后，一系列越来越复杂的浮栅晶体管阵列被成功研发出来，这些晶体管阵列可以通过在金属-氧化物半导体效应晶体管MOSFET的栅极上编程来模拟大脑中神经元的离子通道特性，这也是以硅为主要材料的可编程神经元阵列的最早成功案例之一。


2011年11月，麻省理工学院的一组研究人员研发出一种计算机芯片，该芯片上使用标准的互补金属氧化物半导体CMOS制造技术集成了400个晶体管，能够模拟神经元间突触中基于离子的通讯。[14][15]


2012年6月，普渡大学的自旋电子学研究人员发表了一篇关于利用侧向自旋阀和忆阻器设计神经形态芯片的论文。他们认为，这种芯片结构的工作原理与神经元相似，因此可以用于大脑运行机制的复刻方法的测试。此外，这些芯片在能耗方面明显优于传统芯片。[16]


惠普实验室在莫特忆阻器上的研究表明，尽管它们可以是非易失性的，但是在相变温度以下时表现出的易失性行为可以被用来制造类神经元电阻器（一种生物学启发的模仿神经元行为的硬件）[17]。2013年9月，他们通过模型和仿真展示了这些类神经元电阻器的脉冲行为如何产生图灵机的所需元素。[18]


神经栅格 Neurogrid[19]是由斯坦福大学Brains in Silicon公司研发的、使用神经形态工程原理设计的硬件。该电路板由16个定制设计的芯片组成。在设计中，每个NeuroCore芯片的模拟电路对65536个神经元的神经元素进行模拟，以最大限度地提高能量效率。模拟出的神经元通过设计的数字电路连接，以最大化脉冲吞吐量。[20][21]


人类大脑计划 Human Brain Project对神经形态工程具有较大影响，其主要任务是尝试用生物数据在超级计算机中模拟完整的人脑。人类大脑计划由神经科学、医学和计算机科学背景的研究人员组成。[22]该项目的联合主管亨利•马克拉姆 Henry Markram表示，人类大脑计划的目的是建立一个探索和了解脑科学和脑疾病知识的基础，并利用这些知识来构建更先进的计算机技术。这个项目的三个主要目标分别是: 更好地理解大脑的各个部分是如何相互配合协同工作的; 理解如何客观地诊断和治疗脑部疾病; 以及利用对人类大脑的理解来开发神经形态计算机。模拟一个完整的人类大脑需要一台比现在强大一千倍的超级计算机，这不断激发着对神经形态计算机领域的研究兴趣。[23]欧盟委员会已经向人类大脑计划拨款13亿美元。[24]


其他与神经形态工程有关的研究还包括脑计划 BRAIN initiative，[25] 和IBM研发的TrueNorth芯片。[26]使用纳米晶体、纳米线和导电聚合物也能够用于制造神经形态学硬件。[27]


2017年10月，英特尔发布了神经形态芯片 Loihi。该芯片采用异步脉冲神经网络实现了自适应、自修改、事件驱动的细粒度并行计算，实现了高效的学习和推理。[28][29]


比利时的微电子研究中心（IMEC）研发了世界上首个自学习神经形态芯片。这种基于丝状氧化物电阻存储技术 filamentary-oxide-based resistive memory technology（OxRAM）技术的大脑启发芯片具有自学习能力，并且已被证明具有创作音乐的能力。[30]IMEC发布了由芯片原型机谱写的30秒旋律。向芯片加载一系列特征、风格统一的歌曲（古代比利时和法国长笛小步舞曲），芯片从中学习相关规则并将其应用于创作。[31]


由Henry Markram领导的蓝脑计划 The Blue Brain Project旨在建立小鼠大脑生理学细节的数字重建和模拟。蓝脑计划已经建立了啮齿动物大脑的电子模型，同时进行着尽可能多地复制其生理学细节的尝试。基于超级计算机的模拟为理解大脑的结构和功能提供了新的视角。


欧盟资助了海德堡大学一系列促进BrainScaleS（神经形态混合系统中受大脑启发的多尺度计算）发展的项目，这是一台位于德国海德堡大学的混合模拟神经形态超级计算机。它是作为人类大脑计划中神经形态计算平台的一部分而开发的，是SpiNNaker超级计算机（基于数字技术）的补充。BrainScaleS中使用的体系架构模拟了生物神经元及其在物理层面上的连接；此外，由于这些组件是由硅制成的，这些模型神经元平均运行速度是生物神经元的864倍，这意味着在机器模拟中，24小时的实时时间仅为100秒。[32]


神经形态传感器

神经形态系统的概念可以扩展到传感器（而不仅仅是计算单元）。一个用于检测光线的例子是类视网膜传感器，或者事件摄像机阵列。


伦理问题

虽然神经形态工程这个跨学科概念相对较新，但许多适用于类人机器 Human-like machines和人工智能的伦理讨论在神经形态系统领域也无法避免。另外，神经形态系统是为了模仿人类大脑而设计，这一底层逻辑也导致了一些新的伦理问题。


然而，这种争论的实际情况是，神经形态硬件和人工“神经网络”是对大脑运作或处理信息过程的极其简化的模型，在大小和功能技术方面的复杂性相比而言比较低，在连接性方面也具有更加规则的结构。将神经形态芯片与大脑进行比较是一种非常粗糙的比较，类似于仅仅因为飞机有翅膀和尾巴就将它与鸟进行比较。事实上，当前最先进的人工智能在能耗效率和计算效率方面距离人脑神经认知系统仍有较大差距，而神经形态工程只是一种通过从大脑机制中获得灵感来缩小这种差距的尝试，就像许多工程设计中都具有生物启发的特征 Bio-inspired features一样。


公众担忧

由于公众认知的相关忧虑，神经形态工程学可能会受到严重的伦理限制。[33]欧盟委员会进行的一项调查发现，60% 的欧盟公民希望禁止机器人参与照顾儿童、老人或残疾人的工作。此外，34% 的人支持禁止机器人用于教育，27% 的人支持禁止机器人用于医疗保健，20% 的人支持禁止机器人用于娱乐。欧盟委员会将以上领域划入“人类”范畴。报告指出，公众越来越关注能够模仿或复制人类行为的机器人。而神经形态工程，顾名思义，是为了模仿人脑的功能而设计的。[34]


围绕神经形态工程的公众担忧可能在未来变得更加严重。欧盟委员会发现，相比于55岁以上的欧盟公民，15至24岁的欧盟公民更有可能认为机器人像人（而不是像仪器）。当看到一张“类人”机器人的图片时，年龄在15岁至24岁之间的欧盟公民中有75% 的人表示这符合他们对机器人的想法，而55岁以上的欧盟公民中只有57% 的人有同样的反应。因此，神经形态系统可能因为其类似人类的特性而被归入许多欧盟公民希望在未来禁止使用的机器人类别。[34]


人格权问题

随着神经形态系统的日益发展，一些学者主张赋予这些系统人格权。如果是大脑赋予了人类人格，那么在多大程度上模仿人类大脑的神经形态系统才能被赋予人格权利？“人类大脑计划”旨在推进以大脑为灵感的计算机技术发展，该计划的批评者认为，神经形态计算机技术的进步可能导致机器意识或人格的形成。[35]这些批评者认为，如果这些系统被当作人来对待，那么人类使用神经形态系统执行任务（包括终止神经形态系统）的行为，在道德上就可能是不被允许的，因为这些行为将违反神经形态系统的自主性。[36]


军民两用技术（军事应用）

联合人工智能中心 The Joint Artificial Intelligence Center（JAIC），是美国军队的一个分支，专门从事采购和实施用于战斗的人工智能软件和神经形态硬件。具体应用包括智能耳机、护目镜和机器人。JAIC打算高度依赖神经形态技术，使用神经形态技术来连接神经形态单位网络中的“每个战士、每个射手”。


法律问题

怀疑派认为，在法律上没有办法应用能够适用于神经形态技术的电子人格。在一封由285名法律、机器人技术、医学和伦理学专家的联名信中，作者们反对欧盟委员会提出的承认“智能机器人”为法人的提议。他们写道，“机器人的法律地位无法从自然人模型中推导出来，因为机器人将被赋予人权，如尊严权、完整权、报酬权或公民权，从而直接面临人权问题。这将有悖于《欧联基本权利宪章》和《欧洲保障人权和根本自由公约》”。[37]


所有权及财产权问题

法律界围绕财产权和人工智能有着重大争论。在Acohs Pty有限公司诉Ucorp Pty有限公司一案中，澳大利亚联邦法院的Christopher Jessup法官发现，版权保护不适用于材料安全数据表的源代码，因为它是由软件界面生成而非人类工作者生成的。[38]同样的问题可能也适用于神经形态系统：如果一个神经形态系统成功地模仿了人类的大脑，并产生了一部原创作品，那么该如何确认这部作品的所有权归属？[39]


神经忆阻系统

神经忆阻系统是神经形态计算系统的一个亚类，主要研究利用忆阻器 Memristors实现神经可塑性 Neuroplasticity。神经形态工程的重点是模拟生物行为，而神经忆阻系统的重点是提取。[40]举个例子，一个神经忆阻系统可能用抽象的神经网络模型替代皮层微电路的行为细节。[41]


受神经元启发、使用忆阻器实现的阈值逻辑函数[6]在高级模式识别中有着广泛的应用，最近报道中其应用包括语音识别[42]、人脸识别[43]和物体识别[44]。阈值逻辑函数还可以用来取代传统的数字逻辑门。[45][46]


对于理想的无源记忆电路，电路的内部记忆可以用精确的方程（Caravelli-Traversa-Di Ventra方程) 来描述:[47]


[math]\displaystyle{ \frac{d}{dt} \vec{W} = \alpha \vec{W}-\frac{1}{\beta} (I+\xi \Omega W)^{-1} \Omega \vec S }[/math]


Caravelli-Traversa-Di Ventra方程是描述物理记忆网络和外部源性质的函数。在上述方程中，[math]\displaystyle{ \alpha }[/math]是“遗忘”时间尺度常数，[math]\displaystyle{ \xi=r-1 }[/math]，[math]\displaystyle{ r =\frac{R\text_{off}}{R_\text{on}} }[/math]是记忆电阻器off状态和on状态极限电阻值之比，[math]\displaystyle{ \vec S }[/math]是电路源的矢量，[math]\displaystyle{ \Omega }[/math]是电路基本环路的投影。常数[math]\displaystyle{ \beta }[/math]具有电压的量纲，与记忆电阻器的特性有关；其物理原型是导体中的电荷迁移率。对角矩阵和向量 [math]\displaystyle{ W=\operatorname{diag}(\vec W) }[/math]和[math]\displaystyle{ \vec W }[/math] 分别是忆阻器的内阻，值在0到1之间。因此，这个等式需要在内存值=上添加额外约束以保证可靠性。


另见


参考文献

  1. ↑ Monroe, D. (2014). "Neuromorphic computing gets ready for the (really) big time". Communications of the ACM. 57 (6): 13–15. doi:10.1145/2601069.
  2. ↑ Zhao, W. S.; Agnus, G.; Derycke, V.; Filoramo, A.; Bourgoin, J. -P.; Gamrat, C. (2010). "Nanotube devices based crossbar architecture: Toward neuromorphic computing". Nanotechnology. 21 (17): 175202. Bibcode:2010Nanot..21q5202Z. doi:10.1088/0957-4484/21/17/175202. PMID 20368686.
  3. ↑ The Human Brain Project SP 9: Neuromorphic Computing Platform on YouTube
  4. ↑ Mead, Carver (1990). "Neuromorphic electronic systems" (PDF). Proceedings of the IEEE. 78 (10): 1629–1636. doi:10.1109/5.58356.
  5. ↑ 5.0 5.1 5.2 "Neuromorphic Circuits With Neural Modulation Enhancing the Information Content of Neural Signaling | International Conference on Neuromorphic Systems 2020" (in English). doi:10.1145/3407197.3407204. {{cite journal}}: Cite journal requires |journal= (help)
  6. ↑ 6.0 6.1 Maan, A. K.; Jayadevi, D. A.; James, A. P. (2016-01-01). "A Survey of Memristive Threshold Logic Circuits". IEEE Transactions on Neural Networks and Learning Systems. PP (99): 1734–1746. arXiv:1604.07121. Bibcode:2016arXiv160407121M. doi:10.1109/TNNLS.2016.2547842. ISSN 2162-237X. PMID 27164608.
  7. ↑ Zhou, You; Ramanathan, S. (2015-08-01). "Mott Memory and Neuromorphic Devices". Proceedings of the IEEE. 103 (8): 1289–1310. doi:10.1109/JPROC.2015.2431914. ISSN 0018-9219.
  8. ↑ Eshraghian, Jason K.; Ward, Max; Neftci, Emre; Wang, Xinxin; Lenz, Gregor; Dwivedi, Girish; Bennamoun, Mohammed; Jeong, Doo Seok; Lu, Wei D. (1 October 2021). "Training Spiking Neural Networks Using Lessons from Deep Learning". arXiv:2109.12894. {{cite journal}}: Cite journal requires |journal= (help)
  9. ↑ "Hananel-Hazan/bindsnet: Simulation of spiking neural networks (SNNs) using PyTorch". 31 March 2020.
  10. ↑ Boddhu, S. K.; Gallagher, J. C. (2012). "Qualitative Functional Decomposition Analysis of Evolved Neuromorphic Flight Controllers". Applied Computational Intelligence and Soft Computing. 2012: 1–21. doi:10.1155/2012/705483.
  11. ↑ Mead, Carver. "carver mead website". carvermead.
  12. ↑ Furber, Steve (2016). "Large-scale neuromorphic computing systems". Journal of Neural Engineering. 13 (5): 1–15. Bibcode:2016JNEng..13e1001F. doi:10.1088/1741-2560/13/5/051001. PMID 27529195.
  13. ↑ Farquhar, Ethan; Hasler, Paul. (May 2006). A field programmable neural array. pp. 4114–4117. doi:10.1109/ISCAS.2006.1693534. ISBN 978-0-7803-9389-9. 
  14. ↑ "MIT creates "brain chip"". Retrieved 4 December 2012.
  15. ↑ Poon, Chi-Sang; Zhou, Kuan (2011). "Neuromorphic silicon neurons and large-scale neural networks: challenges and opportunities". Frontiers in Neuroscience. 5: 108. doi:10.3389/fnins.2011.00108. PMC 3181466. PMID 21991244.
  16. ↑ Sharad, Mrigank; Augustine, Charles; Panagopoulos, Georgios; Roy, Kaushik (2012). "Proposal For Neuromorphic Hardware Using Spin Devices". arXiv:1206.3227 [cond-mat.dis-nn].
  17. ↑ Pickett, M. D.; Medeiros-Ribeiro, G.; Williams, R. S. (2012). "A scalable neuristor built with Mott memristors". Nature Materials. 12 (2): 114–7. Bibcode:2013NatMa..12..114P. doi:10.1038/nmat3510. PMID 23241533.
  18. ↑ Matthew D Pickett; R Stanley Williams (September 2013). "Phase transitions enable computational universality in neuristor-based cellular automata". Nanotechnology. IOP Publishing Ltd. 24 (38). 384002. Bibcode:2013Nanot..24L4002P. doi:10.1088/0957-4484/24/38/384002. PMID 23999059.
  19. ↑ Boahen, Kwabena (24 April 2014). "Neurogrid: A Mixed-Analog-Digital Multichip System for Large-Scale Neural Simulations". Proceedings of the IEEE. 102 (5): 699–716. doi:10.1109/JPROC.2014.2313565.
  20. ↑ Waldrop, M. Mitchell (2013). "Neuroelectronics: Smart connections". Nature. 503 (7474): 22–4. Bibcode:2013Natur.503...22W. doi:10.1038/503022a. PMID 24201264.
  21. ↑ Benjamin, Ben Varkey; Peiran Gao; McQuinn, Emmett; Choudhary, Swadesh; Chandrasekaran, Anand R.; Bussat, Jean-Marie; Alvarez-Icaza, Rodrigo; Arthur, John V.; Merolla, Paul A.; Boahen, Kwabena (2014). "Neurogrid: A Mixed-Analog-Digital Multichip System for Large-Scale Neural Simulations". Proceedings of the IEEE. 102 (5): 699–716. doi:10.1109/JPROC.2014.2313565.
  22. ↑ "Involved Organizations". Archived from the original on 2 March 2013. Retrieved 22 February 2013.
  23. ↑ "Human Brain Project". Retrieved 22 February 2013.
  24. ↑ "The Human Brain Project and Recruiting More Cyberwarriors". January 29, 2013. Retrieved 22 February 2013.
  25. ↑ Neuromorphic computing: The machine of a new soul, The Economist, 2013-08-03
  26. ↑ Modha, Dharmendra (Aug 2014). "A million spiking-neuron integrated circuit with a scalable communication network and interface". Science. 345 (6197): 668–673. Bibcode:2014Sci...345..668M. doi:10.1126/science.1254642. PMID 25104385.
  27. ↑ Fairfield, Jessamyn (March 1, 2017). "Smarter Machines" (PDF).
  28. ↑ Davies, Mike; et al. (January 16, 2018). "Loihi: A Neuromorphic Manycore Processor with On-Chip Learning". IEEE Micro. 38 (1): 82–99. doi:10.1109/MM.2018.112130359.
  29. ↑ Morris, John. "Why Intel built a neuromorphic chip". ZDNet (in English). Retrieved 17 August 2018.
  30. ↑ "Imec demonstrates self-learning neuromorphic chip that composes music". IMEC International. Retrieved 1 October 2019.
  31. ↑ Bourzac, Katherine (May 23, 2017). "A Neuromorphic Chip That Makes Music". IEEE Spectrum. Retrieved 1 October 2019.{{cite web}}: CS1 maint: url-status (link)
  32. ↑ "Beyond von Neumann, Neuromorphic Computing Steadily Advances". HPCwire (in English). 2016-03-21. Retrieved 2021-10-08.
  33. ↑ 模板:Cite report
  34. ↑ 34.0 34.1 模板:Cite web
  35. ↑ 模板:Cite journal
  36. ↑ 模板:Cite journal
  37. ↑ 模板:Cite web
  38. ↑ 模板:Cite web
  39. ↑ 模板:Cite journal
  40. ↑ 模板:Cite web
  41. ↑ C. Merkel and D. Kudithipudi, "Neuromemristive extreme learning machines for pattern classification," ISVLSI, 2014.
  42. ↑ 模板:Cite journal
  43. ↑ 模板:Cite journal
  44. ↑ 模板:Cite journal
  45. ↑ 模板:Cite journal
  46. ↑ 模板:Cite journal
  47. ↑ 模板:Cite journal


外部链接


编辑推荐

本中文词条由Shenky20翻译，薄荷编辑，如有问题，欢迎在讨论页面留言。


本词条内容源自wikipedia及公开资料，遵守 CC3.0协议。

取自“https://wiki.swarma.org/index.php?title=神经形态计算&oldid=30852”