| 第5行: |
第5行: |
| | | | |
| | | | |
| − | <font color="#ff8000"> 自由能原理Free energy principle</font>是一个正式的陈述,它解释了生物系统和非生物系统如何通过将自己限制在有限的几个状态而保持在<font color="#ff8000"> 非平衡稳态Non-equilibrium steady-states</font>。<ref>Ashby, W. R. (1962). [http://csis.pace.edu/~marchese/CS396x/Computing/Ashby.pdf Principles of the self-organizing system].in Principles of Self-Organization: Transactions of the University of Illinois Symposium, H. Von Foerster and G. W. Zopf, Jr. (eds.), Pergamon Press: London, UK, pp. 255–278.</ref>它表明系统最小化了内部状态的自由能函数,而内部状态包含了对环境中隐藏状态的信任。自由能的内隐最小化在形式上与<font color="#ff8000"> 变分贝叶斯方法Variational Bayesian methods</font>有关,最初由 Karl Friston 引入,作为<font color="#ff8000">神经科学</font>中对具身知觉的解释,<ref>{{cite journal | last1=Friston | first1=Karl | last2=Kilner | first2=James | last3=Harrison | first3=Lee | title=A free energy principle for the brain | journal=Journal of Physiology-Paris | publisher=Elsevier BV | volume=100 | issue=1–3 | year=2006 | issn=0928-4257 | doi=10.1016/j.jphysparis.2006.10.001 | pmid=17097864 | pages=70–87| s2cid=637885 |url=http://www.fil.ion.ucl.ac.uk/~karl/A%20free%20energy%20principle%20for%20the%20brain.pdf}}</ref>在那里它也被称为<font color="#ff8000"> 主动推理Active inference</font>。
| + | '''自由能原理 Free energy principle'''是一个正式的陈述,它解释了生物系统和非生物系统如何通过将自己限制在有限的几个状态而保持在非平衡稳态。<ref>Ashby, W. R. (1962). [http://csis.pace.edu/~marchese/CS396x/Computing/Ashby.pdf Principles of the self-organizing system].in Principles of Self-Organization: Transactions of the University of Illinois Symposium, H. Von Foerster and G. W. Zopf, Jr. (eds.), Pergamon Press: London, UK, pp. 255–278.</ref>它表明系统最小化了内部状态的自由能函数,而内部状态包含了对环境中隐藏状态的信任。自由能的内隐最小化在形式上与变分贝叶斯方法 Variational Bayesian methods有关,最初由Karl Friston引入,作为神经科学中对具身知觉的解释,<ref>{{cite journal | last1=Friston | first1=Karl | last2=Kilner | first2=James | last3=Harrison | first3=Lee | title=A free energy principle for the brain | journal=Journal of Physiology-Paris | publisher=Elsevier BV | volume=100 | issue=1–3 | year=2006 | issn=0928-4257 | doi=10.1016/j.jphysparis.2006.10.001 | pmid=17097864 | pages=70–87| s2cid=637885 |url=http://www.fil.ion.ucl.ac.uk/~karl/A%20free%20energy%20principle%20for%20the%20brain.pdf}}</ref>在那里它也被称为<font color="#ff8000"> 主动推理Active inference</font>。 |
| | | | |
| | | | |
| − | <font color="#ff8000">自由能原理</font>解释了一个给定系统的存在,它通过一个<font color="#ff8000">马尔可夫毯Markov blanket</font>建模,试图最小化他们的世界模型和他们的感觉和相关知觉之间的差异。这种差异可以被描述为”出其不意” ,并通过不断修正系统的世界模型来减少这种差异。因此,这个原理是基于贝叶斯的观点,即大脑是一个“推理机”。弗里斯顿为最小化增加了第二条路线: 行动。通过积极地将世界改变为预期的状态,系统也可以使系统的自由能最小化。弗里斯顿认为这是所有生物反应的原理。<ref name="wired20181112">Shaun Raviv: [https://www.wired.com/story/karl-friston-free-energy-principle-artificial-intelligence/ The Genius Neuroscientist Who Might Hold the Key to True AI]. In: Wired, 13. November 2018</ref>弗里斯顿还认为,他的原则即适用于精神障碍也适用于人工智能。基于主动推理原则的人工智能实现比其他方法显示出优势。<ref name="wired20181112" />关于这一原则的讨论也受到批评,认为它引用的形而上学假设与可检验的科学预测相去甚远,使这一原则不可证伪。在2018年的一次采访中,弗里斯顿承认,自由能原理不能被恰当地证伪: “自由能原理就是它的本来面目ーー一个原理。就像汉密尔顿的静止作用原理一样,它不能被证伪。这是不能被推翻的。事实上,除非你问可衡量的系统是否符合这一原则,否则你用它做不了什么。”
| + | 自由能原理解释了一个给定系统的存在,它通过一个[[马尔可夫毯 Markov blanket]]建模,试图最小化他们的世界模型和他们的感觉和相关知觉之间的差异。这种差异可以被描述为”出其不意” ,并通过不断修正系统的世界模型来减少这种差异。因此,这个原理是基于贝叶斯的观点,即大脑是一个“推理机”。弗里斯顿为最小化增加了第二条路线: 行动。通过积极地将世界改变为预期的状态,系统也可以使系统的自由能最小化。弗里斯顿认为这是所有生物反应的原理。<ref name="wired20181112">Shaun Raviv: [https://www.wired.com/story/karl-friston-free-energy-principle-artificial-intelligence/ The Genius Neuroscientist Who Might Hold the Key to True AI]. In: Wired, 13. November 2018</ref>弗里斯顿还认为,他的原则即适用于精神障碍也适用于人工智能。基于主动推理原则的人工智能实现比其他方法显示出优势。<ref name="wired20181112" />关于这一原则的讨论也受到批评,认为它引用的形而上学假设与可检验的科学预测相去甚远,使这一原则不可证伪。在2018年的一次采访中,弗里斯顿承认,自由能原理不能被恰当地证伪: “自由能原理就是它的本来面目——一个原理。就像汉密尔顿的静止作用原理一样,它不能被证伪。这是不能被推翻的。事实上,除非你问可衡量的系统是否符合这一原则,否则你用它做不了什么。” |
| | | | |
| | | | |
| − | 自由能原理被批评为很难理解,甚至对专家来说也是如此。<ref>{{cite journal | last=Freed | first=Peter | title=Research Digest | journal=Neuropsychoanalysis | publisher=Informa UK Limited | volume=12 | issue=1 | year=2010 | issn=1529-4145 | doi=10.1080/15294145.2010.10773634 | pages=103–106| s2cid=220306712 }}</ref>对这一原则的讨论也被批评为援引了[[形而上学|形而上学]]远离可检验的科学预测的假设,使这一原则成为不可证伪的。<ref>{{cite journal | last1=Colombo | first1=Matteo | last2=Wright | first2=Cory | title=First principles in the life sciences: the free-energy principle, organicism, and mechanism | journal=Synthese | publisher=Springer Science and Business Media LLC | date=2018-09-10 | issn=0039-7857 | doi=10.1007/s11229-018-01932-w | page=|doi-access=free}}</ref>在2018年的一次采访中,弗里斯顿承认自由能原则并不恰当[[可证伪性|可证伪性]]:“自由能原则就是它的本来面目-一个[[原则]]。与[[最小作用原理|哈密顿定常作用原理]]一样,它是不可证伪的。这是无法反驳的。事实上,除非你问可测量系统是否符合这一原则,否则你对此无能为力。”<ref>{{Cite journal|last=Friston|first=Karl|date=2018|title=Of woodlice and men: A Bayesian account of cognition, life and consciousness. An interview with Karl Friston (by Martin Fortier & Daniel Friedman)|url=https://www.aliusresearch.org/bulletin02.html|journal=ALIUS Bulletin|volume=2|pages=17–43|via=}}</ref> | + | 自由能原理被批评为很难理解,甚至对专家来说也是如此。<ref>{{cite journal | last=Freed | first=Peter | title=Research Digest | journal=Neuropsychoanalysis | publisher=Informa UK Limited | volume=12 | issue=1 | year=2010 | issn=1529-4145 | doi=10.1080/15294145.2010.10773634 | pages=103–106| s2cid=220306712 }}</ref>对这一原则的讨论也被批评为援引了形而上学远离可检验的科学预测的假设,使这一原则成为不可证伪的。<ref>{{cite journal | last1=Colombo | first1=Matteo | last2=Wright | first2=Cory | title=First principles in the life sciences: the free-energy principle, organicism, and mechanism | journal=Synthese | publisher=Springer Science and Business Media LLC | date=2018-09-10 | issn=0039-7857 | doi=10.1007/s11229-018-01932-w | page=|doi-access=free}}</ref>在2018年的一次采访中,弗里斯顿承认自由能原则并不恰当[[可证伪性|可证伪性]]:“自由能原则就是它的本来面目-一个原则。与[[最小作用原理|哈密顿定常作用原理]]一样,它是不可证伪的。这是无法反驳的。事实上,除非你问可测量系统是否符合这一原则,否则你对此无能为力。”<ref>{{Cite journal|last=Friston|first=Karl|date=2018|title=Of woodlice and men: A Bayesian account of cognition, life and consciousness. An interview with Karl Friston (by Martin Fortier & Daniel Friedman)|url=https://www.aliusresearch.org/bulletin02.html|journal=ALIUS Bulletin|volume=2|pages=17–43|via=}}</ref> |
| | | | |
| | | | |
| | == 背景== | | == 背景== |
| − |
| |
| − |
| |
| | 自我组织的生物系统——比如细胞或大脑——可以被理解为最小化变分自由能的概念,是基于亥姆霍兹在无意识推理<ref name="Helmholtz">Helmholtz, H. (1866/1962). Concerning the perceptions in general. In Treatise on physiological optics (J. Southall, Trans., 3rd ed., Vol. III). New York: Dover.</ref>以及随后的心理学<ref>{{cite journal | title=Perceptions as hypotheses | journal=Philosophical Transactions of the Royal Society of London. B, Biological Sciences | publisher=The Royal Society | volume=290 | issue=1038 | date=1980-07-08 | issn=0080-4622 | doi=10.1098/rstb.1980.0090 | pmid=6106237 | bibcode=1980RSPTB.290..181G | pages=181–197|jstor=2395424| last1=Gregory | first1=R. L. | doi-access=free }}</ref>和机器学习<ref name="Dayan">{{cite journal | last1=Dayan | first1=Peter | last2=Hinton | first2=Geoffrey E. | last3=Neal | first3=Radford M. | last4=Zemel | first4=Richard S. | title=The Helmholtz Machine | journal=Neural Computation | publisher=MIT Press - Journals | volume=7 | issue=5 | year=1995 | issn=0899-7667 | doi=10.1162/neco.1995.7.5.889 | pmid=7584891 | pages=889–904| s2cid=1890561 |url=http://www.gatsby.ucl.ac.uk/~dayan/papers/hm95.pdf}}</ref>治疗方面的工作。变分自由能是观测值及其隐含原因的概率密度的函数。这个变分密度的定义关系到一个概率模型,从假设的原因产生预测观测。在这种情况下,自由能提供了一个近似贝叶斯模型<ref>Beal, M. J. (2003). [http://www.cse.buffalo.edu/faculty/mbeal/papers/beal03.pdf Variational Algorithms for Approximate Bayesian Inference]. Ph.D. Thesis, University College London.</ref>的证据。因此,它的最小化可以被看作是一个贝叶斯推断过程。当一个系统积极地进行观测以最小化自由能时,它隐含地进行了积极推理并最大化其世界模型的证据。 | | 自我组织的生物系统——比如细胞或大脑——可以被理解为最小化变分自由能的概念,是基于亥姆霍兹在无意识推理<ref name="Helmholtz">Helmholtz, H. (1866/1962). Concerning the perceptions in general. In Treatise on physiological optics (J. Southall, Trans., 3rd ed., Vol. III). New York: Dover.</ref>以及随后的心理学<ref>{{cite journal | title=Perceptions as hypotheses | journal=Philosophical Transactions of the Royal Society of London. B, Biological Sciences | publisher=The Royal Society | volume=290 | issue=1038 | date=1980-07-08 | issn=0080-4622 | doi=10.1098/rstb.1980.0090 | pmid=6106237 | bibcode=1980RSPTB.290..181G | pages=181–197|jstor=2395424| last1=Gregory | first1=R. L. | doi-access=free }}</ref>和机器学习<ref name="Dayan">{{cite journal | last1=Dayan | first1=Peter | last2=Hinton | first2=Geoffrey E. | last3=Neal | first3=Radford M. | last4=Zemel | first4=Richard S. | title=The Helmholtz Machine | journal=Neural Computation | publisher=MIT Press - Journals | volume=7 | issue=5 | year=1995 | issn=0899-7667 | doi=10.1162/neco.1995.7.5.889 | pmid=7584891 | pages=889–904| s2cid=1890561 |url=http://www.gatsby.ucl.ac.uk/~dayan/papers/hm95.pdf}}</ref>治疗方面的工作。变分自由能是观测值及其隐含原因的概率密度的函数。这个变分密度的定义关系到一个概率模型,从假设的原因产生预测观测。在这种情况下,自由能提供了一个近似贝叶斯模型<ref>Beal, M. J. (2003). [http://www.cse.buffalo.edu/faculty/mbeal/papers/beal03.pdf Variational Algorithms for Approximate Bayesian Inference]. Ph.D. Thesis, University College London.</ref>的证据。因此,它的最小化可以被看作是一个贝叶斯推断过程。当一个系统积极地进行观测以最小化自由能时,它隐含地进行了积极推理并最大化其世界模型的证据。 |
| | | | |
| | | | |
| − | 然而,自由能也是结果自信息的一个上限,长期的平均值是熵。这意味着,如果一个系统采取行动来最小化自由能,它将隐含地放置一个熵的结果-或感官状态-它的样本上限。<ref name="Friston">{{cite journal | last=Karl | first=Friston | title=A Free Energy Principle for Biological Systems | journal=Entropy | publisher=MDPI AG | volume=14 | issue=11 | date=2012-10-31 | issn=1099-4300 | doi=10.3390/e14112100 | pmid=23204829 | bibcode=2012Entrp..14.2100K | pages=2100–2121| pmc=3510653 |url=http://www.fil.ion.ucl.ac.uk/~karl/A%20Free%20Energy%20Principle%20for%20Biological%20Systems.pdf|doi-access=free}}</ref><ref>{{cite journal | last1=Colombo | first1=Matteo | last2=Wright | first2=Cory | title=First principles in the life sciences: the free-energy principle, organicism, and mechanism | journal=Synthese | publisher=Springer Science and Business Media LLC | date=2018-09-10 | issn=0039-7857 | doi=10.1007/s11229-018-01932-w | page=|doi-access=free}}</ref>{{Better source|date=February 2020|reason=MDPI is a questionable source}}
| + | 然而,自由能也是结果自信息的一个上限,长期的平均值是[[熵]]。这意味着,如果一个系统采取行动来最小化自由能,它将隐含地放置一个熵的结果-或感官状态-它的样本上限。<ref name="Friston">{{cite journal | last=Karl | first=Friston | title=A Free Energy Principle for Biological Systems | journal=Entropy | publisher=MDPI AG | volume=14 | issue=11 | date=2012-10-31 | issn=1099-4300 | doi=10.3390/e14112100 | pmid=23204829 | bibcode=2012Entrp..14.2100K | pages=2100–2121| pmc=3510653 |url=http://www.fil.ion.ucl.ac.uk/~karl/A%20Free%20Energy%20Principle%20for%20Biological%20Systems.pdf|doi-access=free}}</ref><ref>{{cite journal | last1=Colombo | first1=Matteo | last2=Wright | first2=Cory | title=First principles in the life sciences: the free-energy principle, organicism, and mechanism | journal=Synthese | publisher=Springer Science and Business Media LLC | date=2018-09-10 | issn=0039-7857 | doi=10.1007/s11229-018-01932-w | page=|doi-access=free}}</ref>{{Better source|date=February 2020|reason=MDPI is a questionable source}} |
| | | | |
| | | | |
| | === 与其他理论的关系=== | | === 与其他理论的关系=== |
| − |
| |
| − |
| |
| | 主动推理与良好的调节器定理以及自组织的相关理论,如自组装、模式形成、自创生和拓扑实践密切相关。它涉及控制论、协同学和具身认知理论中所考虑的主题。由于自由能可以用变分密度下观测值的期望能量减去其熵来表示,因此它也与最大熵原理有关。最后,由于能量的时间平均值是作用量,因此最小变分自由能原理是最小作用量原理。 | | 主动推理与良好的调节器定理以及自组织的相关理论,如自组装、模式形成、自创生和拓扑实践密切相关。它涉及控制论、协同学和具身认知理论中所考虑的主题。由于自由能可以用变分密度下观测值的期望能量减去其熵来表示,因此它也与最大熵原理有关。最后,由于能量的时间平均值是作用量,因此最小变分自由能原理是最小作用量原理。 |
| − |
| |
| | | | |
| | | | |
| 第33行: |
第28行: |
| | | | |
| | | | |
| − | 它解决了[[控制论]],[[协同学(哈肯)|协同学]]中考虑的主题<ref>Haken, H. (1983). Synergetics: An introduction. Non-equilibrium phase transition and self-organisation in physics, chemistry and biology (3rd ed.). Berlin: Springer Verlag.</ref>以及[[具身认知]]。由于自由能可以表示为变分密度下观测值的期望能量减去其熵,因此它也与[[最大熵原理]]有关。<ref>Jaynes, E. T. (1957). [http://bayes.wustl.edu/etj/articles/theory.1.pdf Information Theory and Statistical Mechanics]. Physical Review Series II, 106 (4), 620–30.</ref> 最后,由于能量的时间平均是作用量,最小变分自由能原理是一种[[最小作用原理]]。 | + | 它解决了[[控制论]],[[协同学]]中考虑的主题<ref>Haken, H. (1983). Synergetics: An introduction. Non-equilibrium phase transition and self-organisation in physics, chemistry and biology (3rd ed.). Berlin: Springer Verlag.</ref>以及[[具身认知]]。由于自由能可以表示为变分密度下观测值的期望能量减去其熵,因此它也与[[最大熵原理]]有关。<ref>Jaynes, E. T. (1957). [http://bayes.wustl.edu/etj/articles/theory.1.pdf Information Theory and Statistical Mechanics]. Physical Review Series II, 106 (4), 620–30.</ref> 最后,由于能量的时间平均是作用量,最小变分自由能原理是一种[[最小作用原理]]。 |
| | | | |
| | | | |
| | 这些示意图说明了如何将状态划分为内部状态和隐藏状态或外部状态,这些状态由一个马尔可夫毯(包括感觉状态和活动状态)分隔开来。下面的面板显示了这个分区,因为它将应用于大脑中的动作和感知;活动和内部状态将感官状态的自由能功能最小化。随后内部状态的自组织与感知相对应,而动作将大脑状态与外部状态耦合。上面的面板显示完全相同的依赖性,但重新排列,使内部状态与细胞内状态相关联,而感觉状态成为细胞膜的表面状态覆盖活性状态(例如,细胞骨架的肌动蛋白丝)。 | | 这些示意图说明了如何将状态划分为内部状态和隐藏状态或外部状态,这些状态由一个马尔可夫毯(包括感觉状态和活动状态)分隔开来。下面的面板显示了这个分区,因为它将应用于大脑中的动作和感知;活动和内部状态将感官状态的自由能功能最小化。随后内部状态的自组织与感知相对应,而动作将大脑状态与外部状态耦合。上面的面板显示完全相同的依赖性,但重新排列,使内部状态与细胞内状态相关联,而感觉状态成为细胞膜的表面状态覆盖活性状态(例如,细胞骨架的肌动蛋白丝)。 |
| | + | |
| | | | |
| | == 定义 == | | == 定义 == |
| | + | [[Image:MarokovBlanketFreeEnergyFigure.jpg|500px|right|thumb|这些示意图说明了将状态划分为内部状态和隐藏状态或外部状态,这些状态由一个马尔可夫毯(包括感觉状态和活动状态)隔开。下面的面板显示了这个分区,因为它将应用于大脑中的动作和感知;活动和内部状态将感官状态的自由能功能最小化。随后内部状态的自组织与感知相对应,而动作将大脑状态与外部状态耦合。上面的面板显示了完全相同的依赖性,但重新排列,使内部状态与细胞内状态相关联,而感觉状态则成为细胞膜上覆盖活性状态的表面状态(例如,细胞骨架的肌动蛋白丝)]] |
| | | | |
| − | | + | 定义(连续公式):主动推理依赖于元组<math>(\Omega,\Psi,S,A,R,q,p)</math> , |
| − | Definition (continuous formulation): Active inference rests on the tuple <math>(\Omega,\Psi,S,A,R,q,p)</math>,
| |
| − | | |
| − | 定义(连续公式) : 主动推理依赖于元组<math>(\Omega,\Psi,S,A,R,q,p)</math> , | |
| − | | |
| − | [[Image:MarokovBlanketFreeEnergyFigure.jpg|500px|right|These schematics illustrate the partition of states into internal and hidden or external states that are separated by a Markov blanket – comprising sensory and active states. The lower panel shows this partition as it would be applied to action and perception in the brain; where active and internal states minimise a free energy functional of sensory states. The ensuing self-organisation of internal states then correspond perception, while action couples brain states back to external states. The upper panel shows exactly the same dependencies but rearranged so that the internal states are associated with the intracellular states of a cell, while the sensory states become the surface states of the cell membrane overlying active states (e.g., the actin filaments of the cytoskeleton).|链接=Special:FilePath/MarokovBlanketFreeEnergyFigure.jpg]]
| |
| − | | |
| − | [[图片:MarokovBlanketFreeEnergyFigure.jpg|500px |右|这些示意图说明了将状态划分为内部状态和隐藏状态或外部状态,这些状态由一个马尔可夫毯(包括感觉状态和活动状态)隔开。下面的面板显示了这个分区,因为它将应用于大脑中的动作和感知;活动和内部状态将感官状态的自由能功能最小化。随后内部状态的自组织与感知相对应,而动作将大脑状态与外部状态耦合。上面的面板显示了完全相同的依赖性,但重新排列,使内部状态与细胞内状态相关联,而感觉状态则成为细胞膜上覆盖活性状态的表面状态(例如,细胞骨架的肌动蛋白丝)。]]
| |
| − | | |
| − | '''Definition''' (continuous formulation): Active inference rests on the tuple <math>(\Omega,\Psi,S,A,R,q,p)</math>,
| |
| − | | |
| − | “Definition”(连续公式):主动推理基于元组<math>(\Omega,\Psi,S,A,R,q,p)</math>,
| |
| − | | |
| − | * ''A sample space'' <math>\Omega</math> – from which random fluctuations <math>\omega \in \Omega</math> are drawn
| |
| | | | |
| | *“一个样本空间”<math>\Omega</math>–从中提取随机波动<math>\Omega\in\Omega</math> | | *“一个样本空间”<math>\Omega</math>–从中提取随机波动<math>\Omega\in\Omega</math> |
| − |
| |
| − | * ''Hidden or external states'' <math>\Psi:\Psi\times A \times \Omega \to \mathbb{R}</math> – that cause sensory states and depend on action
| |
| − |
| |
| | *“隐藏或外部状态”<math>\Psi:\Psi\times A\times\Omega\to\mathbb{R}</math>——引起感觉状态并依赖于动作 | | *“隐藏或外部状态”<math>\Psi:\Psi\times A\times\Omega\to\mathbb{R}</math>——引起感觉状态并依赖于动作 |
| − |
| |
| − | * ''Sensory states'' <math>S:\Psi \times A \times \Omega \to \mathbb{R}</math> – a probabilistic mapping from action and hidden states
| |
| − |
| |
| | *“感觉状态”<math>S:\Psi\times A\times\Omega\to\mathbb{R}</math>——动作和隐藏状态的概率映射 | | *“感觉状态”<math>S:\Psi\times A\times\Omega\to\mathbb{R}</math>——动作和隐藏状态的概率映射 |
| − |
| |
| − | * ''Action'' <math>A:S\times R \to \mathbb{R}</math> – that depends on sensory and internal states
| |
| − |
| |
| | *“动作”<math>A:S\times R \to \mathbb{R}</math>——这取决于感觉和内部状态 | | *“动作”<math>A:S\times R \to \mathbb{R}</math>——这取决于感觉和内部状态 |
| − |
| |
| − | * ''Internal states'' <math>R:R\times S \to \mathbb{R}</math> – that cause action and depend on sensory states
| |
| − |
| |
| | *“内部状态”<math>R:R\times S\to\mathbb{R}</math>——引起动作并依赖于感觉状态 | | *“内部状态”<math>R:R\times S\to\mathbb{R}</math>——引起动作并依赖于感觉状态 |
| − |
| |
| − | * ''Generative density'' <math>p(s, \psi \mid m)</math> – over sensory and hidden states under a generative model <math>m</math>
| |
| − |
| |
| | *“生成密度”<math>p(s, \psi \mid m)</math>——在生成模型下的感觉和隐藏状态 | | *“生成密度”<math>p(s, \psi \mid m)</math>——在生成模型下的感觉和隐藏状态 |
| − |
| |
| − | *''Variational density'' <math>q(\psi \mid \mu)</math> – over hidden states <math>\psi \in \Psi</math> that is parameterised by internal states <math>\mu \in R</math>
| |
| − |
| |
| | *“变分密度”<math>q(\psi \mid \mu)</math>–由R中的内部状态<math>\mu \in R</math>参数化的隐藏状态<math>\psi \in \Psi</math> | | *“变分密度”<math>q(\psi \mid \mu)</math>–由R中的内部状态<math>\mu \in R</math>参数化的隐藏状态<math>\psi \in \Psi</math> |
| | | | |
| | | | |
| | 其目的是最大限度地提高模型的证据,或者最大限度地减少惊喜。这通常涉及隐状态的棘手边缘化,因此用变分自由能上界代替惊奇。这个公式建立在一个马尔可夫毯子(包括行动和感官状态) ,分离内部和外部状态。如果内部状态和作用力使自由能最小化,那么它们在感觉状态的熵上设置了一个上限 | | 其目的是最大限度地提高模型的证据,或者最大限度地减少惊喜。这通常涉及隐状态的棘手边缘化,因此用变分自由能上界代替惊奇。这个公式建立在一个马尔可夫毯子(包括行动和感官状态) ,分离内部和外部状态。如果内部状态和作用力使自由能最小化,那么它们在感觉状态的熵上设置了一个上限 |
| − |
| |
| − | === Action and perception 行动与感知===
| |
| − |
| |
| − |
| |
| − |
| |
| − | <math> \lim_{T\to\infty} \frac{1}{T} \underset{\text{free-action}} {\underbrace{\int_0^T F(s(t),\mu (t))\,dt}} \ge
| |
| − |
| |
| − | < math > lim { t to infty } frac {1}{ t } underset { text { free-action }{ underbrace { int _ 0 ^ t f (s (t) ,mu (t)) ,dt } ge
| |
| | | | |
| | | | |
| | + | ===行动与感知=== |
| | 目标是最大化模型证据<math>p(s\mid m)</math>或最小化意外<math>-\log p(s\mid m)</math>。这通常涉及隐藏态的难以处理的边缘化,因此意外被一个较高的变分自由能边界所取代。<ref name="Dayan"/>然而,这意味着内部状态也必须最小化自由能,因为自由能是感官和内部状态的函数: | | 目标是最大化模型证据<math>p(s\mid m)</math>或最小化意外<math>-\log p(s\mid m)</math>。这通常涉及隐藏态的难以处理的边缘化,因此意外被一个较高的变分自由能边界所取代。<ref name="Dayan"/>然而,这意味着内部状态也必须最小化自由能,因为自由能是感官和内部状态的函数: |
| − |
| |
| − | \lim_{T\to\infty} \frac{1}{T} \int_0^T \underset{\text{surprise}}{\underbrace{-\log p(s(t)\mid m)}} \, dt = H[p(s\mid m)] </math>
| |
| − |
| |
| − | 林 _ { t to infty } frac {1}{ t } int _ 0 ^ t underset { text { surprise }{ underbrace {-log p (s (t) mid m)}} ,dt = h [ p (s mid m)] </math >
| |
| − |
| |
| − |
| |
| | | | |
| | : <math> a(t) = \underset{a}{\operatorname{arg\,min}} \{ F(s(t),\mu(t)) \}</math> | | : <math> a(t) = \underset{a}{\operatorname{arg\,min}} \{ F(s(t),\mu(t)) \}</math> |
| − |
| |
| − |
| |
| − | 这是因为——在遍历假设下——意外的长期平均值是熵。这个界限阻止了一种自然的无序倾向,这种无序倾向与热力学第二定律和涨落定理有关。
| |
| − |
| |
| | : <math>\mu(t) = \underset{\mu}{\operatorname{arg\,min}} \{ F(s(t),\mu)) \} </math> | | : <math>\mu(t) = \underset{\mu}{\operatorname{arg\,min}} \{ F(s(t),\mu)) \} </math> |
| − |
| |
| − |
| |
| | | | |
| | : <math>\underset{\mathrm{free-energy}} {\underbrace{F(s,\mu)}} = \underset{\mathrm{energy}} {\underbrace{ E_q[-\log p(s,\psi \mid m)]}} - \underset{\mathrm{entropy}} {\underbrace{ H[q(\psi \mid \mu)]}} | | : <math>\underset{\mathrm{free-energy}} {\underbrace{F(s,\mu)}} = \underset{\mathrm{energy}} {\underbrace{ E_q[-\log p(s,\psi \mid m)]}} - \underset{\mathrm{entropy}} {\underbrace{ H[q(\psi \mid \mu)]}} |
| − |
| |
| | = \underset{\mathrm{surprise}} {\underbrace{ -\log p(s \mid m)}} + \underset{\mathrm{divergence}} {\underbrace{ D_{\mathrm{KL}}[q(\psi \mid \mu) \parallel p(\psi \mid s,m)]}} | | = \underset{\mathrm{surprise}} {\underbrace{ -\log p(s \mid m)}} + \underset{\mathrm{divergence}} {\underbrace{ D_{\mathrm{KL}}[q(\psi \mid \mu) \parallel p(\psi \mid s,m)]}} |
| − |
| |
| − |
| |
| − | 所有的贝叶斯推断都可以用自由能最小化来表达,例如,当自由能相对于内态最小化时,隐态上变分密度和后验密度之间的Kullback-Leibler散度最小化。当变分密度的形式固定时,这对应于近似贝叶斯推理,反之则对应于精确贝叶斯推理。因此,自由能最小化提供了贝叶斯推理和滤波(如Kalman滤波)的一般描述。复杂度和贝叶斯模型可以有效地分解为自由能量选择:
| |
| − |
| |
| − |
| |
| | \geq \underset{\mathrm{surprise}} {\underbrace{ -\log p(s \mid m)}} </math> | | \geq \underset{\mathrm{surprise}} {\underbrace{ -\log p(s \mid m)}} </math> |
| − |
| |
| − |
| |
| − |
| |
| − | <math> \underset{\text{free-energy}} {\underbrace{ F(s,\mu)}} = \underset{\text{complexity}} {\underbrace{ D_\mathrm{KL}[q(\psi\mid\mu)\parallel p(\psi\mid m)]}} - \underset{\mathrm{accuracy}} {\underbrace{E_q[\log p(s\mid\psi,m)]}}</math>
| |
| | | | |
| | | | |
| 第128行: |
第65行: |
| | | | |
| | | | |
| − | 具有最小自由能的模型在复杂度成本(c.f.,Occam's razor和更正式的计算成本处理)下提供了数据的精确解释。这里,复杂性是变分密度和关于隐藏状态的先验信念(即用于解释数据的有效自由度)之间的差异。
| + | ==自由能最小化== |
| − | | + | ===自由能最小化和自组织=== |
| − | == Free energy minimisation 自由能最小化== | |
| − | | |
| − | | |
| | | | |
| − | === Free energy minimisation and self-organisation 自由能最小化和自组织===
| + | 变分自由能是一种信息论泛函,不同于热力学(亥姆霍兹)自由能。然而,变分自由能的复杂性项与亥姆霍兹自由能具有相同的固定点(假设系统是热力学闭合的,而不是孤立的)。这是因为如果感觉干扰暂停(适当长的时间) ,复杂性是最小的(因为准确性可以忽略)。在这一点上,系统处于平衡状态,内部状态通过最小能量原理使亥姆霍兹自由能最小。 |
| − | | |
| − | | |
| − | 变分自由能是一种信息论泛函,不同于热力学(亥姆霍兹)自由能。然而,变分自由能的复杂性项与亥姆霍兹自由能具有相同的固定点(假设系统是热力学闭合的,而不是孤立的)。这是因为如果感觉干扰暂停(适当长的时间) ,复杂性是最小的(因为准确性可以忽略)。在这一点上,系统处于平衡状态,内部状态通过最小能量原理使亥姆霍兹自由能最小。 | |
| | | | |
| | | | |
| 第143行: |
第74行: |
| | | | |
| | : <math> \lim_{T\to\infty} \frac{1}{T} \underset{\text{free-action}} {\underbrace{\int_0^T F(s(t),\mu (t))\,dt}} \ge | | : <math> \lim_{T\to\infty} \frac{1}{T} \underset{\text{free-action}} {\underbrace{\int_0^T F(s(t),\mu (t))\,dt}} \ge |
| − |
| |
| | \lim_{T\to\infty} \frac{1}{T} \int_0^T \underset{\text{surprise}}{\underbrace{-\log p(s(t)\mid m)}} \, dt = H[p(s\mid m)] </math> | | \lim_{T\to\infty} \frac{1}{T} \int_0^T \underset{\text{surprise}}{\underbrace{-\log p(s(t)\mid m)}} \, dt = H[p(s\mid m)] </math> |
| | | | |
| 第150行: |
第80行: |
| | | | |
| | | | |
| − | 这是因为在[[遍历理论|遍历]]假设下,惊喜的长期平均值是熵。这个界限抵抗了一种自然的无序倾向,这种无序倾向与[[热力学第二定律]]和[[涨落定理]]有关。
| + | 这是因为在遍历假设下,惊喜的长期平均值是熵。这个界限抵抗了一种自然的无序倾向,这种无序倾向与[[热力学第二定律]]和[[涨落定理]]有关。 |
| | | | |
| − | === Free energy minimisation and Bayesian inference 自由能最小化与贝叶斯推理===
| |
| | | | |
| | + | ===自由能最小化与贝叶斯推理=== |
| | | | |
| − | 自由能最小化为在不确定性条件下建立神经元推理和学习的规范(Bayes最优)模型提供了一种有用的方法,因此符合贝叶斯Bayesian脑假设。由自由能最小化描述的神经元过程取决于隐藏状态的性质:<math> \Psi = X \times \Theta \times \Pi </math>,它可以包括时间相关变量、时不变参数和随机波动的精度(逆方差或温度)。最小化变量、参数和精度分别对应于推理、学习和不确定性编码。
| + | 自由能最小化为在不确定性条件下建立神经元推理和学习的规范(贝叶斯最优)模型提供了一种有用的方法,因此符合贝叶斯脑假设。由自由能最小化描述的神经元过程取决于隐藏状态的性质:<math> \Psi = X \times \Theta \times \Pi </math>,它可以包括时间相关变量、时不变参数和随机波动的精度(逆方差或温度)。最小化变量、参数和精度分别对应于推理、学习和不确定性编码。 |
| | | | |
| | | | |
| 第167行: |
第97行: |
| | | | |
| | 具有最小自由能的模型提供了数据的精确解释,降低了复杂性成本(c.f.,[[奥卡姆剃刀]]和计算成本的更正式的处理方法<ref>Ortega, P. A., & Braun, D. A. (2012). [http://rspa.royalsocietypublishing.org/content/469/2153/20120683 Thermodynamics as a theory of decision-making with information processing costs]. Proceedings of the Royal Society A, vol. 469, no. 2153 (20120683) .</ref>)。这里,复杂性是变分密度和关于隐藏状态的先验信念(即用于解释数据的有效自由度)之间的差异。 | | 具有最小自由能的模型提供了数据的精确解释,降低了复杂性成本(c.f.,[[奥卡姆剃刀]]和计算成本的更正式的处理方法<ref>Ortega, P. A., & Braun, D. A. (2012). [http://rspa.royalsocietypublishing.org/content/469/2153/20120683 Thermodynamics as a theory of decision-making with information processing costs]. Proceedings of the Royal Society A, vol. 469, no. 2153 (20120683) .</ref>)。这里,复杂性是变分密度和关于隐藏状态的先验信念(即用于解释数据的有效自由度)之间的差异。 |
| − |
| |
| − | <math>\dot{\tilde{\mu}} = D \tilde{\mu} - \partial_{\mu}F(s,\mu)\Big|_{\mu = \tilde{\mu}}</math>
| |
| − |
| |
| − | === Free energy minimisation and thermodynamics 自由能最小化与热力学===
| |
| | | | |
| | | | |
| | + | ===自由能最小化与热力学=== |
| | 通常,定义自由能的生成模型是非线性和层次化的(就像大脑中的皮层层次结构)。广义滤波的特例包括Kalman滤波,它在形式上等同于预测编码(predictive coding)——大脑中信息传递的一个流行隐喻。在层次模型下,预测编码涉及到上升(自下而上)预测错误和下降(自上而下)预测的反复交换,这与感觉和运动系统的解剖和生理学是一致的。 | | 通常,定义自由能的生成模型是非线性和层次化的(就像大脑中的皮层层次结构)。广义滤波的特例包括Kalman滤波,它在形式上等同于预测编码(predictive coding)——大脑中信息传递的一个流行隐喻。在层次模型下,预测编码涉及到上升(自下而上)预测错误和下降(自上而下)预测的反复交换,这与感觉和运动系统的解剖和生理学是一致的。 |
| | | | |
| | | | |
| | 变分自由能是一种信息论泛函,不同于热力学(亥姆霍兹Helmholtz)[[Helmholtz自由能|自由能]]。<ref>Evans, D. J. (2003). [http://rscweb.anu.edu.au/~evans/papers/NEFET.pdf A non-equilibrium free energy theorem for deterministic systems]. Molecular Physics , 101, 15551–4.</ref>然而,变分自由能的复杂性项与Helmholtz自由能具有相同的不动点(假设系统是热力学封闭而非孤立的)。这是因为如果感官干扰被暂停(一段适当长的时间),复杂性被最小化(因为准确度可以忽略)。此时,系统处于平衡状态,内部状态根据[[最小能量原理]]<ref>Jarzynski, C. (1997). [https://arxiv.org/abs/cond-mat/9610209 Nonequilibrium equality for free energy differences]. Phys. Rev. Lett., 78, 2690.</ref>使亥姆霍兹自由能最小化。 | | 变分自由能是一种信息论泛函,不同于热力学(亥姆霍兹Helmholtz)[[Helmholtz自由能|自由能]]。<ref>Evans, D. J. (2003). [http://rscweb.anu.edu.au/~evans/papers/NEFET.pdf A non-equilibrium free energy theorem for deterministic systems]. Molecular Physics , 101, 15551–4.</ref>然而,变分自由能的复杂性项与Helmholtz自由能具有相同的不动点(假设系统是热力学封闭而非孤立的)。这是因为如果感官干扰被暂停(一段适当长的时间),复杂性被最小化(因为准确度可以忽略)。此时,系统处于平衡状态,内部状态根据[[最小能量原理]]<ref>Jarzynski, C. (1997). [https://arxiv.org/abs/cond-mat/9610209 Nonequilibrium equality for free energy differences]. Phys. Rev. Lett., 78, 2690.</ref>使亥姆霍兹自由能最小化。 |
| − |
| |
| − | === Free energy minimisation and information theory 自由能最小化与信息论===
| |
| | | | |
| | | | |
| | + | ===自由能最小化与信息论=== |
| | 在预测编码中,通过自由能时间积分(自由作用)的梯度上升来优化模型参数会降低到联想或赫伯可塑性,并与大脑中的突触可塑性有关。 | | 在预测编码中,通过自由能时间积分(自由作用)的梯度上升来优化模型参数会降低到联想或赫伯可塑性,并与大脑中的突触可塑性有关。 |
| | | | |
| 第188行: |
第114行: |
| | | | |
| | 优化精度参数对应于优化预测误差的增益(c.f.,Kalman增益)。在预测编码的神经元似是而非的实现中, | | 优化精度参数对应于优化预测误差的增益(c.f.,Kalman增益)。在预测编码的神经元似是而非的实现中, |
| − |
| |
| − | == Free energy minimisation in neuroscience 神经科学中的自由能最小化==
| |
| | | | |
| | | | |
| | + | ==神经科学中的自由能最小化== |
| | 在多目标环境下,通过贝叶斯重构的 SAIM 算法对选择性注意任务的结果进行了仿真。这些图表显示了知识网络中 FOA 和两个模板单元的激活时间过程。 | | 在多目标环境下,通过贝叶斯重构的 SAIM 算法对选择性注意任务的结果进行了仿真。这些图表显示了知识网络中 FOA 和两个模板单元的激活时间过程。 |
| | | | |
| 第201行: |
第126行: |
| | | | |
| | | | |
| − | === Perceptual inference and categorisation 感性推理与分类=== | + | ===感性推理与分类=== |
| − | | |
| − | | |
| − | | |
| | <math>\dfrac{\partial E^{total}(Y^{VP},X^{SN},x^{CN},y^{KN})}{\partial y^{SN}_{mn}}=x^{CN}_{mn}-b^{CN}\varepsilon^{CN}_{nm}+b^{CN}\sum_{k}(\varepsilon^{KN}_{knm})</math> | | <math>\dfrac{\partial E^{total}(Y^{VP},X^{SN},x^{CN},y^{KN})}{\partial y^{SN}_{mn}}=x^{CN}_{mn}-b^{CN}\varepsilon^{CN}_{nm}+b^{CN}\sum_{k}(\varepsilon^{KN}_{knm})</math> |
| − |
| |
| − | (y ^ { VP } ,x ^ { SN } ,x ^ { CN } ,y ^ { KN }){ partial y ^ { SN }{ mn }}} = x ^ { CN }-b ^ { CN } varepsilon ^ { nm } + b ^ { CN } sum { k }(varepsilon ^ { KN }{ m }) </knmath >
| |
| | | | |
| | | | |
| 第222行: |
第142行: |
| | | | |
| | 通常,定义自由能的生成模型是非线性和层次结构的(就像大脑中的皮层层次结构)。广义滤波的特殊情况包括[[Kalman filter]]ing,它在形式上等价于[预测编码]]<ref>Rao, R. P., & Ballard, D. H. (1999). [https://www.cs.utexas.edu/users/dana/nn.pdf Predictive coding in the visual cortex: a functional interpretation of some extra-classical receptive-field effects]. Nat Neurosci. , 2 (1), 79–87.</ref> 一种关于大脑中信息传递的流行隐喻。在分层模型下,预测编码涉及到上升(自下而上)预测错误和下降(自上而下)预测的循环交换<ref name="Mumford">Mumford, D. (1992). [http://cs.brown.edu/people/tld/projects/cortex/course/suggested_reading_list/supplements/documents/MumfordBC-92.pdf On the computational architecture of the neocortex]. II. Biol. Cybern. , 66, 241–51.</ref>这与感觉器官的解剖学和生理学<ref>Bastos, A. M., Usrey, W. M., Adams, R. A., Mangun, G. R., Fries, P., & Friston, K. J. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Canonical%20Microcircuits%20for%20Predictive%20Coding.pdf Canonical microcircuits for predictive coding]. Neuron , 76 (4), 695–711.</ref>以及动力系统<ref>Adams, R. A., Shipp, S., & Friston, K. J. (2013). [http://www.fil.ion.ucl.ac.uk/~karl/Predictions%20not%20commands%20-%20active%20inference%20in%20the%20motor%20system.pdf Predictions not commands: active inference in the motor system]. Brain Struct Funct. , 218 (3), 611–43</ref>是一致的。 | | 通常,定义自由能的生成模型是非线性和层次结构的(就像大脑中的皮层层次结构)。广义滤波的特殊情况包括[[Kalman filter]]ing,它在形式上等价于[预测编码]]<ref>Rao, R. P., & Ballard, D. H. (1999). [https://www.cs.utexas.edu/users/dana/nn.pdf Predictive coding in the visual cortex: a functional interpretation of some extra-classical receptive-field effects]. Nat Neurosci. , 2 (1), 79–87.</ref> 一种关于大脑中信息传递的流行隐喻。在分层模型下,预测编码涉及到上升(自下而上)预测错误和下降(自上而下)预测的循环交换<ref name="Mumford">Mumford, D. (1992). [http://cs.brown.edu/people/tld/projects/cortex/course/suggested_reading_list/supplements/documents/MumfordBC-92.pdf On the computational architecture of the neocortex]. II. Biol. Cybern. , 66, 241–51.</ref>这与感觉器官的解剖学和生理学<ref>Bastos, A. M., Usrey, W. M., Adams, R. A., Mangun, G. R., Fries, P., & Friston, K. J. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Canonical%20Microcircuits%20for%20Predictive%20Coding.pdf Canonical microcircuits for predictive coding]. Neuron , 76 (4), 695–711.</ref>以及动力系统<ref>Adams, R. A., Shipp, S., & Friston, K. J. (2013). [http://www.fil.ion.ucl.ac.uk/~karl/Predictions%20not%20commands%20-%20active%20inference%20in%20the%20motor%20system.pdf Predictions not commands: active inference in the motor system]. Brain Struct Funct. , 218 (3), 611–43</ref>是一致的。 |
| | + | |
| | | | |
| | === Perceptual learning and memory 知觉学习与记忆=== | | === Perceptual learning and memory 知觉学习与记忆=== |
| 第230行: |
第151行: |
| | | | |
| | 在预测编码中,通过自由能(自由作用)时间积分的梯度上升来优化模型参数会降低到联想或[[Hebbian理论| Hebbian可塑性]],并与大脑中的[[synaptic可塑性]]相关。 | | 在预测编码中,通过自由能(自由作用)时间积分的梯度上升来优化模型参数会降低到联想或[[Hebbian理论| Hebbian可塑性]],并与大脑中的[[synaptic可塑性]]相关。 |
| | + | |
| | | | |
| | === Perceptual precision, attention and salience 知觉的精确性、注意力和显著性=== | | === Perceptual precision, attention and salience 知觉的精确性、注意力和显著性=== |
| 第264行: |
第186行: |
| | 比较这两个模型的结果发现他们的结果之间有显著的相似性,同时指出了一个显著的差异,即在SAIM的标准版本中,模型的重点主要是兴奋性连接,而在PE-SAIM中,抑制性连接将被用来进行推断。该模型对人体实验的脑电和功能磁共振数据具有较高的预测精度。 | | 比较这两个模型的结果发现他们的结果之间有显著的相似性,同时指出了一个显著的差异,即在SAIM的标准版本中,模型的重点主要是兴奋性连接,而在PE-SAIM中,抑制性连接将被用来进行推断。该模型对人体实验的脑电和功能磁共振数据具有较高的预测精度。 |
| | | | |
| − | == Active inference 主动推理== | + | ==主动推理== |
| − | | |
| − | | |
| | 当梯度下降应用于动作<math>\dot{a}=-\partial\u aF(s,\tilde{\mu})</math>时,运动控制可以理解为通过下降(皮质脊髓)预测参与的经典反射弧。这提供了一种形式主义,将平衡点解推广到[[自由度问题]]<ref>Feldman, A. G., & Levin, M. F. (1995). [http://e.guigon.free.fr/rsc/article/FeldmanLevin95.pdf The origin and use of positional frames of reference in motor control]. Behav Brain Sci. , 18, 723–806.</ref>移动轨迹。 | | 当梯度下降应用于动作<math>\dot{a}=-\partial\u aF(s,\tilde{\mu})</math>时,运动控制可以理解为通过下降(皮质脊髓)预测参与的经典反射弧。这提供了一种形式主义,将平衡点解推广到[[自由度问题]]<ref>Feldman, A. G., & Levin, M. F. (1995). [http://e.guigon.free.fr/rsc/article/FeldmanLevin95.pdf The origin and use of positional frames of reference in motor control]. Behav Brain Sci. , 18, 723–806.</ref>移动轨迹。 |
| − |
| |
| − | === Active inference and optimal control 主动推理与最优控制===
| |
| | | | |
| | | | |
| | + | ===主动推理与最优控制=== |
| | 主动推理与[[最优控制]]有关,它用状态转移或流的先验信念替换价值或成本函数。<ref>Friston, K., (2011). [http://www.fil.ion.ucl.ac.uk/~karl/What%20Is%20Optimal%20about%20Motor%20Control.pdf What is optimal about motor control?]. Neuron, 72(3), 488–98.</ref>这充分利用了贝叶斯滤波和[[Bellman方程]]解之间的紧密联系。然而,主动推理从状态空间的标量<math>V(x)</math>和向量<math>W(x)</math>值函数(c.f.,Helmholtz分解)指定的流<math>f=\Gamma\cdot\nabla V+\nabla\times W</math>开始。这里,<math>\Gamma</math>是随机波动的幅度,成本是<math>c(x)=f\cdot\nabla V+\nabla\cdot\Gamma\cdot V</math>。流上的先验<math>p(\tilde{x}\mid m)</math>诱导了一个先验的超状态<math>p(x\mid m)=\exp(V(x))</math>这是相应的正向[[Kolmogorov方程]]的解。<ref>Friston, K., & Ao, P. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Free%20Energy%20Value%20and%20Attractors.pdf Free-energy, value and attractors]. Computational and mathematical methods in medicine, 2012, 937860.</ref>相反,在假设<math>W=0的情况下,最优控制优化了给定成本函数的流量(即,流量没有旋度或具有详细平衡)。通常,这需要向后求解[[Kolmogorov方程]]。<ref>Kappen, H., (2005). [https://arxiv.org/abs/physics/0505066 Path integrals and symmetry breaking for optimal control theory]. Journal of Statistical Mechanics: Theory and Experiment, 11, p. P11011.</ref> | | 主动推理与[[最优控制]]有关,它用状态转移或流的先验信念替换价值或成本函数。<ref>Friston, K., (2011). [http://www.fil.ion.ucl.ac.uk/~karl/What%20Is%20Optimal%20about%20Motor%20Control.pdf What is optimal about motor control?]. Neuron, 72(3), 488–98.</ref>这充分利用了贝叶斯滤波和[[Bellman方程]]解之间的紧密联系。然而,主动推理从状态空间的标量<math>V(x)</math>和向量<math>W(x)</math>值函数(c.f.,Helmholtz分解)指定的流<math>f=\Gamma\cdot\nabla V+\nabla\times W</math>开始。这里,<math>\Gamma</math>是随机波动的幅度,成本是<math>c(x)=f\cdot\nabla V+\nabla\cdot\Gamma\cdot V</math>。流上的先验<math>p(\tilde{x}\mid m)</math>诱导了一个先验的超状态<math>p(x\mid m)=\exp(V(x))</math>这是相应的正向[[Kolmogorov方程]]的解。<ref>Friston, K., & Ao, P. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Free%20Energy%20Value%20and%20Attractors.pdf Free-energy, value and attractors]. Computational and mathematical methods in medicine, 2012, 937860.</ref>相反,在假设<math>W=0的情况下,最优控制优化了给定成本函数的流量(即,流量没有旋度或具有详细平衡)。通常,这需要向后求解[[Kolmogorov方程]]。<ref>Kappen, H., (2005). [https://arxiv.org/abs/physics/0505066 Path integrals and symmetry breaking for optimal control theory]. Journal of Statistical Mechanics: Theory and Experiment, 11, p. P11011.</ref> |
| | | | |
| − | === Active inference and optimal decision (game) theory 主动推理与最优决策(博弈)理论===
| |
| | | | |
| | + | ===主动推理与最优决策(博弈)理论=== |
| | | | |
| | [[最优决策]]问题(通常表示为[[部分可观测马尔可夫决策过程]]es)通过将[[效用|效用函数]]吸收到先验信念中,在主动推理中处理。在此设置中,具有高效用(低成本)的状态是代理希望占用的状态。通过给生成模型配备模型控制的隐藏状态,最小化可变自由能的策略(控制序列)会导致高效用状态。 <ref>Friston, K., Samothrakis, S. & Montague, R., (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Active%20inference%20and%20agency%20optimal%20control%20without%20cost%20functions.pdf Active inference and agency: optimal control without cost functions]. Biol. Cybernetics, 106(8–9), 523–41.</ref> | | [[最优决策]]问题(通常表示为[[部分可观测马尔可夫决策过程]]es)通过将[[效用|效用函数]]吸收到先验信念中,在主动推理中处理。在此设置中,具有高效用(低成本)的状态是代理希望占用的状态。通过给生成模型配备模型控制的隐藏状态,最小化可变自由能的策略(控制序列)会导致高效用状态。 <ref>Friston, K., Samothrakis, S. & Montague, R., (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Active%20inference%20and%20agency%20optimal%20control%20without%20cost%20functions.pdf Active inference and agency: optimal control without cost functions]. Biol. Cybernetics, 106(8–9), 523–41.</ref> |
| 第282行: |
第201行: |
| | 神经生物学上,神经调节剂[[多巴胺]]被认为通过调节编码预测误差的主细胞的增益来报告预测误差的准确性。<ref name="Friston_a">Friston, K. J. Shiner T, FitzGerald T, Galea JM, Adams R, Brown H, Dolan RJ, Moran R, Stephan KE, Bestmann S. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Dopamine%20Affordance%20and%20Active%20Inference.pdf Dopamine, affordance and active inference]. PLoS Comput. Biol., 8(1), p. e1002327.</ref> 这与多巴胺在报告预测错误“本身”中的作用密切相关,但在形式上与之不同<ref>Fiorillo, C. D., Tobler, P. N. & Schultz, W., (2003). [http://e.guigon.free.fr/rsc/article/FiorilloEtAl03.pdf Discrete coding of reward probability and uncertainty by dopamine neurons]. Science, 299(5614), 1898–902.</ref>以及与计算账户相关<ref>Frank, M. J., (2005). [http://ski.cog.brown.edu/papers/Frank_JOCN.pdf Dynamic dopamine modulation in the basal ganglia: a neurocomputational account of cognitive deficits in medicated and nonmedicated Parkinsonism]. J Cogn Neurosci., Jan, 1, 51–72.</ref> | | 神经生物学上,神经调节剂[[多巴胺]]被认为通过调节编码预测误差的主细胞的增益来报告预测误差的准确性。<ref name="Friston_a">Friston, K. J. Shiner T, FitzGerald T, Galea JM, Adams R, Brown H, Dolan RJ, Moran R, Stephan KE, Bestmann S. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Dopamine%20Affordance%20and%20Active%20Inference.pdf Dopamine, affordance and active inference]. PLoS Comput. Biol., 8(1), p. e1002327.</ref> 这与多巴胺在报告预测错误“本身”中的作用密切相关,但在形式上与之不同<ref>Fiorillo, C. D., Tobler, P. N. & Schultz, W., (2003). [http://e.guigon.free.fr/rsc/article/FiorilloEtAl03.pdf Discrete coding of reward probability and uncertainty by dopamine neurons]. Science, 299(5614), 1898–902.</ref>以及与计算账户相关<ref>Frank, M. J., (2005). [http://ski.cog.brown.edu/papers/Frank_JOCN.pdf Dynamic dopamine modulation in the basal ganglia: a neurocomputational account of cognitive deficits in medicated and nonmedicated Parkinsonism]. J Cogn Neurosci., Jan, 1, 51–72.</ref> |
| | | | |
| − | === Active inference and cognitive neuroscience 主动推理与认知神经科学=== | + | |
| | + | ===主动推理与认知神经科学=== |
| | | | |
| | | | |
| | 主动推理已被用于解决[[认知神经科学]]、脑功能和神经精神病学的一系列问题,包括:行动观察,<ref>Friston, K., Mattout, J. & Kilner, J., (2011). [http://www.fil.ion.ucl.ac.uk/~karl/Action%20understanding%20and%20active%20inference.pdf Action understanding and active inference]. Biol Cybern., 104, 137–160.</ref>镜像神经元,<ref>Kilner, J. M., Friston, K. J. & Frith, C. D., (2007). [http://www.fil.ion.ucl.ac.uk/~karl/Predictive%20coding%20an%20account%20of%20the%20mirror%20neuron%20system.pdf Predictive coding: an account of the mirror neuron system]. Cogn Process., 8(3), pp. 159–66.</ref> 扫视和视觉搜索,<ref>Friston, K., Adams, R. A., Perrinet, L. & Breakspear, M., (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Perceptions%20as%20hypotheses%20saccades%20as%20experiments.pdf Perceptions as hypotheses: saccades as experiments]. Front Psychol., 3, 151.</ref><ref>Mirza, M., Adams, R., Mathys, C., Friston, K. (2018). [https://journals.plos.org/plosone/article/authors?id=10.1371/journal.pone.0190429 Human visual exploration reduces uncertainty about the sensed world]. PLoS One, 13(1): e0190429 </ref> 眼球运动,<ref>Perrinet L, Adams R, Friston, K. [https://link.springer.com/content/pdf/10.1007%2Fs00422-014-0620-8.pdf Active inference, eye movements and oculomotor delays]. Biological Cybernetics, 108(6):777-801, 2014.</ref> 睡眠,<ref>Hobson, J. A. & Friston, K. J., (2012). [https://www.sciencedirect.com/science/article/pii/S0301008212000706 Waking and dreaming consciousness: Neurobiological and functional considerations]. Prog Neurobiol, 98(1), pp. 82–98.</ref>幻觉,<ref>Brown, H., & Friston, K. J. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Free-energy%20and%20illusions%20the%20Cornsweet%20effect.pdf Free-energy and illusions: the cornsweet effect]. Front Psychol , 3, 43.</ref> 注意,<ref name="Feldman" /> 动作选择,<ref name="Friston_a" /> 意识,<ref>{{Cite journal|last1=Rudrauf|first1=David|last2=Bennequin|first2=Daniel|last3=Granic|first3=Isabela|last4=Landini|first4=Gregory|last5=Friston|first5=Karl|last6=Williford|first6=Kenneth|date=2017-09-07|title=A mathematical model of embodied consciousness|journal=Journal of Theoretical Biology|volume=428|pages=106–131|doi=10.1016/j.jtbi.2017.05.032|pmid=28554611|issn=0022-5193|url=http://discovery.ucl.ac.uk/10057795/1/DR_et_al_A_math_model_of_embodied_consciousness_JTBiol_final_revision_for_submission.pdf}}</ref><ref>{{Cite journal|title=The Projective Consciousness Model and Phenomenal Selfhood|journal = Frontiers in Psychology|volume = 9|pages = 2571|last1=K|first1=Williford|last2=D|first2=Bennequin|date=2018-12-17|language=en|pmid=30618988|pmc = 6304424|last3=K|first3=Friston|last4=D|first4=Rudrauf|doi = 10.3389/fpsyg.2018.02571}}</ref> hysteria<ref>Edwards, M. J., Adams, R. A., Brown, H., Pareés, I., & Friston, K. J. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/A%20Bayesian%20account%20of%20hysteria.pdf A Bayesian account of 'hysteria']. Brain , 135(Pt 11):3495–512.</ref> 还有精神病。<ref>Adams RA, Perrinet LU, Friston K. (2012). [https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0047502 Smooth pursuit and visual occlusion: active inference and oculomotor control in schizophrenia]. PLoS One. , 12;7(10):e47502</ref> 对主动推理中行为的解释常常依赖于这样一种观点,即大脑有“顽固的预测”,它无法更新,从而导致使这些预测成真的行为。<ref>{{Cite journal|last1=Yon|first1=Daniel|last2=Lange|first2=Floris P. de|last3=Press|first3=Clare|date=2019-01-01|title=The Predictive Brain as a Stubborn Scientist|url=https://www.cell.com/trends/cognitive-sciences/abstract/S1364-6613(18)30239-0|journal=Trends in Cognitive Sciences|language=English|volume=23|issue=1|pages=6–8|doi=10.1016/j.tics.2018.10.003|issn=1364-6613|pmid=30429054|s2cid=53280000}}</ref> | | 主动推理已被用于解决[[认知神经科学]]、脑功能和神经精神病学的一系列问题,包括:行动观察,<ref>Friston, K., Mattout, J. & Kilner, J., (2011). [http://www.fil.ion.ucl.ac.uk/~karl/Action%20understanding%20and%20active%20inference.pdf Action understanding and active inference]. Biol Cybern., 104, 137–160.</ref>镜像神经元,<ref>Kilner, J. M., Friston, K. J. & Frith, C. D., (2007). [http://www.fil.ion.ucl.ac.uk/~karl/Predictive%20coding%20an%20account%20of%20the%20mirror%20neuron%20system.pdf Predictive coding: an account of the mirror neuron system]. Cogn Process., 8(3), pp. 159–66.</ref> 扫视和视觉搜索,<ref>Friston, K., Adams, R. A., Perrinet, L. & Breakspear, M., (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Perceptions%20as%20hypotheses%20saccades%20as%20experiments.pdf Perceptions as hypotheses: saccades as experiments]. Front Psychol., 3, 151.</ref><ref>Mirza, M., Adams, R., Mathys, C., Friston, K. (2018). [https://journals.plos.org/plosone/article/authors?id=10.1371/journal.pone.0190429 Human visual exploration reduces uncertainty about the sensed world]. PLoS One, 13(1): e0190429 </ref> 眼球运动,<ref>Perrinet L, Adams R, Friston, K. [https://link.springer.com/content/pdf/10.1007%2Fs00422-014-0620-8.pdf Active inference, eye movements and oculomotor delays]. Biological Cybernetics, 108(6):777-801, 2014.</ref> 睡眠,<ref>Hobson, J. A. & Friston, K. J., (2012). [https://www.sciencedirect.com/science/article/pii/S0301008212000706 Waking and dreaming consciousness: Neurobiological and functional considerations]. Prog Neurobiol, 98(1), pp. 82–98.</ref>幻觉,<ref>Brown, H., & Friston, K. J. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/Free-energy%20and%20illusions%20the%20Cornsweet%20effect.pdf Free-energy and illusions: the cornsweet effect]. Front Psychol , 3, 43.</ref> 注意,<ref name="Feldman" /> 动作选择,<ref name="Friston_a" /> 意识,<ref>{{Cite journal|last1=Rudrauf|first1=David|last2=Bennequin|first2=Daniel|last3=Granic|first3=Isabela|last4=Landini|first4=Gregory|last5=Friston|first5=Karl|last6=Williford|first6=Kenneth|date=2017-09-07|title=A mathematical model of embodied consciousness|journal=Journal of Theoretical Biology|volume=428|pages=106–131|doi=10.1016/j.jtbi.2017.05.032|pmid=28554611|issn=0022-5193|url=http://discovery.ucl.ac.uk/10057795/1/DR_et_al_A_math_model_of_embodied_consciousness_JTBiol_final_revision_for_submission.pdf}}</ref><ref>{{Cite journal|title=The Projective Consciousness Model and Phenomenal Selfhood|journal = Frontiers in Psychology|volume = 9|pages = 2571|last1=K|first1=Williford|last2=D|first2=Bennequin|date=2018-12-17|language=en|pmid=30618988|pmc = 6304424|last3=K|first3=Friston|last4=D|first4=Rudrauf|doi = 10.3389/fpsyg.2018.02571}}</ref> hysteria<ref>Edwards, M. J., Adams, R. A., Brown, H., Pareés, I., & Friston, K. J. (2012). [http://www.fil.ion.ucl.ac.uk/~karl/A%20Bayesian%20account%20of%20hysteria.pdf A Bayesian account of 'hysteria']. Brain , 135(Pt 11):3495–512.</ref> 还有精神病。<ref>Adams RA, Perrinet LU, Friston K. (2012). [https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0047502 Smooth pursuit and visual occlusion: active inference and oculomotor control in schizophrenia]. PLoS One. , 12;7(10):e47502</ref> 对主动推理中行为的解释常常依赖于这样一种观点,即大脑有“顽固的预测”,它无法更新,从而导致使这些预测成真的行为。<ref>{{Cite journal|last1=Yon|first1=Daniel|last2=Lange|first2=Floris P. de|last3=Press|first3=Clare|date=2019-01-01|title=The Predictive Brain as a Stubborn Scientist|url=https://www.cell.com/trends/cognitive-sciences/abstract/S1364-6613(18)30239-0|journal=Trends in Cognitive Sciences|language=English|volume=23|issue=1|pages=6–8|doi=10.1016/j.tics.2018.10.003|issn=1364-6613|pmid=30429054|s2cid=53280000}}</ref> |
| | + | |
| | | | |
| | == See also 请参阅== | | == See also 请参阅== |
| 第298行: |
第219行: |
| | | | |
| | * {{annotated link|Bayesian approaches to brain function}} | | * {{annotated link|Bayesian approaches to brain function}} |
| − |
| |
| − | Category:Biological systems
| |
| − |
| |
| − | 类别: 生物系统
| |
| − |
| |
| | * {{annotated link|Decision theory}} | | * {{annotated link|Decision theory}} |
| − |
| |
| − | Category:Systems theory
| |
| − |
| |
| − | 范畴: 系统论
| |
| − |
| |
| | * {{annotated link|Embodied cognition}} | | * {{annotated link|Embodied cognition}} |
| − |
| |
| − | Category:Computational neuroscience
| |
| − |
| |
| − | 类别: 计算神经科学
| |
| − |
| |
| | * {{annotated link|Free energy (disambiguation)}} | | * {{annotated link|Free energy (disambiguation)}} |
| | | | |
| − | Category:Mathematical and theoretical biology
| |
| − |
| |
| − | 类别: 数学和理论生物学
| |
| | | | |
| − | <noinclude>
| |
| | | | |
| − | <small>This page was moved from [[wikipedia:en:Free energy principle]]. Its edit history can be viewed at [[自由能原理/edithistory]]</small></noinclude>
| + | [[Category:生物系统]] |
| | + | [[Category:系统论]] |
| | + | [[Category:计算神经科学]] |
| | + | [[Category:数学和理论生物学]] |