− | 如果对强人工智能的研究造出了足够智能的软件,那么它也许能做到重新编程并改进自己。改进后的软件甚至可以更好地改进自己,从而实现递归的自我改进。这种新的智能因此可以呈指数增长,并大大超过人类<ref name="recurse"/>。科幻作家弗诺·文奇将这种情况命名为“奇点”<ref name=Singularity/> :技术的加速发展将导致AI超越人类智力和控制能力的失控局面,从而彻底改变甚至终结人类文明。因为这样的智能人类难以理解,所有技术奇点出现后发生的事是不可预测,或者说深不可测的。<ref name=Singularity/><ref name="Roberts"/> | + | 如果对强人工智能的研究造出了足够智能的软件,那么它也许能做到重新编程并改进自己。改进后的软件甚至可以更好地改进自己,从而实现递归的自我改进。这种新的智能因此可以呈指数增长,并大大超过人类<ref name="recurse"/>。科幻作家弗诺·文奇将这种情况命名为“奇点”:技术的加速发展将导致AI超越人类智力和控制能力的失控局面,从而彻底改变甚至终结人类文明。因为这样的智能人类难以理解,所有技术奇点出现后发生的事是不可预测,或者说深不可测的。 |