控制论-集智俱乐部.doc

集智俱乐部AI小组三八妇女节大会总结 整理人：计算士 11 Mar 2009 Topic1：反馈与控制：目的论的算法？ 讨论内容： 维纳是如何把机械控制系统与人的神经系统相比的：通过不断地吸收反馈的信息进行校调，实现目的，所以我们不用管系统每一刻的状态，只需要用一个白箱来拟合这种黑箱的功能即可——这两个可比吗？要知道，人的大脑意识可以设置一个目的，但机械控制系统是没有目的的——控制论是不是要赋予机械系统一个目的？——一阶控制论是赋予目的的，二阶控制论则试图让系统自己搜寻目的。 基于目的论的算法比经典的牛顿力学算法简便：以在碗中滚动的小球为例，我们不用分析小球每一秒的受力情况就可以预测小球最后一定要落在最低点，因为我们知道小球要把所有能转化为动能的势能消耗干净——目的论只是一种算法，我们可以用目的论的方法，也可以用经典力学的方法，只不过有些时候前者比较有效而已——目的论真的只是单纯的算法么？我们如果习惯于认为系统是有目的的，最后会不会也认为宇宙有自己的演化目的，正如牛顿力学其实也是一种世界观：时间可逆的，钟表般严谨的，未来可确定地被预测的世界观。 Topic2：信息的计量，时间序列的预测 讨论的内容 维纳所提出的预测未来的方法与老方法有何不同？——老方法是建立在确定性的宇宙观基础上，所以拼命拟合历史数据，去寻找非常光滑的曲线，但这种方法对旧数据拟合得越是精细，对新数据的不一致和振荡就越是无能为力，在机器学习里，这就叫过拟合——在维纳看来，过去的历史数据当然有用，但那并不是过去的唯一可能，而是过去的无数种可能中的一种，如果我们考虑到业已发生的事件不过是一种可能性，正如掷出和为7的筛子并不是唯一的可能而只是最大的可能的话，那我们就可以给未来一个预测值的同时把置信区间，或者说标准误SE考虑在内，这就是“把预测理论中原来认为困难的东西变成解决实际预测问题的有力工具”，也是“把原来具有经验性和偶然性的过程，变为透彻的科学判断的过程”，从而我们也能理解维纳所说的“电话机和电报机只有在他们所传递的消息以不完全决定于过去的方式连续变化的时候才能发挥他们的功能，也只有在这些消息的变化符合某种统计规律的时候才能被有效地设计出来”。一句话，维纳“把通信工程变成统计力学的一个分支” 维纳是在解决什么具体问题的时候走向信息的呢，是滤波问题，就是如何使用统计规律去除白噪声之类的问题——为什么三个人：费希尔，申农和维纳从不同的方面都殊出同归地使用“二择一”的方式来表达信息。有其他种表达信息的方式么？ 一种可能性是，这是我们人类认识世界的自动对应算法，就好像一观察复杂系统就自动调用log律一样。 　　　　信息是什么？我们不断问这个世界我们猜得对不对。我们问一次问题，世界回答一次问题，就是一次观察，就是miner所谓的一次概率修正，就是jake所谓的一次波函数坍缩··· Holland设计的echo系统的信息处理系统也是这样一个“十万个是不是”的系统。 问题在于，世界可以以这种方式被询问么？事件总是连续不可切割的，我们不断观察，不断修正，无限小地切割事件，然后加以微积分运算，以为得到了平滑曲线···