高通推类人脑的学习型芯片架构.PDF

高通推类人脑的学习型芯片架构 人脑有数十亿神经元能够对外界刺激作出反应，相同反应重复 N 次之 后，人脑将学习到这一行为，从而缩短下一次的反应周期。与此相比， 计算技术还相差甚远。不过高通最近研发的 Zeroth 处理器，隶属于 Neural Processing Units (NPUs) 范畴，就试图通过模拟人脑的方式对外 界刺激作出反应，从而“学”到东西，避免程序员再写代码。 为了演示这一技术，高通专门造了一个只访问白色地砖的机器人。把这 个机器人放在含彩色地砖的地板上，这个机器人首先会全部走一边，熟 悉环境。而当它走到白色地砖上时，你都告诉他“Good Robot” 。这样， 当它再次在地板行走时，它就专挑白色地砖走。这个过程没有代码，只 有你的“Good Robot”命令。 目前，高通已开发出一套软件工具帮助 Zeroth 学习什么是“好” 的行为 和“坏” 的行为。而据MIT Technology Review 报道，高通也将在明年针 对研发人员和创业公司推相应的软件平台。 除了高通，IBM 也有类人脑芯片架构SyNAPSE 。这个新架构能够在人 群中很快地找到熟悉的脸。由此看来，类人脑的芯片架构或许是计算技 术发展的下一轮高峰。 寒寒武纪1 号———强人工工智能的的机器学学习芯片片(转载载) 我们的最终终目标一是是让每个手机机或者电脑脑集成一个专专门的机器器学习芯片 （就 像每每台电脑为为了处理图像像都有一块块GPU 一样样），二是用用这种芯片片搭建能具有有强 人工工智能的超超级计算机。 坎坎坷前期 寒寒武纪计划的启动是在在两年前。当当时，未来来计算组已经经在体系结结构和人工智智能 的交交叉研究的探索中走过过将近五年年，而这条路路却并不那那么顺利。 22008 年以来来，未来计算组的创始始人陈云霁霁和陈天石曾曾多次尝试试申请项目来来支 持该该研究，但获获得的支持持却寥寥无几，直到今今天，获得的的专项资助助仅有一个青青年 科学学基金项目。不仅如此此，他们曾提提出一系列列基于人工智智能方法的的处理器研发发技 术，并多次向体体系结构顶顶级会议投稿稿，甚至有有几次还获得得不错的分分数，可最终终依 然是是被拒收。 后后来我们发发现，很多体体系结构方方向的审稿人人更关心“鱼鱼” （一个好好的处理器的的结 构具具体是什么样子），而而非“渔” （如如何用只能能放放去实现现这一结构构），陈云霁霁表 示。 转转机出现在在2011 年的的IJCAI 会议议上，这是是人工智能领领域的顶级级会议，未来来计 算组组的一种基基于半监督学学习的处理理器结构优化化方法来指指导龙芯处理理器的设计计成 果发发表在这个个会议上。一一年后，他们们作为第一一单位，同美美国威斯康康辛大学麦迪迪逊 分校校、法国原子子能协会、法国勃艮第第大学、IBBM 和法国国国家信息与与自动化研究究所 一起起提出了BenchNN 基基准测试集。。基本同一一个时期，未未来计算组组启动了寒武武纪 计划划。 技术路线 2012 年，未来计算组用了整整一年的时间来斟酌寒武纪计划应该采用何种技 术路线。当时主要有两种选择——脉冲神经网络(spiking neural network) 和人 工神经网络( ar tifi cial n eu r al n etw o r k )。 经过一年的争论，2012 年12 月，未来计算组最终在寒武纪1 号的目标上达 成了一致，他们并没有用目前被很多学者视为比较适合大脑模拟的脉冲神经网络， 而是采用了人工神经网络。他们认为，人工神经网络被公认为最好的机器学习方 法之一，因此，人工神经网络处理器可以广泛应用于从移动终端到云服务器的各 种场景，有效加速广告推送、数据挖掘、语音识别、人脸识别乃至机器翻译等各 种机器学习应用。而目前愈发突出的暗硅现象也使得通用处理器完全可以将人工 神经网络处理器作为一个加速器集成进去即实现支持大部分主流人工神经网络 算法的机器学习加速器。 实现支持大部分主流人工神经网络算法的机器学习加速器，成为寒武纪1 号的 一个明确思路。 巨头瞄向 未来计算组精心设计了一套具有针对性的分块处理和访存优化方法，从而使得 寒武纪1 号能高效地处理任意规模、任意深度的神经网络。它可以在通用处理器