全新PowerAI开发工具使深度学习更简单.PDF

全新 PowerAI 开发工具使深度学习更简单 原文链接: /pulse/new-powerai-developer-tools-make-deep-learning-easier-sumit-gupta 机器学习/深度学习、分析产品与业务领导者 今天，我们针对 IBM 的 PowerAI 深度学习工具包推出了一系列新增功能。PowerAI 最初 是一个软件分发包，由许多主流深度学习软件框架构成，例如用于模型训练的 TensorFlow、 Caffe、Torch、Theano 以及关联库的 cuDNN 等。一直以来，PowerAI 软件都在通过基 于 NVLink 的 Power 服务器 - IBM Power 822LC for HPC （Minsky ）进行性能优化。 此次新增的功能进一步拓展了 PowerAI 的功能： • 面向深度学习的新数据准备和转换工具 • 基于 Apache Spark 的集群统筹安排、虚拟化与分布 • 用于提升数据科学家开发体验的工具和 GUI • 通过在整个集群中部署深度学习与模型调优功能缩短训练时间 AI 软件堆栈 下图所示即为典型的 AI 软件与基础架构堆栈。 AI 基础架构堆栈中的各个层次 细分领域特定应用：金 应用 融、零售、医疗保健等 认知 API （例如： 内部认知 API 语音、视觉、NLP、情感 Watson ） TensorFlow、Caffe、 机器学习/深度学习库和框架 SparkML 分布式计算 Spark、MPI 数据转换和准备 (ETL) 数据湖和数据存储 Hadoop HDFS、NoSQL 数据库 加速的基础架构 加速的服务器 存储 AI 堆栈的基础首先是正确的硬件：带有加速器的服务器，以及正确的存储设备。GPU 加速 器非常适合深度学习训练 “计算密集”这一特性，而具有最高 CPU-GPU 带宽的服务器，例 如 IBM 的 NVLink ，能够实现高性能的数据传输，而这一点正是规模更大、更为复杂的深度 学习模型所需的优势。不过，首先我们要从正确的数据入手。 从数据入手 对于数据科学家和深度学习开发人员来说，如何找到适合输入的正确且带有标签数据是他们 面临的大难题之一。在大多数情况下，他们会从现有数据库中复制数据，或者直接使用来自 传感器或社交媒体的数据。之后，数据科学家必须准备数据，以供机器学习使用；在这方面， 他们通常采用的方法是将数据转换为深度学习软件可识别的格式。举例来说，如果想要使用 1 亿副图像来训练某个模型，就必须将图像的大小调整为 TensorFlow 或 Caffe 所要求的 大小。这种数据准备步骤通常被称作 ETL ，即“提取、转换与加载” ，它已经成为数据科学 家的主要痛点，因为数据的来源非常多样化，而且格式也各不相同。 对于深度学习训练来说，数据科学家会首先选择一个适合的神经网络模型作为起点，然后针 对所选的输入数据集对超级参数进行调优。这种模型调优是个迭代性