有哪些信誉好的足球投注网站- 1、有哪些信誉好的足球投注网站（book118）网站文档一经付费（服务费），不意味着购买了该文档的版权，仅供个人/单位学习、研究之用，不得用于商业用途，未经授权，严禁复制、发行、汇编、翻译或者网络传播等，侵权必究。。
- 2、本站所有内容均由合作方或网友上传，本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺！文档内容仅供研究参考，付费前请自行鉴别。如您付费，意味着您自己接受本站规则且自行承担风险，本站不退款、不进行额外附加服务；查看《如何避免下载的几个坑》。如果您已付费下载过本站文档，您可以点击 这里二次下载。
- 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等，请点击“版权申诉”（推荐），也可以打举报电话：400-050-0827(电话支持时间：9:00-18:30)。
- 4、该文档为VIP文档，如果想要下载，成为VIP会员后，下载免费。
- 5、成为VIP后，下载本文档将扣除1次下载权益。下载后，不支持退款、换文档。如有疑问请联系我们。
- 6、成为VIP后，您将拥有八大权益，权益包括：VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
- 7、VIP文档为合作方或网友上传，每下载1次， 网站将根据用户上传文档的质量评分、类型等，对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多
大数据技术与应用 - 大数据处理和分析 - MapReduce - 第四课
大数据技术与应用 网络与交换技术国家重点实验室 交换与智能控制研究中心 程祥 2016年9月 提纲-大数据处理和分析 1. 批处理计算 1.1 MapReduce 1.2 Spark 2. 流计算 2.1 Storm 3. 图计算 3.1 Pregel 4. 分析和挖掘 4.1 Hive 4.2 Mahout 1 Mapreduce •1.1 MapReduce概述 •1.2 MapReduce体系结构 •1.3 MapReduce工作流程 •1.4 实例：WordCount •1.5 MapReduce编程实践 1.1 MapReduce概述 •1.1.1 分布式并行编程 •1.1.2 MapReduce简介 •1.1.3 Map和Reduce函数 1.1.1 分布式并行编程 • “摩尔定律”， CPU性能大约每隔18个月翻一番 • 摩尔定律从2005年开始逐渐失效，然而需要处理的 数据量快速增加，人们开始借助于分布式并行计算 来提高程序性能 • 程序运行在大规模计算机集群上，可以分布式并行 执行大规模数据处理任务，从而获得更强的计算能 力 • 谷歌公司提出了新型分布式并行编程框架MapReduce OSDI04: MapReduce: Simplified Data Processing on Large Clusters 1.1.1 分布式并行编程（续） 问题：在MapReduce出现之前，已经有像MPI这样非常成熟 的并行计算框架了，那么为什么Google还需要MapReduce？ MapReduce相较于传统的并行计算框架有什么优势？ 传统并行计算框架 MapReduce 集群架构/容错性 共享式(共享内存/共享存储)，容 非共享式，容错性好 错性差 硬件/价格/扩展性 专用服务器、高速网、SAN，价格 普通PC机，便宜，扩展性 贵，扩展性差 好 编程/学习难度 what-how，难 what，简单 适用场景 实时、细粒度计算、计算密集型 批处理、非实时、数据密 集型 1.1.2 MapReduce简介 • MapReduce将复杂的、运行于大规模集群上的并行计算过 程高度地抽象到了两个函数：Map和Reduce • 编程容易，不需要掌握分布式并行编程细节，也可以很容 易把自己的程序运行在分布式系统上，完成海量数据的计 算 • MapReduce采用“分而治之”策略，一个存储在分布式文 件系统中的大规模数据集会被切分成许多独立的分片（ split），然后进行分布式并行处理 • MapReduce框架采用了Master/Slave架构，包括一个 Master和若干个Slave • Hadoop MapReduce是Google MapReduce的开源实现，后面 讲的MapReduce不做说明的情况下均指Hadoop MapReduce 1.1.3 Map和Reduce函数 表Map和Reduce 函数 输入 输出 说明 Map k ,v List(k ,v ) 1.将小数据集进一步解析成一批 1 1 2 2 如： 如： key,value对，输入Map 函数中进行
文档评论（0）