朱家稷：盘古的设计和应用实践.pptVIP

* 盘古分布式文件系统 设计与应用实践 朱家稷 2012-09-09 Agenda 阿里云提供的产品和服务() ? 云服务器(ECS) – 自助管理、数据安全保障、自动故障恢复、防网络攻击等 ? 开放存储服务(OSS) – 海量，安全，低成本，高可靠的云存储服务 ? 开放数据处理服务(ODPS) – 大规模数据存储与数据分析 ? 开放结构化数据服务(OTS) – 海量结构化和半结构化数据存储与实时查询的服务 ? …… 集群部署 集群部署 Deployment Deployment 集群监控 集群监控 Monitoring Monitoring 开放存储 服务 OSS 开放结构化 数据服务 OTS 关系型数 据库服务 RDS 开放数据处 理处理服务 ODPS 弹性计算 服务 ECS Linux 数据中心 Data Center 云服务引擎 ACE 远程过程调用 Remote Procedure Call 安全管理 Security Management 分布协同服务 Distributed Coordinatio n Service 资源管理 Resource Management 分布式文件系统 Distributed File System 任务调度 Job Scheduling 云计算服务给分布式文件系统带来的挑战 ? ? ? ? ? 数据高可靠 (99.999%) 服务高可用 (99.9%) 离线大数据高吞吐处理 在线服务实时访问 (10ms) 低成本高效运维 Agenda 设计目标 主要特性 ? 多Master ? 数据多备份 ? Checksum ? 回收站 ? 异常检测和紧急复制 ? 流量控制 ? 优先级 盘古架构 M M Paxos CS CS CS CS CS M ? Master-Slave结构 – master管理元数据，chunkserver负责数据读写 ? 基于Paxos的多Master，故障自动恢复时间小于一分钟 ? 文件分块(Chunk)，缺省每块存三份，分布在不同机架 AppendData ACK Flu Ch un 数据访问流程 Pangu client M Paxos M M CS CS CS CS Create Chunk sh k Append Append ACK ACK Chunk Location Commit new length Agenda ? ? ? ? ? 多Master 在线服务升级 实时可靠的redo-log 数据存放优化策略 故障异常规避 多Master实现 ? Primary-secondaries模式 – Primary服务请求，secondaries热备 ? 基于Paxos的状态同步 – – – – 大多数协商一致，防止脑裂 两阶段日志提交 每个Master有独立的redo-log，增强元数据可靠性 大多数Master日志同步后返回请求成功，对其它 Master自动重试和后台补全 publish publish publish Master Master In poll poll poll electornewbie electornewbie electornewbie propose propose Master propose primary secondary secondary ElectMast er election election done sync log sync log RPC Agent Master Secondary 监控 Agent 调度 Agent Master Secondary Primary Chunkserv er RPC Agent 监控 Agent 调度 Agent Chunkserv er Chunkserv er 在线服务升级 Switch Primary Master Secondary Client 版本兼容 故障规避 MemFile Redo Log File Youchao Files Dump memfile to youchao file Read Write Memory Pangu Merge 提供实时可靠的redo-log KV服务：LSM-Tree模式 AppendData ACK Flu Ch un 普通文件数据访问流程 Pangu client M Paxos M M CS CS CS CS Create