云数据库方案设计.docxVIP

云数据库方案设计云数据库的云化改造面向云化环境，数据库在多个方面需要进行改造，包括快捷的安装部署，提供数据库的动态伸缩和资源隔离，以及监控、迁移、备份等一体化管理，以适应云环境中自动安装部署、一体化监控管理，资源动态分配等需求。快速安装及部署1.1 一键部署和分钟级实例的创建:1. 准备好预置数据库的docker镜像a. 初始化好空数据目录（也支持根据场景预置数据） b. 数据库配置文件放置在docker镜像之外，通过映射的方式进入镜像内部2. 用户选择实例资源后（CPU、内存），系统自动计算最佳设置 a. 用户选择实例的内存、CPU数量，使用场景（OLTP、OLAP） b. 根据用户选择，自动调整、优化参数（共享缓存、work_mem、等等）3. 使用docker镜像加载外置配置文件启动数据1.2 多种部署方式1. 单机（单独的docker镜像）2. 主备 和 负载均衡a). 配置好的三个独立docker镜像，分别扮演主机、备机、读写分离节点 b). 三个节点配置文件都在外部，映射到内部运行 c). 启动时，根据用户的资源选择和网络场景，自动规划配置文件内容3. KADB 集群 a). 根据角色配置好独立的docker镜像，分别扮演数据节点、协调器节点等 b). 节点的配置文件都放在外部，映射到内部运行 c). 根据用户设置的资源，场景，自动分配节点数量，配置节点参数.在线伸缩云环境中，支持在线调整任何一个实例使用的资源。对于数据库而言，若分配的资源，包括CPU、内存、磁盘等资源发生变化，数据库同样需要对于资源的变化实施生效。CPU变化时，主要影响数据库的并发连接数和并行参数，在金仓云数据库中，并发连接数和并行参数可以动态调整。内存发生变化时，数据库的共享内存，排序内存等内存分配支持动态调整，动态扩展。磁盘发生变化时，数据库可以配置表空间的存储，以及表存储，分区的存储，动态使用新增资源。另外，随着实际业务的增长，数据库集群的负载可能超出初始设计的承受能力，使得处理能力下降，不再满足业务需求，所以数据库集群支持在线扩展能力，即在不影响系统正常使用的情况下，增加数据库的数据处理能力。资源隔离KingbaseES云数据库支持多租户模式，以实现多个租户之间的资源隔离。每个租户创建自己的数据库，各自的数据库从元信息、用户数据到内存、以及日志信息，都是彼此隔离的。每个租户的数据库不可以彼此访问。各个租户的数据库可以方便的迁移和加载，支持各自的备份和恢复。一体化管理使用 KEM 监控数据库运行状态a). 支持自主监控（由KEM主动呈现） b). 支持将收集的数据汇集到其他管理平台使用 WEB 对象管理工具管理数据库对象a). 单机形式的数据库对象管理b). 主备形式的数据库对象管理c). KADB集群数据库对象管理二、向非关系型存储、大数据处理进行扩展通用数据库通用数据库按照处理业务的类型，分为交易型数据库和分析型数据库。交易数据库主要用于交易类型的业务处理，例如：业务流程电子化，其他业务系统。面向所有参与业务流程的人员。对数据的操作特点是：大量短、频、快的增删改操作。分析型数据库主要用于统计分析，数据挖掘应用。面向决策者和分析人员。对数据库的操作特点是：大量数据入库，大量复杂查询。云上的数据库需要有这两种数据库，来应对更多的用户应用需求。与大数据平台的互访大数据计算平台，例如Spark、HIVE等，需要支持大数据计算平台与数据库互访。以大数据计算平台为中心，建立分析平台。大数据计算平台访问数据库a)大数据计算平台Spark：可以提供JdbcRDD来访问单机数据库系统，并且根据某列对表进行分区，并行读取，提升效率。对于集群数据库，Spark工作进程可以对每一个存储节点进行数据读取，通过这种并行的方式提升效率。b)大数据计算平台HIVE：需要在HIVE中注册数据库表信息，将数据库的表映射成HIVE表，通过Hive-SQL进行数据读取，并在HIVE中进行运算。数据库访问大数据计算平台大数据计算平台可以将数据，例如计算结果，写入到数据库中，再在数据库中，利用SQL对数据进行分析。云数据集成3.1 与RDS的数据集成数据库使用外部表技术，可以访问RDS中的其他数据。支持多种格式的数据；支持访问和更新数据。同时，使用迁移工具实现到RDS的数据集成。3.2.与大数据存储平台的数据集成数据库提供外部表技术，可以将交易型和分析型数据库与其他存储平台对接，在数据库内部，通过外部表访问大数据存储平台中的数据，包括：a)与HDFS对接：外部表访问引擎（读写模块），通过调用HDFS的访问接口（InputFormat，OutputFormat），对Textfile，Avrofile，ParquetFile的文件进行读写。可以在数据库