ceph分布式存储优缺点 ceph分布式存储搭建

一、了解分布式存储分布式存储系统,就是通过网络将数据分散存储在多**立的设备上二。分布式存储的特征可扩展性 1)节点扩展后,旧数据会自动迁移到新节点上,实现负载均衡,避免单点过热的情况出现 2)水平扩展只需要将新节点和原有集群连接到同一网络,整个过程不会对集群业...

一、了解分布式存储

分布式存储系统,就是通过网络将数据分散存储在多**立的设备上

二。分布式存储的特征

可扩展性 1)节点扩展后,旧数据会自动迁移到新节点上,实现负载均衡,避免单点过热的情况出现 2)水平扩展只需要将新节点和原有集群连接到同一网络,整个过程不会对集群业务造成影响 3)当节点添加到集群,集群系统的整体容量和性能也会随之线性扩展,此后新节点的资源就会被管理平台接管,被用于分配或者回收低成本高性能易用 分布式存储系统需要能提供易用的对外接口,另外也需要完整的监控,运维工具,并能够与其他系统集成易管理分布式存储系统的挑战主要在于数据,状态信息的持久化,要求在自动迁移,自动容错,并发读写的过程中保证数据的一致性。分布式存储系统涉及的技术主要在两个领域: 分布式系统以及数据库

三。Ceph优势和架构介绍

简介: Ceph是一个统一的分布式存储系统,涉及初衷是提供较好的性能,可靠性和可扩展性优势: 高扩展性: 使用普通x86服务器,支持10~1000台服务器,支持TB到EB级别的扩展 高可靠性: 没有单点故障,多数据副本,自动管理,自动修复 高性能: 数据分布均衡 可用于对象存储,块设备存储和文件系统存储

基本存储系统rados:基本存储系统RADOS(可靠自治、分布式对象存储,即可靠、自动和分布式对象存储)。事实上,Ceph系统中存储的所有用户数据最终都是由这一层存储的。Ceph的特点,如高可靠性、高可扩展性、高性能、高自动化等。,本质上都是这一层完成的基础库LIBEADOSlibrados:这一层的作用是对rados进行抽象和封装,并向上层提供API,以方便基于基础DADOS(而不是整个Ceph)的应用开发。特别是RAOCS是对象存储,所以librados实现的API也是针对对象存储功能的。高层应用接口radosgw:对象***接口(对象存储)rdb:块存储cephfs:文件系统存储用于为基于librados库的应用或客户端提供一个抽象级别更高、更方便的上层接口。四。Ceph的基本组件

如上图所示,Ceph主要有三个基本进程OSD,用于存储集群中的所有数据和对象。处理数据***、恢复、回填、平衡。并向其他osd守护进程发送heartbeat,然后向mon发送一些信息。当Ceph存储集群设置了两个副本(一个副本与两个副本共存)时,至少需要两个OSD guardian集成,即两个OSD节点,集群才能达到actice+clean状态。MDS(可选)为Ceph文件系统提供元数据计算、缓存和同步(即,Ceph块设备和Ceph对象存储不需要MDS)。在Ceph中,元数据也存储在osd节点中。Mds是一个类似于元数据的代理服务器。MDS过程不是必需的,只有当需要Cephfs时,才需要配置MDS节点。监控整个集群的状态,维护集群的集群映射二进制表,保证集群数据的一致性。ClusterMAP描述了对象块存储的物理位置,将设备聚集到该物理位置的存储桶列表管理器(ceph-mgr)用于收集ceph集群状态、操作指标,如存储利用率、当前性能指标和系统负载。提供外部ceph仪表板(ceph ui)和restful api。当管理高可用性打开时,至少有2个Ceph结构包含两个部分

ceph client: 访问ceph底层服务或组件,对外提供各种接口。对象存储接口,块存储接口,文件级存储接口ceph node: ceph底层服务提供端,也就是ceph存储集群

五、Ceph的工作原理

无论使用哪种存储方式(对象,块,文件),存储的数据都会被切割成对象(object),Object Size大小可以有管理员进行调整,通常为2M或4M。每个对象存储都会有一个唯一的OID,由ino和ono生产,ino即是文件的File ID,用于在全局唯一标识的一个文件,而ono则是分片的编号。如一个文件FILE ID 为A,它被切割成两个对象,一个对象编号为0,一个对象编号为1,那么这两个文件的oid则为A0和A1。OID的好处则是可以唯一标识每个不通的对象,并且存储了对象与文件的关系。由于ceph的所有数据都虚拟成立整齐划一的对象,所以在读写时效率都会比较高。 但是对象并不会直接存储进OSD中,因为对象的size很小,在一个大规模的集群中可能有几百到几千万个对象。这么多对象光是遍历寻址,速度都是很缓慢的;并且如果将对象直接通过某种固定映射的哈希算法映射到osd上,当这个osd损坏时,对象无法自动迁移到其他osd上面(因为映射函数不允许),为了解决这些问题,ceph引入了归置组的概念,即PG PG是一个逻辑概念,我们linux系统中可以直接看到对象,但是无法直接看到PG。他在数据寻址时类似于数据库中的索引;每个对象都会固定映射进一个PG中,所以当我们要寻找一个对象时,只需要先找到这个对象所属的PG,然后再遍历这个PG就可以了,无需遍历所有的对象。而且在数据迁移时,也是以PG作为基本单位进行迁移,ceph不会直接操作对象。 对象是如何映射到PG的? 还记得OID么? 首先使用静态hash函数对OID做hash取出特征码,用特征码与PG的数量取模,得到的序号则是PGID。由于这种设计方式,PG的数量多寡直接决定了数据分布的特性,所以合理设置PG数量可以很好的提升Ceph集群的性能并使数据均匀分布。 最后PG会根据管理员设置的副本数量进行***,然后通过crush算法存储到不同的OSD节点上(其实就是把PG中的所有对象存储到节点上),第一个OSD接地那即为主节点,其余均为从节点。

CEPH名词介绍

ceph核心组件和概念介绍

Monitor监控整个集群的状态,维护集群的clusterMAP二进制表,保证集群数据的一致性OSDOSD全称 Object Storage Device,也就是负责响应客户端请求返回数据的进程。一个ceph集群一般都有很多个OSD节点MDSMDS全称Ceph Metadata Server,是CephFS服务依赖的元数据服务ObjectCeph最底层的存储单元是Obect对象,每个Object包含了元数据和原始数据PGPG全称 Placement Grouops,是一个逻辑的概念,一个PG包含多个OSD。引入PG这一层其实是为了更好地分配数据和定位数据RADOSRADOS全称Reliable Autonomic Distributed Object Store,是Ceph集群的精华,用户实现数据分配、Failover等集群操作LibraydiosLibrados是Rados的提供库,因为RADOS是协议很难直接访问,因此在上层的RBD,RGW,CephFS都是通过librados访问的。CRUSHCRUSH是ceph使用的数据分布算法,类似一致性哈希,让数据分配到预期的地方RDBRDB全称RADOS block device,是ceph对外提供的块设备服务。RGWRGW全称RADOS gateway,是ceph对外提供的对象存储服务,接口与S3和Swift兼容CephFSCephFS全称Ceph File System,是Ceph对外提供的文件系统服务

本文来自奶味小仙女投稿,不代表舒华文档立场,如若转载,请注明出处:https://www.chinashuhua.cn/24/483691.html

打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
() 0
上一篇 03-31
下一篇 03-31

相关推荐

  • memcache安装教程 redis分布式缓存

    一、分布式部署设置:虽然memcached被称为“分布式”缓存服务器,但是在服务器端没有“分布式”功能。每台服务器都是完全独立和隔离的服务。memcached的分发完全由客户端库实现。这种分布是memcached最大的特点。因此在部署时,以同样的方式在不同的服务器上安装部署。二。监控

    2023-07-19 03:51:01
    610 0
  • 分布式应用程序是什么 微服务架构设计模式

    分布式云应用(也称为微服务)在云软件的设计和操作中引入了许多复杂性。曾经,单个应用程序将复杂性隐藏在单个进程或运行时中,但现在它分散在数十或数百个松散耦合的服务中。尽管所有这些服务都可以使用不同的编程语言,并且可以相互独立地进行扩展,但是分布式特性通常会使整

    2023-07-17 23:15:01
    377 0
  • java 分布式有哪些技术 java分布式系统操作

    应用架构发展这里的架构演进应该是从服务的角度。应该说,随着业务的发展和应用规模的扩大,系统的一些公共服务会被抽取出来,独立开发、部署和维护,以解决并发、扩展和维护的问题。传统垂直架构有些地方也叫单体应用,用mvc模式开发:所有应用代码统一打包,代码所有接口本地

    2023-06-26 13:19:02
    296 0
  • 集中部署和分布式部署的优缺点 2种部署有什么区别

    87年前的隆冬,从伦敦牛津街购物归来的英国女作家弗吉尼亚伍尔夫(Virginia Woolf)在她的购物日记中是这样描述的:超市里的烟草被卷成无数整齐的香烟,包装在银纸上,羊毛被纺成薄薄的背心和柔软的***,羊的脂肪变成芳香的奶油,使皮肤变得细腻。87年后的冬天,在北京某银行的会

    2023-05-13 16:29:01
    155 0

评论列表

联系我们

在线咨询: QQ交谈

邮件:admin@qq.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信