Ceph OSD从filestore 转换到 bluestore的方法

前言

前段时间看到豪迈的公众号上提到了这个离线转换工具，最近看到群里有人问，找了下没什么相关文档，就自己写了一个，供参考

实践步骤

获取代码并安装

1
2
3
4
5
git clone https://github.com/ceph/ceph.git
cd ceph
git submodule update --init --recursive
./make-dist
rpm -bb ceph.spec

生成rpm安装包后进行安装,这个过程就不讲太多，根据各种文档安装上最新的版本即可，这个代码合进去时间并不久，大概是上个月才合进去的

配置集群

首先配置一个filestore的集群，这个也是很简单的，我的环境配置一个单主机三个OSD的集群

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
[root@lab8106 ceph]# ceph -s
    cluster 3daaf51a-eeba-43a6-9f58-c26c5796f928
     health HEALTH_WARN
            mon.lab8106 low disk space
     monmap e2: 1 mons at {lab8106=192.168.8.106:6789/0}
            election epoch 4, quorum 0 lab8106
        mgr active: lab8106 
     osdmap e16: 3 osds: 3 up, 3 in
      pgmap v34: 64 pgs, 1 pools, 0 bytes data, 0 objects
            323 MB used, 822 GB / 822 GB avail
                  64 active+clean
[root@lab8106 ceph]# ceph osd tree
ID WEIGHT  TYPE NAME        UP/DOWN REWEIGHT PRIMARY-AFFINITY 
-1 0.80338 root default                                       
-2 0.80338     host lab8106                                   
 0 0.26779         osd.0         up  1.00000          1.00000 
 1 0.26779         osd.1         up  1.00000          1.00000 
 2 0.26779         osd.2         up  1.00000          1.00000

写入少量数据

1
[root@lab8106 ~]# rados -p rbd bench 10 write --no-cleanup

设置noout

1
2
[root@lab8106 ~]# ceph osd set noout
noout is set

停止OSD.0

1
2
3
[root@lab8106 ~]# systemctl stop ceph-osd@0
[root@lab8106 ~]# ceph osd down 0
osd.0 is already down.

将数据换个目录挂载，换个新盘挂载到原路径

1
2
3
4
5
6
7
8
9
10
[root@lab8106 ~]# mkdir /var/lib/ceph/osd/ceph-0.old/
[root@lab8106 ~]# umount /var/lib/ceph/osd/ceph-0
[root@lab8106 ~]# mount /dev/sdb1 /var/lib/ceph/osd/ceph-0.old/
[root@lab8106 ~]# mount /dev/sde1 /var/lib/ceph/osd/ceph-0/

[root@lab8106 ~]# df -h|grep osd
/dev/sdc1       275G  833M  274G   1% /var/lib/ceph/osd/ceph-1
/dev/sdd1       275G  833M  274G   1% /var/lib/ceph/osd/ceph-2
/dev/sdb1       275G  759M  274G   1% /var/lib/ceph/osd/ceph-0.old
/dev/sde1       280G   33M  280G   1% /var/lib/ceph/osd/ceph-0

在配置文件/etc/ceph/ceph.conf中添加

1
enable_experimental_unrecoverable_data_corrupting_features = bluestore

如果需要指定osd的block的路径需要写配置文件
在做ceph-objectstore-tool --type bluestore --data-path --op mkfs这个操作之前，在配置文件的全局里面添加上

bluestore_block_path = /dev/sde2

然后再创建的时候就可以是链接到设备了，这个地方写全局变量，然后创建完了后就删除掉这项配置文件，写单独的配置文件的时候发现没读取成功,生成后应该是这样的

1
2
3
4
5
6
7
8
[root@lab8106 ceph]# ll /var/lib/ceph/osd/ceph-0
total 20
lrwxrwxrwx 1 root root  9 May  3 17:40 block -> /dev/sde2
-rw-r--r-- 1 root root  2 May  3 17:40 bluefs
-rw-r--r-- 1 root root 37 May  3 17:40 fsid
-rw-r--r-- 1 root root  8 May  3 17:40 kv_backend
-rw-r--r-- 1 root root  4 May  3 17:40 mkfs_done
-rw-r--r-- 1 root root 10 May  3 17:40 type

如果不增加这个就是以文件形式的存在

获取osd.0的fsid

1
2
[root@lab8106 ~]# cat /var/lib/ceph/osd/ceph-0.old/fsid 
b2f73450-5c4a-45fb-9c24-8218a5803434

创建一个bluestore的osd.0

1
[root@lab8106 ~]# ceph-objectstore-tool --type bluestore --data-path /var/lib/ceph/osd/ceph-0 --fsid b2f73450-5c4a-45fb-9c24-8218a5803434 --op mkfs

转移数据

1
2
[root@lab8106 ~]# ceph-objectstore-tool --data-path /var/lib/ceph/osd/ceph-0.old --target-data-path /var/lib/ceph/osd/ceph-0 --op dup
[root@lab8106 ~]# chown -R ceph:ceph /var/lib/ceph/osd/ceph-0

这个操作是将之前的filestore的数据转移到新的bluestore上了

启动OSD.0

1
[root@lab8106 osd]# systemctl restart ceph-osd@0

检查状态

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
[root@lab8106 osd]# ceph -s
2017-05-03 17:05:13.119492 7f20a501b700 -1 WARNING: the following dangerous and experimental features are enabled: bluestore
2017-05-03 17:05:13.150181 7f20a501b700 -1 WARNING: the following dangerous and experimental features are enabled: bluestore
    cluster 3daaf51a-eeba-43a6-9f58-c26c5796f928
     health HEALTH_WARN
            noout flag(s) set
            mon.lab8106 low disk space
     monmap e2: 1 mons at {lab8106=192.168.8.106:6789/0}
            election epoch 4, quorum 0 lab8106
        mgr active: lab8106 
     osdmap e25: 3 osds: 3 up, 3 in
            flags noout
      pgmap v80: 64 pgs, 1 pools, 724 MB data, 182 objects
            3431 MB used, 555 GB / 558 GB avail
                  64 active+clean

成功转移

不同的block方式

1
2
3
4
5
[root@lab8106 ceph]# ll /var/lib/ceph/osd/ceph-0/ -al|grep block
-rw-r--r--  1 ceph ceph 10737418240 May  3 17:32 block
[root@lab8106 ceph]# ll /var/lib/ceph/osd/ceph-4/ -al|grep block
lrwxrwxrwx  1 ceph ceph  58 May  3 17:16 block -> /dev/disk/by-partuuid/846e93a2-0f6d-47d4-8a90-85ab3cf4ec4e
-rw-r--r--  1 ceph ceph  37 May  3 17:16 block_uuid

可以看到直接创建的时候的block是以链接的方式链接到一个分区的，而不改配置文件的转移的方式里面是一个文件的形式，根据需要进行选择

总结

转移工具的出现方便了以后从filestore到bluestore的转移，可以采取一个个osd的转移方式将整个集群进行转移，而免去了剔除osd，再添加的方式，减少了迁移量，可以一个个的离线进行操作

ceph的工具集越来越完整了

变更记录

Why Who When
创建 武汉-运维-磨渣 2017-05-03
暂未分类
#暂未分类
Ceph OSD从filestore 转换到 bluestore的方法
https://zphj1987.com/2017/05/03/Ceph OSD从filestore 转换到 bluestore的方法/
作者
zphj1987
发布于
2017年5月3日
许可协议