滴滴(Tinyid),能抗住600W QPS+ 併發的分佈式ID生成器

引言

接著《一口氣說出 9種 分佈式ID生成方式,面試官有點懵了》來繼續詳細的介紹分佈式ID生成器,大家比較感興趣的美團(Leaf)、滴滴(Tinyid)、百度(uid-generator)三個開源項目,美團(Leaf)已經講完,詳見《9種分佈式ID生成之美團(Leaf)實戰》,今天結合實戰搞一下滴滴開源的(Tinyid)。


`Tinyid`介紹

Tinyid是滴滴開發的一款分佈式ID系統,Tinyid是在美團(Leaf)的leaf-segment算法基礎上升級而來,不僅支持了數據庫多主節點模式,還提供了tinyid-client客戶端的接入方式,使用起來更加方便。但和美團(Leaf)不同的是,Tinyid只支持號段一種模式不支持雪花模式。

Tinyid的特性

  • 全局唯一的long型ID
  • 趨勢遞增的id
  • 提供 http 和 java-client 方式接入
  • 支持批量獲取ID
  • 支持生成1,3,5,7,9…序列的ID
  • 支持多個db的配置

適用場景:只關心ID是數字,趨勢遞增的系統,可以容忍ID不連續,可以容忍ID的浪費

不適用場景:像類似於訂單ID的業務,因生成的ID大部分是連續的,容易被掃庫、或者推算出訂單量等信息


`Tinyid`原理

Tinyid是基於號段模式實現,再簡單囉嗦一下號段模式的原理:就是從數據庫批量的獲取自增ID,每次從數據庫取出一個號段範圍,例如 (1,1000] 代表1000個ID,業務服務將號段在本地生成1~1000的自增ID並加載到內存.。

Tinyid會將可用號段加載到內存中,並在內存中生成ID,可用號段在首次獲取ID時加載,如當前號段使用達到一定比例時,系統會異步的去加載下一個可用號段,以此保證內存中始終有可用號段,以便在發號服務宕機後一段時間內還有可用ID。

原理圖大致如下圖:

滴滴(Tinyid),能抗住600W QPS+ 併發的分佈式ID生成器


`Tinyid`實現

Tinyid的GitHub地址 : https://github.com/didi/tinyid.git

Tinyid提供了兩種調用方式,一種基於Tinyid-server提供的http方式,另一種Tinyid-client客戶端方式。不管使用哪種方式調用,搭建Tinyid都必須提前建表tiny_id_info、tiny_id_token。

<code> 1CREATE TABLE `tiny_id_info` (
2  `id` bigint(20) unsigned NOT NULL AUTO_INCREMENT COMMENT '自增主鍵',
3  `biz_type` varchar(63) NOT NULL DEFAULT '' COMMENT '業務類型,唯一',
4  `begin_id` bigint(20) NOT NULL DEFAULT '0' COMMENT '開始id,僅記錄初始值,無其他含義。初始化時begin_id和max_id應相同',
5  `max_id` bigint(20) NOT NULL DEFAULT '0' COMMENT '當前最大id',
6  `step` int(11) DEFAULT '0' COMMENT '步長',
7  `delta` int(11) NOT NULL DEFAULT '1' COMMENT '每次id增量',
8  `remainder` int(11) NOT NULL DEFAULT '0' COMMENT '餘數',
9  `create_time` timestamp NOT NULL DEFAULT '2010-01-01 00:00:00' COMMENT '創建時間',
10  `update_time` timestamp NOT NULL DEFAULT '2010-01-01 00:00:00' COMMENT '更新時間',
11  `version` bigint(20) NOT NULL DEFAULT '0' COMMENT '版本號',
12  PRIMARY KEY (`id`),
13  UNIQUE KEY `uniq_biz_type` (`biz_type`)
14) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8 COMMENT 'id信息表';
15
16CREATE TABLE `tiny_id_token` (
17  `id` int(11) unsigned NOT NULL AUTO_INCREMENT COMMENT '自增id',
18  `token` varchar(255) NOT NULL DEFAULT '' COMMENT 'token',
19  `biz_type` varchar(63) NOT NULL DEFAULT '' COMMENT '此token可訪問的業務類型標識',
20  `remark` varchar(255) NOT NULL DEFAULT '' COMMENT '備註',
21  `create_time` timestamp NOT NULL DEFAULT '2010-01-01 00:00:00' COMMENT '創建時間',
22  `update_time` timestamp NOT NULL DEFAULT '2010-01-01 00:00:00' COMMENT '更新時間',
23  PRIMARY KEY (`id`)
24) ENGINE=InnoDB AUTO_INCREMENT=1 DEFAULT CHARSET=utf8 COMMENT 'token信息表';
25

26INSERT INTO `tiny_id_info` (`id`, `biz_type`, `begin_id`, `max_id`, `step`, `delta`, `remainder`, `create_time`, `update_time`, `version`)
27VALUES
28    (1, 'test', 1, 1, 100000, 1, 0, '2018-07-21 23:52:58', '2018-07-22 23:19:27', 1);
29
30INSERT INTO `tiny_id_info` (`id`, `biz_type`, `begin_id`, `max_id`, `step`, `delta`, `remainder`, `create_time`, `update_time`, `version`)
31VALUES
32    (2, 'test_odd', 1, 1, 100000, 2, 1, '2018-07-21 23:52:58', '2018-07-23 00:39:24', 3);
33
34
35INSERT INTO `tiny_id_token` (`id`, `token`, `biz_type`, `remark`, `create_time`, `update_time`)
36VALUES
37    (1, '0f673adf80504e2eaa552f5d791b644c', 'test', '1', '2017-12-14 16:36:46', '2017-12-14 16:36:48');
38
39INSERT INTO `tiny_id_token` (`id`, `token`, `biz_type`, `remark`, `create_time`, `update_time`)
40VALUES
41    (2, '0f673adf80504e2eaa552f5d791b644c', 'test_odd', '1', '2017-12-14 16:36:46', '2017-12-14 16:36:48');/<code>

tiny_id_info表是具體業務方號段信息數據表

滴滴(Tinyid),能抗住600W QPS+ 併發的分佈式ID生成器

在這裡插入圖片描述


max_id :號段的最大值


step:步長,即為號段的長度

biz_type:業務類型

號段獲取對max_id字段做一次update操作,update max_id= max_id + step,更新成功則說明新號段獲取成功,新的號段範圍是(max_id ,max_id +step]。

tiny_id_token是一個權限表,表示當前token可以操作哪些業務的號段信息。

滴滴(Tinyid),能抗住600W QPS+ 併發的分佈式ID生成器


修改tinyid-server中 \\offline\\application.properties 文件配置數據庫,由於tinyid支持數據庫多master模式,可以配置多個數據庫信息。啟動 TinyIdServerApplication 測試一下。

<code> 1datasource.tinyid.primary.driver-class-name=com.mysql.jdbc.Driver
2datasource.tinyid.primary.url=jdbc:mysql://127.0.0.1:3306/xin-master?autoReconnect=true&useUnicode=true&characterEncoding=UTF-8
3datasource.tinyid.primary.username=junkang
4datasource.tinyid.primary.password=junkang
5datasource.tinyid.primary.testOnBorrow=false
6datasource.tinyid.primary.maxActive=10
7
8datasource.tinyid.secondary.driver-class-name=com.mysql.jdbc.Driver
9datasource.tinyid.secondary.url=jdbc:mysql://localhost:3306/db2?autoReconnect=true&useUnicode=true&characterEncoding=UTF-8
10datasource.tinyid.secondary.username=root
11datasource.tinyid.secondary.password=123456
12datasource.tinyid.secondary.testOnBorrow=false
13datasource.tinyid.secondary.maxActive=10/<code>

1、Http方式

tinyid內部一共提供了四個http接口來獲取ID和號段。

<code> 1package com.xiaoju.uemc.tinyid.server.controller;
2
3/**
4 * @author du_imba
5 */
6@RestController
7@RequestMapping("/id/")
8public class IdContronller {
9
10    private static final Logger logger = LoggerFactory.getLogger(IdContronller.class);
11    @Autowired
12    private IdGeneratorFactoryServer idGeneratorFactoryServer;
13    @Autowired
14    private SegmentIdService segmentIdService;
15    @Autowired
16    private TinyIdTokenService tinyIdTokenService;
17    @Value("${batch.size.max}")
18    private Integer batchSizeMax;
19

20    @RequestMapping("nextId")
21    public Response<list>> nextId(String bizType, Integer batchSize, String token) {
22        Response<list>> response = new Response<>();
23        try {
24            IdGenerator idGenerator = idGeneratorFactoryServer.getIdGenerator(bizType);
25            List<long> ids = idGenerator.nextId(newBatchSize);
26            response.setData(ids);
27        } catch (Exception e) {
28            response.setCode(ErrorCode.SYS_ERR.getCode());
29            response.setMessage(e.getMessage());
30            logger.error("nextId error", e);
31        }
32        return response;
33    }
34
35
36
37    @RequestMapping("nextIdSimple")
38    public String nextIdSimple(String bizType, Integer batchSize, String token) {
39        String response = "";
40        try {
41            IdGenerator idGenerator = idGeneratorFactoryServer.getIdGenerator(bizType);
42            if (newBatchSize == 1) {
43                Long id = idGenerator.nextId();
44                response = id + "";
45            } else {
46                List<long> idList = idGenerator.nextId(newBatchSize);
47                StringBuilder sb = new StringBuilder();
48                for (Long id : idList) {
49                    sb.append(id).append(",");
50                }
51                response = sb.deleteCharAt(sb.length() - 1).toString();
52            }
53        } catch (Exception e) {
54            logger.error("nextIdSimple error", e);
55        }
56        return response;
57    }
58
59    @RequestMapping("nextSegmentId")
60    public Response<segmentid> nextSegmentId(String bizType, String token) {
61        try {
62            SegmentId segmentId = segmentIdService.getNextSegmentId(bizType);
63            response.setData(segmentId);
64        } catch (Exception e) {
65            response.setCode(ErrorCode.SYS_ERR.getCode());
66            response.setMessage(e.getMessage());
67            logger.error("nextSegmentId error", e);
68        }
69        return response;

70    }
71
72    @RequestMapping("nextSegmentIdSimple")
73    public String nextSegmentIdSimple(String bizType, String token) {
74        String response = "";
75        try {
76            SegmentId segmentId = segmentIdService.getNextSegmentId(bizType);
77            response = segmentId.getCurrentId() + "," + segmentId.getLoadingId() + "," + segmentId.getMaxId()
78                    + "," + segmentId.getDelta() + "," + segmentId.getRemainder();
79        } catch (Exception e) {
80            logger.error("nextSegmentIdSimple error", e);
81        }
82        return response;
83    }
84
85}/<segmentid>/<long>/<long>/<list>/<list>/<code>

nextId、nextIdSimple都是獲取下一個ID,nextSegmentIdSimple、getNextSegmentId是獲取下一個可用號段。區別在於接口是否有返回狀態。

<code> 1nextId:
2'http://localhost:9999/tinyid/id/nextId?bizType=test&token=0f673adf80504e2eaa552f5d791b644c'
3response :
4{
5    "data": [2],
6    "code": 200,
7    "message": ""
8}
9
10nextId Simple:
11'http://localhost:9999/tinyid/id/nextIdSimple?bizType=test&token=0f673adf80504e2eaa552f5d791b644c'
12response: 3/<code>
滴滴(Tinyid),能抗住600W QPS+ 併發的分佈式ID生成器


滴滴(Tinyid),能抗住600W QPS+ 併發的分佈式ID生成器


2、`Tinyid-client`客戶端

如果不想通過http方式,Tinyid-client客戶端也是一種不錯的選擇。

引用 tinyid-server包

<code>1<dependency>
2    <groupid>com.xiaoju.uemc.tinyid/<groupid>
3    <artifactid>tinyid-client/<artifactid>

4    <version>${tinyid.version}/<version>
5/<dependency>/<code>

啟動 tinyid-server項目打包後得到 tinyid-server-0.1.0-SNAPSHOT.jar ,設置版本 ${tinyid.version}為0.1.0-SNAPSHOT。

在我們的項目 application.properties 中配置 tinyid-server服務的請求地址 和 用戶身份token

<code>1tinyid.server=127.0.0.1:9999
2tinyid.token=0f673adf80504e2eaa552f5d791b644c```
3/<code>

在Java代碼調用TinyId也很簡單,只需要一行代碼。

<code>1  // 根據業務類型 獲取單個ID
2  Long id = TinyId.nextId("test");
3
4  // 根據業務類型 批量獲取10個ID
5  List<long> ids = TinyId.nextId("test", 10);    /<long>/<code>

Tinyid整個項目的源碼實現也是比較簡單,像與數據庫交互更直接用jdbcTemplate實現

<code> 1@Override
2    public TinyIdInfo queryByBizType(String bizType) {
3        String sql = "select id, biz_type, begin_id, max_id," +
4                " step, delta, remainder, create_time, update_time, version" +
5                " from tiny_id_info where biz_type = ?";
6        List<tinyidinfo> list = jdbcTemplate.query(sql, new Object[]{bizType}, new TinyIdInfoRowMapper());
7        if(list == null || list.isEmpty()) {
8            return null;
9        }
10        return list.get(0);
11    }/<tinyidinfo>/<code>

總結

兩種方式推薦使用Tinyid-client,這種方式ID為本地生成,號段長度(step)越長,支持的qps就越大,如果將號段設置足夠大,則qps可達1000w+。而且tinyid-client 對 tinyid-server 訪問變的低頻,減輕了server端的壓力。


分享到:


相關文章: