sharding-jdbc分库分表(一)
创始人
2024-03-20 09:38:42
0

以商城商品为例

垂直分表:将一个表按照字段分成多表,每个表存储其中一部分字段

它带来的提升是:

1、为了避免IO争抢并减少锁表的几率,查看详情的用户与商品信息浏览相互不影响

2、充分发挥热门数据的操作效率,商品信息的操作的高效率不会被商品描述的低效率所拖累

垂直分库:

垂直分库是指按照业务将表进行分类,分页到不同的数据库上面,每个库可以放在不同的服务器上,它的核心理念是专库专用

它带来的提升是:

1、解决业务层面的耦合,业务清晰

2、能对不同业务的数据进行分组管理,维护,监控,扩展等

3、高并发场景下,垂直分库一定程度的提升IO,数据库连接数,降低单机硬件资源的瓶颈

垂直分库通过将表按业务分类,然后分布在不同数据库,并且可以将这些数据库部署在不同服务器上,从而达到多个服务器共同分摊压力的效果,但是依然没有解决单表数据量过大的问题。

水平分库:

是把同一个表的数据按一定规则拆到不同的数据库中,每个库可以放在不同的服务器上。

它带来的提升是:

1、解决了单库大数据,高并发的性能瓶颈

2、提高了系统的稳定性及可用性。稳定性体现在IO冲突少,锁定减少,可用性指某个库出问题,部分数据可用 

水平分表:

水平分表是在同一个数据库内,把同一个表的数据按一定规则拆到多个表中

它带来的提升是:

1、优化单一表数据量过大而产生的性能问题

2、避免IO争抢并减少锁表的几率

分库分表带来的问题:

1、事务一致性问题

        由于分库分表把数据分页在不同库甚至不同服务器,不可避免分带来分页式事务问题

2、跨节点关联查询

3、跨节点分页、排序、函数

4、主键重复问题

在分库分表环境中,由于表中数据同时存在不同的数据库中,主键值平时使用的自增长 将无用武之地,某个分区数据库生成的ID无法保证全局唯一。因此需要单独设计全局主键,以避免跨库主键重复问题

5、公共表

实际的应用场景中,参数表,数据字典表等都是数据量较少,变动少,而且属于高频联合查询的依赖表。

可以将这类表在每个数据库都保存一份,所有对公共表的更新操作都同时发送到所有分库执行

由于分库分表之后,数据被分散在不同的数据库、服务器。因此,对数据的操作也就无法通过常规方式完成,并且它还带来了一系列的问题。

Sharding-jdbc介绍

sharding-jdbc是当当网研发的开源分页式数据库中间件,从3.0开始Sharding-jdbc被包含在Sharding-Sphere,之后该项目进入 Apache,4.0版本之后的版本为Apache版本

Sharding-jdbc它定位为级Java框架,在java的JDBC层提供的额外服务。它使用客户端直连数据库,以jar包形式提供服务,无需额外部署和依赖,可理解为增强版的JDBC驱动,完全兼容JDBC和各种ORM框架。

Sharding-jdbc的核心功能为数据分片和读写分离,通过Sharding-JDBC,应用可以透明的使用jdbc访问已经分库分表、读写分离的多个数据源,而不用关心数据源的数量以及数据如何分页。

与jdbc性能对比:

1、性能损耗测试:服务器资源充足、并发数相同,比较JDBC和Sharding-JDBC性能损耗,sharding-jdbc相对JDBC损耗不超过7%

2、性能对比测试:服务器资源使用到极限,相同场景JDBC与sharding-jdbc的吞吐量相当

3、性能对比测试:服务器资源使用到极限,sharding-jdbc采用分库分表后,sharding-jdbc吞吐量较JDBC不分表有接近2倍提升

sharding-jdbc快速入门

使用sharding-jdbc完成对订单表的水平分表,通过快速入门程序的开发,快速体验sharding-jdbc的使用方法。

人工创建两张表,t_order_1和t_order_2,这两张表是订单表拆分后的表,通过sharding-jdbc向订单表插入数据,按照一定的分片规则,主键为偶数的进入t_order_1,另一部分数据进入t_order_2,通过sharding-jdbc查询数据,根据SQL语句的内容从t_order_1或t_order_2查询数据。

代码mode(水平分表):

配置yml

server:port: 8082servlet:context-path: /sharding-jdbc-simple-demospring:application:name: sharding-jdbc-simple-demohttp:encoding:enabled: truecharset: UTF-8force: true#shrading-jdbc配置shardingsphere:datasource:names: m1m1:type: com.alibaba.druid.pool.DruidDataSourcedriver-class-name: com.mysql.jdbc.Driverurl: jdbc:mysql://localhost:3306/shareding?useUnicode=trueusername: rootpassword: 123456sharding:  #指定t_order表的数据分页情况,配置数据节点 m1.t_order_1 m1.t_order_2tables:t_order:actual-data-nodes: m1.t_order_$->{1..2}key-generator:column: id #主键字段type: SNOWFLAKE #指定t_order表主键生成策略table-strategy: #指定t_order表的分片策略,分片策略包括分片键和分片算法inline:sharding-column: id #分片键algorithm-expression: t_order_$->{id%2+1} #分片算法props:sql:show: true #输出sharding-jdbc的真实sqlmybatis:configuration:map-underscore-to-camel-case: trueswagger:enable: true
logging:level:root: infoorg:springframeword:web: infocn:ping: debugdruid:sql: debug

maven:


org.springframework.bootspring-boot-starter-parent2.0.3.RELEASE4.0.0sharding-jdbc-simpleorg.springframework.bootspring-boot-starter-webcom.alibabadruid-spring-boot-starter1.2.11mysqlmysql-connector-java5.1.46com.baomidoumybatis-plus-boot-starter3.5.1org.apache.shardingspheresharding-jdbc-spring-boot-starter4.0.0-RC1org.projectlomboklombokio.springfoxspringfox-swagger-ui2.8.0org.springframework.bootspring-boot-starter-test

mysql创建表:

CREATE TABLE `t_order_1` (`id` bigint(20) NOT NULL COMMENT '订单id',`price` decimal(10,2) NOT NULL COMMENT '订单价格',`user_id` bigint(20) NOT NULL COMMENT '下单用户id',`status` varchar(50) NOT NULL COMMENT '订单状态',PRIMARY KEY (`id`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8;CREATE TABLE `t_order_2` (`id` bigint(20) NOT NULL COMMENT '订单id',`price` decimal(10,2) NOT NULL COMMENT '订单价格',`user_id` bigint(20) NOT NULL COMMENT '下单用户id',`status` varchar(50) NOT NULL COMMENT '订单状态',PRIMARY KEY (`id`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

实体类:

package cn.ping.entity;import com.baomidou.mybatisplus.annotation.TableName;
import lombok.Builder;
import lombok.Data;import java.math.BigDecimal;/*** @author: yejianping* @date: 2022/12/5 15:12:25* @email: 1152665905@qq.com* @Description:*/
@Data
@Builder
@TableName("t_order")
public class Order {private Long id;private BigDecimal price;private Long userId;private String status;
}

mapper类:

package cn.ping.mapper;import cn.ping.entity.Order;
import com.baomidou.mybatisplus.core.mapper.BaseMapper;
import org.apache.ibatis.annotations.Param;
import org.apache.ibatis.annotations.Select;import java.util.List;/*** @author: yejianping* @date: 2022/12/5 15:14:17* @email: 1152665905@qq.com* @Description:*/
public interface OrderMapper extends BaseMapper {List selectOrderList(@Param("position") Integer startPosition, @Param("size")Integer size);
}

mapper.xml





service

package cn.ping.server;import cn.ping.entity.Order;
import com.baomidou.mybatisplus.core.metadata.IPage;
import com.baomidou.mybatisplus.extension.service.IService;import java.util.List;/*** @author: yejianping* @date: 2022/12/5 15:16:52* @email: 1152665905@qq.com* @Description:*/
public interface IOrderService extends IService {/*** 通过ids查询Order* @param ids* @return*/List getOrderByIds(List ids);IPage getOrderPage(Integer page,Integer size);List getOrderList(Integer page,Integer size);
}

serviceImpl

package cn.ping.server.impl;import cn.ping.entity.Order;
import cn.ping.mapper.OrderMapper;
import cn.ping.server.IOrderService;
import com.baomidou.mybatisplus.core.conditions.query.LambdaQueryWrapper;
import com.baomidou.mybatisplus.core.metadata.IPage;
import com.baomidou.mybatisplus.extension.plugins.pagination.Page;
import com.baomidou.mybatisplus.extension.service.impl.ServiceImpl;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Service;
import org.springframework.util.CollectionUtils;import java.util.List;/*** @author: yejianping* @date: 2022/12/5 15:21:06* @email: 1152665905@qq.com* @Description:*/
@Service
@Slf4j
public class OrderServiceImpl extends ServiceImpl implements IOrderService {@Overridepublic List getOrderByIds(List ids) {if(CollectionUtils.isEmpty(ids)){return null;}return this.listByIds(ids);}@Overridepublic IPage getOrderPage(Integer page, Integer size) {LambdaQueryWrapper lqw = new LambdaQueryWrapper();lqw.orderByDesc(Order::getPrice);return page(new Page<>(page,size),lqw);}@Overridepublic List getOrderList(Integer page,Integer size){return this.baseMapper.selectOrderList((page-1)*size,size);}}

测试类

package cn.ping;import cn.ping.entity.Dog;
import cn.ping.entity.Order;
import cn.ping.server.IDogService;
import cn.ping.server.IOrderService;
import com.baomidou.mybatisplus.core.metadata.IPage;
import lombok.extern.slf4j.Slf4j;
import net.bytebuddy.asm.Advice;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.test.context.junit4.SpringRunner;import java.math.BigDecimal;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.List;
import java.util.Random;/*** @author: yejianping* @date: 2022/12/5 15:22:35* @email: 1152665905@qq.com* @Description:*/
@RunWith(SpringRunner.class)
@SpringBootTest(classes = {ShardingJdbcSimpleApplication.class})
@Slf4j
public class OrderTest {@Autowiredprivate IOrderService orderService;@Autowiredprivate IDogService dogService;@Testpublic void testOrderInsert(){List orderList = new ArrayList<>();for (int i = 0; i < 20; i++) {Order order = Order.builder().price(new BigDecimal(new Random().nextInt(100))).status("SUCCESS").userId(1L).build();orderList.add(order);}orderService.saveBatch(orderList);/*Order order = Order.builder().price(new BigDecimal(10)).status("SUCCESS").userId(1L).build();orderService.save(order);*/}@Testpublic void testFindByIds(){Long[] ids = {1599673041937334275L,1599673040175726594L};List orderByIds = orderService.getOrderByIds(Arrays.asList(ids));for (Order order : orderByIds) {log.info(order.toString());}}@Testpublic void testOrderPage(){IPage orderPage = orderService.getOrderPage(1, 10);for (Order order : orderPage.getRecords()) {log.info(order.toString());}}@Testpublic void testOrderList(){List orderList = orderService.getOrderList(1, 10);for (Order order : orderList) {log.info(order.toString());}}
}

sharding-jdbc和mybatis plus分页冲突,不能使用分页插件,查询总数有问题

相关内容

热门资讯

新还珠格格,欣荣和永琪有个孩子... 新还珠格格,欣荣和永琪有个孩子?不是说永琪从来都没碰过她吗?绵忆到底是他和小燕子的还是欣荣的啊求正解...
中级会计怎么备考?今年几月考试... 中级会计怎么备考?今年几月考试?您好,很高兴为您解答中级会计师考试,教材是根本和基础,所有的题目都是...
继兴业、招商、中信后,邮储银行... (来源:现代商业银行杂志)金融资产投资公司(AIC)队伍再添新员。邮储银行近日发布公告称,该行拟以自...
中央巡视组对陕西开展两个半月常... 转自:北京日报客户端日前,中央第十五巡视组进驻陕西省,将开展为期两个半月左右的常规巡视,并会同陕西省...
柳州幻境空间在哪里 柳州幻境空间在哪里柳州幻境空间是位于广西柳州市城中区华联商闷郑城4楼的室内主题乐园,提供了各种游戏和...
中央巡视组进驻山东 联动巡视济... 转自:央视新闻客户端经党中央批准,二十届中央第六轮巡视将对16个省(自治区、直辖市)开展常规巡视,并...
继续发布暴雨蓝色预警!北京等地... 转自:央视新闻客户端中央气象台19日早6时继续发布暴雨蓝色预警。预计,19日早8时至20日早8时,青...
降妖伏魔篇演员有哪些 降妖伏魔篇演员有哪些文章舒淇程小东黄勃
晚上十一点在河边抓鱼听到有人叫... 晚上十一点在河边抓鱼听到有人叫我小名声音跟我一个朋友一样,电筒照却没有发现有人而且我女朋友也听见了不...
属猴的为什么吸引属狗的人 属猴的为什么吸引属狗的人属相狗虽不善甜言蜜语,为人多有情感之被捉,然其铅轮内心却多有向往甜蜜幸福之生...