sharding-jdbc分库分表(一)
创始人
2024-03-20 09:38:42
0

以商城商品为例

垂直分表:将一个表按照字段分成多表,每个表存储其中一部分字段

它带来的提升是:

1、为了避免IO争抢并减少锁表的几率,查看详情的用户与商品信息浏览相互不影响

2、充分发挥热门数据的操作效率,商品信息的操作的高效率不会被商品描述的低效率所拖累

垂直分库:

垂直分库是指按照业务将表进行分类,分页到不同的数据库上面,每个库可以放在不同的服务器上,它的核心理念是专库专用

它带来的提升是:

1、解决业务层面的耦合,业务清晰

2、能对不同业务的数据进行分组管理,维护,监控,扩展等

3、高并发场景下,垂直分库一定程度的提升IO,数据库连接数,降低单机硬件资源的瓶颈

垂直分库通过将表按业务分类,然后分布在不同数据库,并且可以将这些数据库部署在不同服务器上,从而达到多个服务器共同分摊压力的效果,但是依然没有解决单表数据量过大的问题。

水平分库:

是把同一个表的数据按一定规则拆到不同的数据库中,每个库可以放在不同的服务器上。

它带来的提升是:

1、解决了单库大数据,高并发的性能瓶颈

2、提高了系统的稳定性及可用性。稳定性体现在IO冲突少,锁定减少,可用性指某个库出问题,部分数据可用 

水平分表:

水平分表是在同一个数据库内,把同一个表的数据按一定规则拆到多个表中

它带来的提升是:

1、优化单一表数据量过大而产生的性能问题

2、避免IO争抢并减少锁表的几率

分库分表带来的问题:

1、事务一致性问题

        由于分库分表把数据分页在不同库甚至不同服务器,不可避免分带来分页式事务问题

2、跨节点关联查询

3、跨节点分页、排序、函数

4、主键重复问题

在分库分表环境中,由于表中数据同时存在不同的数据库中,主键值平时使用的自增长 将无用武之地,某个分区数据库生成的ID无法保证全局唯一。因此需要单独设计全局主键,以避免跨库主键重复问题

5、公共表

实际的应用场景中,参数表,数据字典表等都是数据量较少,变动少,而且属于高频联合查询的依赖表。

可以将这类表在每个数据库都保存一份,所有对公共表的更新操作都同时发送到所有分库执行

由于分库分表之后,数据被分散在不同的数据库、服务器。因此,对数据的操作也就无法通过常规方式完成,并且它还带来了一系列的问题。

Sharding-jdbc介绍

sharding-jdbc是当当网研发的开源分页式数据库中间件,从3.0开始Sharding-jdbc被包含在Sharding-Sphere,之后该项目进入 Apache,4.0版本之后的版本为Apache版本

Sharding-jdbc它定位为级Java框架,在java的JDBC层提供的额外服务。它使用客户端直连数据库,以jar包形式提供服务,无需额外部署和依赖,可理解为增强版的JDBC驱动,完全兼容JDBC和各种ORM框架。

Sharding-jdbc的核心功能为数据分片和读写分离,通过Sharding-JDBC,应用可以透明的使用jdbc访问已经分库分表、读写分离的多个数据源,而不用关心数据源的数量以及数据如何分页。

与jdbc性能对比:

1、性能损耗测试:服务器资源充足、并发数相同,比较JDBC和Sharding-JDBC性能损耗,sharding-jdbc相对JDBC损耗不超过7%

2、性能对比测试:服务器资源使用到极限,相同场景JDBC与sharding-jdbc的吞吐量相当

3、性能对比测试:服务器资源使用到极限,sharding-jdbc采用分库分表后,sharding-jdbc吞吐量较JDBC不分表有接近2倍提升

sharding-jdbc快速入门

使用sharding-jdbc完成对订单表的水平分表,通过快速入门程序的开发,快速体验sharding-jdbc的使用方法。

人工创建两张表,t_order_1和t_order_2,这两张表是订单表拆分后的表,通过sharding-jdbc向订单表插入数据,按照一定的分片规则,主键为偶数的进入t_order_1,另一部分数据进入t_order_2,通过sharding-jdbc查询数据,根据SQL语句的内容从t_order_1或t_order_2查询数据。

代码mode(水平分表):

配置yml

server:port: 8082servlet:context-path: /sharding-jdbc-simple-demospring:application:name: sharding-jdbc-simple-demohttp:encoding:enabled: truecharset: UTF-8force: true#shrading-jdbc配置shardingsphere:datasource:names: m1m1:type: com.alibaba.druid.pool.DruidDataSourcedriver-class-name: com.mysql.jdbc.Driverurl: jdbc:mysql://localhost:3306/shareding?useUnicode=trueusername: rootpassword: 123456sharding:  #指定t_order表的数据分页情况,配置数据节点 m1.t_order_1 m1.t_order_2tables:t_order:actual-data-nodes: m1.t_order_$->{1..2}key-generator:column: id #主键字段type: SNOWFLAKE #指定t_order表主键生成策略table-strategy: #指定t_order表的分片策略,分片策略包括分片键和分片算法inline:sharding-column: id #分片键algorithm-expression: t_order_$->{id%2+1} #分片算法props:sql:show: true #输出sharding-jdbc的真实sqlmybatis:configuration:map-underscore-to-camel-case: trueswagger:enable: true
logging:level:root: infoorg:springframeword:web: infocn:ping: debugdruid:sql: debug

maven:


org.springframework.bootspring-boot-starter-parent2.0.3.RELEASE4.0.0sharding-jdbc-simpleorg.springframework.bootspring-boot-starter-webcom.alibabadruid-spring-boot-starter1.2.11mysqlmysql-connector-java5.1.46com.baomidoumybatis-plus-boot-starter3.5.1org.apache.shardingspheresharding-jdbc-spring-boot-starter4.0.0-RC1org.projectlomboklombokio.springfoxspringfox-swagger-ui2.8.0org.springframework.bootspring-boot-starter-test

mysql创建表:

CREATE TABLE `t_order_1` (`id` bigint(20) NOT NULL COMMENT '订单id',`price` decimal(10,2) NOT NULL COMMENT '订单价格',`user_id` bigint(20) NOT NULL COMMENT '下单用户id',`status` varchar(50) NOT NULL COMMENT '订单状态',PRIMARY KEY (`id`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8;CREATE TABLE `t_order_2` (`id` bigint(20) NOT NULL COMMENT '订单id',`price` decimal(10,2) NOT NULL COMMENT '订单价格',`user_id` bigint(20) NOT NULL COMMENT '下单用户id',`status` varchar(50) NOT NULL COMMENT '订单状态',PRIMARY KEY (`id`) USING BTREE
) ENGINE=InnoDB DEFAULT CHARSET=utf8;

实体类:

package cn.ping.entity;import com.baomidou.mybatisplus.annotation.TableName;
import lombok.Builder;
import lombok.Data;import java.math.BigDecimal;/*** @author: yejianping* @date: 2022/12/5 15:12:25* @email: 1152665905@qq.com* @Description:*/
@Data
@Builder
@TableName("t_order")
public class Order {private Long id;private BigDecimal price;private Long userId;private String status;
}

mapper类:

package cn.ping.mapper;import cn.ping.entity.Order;
import com.baomidou.mybatisplus.core.mapper.BaseMapper;
import org.apache.ibatis.annotations.Param;
import org.apache.ibatis.annotations.Select;import java.util.List;/*** @author: yejianping* @date: 2022/12/5 15:14:17* @email: 1152665905@qq.com* @Description:*/
public interface OrderMapper extends BaseMapper {List selectOrderList(@Param("position") Integer startPosition, @Param("size")Integer size);
}

mapper.xml





service

package cn.ping.server;import cn.ping.entity.Order;
import com.baomidou.mybatisplus.core.metadata.IPage;
import com.baomidou.mybatisplus.extension.service.IService;import java.util.List;/*** @author: yejianping* @date: 2022/12/5 15:16:52* @email: 1152665905@qq.com* @Description:*/
public interface IOrderService extends IService {/*** 通过ids查询Order* @param ids* @return*/List getOrderByIds(List ids);IPage getOrderPage(Integer page,Integer size);List getOrderList(Integer page,Integer size);
}

serviceImpl

package cn.ping.server.impl;import cn.ping.entity.Order;
import cn.ping.mapper.OrderMapper;
import cn.ping.server.IOrderService;
import com.baomidou.mybatisplus.core.conditions.query.LambdaQueryWrapper;
import com.baomidou.mybatisplus.core.metadata.IPage;
import com.baomidou.mybatisplus.extension.plugins.pagination.Page;
import com.baomidou.mybatisplus.extension.service.impl.ServiceImpl;
import lombok.extern.slf4j.Slf4j;
import org.springframework.stereotype.Service;
import org.springframework.util.CollectionUtils;import java.util.List;/*** @author: yejianping* @date: 2022/12/5 15:21:06* @email: 1152665905@qq.com* @Description:*/
@Service
@Slf4j
public class OrderServiceImpl extends ServiceImpl implements IOrderService {@Overridepublic List getOrderByIds(List ids) {if(CollectionUtils.isEmpty(ids)){return null;}return this.listByIds(ids);}@Overridepublic IPage getOrderPage(Integer page, Integer size) {LambdaQueryWrapper lqw = new LambdaQueryWrapper();lqw.orderByDesc(Order::getPrice);return page(new Page<>(page,size),lqw);}@Overridepublic List getOrderList(Integer page,Integer size){return this.baseMapper.selectOrderList((page-1)*size,size);}}

测试类

package cn.ping;import cn.ping.entity.Dog;
import cn.ping.entity.Order;
import cn.ping.server.IDogService;
import cn.ping.server.IOrderService;
import com.baomidou.mybatisplus.core.metadata.IPage;
import lombok.extern.slf4j.Slf4j;
import net.bytebuddy.asm.Advice;
import org.junit.Test;
import org.junit.runner.RunWith;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.test.context.SpringBootTest;
import org.springframework.test.context.junit4.SpringRunner;import java.math.BigDecimal;
import java.util.ArrayList;
import java.util.Arrays;
import java.util.List;
import java.util.Random;/*** @author: yejianping* @date: 2022/12/5 15:22:35* @email: 1152665905@qq.com* @Description:*/
@RunWith(SpringRunner.class)
@SpringBootTest(classes = {ShardingJdbcSimpleApplication.class})
@Slf4j
public class OrderTest {@Autowiredprivate IOrderService orderService;@Autowiredprivate IDogService dogService;@Testpublic void testOrderInsert(){List orderList = new ArrayList<>();for (int i = 0; i < 20; i++) {Order order = Order.builder().price(new BigDecimal(new Random().nextInt(100))).status("SUCCESS").userId(1L).build();orderList.add(order);}orderService.saveBatch(orderList);/*Order order = Order.builder().price(new BigDecimal(10)).status("SUCCESS").userId(1L).build();orderService.save(order);*/}@Testpublic void testFindByIds(){Long[] ids = {1599673041937334275L,1599673040175726594L};List orderByIds = orderService.getOrderByIds(Arrays.asList(ids));for (Order order : orderByIds) {log.info(order.toString());}}@Testpublic void testOrderPage(){IPage orderPage = orderService.getOrderPage(1, 10);for (Order order : orderPage.getRecords()) {log.info(order.toString());}}@Testpublic void testOrderList(){List orderList = orderService.getOrderList(1, 10);for (Order order : orderList) {log.info(order.toString());}}
}

sharding-jdbc和mybatis plus分页冲突,不能使用分页插件,查询总数有问题

相关内容

热门资讯

医药生物:国家卫健委推动医疗机... 01. 医药生物分析师称,近期国家卫健委等13部门印发基层医疗机构优化建设指导意见,预计带动体外诊断...
沙美叙土四国领导人讨论叙利亚局... 转自:贵州日报 新华社利雅得5月14日电 据沙特通讯社14日报道,沙特阿拉伯、美国、土耳其及...
恒玄科技:25Q1营收同比增长... 03. 恒玄科技分析师称,25Q1公司实现营收9.9亿元,同比增长52.3%,归母净利润1.91亿元...
集运:货代抢占仓位,船公司加价... 01. 集运分析师称,5月12日中美达成协议之后,11点左右,货代群体开始抢占仓位,5月底的仓位基本...
腾讯(00700)2025Q1... 5月14日,腾讯(00700)召开2025年Q1业绩电话会。腾讯在会上指出,关于GPU(图形处理单元...
亮出“独门绝技”,“小巨人”力... 转自:中华工商时报    “党的十八大以来,我国大力推进新型工业化,加快制造业转型升级,涌现出一大批...
4月全国企业销售收入同比增4....   本报讯(记者 陈雪柠)国家税务总局昨天发布数据显示,4月全国企业销售收入增速加快,同比增4.3%...
向以数智化为支撑的智能体企业迈... 转自:中华工商时报    作为深耕数智经济领域二十余年的C2M产业互联网AI科技智能体企业,酷特智能...
促进青少年心理健康教育 转自:贵州日报 本报讯(记者 谌贵璇)为进一步加强大学生心理健康教育,普及科学的心理健康与性健康知识...
电新板块:中美经贸会谈达成关税... 09. 电力设备分析师称,中美经贸高层5月10-12日在瑞士会谈达成关税调整协议,利好电新板块对美出...
印媒:售卖假酒致21人死亡,印... 【环球时报综合报道】印度北部旁遮普邦阿姆利则市日前发生假酒致人中毒事件,已造成至少21人死亡,另有1...
上下联动 双向奔赴 有形有效 □ 兰东来  今年以来,江西省赣州市市场监管局整合各类资金约200万元,用于爱心驿站建设、爱心捐赠、...
我省9个农产品入选全国区域品牌... 转自:黑龙江日报 本报讯(记者周静)记者从省农业农村厅获悉,在日前发布的“2025中国品牌价...
量体裁衣出新意,银行助力低空经... 飞行汽车出行,无人机送快递,空中观赏迪士尼烟花……低空经济快速发展,涉及农业、工业、旅游业等多个行业...
美股异动|默沙东股价两日狂跌8... (转自:美股情报站)5月14日,默沙东的股价经历了一轮显著的下滑,引发了市场的广泛关注。当天,该公司...
奋力书写中国汽车产业“突围启示... 转自:中华工商时报    以"拥抱创新,共赢未来"为主题的第二十一届上海国际汽车工业展览会,日前在沪...
恒指牛熊街货比(65:35)︱... 通财经APP获悉,截至5月15日,恒指最新的牛熊街货比例为65:35。中信证券牛熊证街货分布图中的数...
“无事不扰”企业 徐 骏作(新华社发) 北京市市场监管局发布消息称,2025年,北京市深入推进“无事不扰”清单机制,重...
美股异动|吉利德科学两日连跌迎... (转自:美股情报站)近期,吉利德科学公司股价出现显著波动。在5月14日,该股的股价下跌了3.01%,...
提升诉讼服务质效 转自:黑龙江日报 本报讯(纪世强 记者刘大泳)近日,佳木斯市东风区法院举办了一场关于要素式起...