龙空技术网

异步处理好复杂,有没有万能的解决方案?

程序员小橙 476

前言:

而今我们对“异步请求怎么处理掉”大致比较注重,朋友们都想要了解一些“异步请求怎么处理掉”的相关内容。那么小编在网络上搜集了一些关于“异步请求怎么处理掉””的相关文章,希望各位老铁们能喜欢,各位老铁们快快来了解一下吧!

前言

良好的系统设计必须要做到开闭原则,随着业务的不断迭代更新,核心代码也会被不断改动,出错的概率也会大大增加。但是大部分增加的功能都是在扩展原有的功能,既要保证性能又要保证质量,我们往往都会使用异步线程池来处理,然而却增加了很多不确定性因素。 由此我设计了一套通用的异步处理SDK,可以很轻松的实现各种异步处理

目的

通过异步处理不仅能够保证方法能够得到有效的执行而且不影响主流程

更重要的是各种兜底方法保证数据不丢失,从而达到最终一致性\color{red}最终一致性最终一致性

优点

无侵入设计,独立数据库,独立定时任务,独立消息队列,独立人工执行界面(统一登录认证)

使用spring事务事件机制,即使异步策略解析失败也不会影响业务

如果你的方法正在运行事务,会等事务提交后再处理事件

就算事务提交了,异步策略解析失败了,我们还有兜底方案执行(除非数据库有问题,消息队列有问题,方法有bug)

组件

kafka 消息队列

xxl job 定时任务

mysql 数据库

spring 切面

vue 界面

设计模式

策略

模板方法

动态代理

流程图数据库脚本

sql复制代码CREATE TABLE `async_req` (  `id` bigint NOT NULL AUTO_INCREMENT COMMENT '主键ID',  `application_name` varchar(100) NOT NULL DEFAULT '' COMMENT '应用名称',  `sign` varchar(50) NOT NULL DEFAULT '' COMMENT '方法签名',  `class_name` varchar(200) NOT NULL DEFAULT '' COMMENT '全路径类名称',  `method_name` varchar(100) NOT NULL DEFAULT '' COMMENT '方法名称',  `async_type` varchar(50) NOT NULL DEFAULT '' COMMENT '异步策略类型',  `exec_status` tinyint NOT NULL DEFAULT '0' COMMENT '执行状态 0:初始化 1:执行失败 2:执行成功',  `exec_count` int NOT NULL DEFAULT '0' COMMENT '执行次数',  `param_json` longtext COMMENT '请求参数',  `remark` varchar(200) NOT NULL DEFAULT '' COMMENT '业务描述',  `create_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '创建时间',  `update_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '更新时间',  PRIMARY KEY (`id`) USING BTREE,  KEY `idx_applocation_name` (`application_name`) USING BTREE,  KEY `idx_exec_status` (`exec_status`) USING BTREE) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='异步处理请求';CREATE TABLE `async_log` (  `id` bigint NOT NULL AUTO_INCREMENT COMMENT '主键ID',  `async_id` bigint NOT NULL DEFAULT '0' COMMENT '异步请求ID',  `error_data` longtext COMMENT '执行错误信息',  `create_time` datetime NOT NULL DEFAULT CURRENT_TIMESTAMP COMMENT '创建时间',  PRIMARY KEY (`id`) USING BTREE,  KEY `idx_async_id` (`async_id`) USING BTREE) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4 COMMENT='异步处理日志';
异步策略安全级别执行状态流程图apollo 配置
xml复制代码# 开关:默认关闭scm.async.enabled=true# 数据源 druid spring.datasource.driver-class-name=com.mysql.jdbc.Driverspring.datasource.url=jdbc:mysql://127.0.0.1:3306/fc_async?useUnicode=true&characterEncoding=utf-8&zeroDateTimeBehavior=convertToNull&useSSL=false&allowMultiQueries=true&rewriteBatchedStatements=truespring.datasource.username=userspring.datasource.password=xxxxspring.datasource.filters=configspring.datasource.connectionProperties=config.decrypt=true;config.decrypt.key=yyy#静态地址spring.resources.add-mappings=truespring.resources.static-locations=classpath:/static/# 以下配置都有默认值# 核心线程数async.executor.thread.corePoolSize=10# 最大线程数async.executor.thread.maxPoolSize=50# 队列容量async.executor.thread.queueCapacity=10000# 活跃时间async.executor.thread.keepAliveSeconds=600# 执行成功是否删除记录:默认删除scm.async.exec.deleted=true # 自定义队列名称前缀:默认应用名称scm.async.topic=应用名称 # 重试执行次数:默认5次scm.async.exec.count=5 # 重试最大查询数量scm.async.retry.limit=100# 补偿最大查询数量scm.async.comp.limit=100
用法
txt复制代码1,异步开关scm.async.enabled=true2,在需要异步执行的方法加注解 (必须是spring代理方法)@AsyncExec(type = AsyncExecEnum.SAVE_ASYNC, remark = "数据字典")3,人工处理地址
注意
txt复制代码1,应用名称spring.application.name2,队列名称${scm.async.topic:${spring.application.name}}_async_queue自定义topic:scm.async.topic=xxx3,自己业务要做幂等4,一个应用公用一个队列自产自消5,定时任务异步重试定时任务(2分钟重试一次,可配置重试次数) 异步补偿定时任务(一小时补偿一次,创建时间在一小时之前的)
效果展示

标签: #异步请求怎么处理掉