天天看點

7 種提升 Spring Boot 吞吐量神技

作者:Java碼農帶你學程式設計

一、異步執行

實作方式二種:

1. 使用異步注解@aysnc、啟動類:添加@EnableAsync注解

2. JDK 8本身有一個非常好用的Future類——CompletableFuture

@AllArgsConstructor

public class AskThread implements Runnable{

private CompletableFuture<Integer> re = null;

public void run() {

int myRe = 0;

try {

myRe = re.get() * re.get();

} catch (Exception e) {

e.printStackTrace();

}

System.out.println(myRe);

}

public static void main(String[] args) throws InterruptedException {

final CompletableFuture<Integer> future = new CompletableFuture<>();

new Thread(new AskThread(future)).start();

//模拟長時間的計算過程

Thread.sleep(1000);

//告知完成結果

future.complete(60);

}

}

在該示例中,啟動一個線程,此時AskThread對象還沒有拿到它需要的資料,執行到 myRe = re.get() * re.get()會阻塞。我們用休眠1秒來模拟一個長時間的計算過程,并将計算結果告訴future執行結果,AskThread線程将會繼續執行。如果您正在學習Spring Boot,那麼推薦一個連載多年還在繼續更新的免費教程:http://blog.didispace.com/spring-boot-learning-2x/

public class Calc {

public static Integer calc(Integer para) {

try {

//模拟一個長時間的執行

Thread.sleep(1000);

} catch (InterruptedException e) {

e.printStackTrace();

}

return para * para;

}

public static void main(String[] args) throws ExecutionException, InterruptedException {

final CompletableFuture<Void> future = CompletableFuture.supplyAsync(() -> calc(50))

.thenApply((i) -> Integer.toString(i))

.thenApply((str) -> "\"" + str + "\"")

.thenAccept(System.out::println);

future.get();

}

}

CompletableFuture.supplyAsync方法構造一個CompletableFuture執行個體,在supplyAsync()方法中,它會在一個新線程中,執行傳入的參數。在這裡它會執行calc()方法,這個方法可能是比較慢的,但這并不影響CompletableFuture執行個體的構造速度,supplyAsync()會立即傳回。

而傳回的CompletableFuture執行個體就可以作為這次調用的契約,在将來任何場合,用于獲得最終的計算結果。最近整理了一份最新的面試資料,裡面收錄了2021年各個大廠的面試題,打算跳槽的小夥伴不要錯過,點選領取吧!

supplyAsync用于提供傳回值的情況,CompletableFuture還有一個不需要傳回值的異步調用方法runAsync(Runnable runnable),一般我們在優化Controller時,使用這個方法比較多。這兩個方法如果在不指定線程池的情況下,都是在ForkJoinPool.common線程池中執行,而這個線程池中的所有線程都是Daemon(守護)線程,是以,當主線程結束時,這些線程無論執行完畢都會退出系統。

核心代碼:

CompletableFuture.runAsync(() ->

this.afterBetProcessor(betRequest,betDetailResult,appUser,id)

);

異步調用使用Callable來實作

@RestController

public class HelloController {

private static final Logger logger = LoggerFactory.getLogger(HelloController.class);

@Autowired

private HelloService hello;

@GetMapping("/helloworld")

public String helloWorldController() {

return hello.sayHello();

}

/**

* 異步調用restful

* 當controller傳回值是Callable的時候,springmvc就會啟動一個線程将Callable交給TaskExecutor去處理

* 然後DispatcherServlet還有所有的spring攔截器都退出主線程,然後把response保持打開的狀态

* 當Callable執行結束之後,springmvc就會重新啟動配置設定一個request請求,然後DispatcherServlet就重新

* 調用和處理Callable異步執行的傳回結果, 然後傳回視圖

*

* @return

*/

@GetMapping("/hello")

public Callable<String> helloController() {

logger.info(Thread.currentThread().getName() + " 進入helloController方法");

Callable<String> callable = new Callable<String>() {

@Override

public String call() throws Exception {

logger.info(Thread.currentThread().getName() + " 進入call方法");

String say = hello.sayHello();

logger.info(Thread.currentThread().getName() + " 從helloService方法傳回");

return say;

}

};

logger.info(Thread.currentThread().getName() + " 從helloController方法傳回");

return callable;

}

}

異步調用的方式 WebAsyncTask

@RestController

public class HelloController {

private static final Logger logger = LoggerFactory.getLogger(HelloController.class);

@Autowired

private HelloService hello;

/**

* 帶逾時時間的異步請求 通過WebAsyncTask自定義用戶端逾時間

*

* @return

*/

@GetMapping("/world")

public WebAsyncTask<String> worldController() {

logger.info(Thread.currentThread().getName() + " 進入helloController方法");

// 3s鐘沒傳回,則認為逾時

WebAsyncTask<String> webAsyncTask = new WebAsyncTask<>(3000, new Callable<String>() {

@Override

public String call() throws Exception {

logger.info(Thread.currentThread().getName() + " 進入call方法");

String say = hello.sayHello();

logger.info(Thread.currentThread().getName() + " 從helloService方法傳回");

return say;

}

});

logger.info(Thread.currentThread().getName() + " 從helloController方法傳回");

webAsyncTask.onCompletion(new Runnable() {

@Override

public void run() {

logger.info(Thread.currentThread().getName() + " 執行完畢");

}

});

webAsyncTask.onTimeout(new Callable<String>() {

@Override

public String call() throws Exception {

logger.info(Thread.currentThread().getName() + " onTimeout");

// 逾時的時候,直接抛異常,讓外層統一處理逾時異常

throw new TimeoutException("調用逾時");

}

});

return webAsyncTask;

}

/**

* 異步調用,異常處理,詳細的處理流程見MyExceptionHandler類

*

* @return

*/

@GetMapping("/exception")

public WebAsyncTask<String> exceptionController() {

logger.info(Thread.currentThread().getName() + " 進入helloController方法");

Callable<String> callable = new Callable<String>() {

@Override

public String call() throws Exception {

logger.info(Thread.currentThread().getName() + " 進入call方法");

throw new TimeoutException("調用逾時!");

}

};

logger.info(Thread.currentThread().getName() + " 從helloController方法傳回");

return new WebAsyncTask<>(20000, callable);

}

}

二、增加内嵌Tomcat的最大連接配接數

@Configuration

public class TomcatConfig {

@Bean

public ConfigurableServletWebServerFactory webServerFactory() {

TomcatServletWebServerFactory tomcatFactory = new TomcatServletWebServerFactory();

tomcatFactory.addConnectorCustomizers(new MyTomcatConnectorCustomizer());

tomcatFactory.setPort(8005);

tomcatFactory.setContextPath("/api-g");

return tomcatFactory;

}

class MyTomcatConnectorCustomizer implements TomcatConnectorCustomizer {

public void customize(Connector connector) {

Http11NioProtocol protocol = (Http11NioProtocol) connector.getProtocolHandler();

//設定最大連接配接數

protocol.setMaxConnections(20000);

//設定最大線程數

protocol.setMaxThreads(2000);

protocol.setConnectionTimeout(30000);

}

}

}

三、使用@ComponentScan()定位掃包比@SpringBootApplication掃包更快

四、預設tomcat容器改為Undertow(Jboss下的伺服器,Tomcat吞吐量5000,Undertow吞吐量8000)

<exclusions>

<exclusion>

<groupId>org.springframework.boot</groupId>

<artifactId>spring-boot-starter-tomcat</artifactId>

</exclusion>

</exclusions>

改為:

<dependency>

<groupId>org.springframework.boot</groupId>

<artifactId>spring-boot-starter-undertow</artifactId>

</dependency>

五、使用 BufferedWriter 進行緩沖

六、Deferred方式實作異步調用

@RestController

public class AsyncDeferredController {

private final Logger logger = LoggerFactory.getLogger(this.getClass());

private final LongTimeTask taskService;

@Autowired

public AsyncDeferredController(LongTimeTask taskService) {

this.taskService = taskService;

}

@GetMapping("/deferred")

public DeferredResult<String> executeSlowTask() {

logger.info(Thread.currentThread().getName() + "進入executeSlowTask方法");

DeferredResult<String> deferredResult = new DeferredResult<>();

// 調用長時間執行任務

taskService.execute(deferredResult);

// 當長時間任務中使用deferred.setResult("world");這個方法時,會從長時間任務中傳回,繼續controller裡面的流程

logger.info(Thread.currentThread().getName() + "從executeSlowTask方法傳回");

// 逾時的回調方法

deferredResult.onTimeout(new Runnable(){

@Override

public void run() {

logger.info(Thread.currentThread().getName() + " onTimeout");

// 傳回逾時資訊

deferredResult.setErrorResult("time out!");

}

});

// 處理完成的回調方法,無論是逾時還是處理成功,都會進入這個回調方法

deferredResult.onCompletion(new Runnable(){

@Override

public void run() {

logger.info(Thread.currentThread().getName() + " onCompletion");

}

});

return deferredResult;

}

}

七、異步調用可以使用AsyncHandlerInterceptor進行攔截

@Component

public class MyAsyncHandlerInterceptor implements AsyncHandlerInterceptor {

private static final Logger logger = LoggerFactory.getLogger(MyAsyncHandlerInterceptor.class);

@Override

public boolean preHandle(HttpServletRequest request, HttpServletResponse response, Object handler)

throws Exception {

return true;

}

@Override

public void postHandle(HttpServletRequest request, HttpServletResponse response, Object handler,

ModelAndView modelAndView) throws Exception {

// HandlerMethod handlerMethod = (HandlerMethod) handler;

logger.info(Thread.currentThread().getName()+ "服務調用完成,傳回結果給用戶端");

}

@Override

public void afterCompletion(HttpServletRequest request, HttpServletResponse response, Object handler, Exception ex)

throws Exception {

if(null != ex){

System.out.println("發生異常:"+ex.getMessage());

}

}

@Override

public void afterConcurrentHandlingStarted(HttpServletRequest request, HttpServletResponse response, Object handler)

throws Exception {

// 攔截之後,重新寫回資料,将原來的hello world換成如下字元串

String resp = "my name is chhliu!";

response.setContentLength(resp.length());

response.getOutputStream().write(resp.getBytes());

logger.info(Thread.currentThread().getName() + " 進入afterConcurrentHandlingStarted方法");

}

}

本人花費2個月時間,整理了一套JAVA開發技術資料,内容涵蓋java基礎,分布式、微服務等主流技術資料,包含大廠面經,學習筆記、源碼講義、項目實戰、講解視訊。

7 種提升 Spring Boot 吞吐量神技
7 種提升 Spring Boot 吞吐量神技
7 種提升 Spring Boot 吞吐量神技

希望可以幫助一些想通過自學提升能力的朋友,領取資料,掃碼關注一下

記得轉發+關注+私信

私信回複【2022面試資料】

領取更多學習資料