天天看點

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

作者:Java架構學習指南

前段時間把 ShardingSphere 更新到了 5.1.1 版本,奈何官方版本更新太快跟不上速度,這不最近又發現了一個 BUG。

問題現象

資料庫做了分庫分表,在需要查詢多表資料進行 merge 的時候發生了一個 NPE 的異常。

Caused by: java.lang.NullPointerException
    at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByValue.getOrderValuesCaseSensitiveFromTables(OrderByValue.java:73) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByValue.getOrderValuesCaseSensitive(OrderByValue.java:64) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByValue.<init>(OrderByValue.java:58) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByStreamMergedResult.orderResultSetsToQueue(OrderByStreamMergedResult.java:56) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.sharding.merge.dql.orderby.OrderByStreamMergedResult.<init>(OrderByStreamMergedResult.java:50) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.sharding.merge.dql.ShardingDQLResultMerger.build(ShardingDQLResultMerger.java:89) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.sharding.merge.dql.ShardingDQLResultMerger.merge(ShardingDQLResultMerger.java:63) ~[shardingsphere-sharding-core-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.infra.merge.MergeEngine.executeMerge(MergeEngine.java:90) ~[shardingsphere-infra-merge-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.infra.merge.MergeEngine.merge(MergeEngine.java:80) ~[shardingsphere-infra-merge-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.driver.jdbc.core.statement.ShardingSpherePreparedStatement.mergeQuery(ShardingSpherePreparedStatement.java:487) ~[shardingsphere-jdbc-core-5.1.1.jar:5.1.1]
    at org.apache.shardingsphere.driver.jdbc.core.statement.ShardingSpherePreparedStatement.getResultSet(ShardingSpherePreparedStatement.java:435) ~[shardingsphere-jdbc-core-5.1.1.jar:5.1.1]
    at org.apache.ibatis.executor.resultset.DefaultResultSetHandler.getFirstResultSet(DefaultResultSetHandler.java:237) ~[mybatis-3.5.3.jar:3.5.3]
    at org.apache.ibatis.executor.resultset.DefaultResultSetHandler.handleResultSets(DefaultResultSetHandler.java:187) ~[mybatis-3.5.3.jar:3.5.3]
    at org.apache.ibatis.executor.statement.PreparedStatementHandler.query(PreparedStatementHandler.java:65) ~[mybatis-3.5.3.jar:3.5.3]
    at org.apache.ibatis.executor.statement.RoutingStatementHandler.query(RoutingStatementHandler.java:79) ~[mybatis-3.5.3.jar:3.5.3]
    at org.apache.ibatis.executor.SimpleExecutor.doQuery(SimpleExecutor.java:63) ~[mybatis-3.5.3.jar:3.5.3]
    at org.apache.ibatis.executor.BaseExecutor.queryFromDatabase(BaseExecutor.java:324) ~[mybatis-3.5.3.jar:3.5.3]
    at org.apache.ibatis.executor.BaseExecutor.query(BaseExecutor.java:156) ~[mybatis-3.5.3.jar:3.5.3]
    at org.apache.ibatis.executor.CachingExecutor.query(CachingExecutor.java:109) ~[mybatis-3.5.3.jar:3.5.3]
    at jdk.internal.reflect.GeneratedMethodAccessor346.invoke(Unknown Source) ~[?:?]
    at jdk.internal.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) ~[?:?]
    at java.lang.reflect.Method.invoke(Method.java:566) ~[?:?]
    at org.apache.ibatis.plugin.Plugin.invoke(Plugin.java:63) ~[mybatis-3.5.3.jar:3.5.3]
    at com.sun.proxy.$Proxy410.query(Unknown Source) ~[?:?]
    at com.github.pagehelper.PageInterceptor.intercept(PageInterceptor.java:108) ~[pagehelper-5.1.11.jar:?]
    at org.apache.ibatis.plugin.Plugin.invoke(Plugin.java:61) ~[mybatis-3.5.3.jar:3.5.3]
    at com.sun.proxy.$Proxy410.query(Unknown Source) ~[?:?]
    at org.apache.ibatis.session.defaults.DefaultSqlSession.selectList(DefaultSqlSession.java:147) ~[mybatis-3.5.3.jar:3.5.3]
    at org.apache.ibatis.session.defaults.DefaultSqlSession.selectList(DefaultSqlSession.java:140) ~[mybatis-3.5.3.jar:3.5.3]
    at jdk.internal.reflect.NativeMethodAccessorImpl.invoke0(Native Method) ~[?:?]
    at jdk.internal.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62) ~[?:?]
    at jdk.internal.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:43) ~[?:?]
    at java.lang.reflect.Method.invoke(Method.java:566) ~[?:?]
    at org.mybatis.spring.SqlSessionTemplate$SqlSessionInterceptor.invoke(SqlSessionTemplate.java:427) ~[mybatis-spring-2.0.6.jar:2.0.6]
    ... 95 more           

問題排查

跟蹤到報錯的地方,發現是這個地方的schema是個null,進而引發了 NPE。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

一路往上看代碼,最終定位到了這個擷取schema的地方,也就是中繼資料去getDefaultSchema擷取預設的schema名稱改的時候拿到了一個空值。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

進入這個方法後發現通過schema去schemas這個map裡擷取名稱的時候是個空值,debug到這個地方其實發現了問題。

我們的schemaName配置的是orderTrade包含有大寫字元的,是以name傳進來的是orderTrade,但是問題是這個schemas确是ordertrade。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

是以很顯然,這裡擷取不到正确的schema名稱,導緻了這個 NPE 的異常,那麼問題是這個schemas是怎麼加載進來的呢?

我們發現schemas是在建立中繼資料的時候,通過構造函數指派的,那麼隻要找到這個指派的地方應該就能發現問題了。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

通過一番查找,找到了調用的地方,這個schemas值就是databaseMap中的value,那麼我們要繼續看這個databaseMap是如何初始化來的。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

繼續看源碼,找到了databaseMap進行初始化的地方,原來是通過DatabaseLoader去加載中繼資料的時候初始化的,那麼這個load方法是怎麼處理的呢?

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

從代碼來看他包含了兩部分的資訊,第一個是我們自己通過schema配置的一些分庫分表的配置資訊,另外一部分則是資料庫預設的一些表的中繼資料,比如mysql、information_schema這些,那我們隻要看自己配置的那部分就可以了,也就是SchemaLoader.load(dataSourceMap, rules, props)方法。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

看他實際上就是擷取資料庫是什麼類型,比如mysql,然後去加載表的中繼資料,最後new出來ShardingSphereSchema,直接看最後的new部分代碼就行了。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

進入這個方法,瞬間就真相大白了,原來在put的時候對所有的schemaName進行了小寫處理,是以在最上面我們去get的時候肯定會拿到一個空值,最終導緻merge的時候發生了 NPE 異常。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

解決方案

現在問題原因已經發現了,那麼該如何解決呢?總不能不讓别人配置的時候不讓寫大寫吧,本着能不能白嫖一個 PR 的想法,又去給 Sharding 提了一個 Issue。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

就我點了根煙的功夫,回頭就給我回複說新版本已經修複了,希望落空了,修複方案就是查詢的時候也做小寫處理了,好吧,那就這樣吧。

ShardingSphere分庫分表schema名稱導緻NPE問題排查記錄

繼續閱讀