天天看點

hive:導出資料記錄到MySQL中null被替換為\N的解決方案

在hive中,一般情況下通過

1 use my_hive_db;
2 set hive.merge.mapfiles=true;
3 set hive.merge.mapredfiles=true;
4 set hive.merge.size.per.task= 1000000000;
5 set hive.merge.smallfiles.avgsize= 1000000000;
6 insert overwrite directory '/user/myuser/temp/scenemapbuild/' row format delimited fields terminated by ',' select * from scenemapbuild;
導出檔案時,會遇本來表中本來字段值為null的字段導出時為\n。
           

解決方案:

1 insert overwrite directory '/data/files/map_table_4'
2 ROW FORMAT SERDE 'org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe'
3 WITH SERDEPROPERTIES (
4 'field.delim'=',',
5 'serialization.format'= '',
6 'serialization.null.format'=''  
7 ) STORED AS TEXTFILE
8 select foo, null, bar from map_table;
           

備注:

1)設定 alter table name SET SERDEPROPERTIES(‘serialization.null.format’ = ‘\N’);

則:底層資料儲存的是’\N’,通過查詢顯示的是’NULL’

這時如果查詢為空值的字段可通過 語句:a is null 或者 a=’\N’

2)設定 alter tablename SET SERDEPROPERTIES(‘serialization.null.format’ = ‘NULL’);

則:底層資料儲存的是’NULL’,通過查詢顯示的是’NULL’

這時如果查詢為空值的字段可通過 語句:a is null 或者 a=‘NULL’

3)設定 alter tablename SET SERDEPROPERTIES(‘serialization.null.format’ = ‘’);

則:底層資料儲存的是’’,通過查詢顯示的是’NULL’

‘’ 與 length(xx)=0

‘’ 表示的是字段不為null且為空字元串,此時用 a is null 是無法查詢這種值的,必須通過 a=’’ 或者 length(a)=0 查詢。

繼續閱讀