天天看點

Android應用開發-小巫CSDN部落格用戶端Jsoup篇

Android應用開發-小巫CSDN部落格用戶端Jsoup篇

距上一篇部落格已經過去了兩個星期,小巫也覺得非常抱歉,因為在忙着做另外一個項目,幾乎抽不出空來,這不小巫會把剩下的博文全部在國慶補上。本篇部落格将會給大家介紹如何使用Jsoup這個庫來解析我們的網頁,并且如何對我們想解析的網頁進行分析。 Jsoup這個庫的下載下傳位址:http://jsoup.org/download 筆者這裡使用的jsoup-1.7.2 下載下傳完之後複制到項目中的libs目錄下即可:

Android應用開發-小巫CSDN部落格用戶端Jsoup篇

Jsoup的資料比較少,可供參考的可到其官網進行學習這個庫的使用:http://www.open-open.com/jsoup/ API查閱位址:http://jsoup.org/apidocs/

對這個庫的使用筆者也不是非常熟悉,就隻是簡單參考了文檔而完成了解析工作,是以下面的筆者的解析代碼也隻是提供參考,具體的解析方法,請認真檢視api文檔。 如何使用Jsoup這個庫不是重點,重點是如何對我們想解析的網頁進行分析,如何做到像以下的效果:

Android應用開發-小巫CSDN部落格用戶端Jsoup篇

這裡可以看到首頁是擷取筆者部落格的博文清單,每一個條目都有對應的标題、博文摘要、釋出時間、閱讀數、評論數。這些内容就是通過解析首頁html頁面所得到的内容。

Android應用開發-小巫CSDN部落格用戶端Jsoup篇

好,就是這樣的一個html頁面,大夥是不是很想把它搬到手機上呢,隻要你學會了如何分析html頁面,你可以把任何你想要的内容搬下來,隻要你抓取的網頁沒有做防扒取的措施。 筆者使用的浏覽器是Google Chrome,作為專業的IT人士,不用Chrome确實說不過去,按下F12,你就可以看到以下景象,感覺好興奮啊,可以去尋找你想要的寶藏了。是啊,逗比可以往下看了:

Android應用開發-小巫CSDN部落格用戶端Jsoup篇

如果想解析一個網頁,還是得你自己以上面這種方式去看,找到你想要的内容。小巫是這樣做的,可以通過右鍵檢視元素,直接檢視對應的html源代碼,這樣你就知道内容對應的标簽是什麼了。因為小巫想獲得首頁的所有博文清單,是以我就找到博文的最外層的div标簽開始分析,我找到了id為article_list,然後接着找到了每條博文項的内容,确定下它們的具體的标簽,使用了什麼class,部落格可以通過class來擷取你想要的元素,然後取得元素的内容。

直接上代碼吧: [java]  view plain copy

  1.     public static List<BlogItem> getBlogItemList(int blogType, String str) {  
  2.         // Log.e("URL---->", str);  
  3.         List<BlogItem> list = new ArrayList<BlogItem>();  
  4.         // 擷取文檔對象  
  5.         Document doc = Jsoup.parse(str);  
  6.         // Log.e("doc--->", doc.toString());  
  7.         // 擷取class="article_item"的所有元素  
  8.         Elements blogList = doc.getElementsByClass("article_item");  
  9.         // Log.e("elements--->", blogList.toString());  
  10.         for (Element blogItem : blogList) {  
  11.             BlogItem item = new BlogItem();  
  12.             String title = blogItem.select("h1").text(); // 得到标題  
  13.             // System.out.println("title----->" + title);  
  14.             String description = blogItem.select("div.article_description")  
  15.                     .text();  
  16.             // System.out.println("descrition--->" + description);  
  17.             String msg = blogItem.select("div.article_manage").text();  
  18.             // System.out.println("msg--->" + msg);  
  19.             String date = blogItem.getElementsByClass("article_manage").get(0)  
  20.                     .text();  
  21.             // System.out.println("date--->" + date);  
  22.             String link = BLOG_URL  
  23.                     + blogItem.select("h1").select("a").attr("href");  
  24.             // System.out.println("link--->" + link);  
  25.             item.setTitle(title);  
  26.             item.setMsg(msg);  
  27.             item.setContent(description);  
  28.             item.setDate(date);  
  29.             item.setLink(link);  
  30.             item.setType(blogType);  
  31.             // 沒有圖檔  
  32.             item.setImgLink(null);  
  33.             list.add(item);  
  34.         }  
  35.         return list;  
  36.     }  

小巫通過class="article_item"擷取到所有的元素,也就是Element,然後周遊所有的元素,把每個元素我們需要的值取出來。我們可以定義一個實體類,比如文章項BlogItem,通過建立不同的BlogItem對象,然後最後添加到list當中,我們就可以把所有博文清單儲存下拉,下次取的時候,直接通過list來取即可。

我們可以看到使用Jsoup這個庫,隻需要那麼少的代碼就可以輕松擷取到我們想要的内容,編碼、效率啥都有,還等什麼,去用吧。

然後擷取博文詳細内容也是類似的,給定一個url,我們就可以同樣的方式去解析html代碼: [java]  view plain copy

  1.     public static List<Blog> getContent(String url, String str) {  
  2.         List<Blog> list = new ArrayList<Blog>();  
  3.         // 擷取文檔内容  
  4.         Document doc = Jsoup.parse(str);  
  5.         // 擷取class="details"的元素  
  6.         Element detail = doc.getElementsByClass("details").get(0);  
  7.         detail.select("script").remove(); // 删除每個比對元素的DOM。  
  8.         // 擷取标題  
  9.         Element title = detail.getElementsByClass("article_title").get(0);  
  10.         Blog blogTitle = new Blog();  
  11.         blogTitle.setState(Constants.DEF_BLOG_ITEM_TYPE.TITLE); // 設定狀态  
  12.         blogTitle.setContent(ToDBC(title.text())); // 設定标題内容  
  13.         // 擷取文章内容  
  14.         Element content = detail.select("div.article_content").get(0);  
  15.         // 擷取所有标簽為<a的元素  
  16.         Elements as = detail.getElementsByTag("a");  
  17.         for (int b = 0; b < as.size(); b++) {  
  18.             Element blockquote = as.get(b);  
  19.             // 改變這個元素的标記。例如,<span>轉換為<div> 如el.tagName("div");。  
  20.             blockquote.tagName("bold"); // 轉為粗體  
  21.         }  
  22.         Elements ss = detail.getElementsByTag("strong");  
  23.         for (int b = 0; b < ss.size(); b++) {  
  24.             Element blockquote = ss.get(b);  
  25.             blockquote.tagName("bold");  
  26.         }  
  27.         // 擷取所有标簽為<p的元素  
  28.         Elements ps = detail.getElementsByTag("p");  
  29.         for (int b = 0; b < ps.size(); b++) {  
  30.             Element blockquote = ps.get(b);  
  31.             blockquote.tagName("body");  
  32.         }  
  33.         // 擷取所有引用元素  
  34.         Elements blockquotes = detail.getElementsByTag("blockquote");  
  35.         for (int b = 0; b < blockquotes.size(); b++) {  
  36.             Element blockquote = blockquotes.get(b);  
  37.             blockquote.tagName("body");  
  38.         }  
  39.         // 擷取所有标簽為<ul的元素  
  40.         Elements uls = detail.getElementsByTag("ul");  
  41.         for (int b = 0; b < uls.size(); b++) {  
  42.             Element blockquote = uls.get(b);  
  43.             blockquote.tagName("body");  
  44.         }  
  45.         // 找出粗體  
  46.         Elements bs = detail.getElementsByTag("b");  
  47.         for (int b = 0; b < bs.size(); b++) {  
  48.             Element bold = bs.get(b);  
  49.             bold.tagName("bold");  
  50.         }  
  51.         // 周遊部落格内容中的所有元素  
  52.         for (int j = 0; j < content.children().size(); j++) {  
  53.             Element c = content.child(j); // 擷取每個元素  
  54.             // 抽取出圖檔  
  55.             if (c.select("img").size() > 0) {  
  56.                 Elements imgs = c.getElementsByTag("img");  
  57.                 System.out.println("img");  
  58.                 for (Element img : imgs) {  
  59.                     if (!img.attr("src").equals("")) {  
  60.                         Blog blogImgs = new Blog();  
  61.                         // 大圖連結  
  62.                         if (!img.parent().attr("href").equals("")) {  
  63.                             blogImgs.setImgLink(img.parent().attr("href"));  
  64.                             System.out.println("href="  
  65.                                     + img.parent().attr("href"));  
  66.                             if (img.parent().parent().tagName().equals("p")) {  
  67.                                 // img.parent().parent().remove();  
  68.                             }  
  69.                             img.parent().remove();  
  70.                         }  
  71.                         blogImgs.setContent(img.attr("src"));  
  72.                         blogImgs.setImgLink(img.attr("src"));  
  73.                         System.out.println(blogImgs.getContent());  
  74.                         blogImgs.setState(Constants.DEF_BLOG_ITEM_TYPE.IMG);  
  75.                         list.add(blogImgs);  
  76.                     }  
  77.                 }  
  78.             }  
  79.             c.select("img").remove();  
  80.             // 擷取部落格内容  
  81.             Blog blogContent = new Blog();  
  82.             blogContent.setState(Constants.DEF_BLOG_ITEM_TYPE.CONTENT);  
  83.             if (c.text().equals("")) {  
  84.                 continue;  
  85.             } else if (c.children().size() == 1) {  
  86.                 if (c.child(0).tagName().equals("bold")  
  87.                         || c.child(0).tagName().equals("span")) {  
  88.                     if (c.ownText().equals("")) {  
  89.                         // 小标題,咖啡色  
  90.                         blogContent  
  91.                                 .setState(Constants.DEF_BLOG_ITEM_TYPE.BOLD_TITLE);  
  92.                     }  
  93.                 }  
  94.             }  
  95.             // 代碼  
  96.             if (c.select("pre").attr("name").equals("code")) {  
  97.                 blogContent.setState(Constants.DEF_BLOG_ITEM_TYPE.CODE);  
  98.                 blogContent.setContent(ToDBC(c.outerHtml()));  
  99.             } else {  
  100.                 blogContent.setContent(ToDBC(c.outerHtml()));  
  101.             }  
  102.             list.add(blogContent);  
  103.         }  
  104.         return list;  
  105.     }  

擷取評論清單: [java]  view plain copy

  1.     public static List<Comment> getBlogCommentList(String str, int pageIndex,  
  2.             int pageSize) {  
  3.         List<Comment> list = new ArrayList<Comment>();  
  4.         try {  
  5.             // 建立一個json對象  
  6.             JSONObject jsonObject = new JSONObject(str);  
  7.             JSONArray jsonArray = jsonObject.getJSONArray("list"); // 擷取json數組  
  8.             int index = 0;  
  9.             int len = jsonArray.length();  
  10.             BlogCommentActivity.commentCount = String.valueOf(len); // 評論條數  
  11.             // 如果評論數大于20  
  12.             if (len > 20) {  
  13.                 index = (pageIndex * pageSize) - 20;  
  14.             }  
  15.             if (len < pageSize && pageIndex > 1) {  
  16.                 return list;  
  17.             }  
  18.             if ((pageIndex * pageSize) < len) {  
  19.                 len = pageIndex * pageSize;  
  20.             }  
  21.             for (int i = index; i < len; i++) {  
  22.                 JSONObject item = jsonArray.getJSONObject(i);  
  23.                 String commentId = item.getString("CommentId");  
  24.                 String content = item.getString("Content");  
  25.                 String username = item.getString("UserName");  
  26.                 String parentId = item.getString("ParentId");  
  27.                 String postTime = item.getString("PostTime");  
  28.                 String userface = item.getString("Userface");  
  29.                 Comment comment = new Comment();  
  30.                 comment.setCommentId(commentId);  
  31.                 comment.setContent(content);  
  32.                 comment.setUsername(username);  
  33.                 comment.setParentId(parentId);  
  34.                 comment.setPostTime(postTime);  
  35.                 comment.setUserface(userface);  
  36.                 if (parentId.equals("0")) {  
  37.                     // 如果parentId為0的話,表示它是評論的topic  
  38.                     comment.setType(Constants.DEF_COMMENT_TYPE.PARENT);  
  39.                 } else {  
  40.                     comment.setType(Constants.DEF_COMMENT_TYPE.CHILD);  
  41.                 }  
  42.                 list.add(comment);  
  43.             }  
  44.         } catch (JSONException e) {  
  45.             e.printStackTrace();  
  46.         }  
  47.         return list;  
  48.     }  

具體使用細節可以參考筆者提供的源碼:http://download.csdn.net/detail/wwj_748/7912513

小巫已經把解析html的思路告訴大家啦,剩下如何來學習jsoup這個庫解析html就靠你們自己去做了。下一篇部落格預告,內建友盟社會化元件,詳細給大家介紹如何內建友盟提供的社會化元件SDK。