日日操夜夜添-日日操影院-日日草夜夜操-日日干干-精品一区二区三区波多野结衣-精品一区二区三区高清免费不卡

公告:魔扣目錄網為廣大站長提供免費收錄網站服務,提交前請做好本站友鏈:【 網站目錄:http://www.ylptlb.cn 】, 免友鏈快審服務(50元/站),

點擊這里在線咨詢客服
新站提交
  • 網站:51998
  • 待審:31
  • 小程序:12
  • 文章:1030137
  • 會員:747

網絡爬蟲基本思路

基本思路:由關鍵字指定的url把所有相關的html頁面全抓下來(html即為字符串),然后解析html文本(通常是正則表達式或者現成工具包如jsoup),提取文本信息,然后把文本信息存儲起來。

網絡爬蟲操作步驟

URL(統一資源定位符)

下載資源

分析下載資源(正則表達式)

抽取、清洗、儲存

該文章只會操作兩步步驟URL和下載html資源。

網絡編程小知識

JAVA網絡編程模擬瀏覽器獲取html源代碼(網絡爬蟲)

 

URI:(Universal Resource Identifier)統一資源標記符,用來標記抽象或物理資源的一個緊湊字符串。

URL:(Universal Resource Locator)統一資源定位符,一種定位資源的主要訪問機制的字符串,一個標準的URL必須包括:protocal(協議)、host(主機)、port(端口號)、path(路徑)、parameter(參數)、anchor(錨)。

URN:(Universal Resource Name)統一資源名稱,通過特定命名空間中的唯一名稱或ID來標識資源。

URL和URN都是URI,但是URI不一定是URL或者URN。

seo搜索引擎優化

SEO是搜索引擎優化(Search Engine Optimization)的英文縮寫,中文譯為“搜索引擎優化”。在了解搜索引擎自然排名機制的基礎上,對網站進行內部及外部的調整優化,改進網站在搜索引擎中的關鍵詞自然排名,獲得更多流量,從而達成網站銷售及品牌建設的預期目標。

網絡爬蟲技術是SEO搜索引擎優化的基礎(對網絡爬蟲感興趣的同學可以深入研究)

JAVA中的JDK已經對URL(資源定位符)封裝完畢,使用者只要會用即可。

使用JAVA代碼下載網站資源有如下兩種情況:

 

JAVA網絡編程模擬瀏覽器獲取html源代碼(網絡爬蟲)

 

該代碼主要是通過URL類的openStream方法來獲取網絡資源,如果還想了解URL類的信息的同學可以去看看JDK中URL類的源代碼。

二、網站不允許外來訪問(模仿瀏覽器使用HTTP協議交流)代碼如下

 

JAVA網絡編程模擬瀏覽器獲取html源代碼(網絡爬蟲)

 

注意事項

JAVA中的控制臺儲存空間有限,所以有時候HTML源代碼會顯示不全,但你可以通過IO操作來拷貝到文件中去。

HttpURLConnection類的setRequestProperty方法中的(String key,String value)參數需要到瀏覽器相應網頁中去拷貝。

拷貝如下:

1、進入瀏覽器相關網頁。

2、按住F12進入devtools。

3、拷貝Request包中最后一行數據。

4、冒號前的對應key參數,冒號后的對應value參數。

JAVA網絡編程模擬瀏覽器獲取html源代碼(網絡爬蟲)

 

分享到:
標簽:網絡編程 JAVA
用戶無頭像

網友整理

注冊時間:

網站:5 個   小程序:0 個  文章:12 篇

  • 51998

    網站

  • 12

    小程序

  • 1030137

    文章

  • 747

    會員

趕快注冊賬號,推廣您的網站吧!
最新入駐小程序

數獨大挑戰2018-06-03

數獨一種數學游戲,玩家需要根據9

答題星2018-06-03

您可以通過答題星輕松地創建試卷

全階人生考試2018-06-03

各種考試題,題庫,初中,高中,大學四六

運動步數有氧達人2018-06-03

記錄運動步數,積累氧氣值。還可偷

每日養生app2018-06-03

每日養生,天天健康

體育訓練成績評定2018-06-03

通用課目體育訓練成績評定