天天看点

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

可以使用 Visual Sniffer(百度搜索) 来捕捉提交的数据信息:

2. 填写好需要的资料,比如用户名和密码,

3. 打开 Visual Sniffer, 点“开始拦截”

4. 在访问的页面中提交。

5. 等提交成功之后,在 Visual Sniffer 中“停止拦截”

6. 在 Visual Sniffer 的左侧栏的加号中依次点开,右边是它拦截到的内容:

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

POST http://www.csdn.net/member/UserLogin.aspx HTTP/1.0

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Accept: image/gif, image/x-xbitmap, image/jpeg, image/pjpeg, application/vnd.ms-excel, application/vnd.ms-powerpoint, application/msword, application/x-shockwave-flash, */*

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Referer: http://www.csdn.net/member/UserLogin.aspx

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Accept-Language: zh-cn

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Content-Type: application/x-www-form-urlencoded

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

UA-CPU: x86

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Pragma: no-cache

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

User-Agent: Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.2; SV1; .NET CLR 1.1.4322; InfoPath.1)

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Host: www.csdn.net

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Content-Length: 355

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Proxy-Connection: Keep-Alive

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

Cookie: ASPSESSIONIDAAAATBQC=FMEGGCKDBKHAMMCGKPFDMBFG; ASP.NET_SessionId=lusprmnom05lr445tmteaf55; userid=699879

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

__EVENTTARGET=&__EVENTARGUMENT=&__VIEWSTATE=dDwtMTcwMzgxNjQ2Mjs7bDxDU0ROVXNlckxvZ2luOmNiX1NhdmVTdGF0ZTtDU0ROVXNlckxvZ2luOkltYWdlX0xvZ2luOz4%2Btu1q2wmRZoAJTi9L73w1zBleylY%3D&CSDNUserLogin%3Atb_UserName=testusername&CSDNUserLogin%3Atb_Password=testpassword&CSDNUserLogin%3Atb_ExPwd=9232&from=&CSDNUserLogin%3AImage_Login.x=36&CSDNUserLogin%3AImage_Login.y=6

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

GET http://www.csdn.net/mycustompage.htm?aspxerrorpath=/member/UserLogin.aspx HTTP/1.0

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

以上为拦截内容,其中提交数据的参数部分(程序中的:strArgs)如:

__EVENTTARGET=&__EVENTARGUMENT=&__VIEWSTATE=dDwtMTcwMzgxNjQ2Mjs7bDxDU0ROVXNlckxvZ2luOmNiX1NhdmVTdGF0ZTtDU0ROVXNlckxvZ2luOkltYWdlX0xvZ2luOz4%2Btu1q2wmRZoAJTi9L73w1zBleylY%3D&CSDNUserLogin%3Atb_UserName=testusername&CSDNUserLogin%3Atb_Password=testpassword&CSDNUserLogin%3Atb_ExPwd=9232

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        protected static string cookieHeader;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        private void Page_Load(object sender, System.EventArgs e)

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        {

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            string strReContent = string.Empty;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            //登录

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            strReContent = PostLogin("http://www.mystand.com.cn/login/submit.jsp提交的页面","提交的参数:userid=hgj0000&password=06045369","引用地址:http://www.mystand.com.cn/");

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            //asp.net登录传递的参数需注意    

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            //strReContent = PostLogin("http://www.mystand.com.cn/login.aspx","__VIEWSTATE=dDwtNjkzMjUyNDczO3Q8O2w8aTwzPjs%2BO2w8dDxwPHA8bDxUZXh0Oz47bDxcZTs%2BPjs%2BOzs%2BOz4%2BOz6aX2dtqkJTK%2BKbNPsjd7Op%2Fl26Iw%3D%3D&txtUserName=hxf&txtPassword=hxf0000&btnEnter=%E7%99%BB%E5%BD%95","http://www.mystand.com.cn/login.aspx");

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            //获取页面

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            strReContent = GetPage("http://www.mystand.com.cn/company/getdata.jsp?code=","引用地址:http://www.mystand.com.cn/");

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            //strReContent = GetPage("http://www.mystand.com.cn/Modules/index.aspx","http://www.mystand.com.cn/login.aspx");

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            //可以对获得的内容进行处理:strReContent

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        }

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// <summary>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// 功能描述:模拟登录页面,提交登录数据进行登录,并记录Header中的cookie

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// </summary>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// <param name="strURL">登录数据提交的页面地址</param>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// <param name="strArgs">用户登录数据</param>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// <param name="strReferer">引用地址</param>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// <returns>可以返回页面内容或不返回</returns>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        public static string PostLogin(string strURL,string strArgs,string strReferer)

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            string strResult = "";

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            HttpWebRequest myHttpWebRequest = (HttpWebRequest)WebRequest.Create(strURL);

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.AllowAutoRedirect = true; 

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.KeepAlive = true;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.Accept = "image/gif, image/x-xbitmap, image/jpeg, image/pjpeg, application/vnd.ms-excel, application/msword, application/x-shockwave-flash, */*";

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.Referer = strReferer;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.UserAgent = "Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1; SV1; Maxthon; .NET CLR 2.0.50727)";

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.ContentType = "application/x-www-form-urlencoded";

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.Method = "POST";

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            CookieCollection myCookies = null;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            CookieContainer myCookieContainer = new CookieContainer();

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.CookieContainer = myCookieContainer;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            Stream MyRequestStrearm = myHttpWebRequest.GetRequestStream();

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            StreamWriter MyStreamWriter = new StreamWriter(MyRequestStrearm,Encoding.ASCII);

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            //把数据写入HttpWebRequest的Request流

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            MyStreamWriter.Write(strArgs);

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            //关闭打开对象 

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            MyStreamWriter.Close();

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            MyRequestStrearm.Close();

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            HttpWebResponse response = null;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            System.IO.StreamReader sr = null;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            response = (HttpWebResponse)myHttpWebRequest.GetResponse();

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            cookieHeader = myHttpWebRequest.CookieContainer.GetCookieHeader(new Uri(strURL)); 

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            HttpContext.Current.Application.Lock(); 

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            HttpContext.Current.Application["cookieHeader"] = cookieHeader; 

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            HttpContext.Current.Application.UnLock();

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myCookies = response.Cookies;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            sr = new System.IO.StreamReader(response.GetResponseStream(),Encoding.GetEncoding("gb2312"));    //    //utf-8

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            strResult = sr.ReadToEnd();

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            return strResult;

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// 功能描述:在PostLogin成功登录后记录下Headers中的cookie,然后获取此网站上其他页面的内容

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// <param name="strURL">获取网站的某页面的地址</param>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// <param name="strReferer">引用的地址</param>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        /// <returns>返回页面内容</returns>

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

        public static string GetPage(string strURL,string strReferer)

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.ContentType = "text/html";

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.Method = "GET";

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            myHttpWebRequest.Headers.Add("cookie:"+ cookieHeader);

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

            sr = new System.IO.StreamReader(response.GetResponseStream(), Encoding.GetEncoding("gb2312"));    //    //utf-8

HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)
HttpWebRequest自动登录网站并获取网站内容(不包含验证码的网站)

本文转自94cool博客园博客,原文链接:http://www.cnblogs.com/94cool/articles/1532591.html,如需转载请自行联系原作者

继续阅读