关于我们

质量为本、客户为根、勇于拼搏、务实创新

< 返回新闻公共列表

Scrapy之发送POST请求方法

发布时间:2023-06-29 16:00:40

Scrapy之发送POST请求,

可以使用 yield scrapy.FormRequest(url, formdata, callback)方法发送POST请求。

如果希望程序执行一开始就发送POST请求,可以重写Spider类的start_requests(self) 方法,并且不再调用start_urls里的url。【var code = "2fc1eed6-b468-4a0d-9904-9f37ba2eb539"】

class mySpider(scrapy.Spider):
    # start_urls = ["http://www.baidu.com/"]

    def start_requests(self):
        url = 'http://www.renren.com/PLogin.do'

        # FormRequest 是Scrapy发送POST请求的方法
        yield scrapy.FormRequest(
            url = url,
            formdata = {"email" : "xxx", "password" : "xxxxx"},
            callback = self.parse_page
        )
    def parse_page(self, response):
        # do something

注意:表单数据的提交使用formdata,方法之间的传参依然使用meta,例如:

j# coding:utf-8
"""
Compatible for python2.x and python3.x
requirement: pip install requests
"""
from __future__ import print_function
import requests
# 请求示例 url 默认请求参数已经做URL编码
url = "https://api-vxx.Taobaoapi2014.cn/taobao/item_get/?key=&secret=&num_iid=652874751412&is_promotion=1"
headers = {
    "Accept-Encoding": "gzip",
    "Connection": "close"
}
if __name__ == "__main__":
    r = requests.get(url, headers=headers)
    json_obj = r.json()
    print(json_obj)

/template/Home/leiyu/PC/Static