scrapy 2.3 Scrapy Shell
而 parse 命令对于检查蜘蛛的行为非常有用,除了显示接收到的响应和输出之外,检查回调中发生的情况几乎没有帮助。如何调试情况 parse_details 有时没有收到物品?
幸运的是, shell 在这种情况下,你的面包和黄油(见 从spiders调用shell来检查响应 ):
from scrapy.shell import inspect_response
def parse_details(self, response, item=None):
if item:
# populate more `item` fields
return item
else:
inspect_response(response, self)