codecamp

scrapy 2.3 asyncio

2.0 新版功能.

刮痧有部分支持 ​asyncio​ . 在你之后 install the asyncio reactor ,您可以使用 ​asyncio​ 和 ​asyncio​ -任何 coroutine .

警告

asyncio​ Scrapy的支持是实验性的。未来的废版本可能会引入相关的更改,而不会有弃用期或警告。

安装异步电抗器

使能 ​asyncio​ 支持,设置 ​TWISTED_REACTOR​ 设置为 ​'twisted.internet.asyncioreactor.AsyncioSelectorReactor'​ .

如果您正在使用 ​CrawlerRunner​ ,您还需要安装 ​AsyncioSelectorReactor​ 反应堆手动。你可以用 ​install_reactor()​ ::

install_reactor('twisted.internet.asyncioreactor.AsyncioSelectorReactor')

使用自定义异步循环

您还可以将自定义异步事件循环与asyncio reactor一起使用。设置 ​ASYNCIO_EVENT_LOOP​ 设置为所需事件循环类的导入路径以使用它而不是默认的异步事件循环。


scrapy 2.3 协同程序
温馨提示
下载编程狮App,免费阅读超1000+编程语言教程
取消
确定
目录

scrapy 2.3 链接提取器

scrapy 2.3 统计数据集合

scrapy 2.3 发送电子邮件

scrapy 2.3 蜘蛛合约

scrapy 2.3 如何部署蜘蛛

scrapy 2.3 AutoThrottle扩展

关闭

MIP.setData({ 'pageTheme' : getCookie('pageTheme') || {'day':true, 'night':false}, 'pageFontSize' : getCookie('pageFontSize') || 20 }); MIP.watch('pageTheme', function(newValue){ setCookie('pageTheme', JSON.stringify(newValue)) }); MIP.watch('pageFontSize', function(newValue){ setCookie('pageFontSize', newValue) }); function setCookie(name, value){ var days = 1; var exp = new Date(); exp.setTime(exp.getTime() + days*24*60*60*1000); document.cookie = name + '=' + value + ';expires=' + exp.toUTCString(); } function getCookie(name){ var reg = new RegExp('(^| )' + name + '=([^;]*)(;|$)'); return document.cookie.match(reg) ? JSON.parse(document.cookie.match(reg)[2]) : null; }