friends-of-hyva / magento2-crawler-session
防止爬虫创建会话
1.0.1
2024-04-09 05:48 UTC
Requires
- php: ^8.1
- jaybizzle/crawler-detect: ^1.2
- magento/framework: *
README
防止爬虫创建会话!
如今爬虫和机器人的请求数量实在惊人。每个请求都会创建不必要的会话。如果你通过robots.txt阻止SEO工具,仍然有大量的搜索引擎存在。每分钟100个请求并不罕见。这会导致大量的会话,可能会影响一些限制,如Redis "max_concurrency"。
此模块在检测到爬虫时防止会话的启动。检测基于
https://github.com/JayBizzle/Crawler-Detect
安装
通过composer安装包
composer require friends-of-hyva/magento2-crawler-session php bin/magento setup:upgrade
使用
安装后,您需要启用该模块
Stores > Configuration > General > Web > Prevent Crawler Session
配置
启用
如果启用,则检测到的爬虫将不再创建会话。
附加黑名单
如果crawlerdetect.io提供的列表不足以满足需求,您可以在此处定义自己的自定义用户代理。
白名单
对于需要允许被黑名单禁止的用户代理的情况,您可以在此处操作。
日志
如果启用,所有被阻止的用户代理都将记录到var/log/crawler-session.log
。但这仅适用于临时调试目的。文件大小可能会非常快地变大!