friends-of-hyva/magento2-crawler-session

防止爬虫创建会话

1.0.1 2024-04-09 05:48 UTC

This package is auto-updated.

Last update: 2024-09-09 06:56:51 UTC


README

防止爬虫创建会话!

如今爬虫和机器人的请求数量实在惊人。每个请求都会创建不必要的会话。如果你通过robots.txt阻止SEO工具,仍然有大量的搜索引擎存在。每分钟100个请求并不罕见。这会导致大量的会话,可能会影响一些限制,如Redis "max_concurrency"。

此模块在检测到爬虫时防止会话的启动。检测基于

https://github.com/JayBizzle/Crawler-Detect

安装

通过composer安装包

composer require friends-of-hyva/magento2-crawler-session

php bin/magento setup:upgrade

使用

安装后,您需要启用该模块

Stores > Configuration > General > Web > Prevent Crawler Session

配置

启用

如果启用,则检测到的爬虫将不再创建会话。

附加黑名单

如果crawlerdetect.io提供的列表不足以满足需求,您可以在此处定义自己的自定义用户代理。

白名单

对于需要允许被黑名单禁止的用户代理的情况,您可以在此处操作。

日志

如果启用,所有被阻止的用户代理都将记录到var/log/crawler-session.log。但这仅适用于临时调试目的。文件大小可能会非常快地变大!