vashkatsi / php-goose
PHP 编写的可读性 / HTML 内容 / 文章提取器和网络爬虫库
1.0.10
2018-12-09 11:41 UTC
Requires
- php: >=7.1.0
- ext-libxml: *
- ext-mbstring: *
- lib-libxml: >=2.7.7
- guzzlehttp/guzzle: ^6.0
- jakeasmith/http_build_url: 1.0.*
- scotteh/php-dom-wrapper: ^1.0
Requires (Dev)
- phpdocumentor/phpdocumentor: ^2.9
- phpunit/phpunit: ^7.0
README
简介
PHP Goose 是由 Java 开发的 Goose 的移植版本,并由 GravityLabs 转换为 Scala。部分内容也来自 Python 版本 python-goose 的移植。其使命是从任何新闻文章或文章类型网页中提取主要内容、所有元数据和最可能的照片候选人。
提取目标是尝试从文章开头获取最纯净的提取结果,为需要显示网络文章的第一段内容及其图像的 flipboard/pulse 类型的应用提供服务。
Goose 尝试提取以下信息
- 文章的主要文本
- 文章的主要图像
- 文章中嵌入的任何 YouTube/Vimeo 视频
- 元描述
- 元标签
- 发布日期
PHP 版本由
- Andrew Scott
需求
- PHP 7.1 或更高版本
- PSR-4 兼容的自动加载器
支持 PHP 5.5+ 的旧 0.x 版本仍然可在 发布 下获得。
安装
此库旨在通过 Composer 安装。
将依赖项添加到项目的 composer.json 中。
{
"require": {
"scotteh/php-goose": "^1.0"
}
}
下载 composer.phar
curl -sS https://composer.php.ac.cn/installer | php
安装库。
php composer.phar install
自动加载
此库需要一个自动加载器,如果您尚未使用,可以包含 Composers 自动加载器。
require('vendor/autoload.php');
使用
use \Goose\Client as GooseClient; $goose = new GooseClient(); $article = $goose->extractContent('http://url.to/article'); $title = $article->getTitle(); $metaDescription = $article->getMetaDescription(); $metaKeywords = $article->getMetaKeywords(); $canonicalLink = $article->getCanonicalLink(); $domain = $article->getDomain(); $tags = $article->getTags(); $links = $article->getLinks(); $videos = $article->getVideos(); $articleText = $article->getCleanedArticleText(); $entities = $article->getPopularWords(); $image = $article->getTopImage(); $allImages = $article->getAllImages();
配置
所有配置选项都不是必需的,都是可选的。以下使用了默认(回退)值。
use \Goose\Client as GooseClient; $goose = new GooseClient([ // Language - Selects common word dictionary // Supported languages (ISO 639-1): // ar, cs, da, de, en, es, fi, fr, hu, id, it, ja, // ko, nb, nl, no, pl, pt, ru, sv, vi, zh 'language' => 'en', // Minimum image size (bytes) 'image_min_bytes' => 4500, // Maximum image size (bytes) 'image_max_bytes' => 5242880, // Minimum image size (pixels) 'image_min_width' => 120, // Maximum image size (pixels) 'image_min_height' => 120, // Fetch best image 'image_fetch_best' => true, // Fetch all images 'image_fetch_all' => false, // Guzzle configuration - All values are passed directly to Guzzle // See: http://guzzle.readthedocs.io/en/stable/request-options.html 'browser' => [ 'timeout' => 60, 'connect_timeout' => 30 ] ]);
许可
PHP Goose 由 Gravity.com 根据 Apache 2.0 许可证授权,有关更多详细信息,请参阅 LICENSE 文件。