stajor/clickhouse-builder

此软件包最新版本(2.4.0)没有提供许可信息。

Clickhouse SQL 查询构建器

2.4.0 2019-12-22 09:39 UTC

README

Build Status Coverage Status

要求

php 7.1

安装

通过 composer

composer require the-tinderbox/clickhouse-builder

用法

为了使用查询构建器,我们之前必须在构造函数中实例化并传递 the-tinderbox/clickhouse-php-client

$server = new Tinderbox\Clickhouse\Server('127.0.0.1', '8123', 'default', 'user', 'pass');
$serverProvider = (new Tinderbox\Clickhouse\ServerProvider())->addServer($server);

$client = new Tinderbox\Clickhouse\Client($serverProvider);
$builder = new Builder($client);

之后,我们可以构建并执行 SQL 查询。

选择列

$builder->select('column', 'column2', 'column3 as alias');
$builder->select(['column', 'column2', 'column3 as alias']);
$builder->select(['column', 'column2', 'column3' => 'alias']);

所有这些调用都将转换为以下 SQL

SELECT `column`, `column2`, `column3` AS `alias`

此外,我们还可以通过闭包传递列。在这种情况下,闭包将传递 Column 类的实例,在其中我们可以设置我们想要的列。这对于具有许多函数、子查询等复杂表达式非常有用。

$builder->select(function ($column) {
    $column->name('time')->sumIf('time', '>', 10);
});

将编译为

SELECT sumIf(`time`, time > 10)
$builder->select(function ($column) {
    $column->as('alias') //or ->name('alias') in this case
    ->query()
    ->select('column')
    ->from('table');
});

将编译为

SELECT  (SELECT `column` FROM `table) as `alias`

也可以通过以下任何一种方法实现相同的行为

$1 = $builder->select(function ($column) {
         $column->as('alias') //or ->name('alias') in this case
            ->query(function ($query) {
                $query->select('column')->from('table');
            })
});
$2 = $builder->select(function ($column) {
         $column->as('alias') //or ->name('alias') in this case
            ->query($builder->select('column')->from('table'));
});

注意!列上的函数尚不稳定,处于开发中。

$builder->select('column')->from('table', 'alias');

生成以下查询

SELECT `column` FROM `table` as `alias`

也可以传递闭包或构建器作为子查询执行的参数。

$builder->from(function ($from) {
    $from->query()->select('column')->from('table');
});
SELECT * FROM (SELECT `column` FROM `table`)

$builder->from(function ($from) {
    $from->query(function ($query) {
        $query->select('column')->from('table');
    });
});

$builder->from(function ($from) {
    $from->query($builder->select('column')->from('table'));
});

$builder->from($builder->select('column')->from('table'));

这些都是与上面列出的相同 SQL 查询的所有变体。

样本系数

$builder->select('column')->from('table')->sample(0.1);
SELECT `column` FROM `table` SAMPLE 0.1

我认为没有必要添加额外的文字)

连接

$builder->from('table')->join('another_table', 'any', 'left', ['column1', 'column2'], true);
SELECT * FROM `table` GLOBAL ANY LEFT JOIN `another_table` USING `column1`, `column2`

要作为第一个参数执行子查询,您可以传递闭包或构建器。

$builder->from('table')->join(function ($query) {
    $query->select('column1', 'column2')->from('table2');
}, 'any', 'left', ['column1', 'column2']);

$builder->from('table')->join($builder->select('column1', 'column2')->from('table2'), 'any', 'left', ['column1', 'column2']);
SELECT * FROM `table` ANY LEFT JOIN (SELECT `column1`, `column2` FROM `table2`) USING `column1`, `column2`

此外,还有许多具有硬编码参数的辅助函数,例如严格或类型及其组合。

$builder->from('table')->anyLeftJoin('table', ['column']);
$builder->from('table')->allLeftJoin('table', ['column']);
$builder->from('table')->allInnerJoin('table', ['column']);
$builder->from('table')->anyInnerJoin('table', ['column']);

$buulder->from('table')->leftJoin('table', 'any', ['column']);
$buulder->from('table')->innerJoin('table', 'all', ['column']);

临时表的使用

在某些情况下,您可能需要根据其 ID 过滤用户,但 ID 的数量很大。您可以将用户 ID 存储在本地文件中,将其上传到服务器,并用作临时表。

有关本地文件的更多信息,请参阅 此处 的“使用本地文件”部分。

选择

您应该传递具有声明表结构的 TempTable 实例,以将文件附加到查询。

$builder->addFile(new TempTable('numbersTable', 'numbers.tsv', ['number' => 'UInt64'], Format::TSV));

$builder->table(raw('numbers(0,1000)')->whereIn('number', 'numbersTable')->get();

如果您想自动检测表,请在调用 whereIn 之前调用 addFile 方法。

您可以在查询构建器的 whereInprewhereInhavingInjoin 语句中使用本地文件。

插入

如果您想将文件或文件插入到 Clickhouse 中,可以使用 insertFileinsertFiles 方法。

$builder->table('test')->insertFile(['date', 'userId'], 'test.tsv', Format::TSV);

或者,您可以将文件批量传递给 insertFiles 方法,它们将异步插入。

$builder->table('test')-insertFiles(['date', 'userId'], [
    'test-1.tsv',
    'test-2.tsv',
    'test-3.tsv',
    'test-4.tsv',
    'test-5.tsv',
    'test-6.tsv',
    'test-7.tsv',
], Format::TSV)

此外,您可以使用辅助函数并将数据插入具有 Memory 引擎的临时表。

$builder->table('test')->values('test.tsv')->format(Format::TSV);

into_memory_table($builder, [
    'date' => 'Date',
    'userId' => 'UInt64'
]);

辅助函数将删除名为 test 的临时表,并创建具有声明结构、Memory 引擎的表,并将来自 test.tsv 文件的数据插入到刚创建的表中。

如果您想填充某些表以执行查询然后删除它们,这非常有用。

预where、where、having

所有示例都将关于 where,但同样的行为也适用于 prewhere 和 having。

$builder->from('table')->where('column', '=', 'value');
$builder->from('table')->where('column', 'value');
SELECT * FROM `table` WHERE `column` = 'value'

所有字符串值都将用单引号括起来。如果没有提供操作符,则使用 =。如果没有提供操作符,并且值是数组,则使用 IN

$builder->from('table')->where(function ($query) {
    $query->where('column1', 'value')->where('column2', 'value');
});
SELECT * FROM `table` WHERE (`column1` = 'value' AND `column2` = 'value')

如果在第一个参数中传递了闭包,则所有 where 语句都将用括号括起来。但如果在该构建器(闭包内部)指定了 from,则将其转换为子查询。

$builder->from('table')->where(function ($query) {
    $query->select('column')->from('table');
})
SELECT * FROM `table` WHERE (SELECT `column` FROM `table`)

对于值参数,几乎相同,除了括号外。任何传递为值的闭包或构建器实例都将转换为子查询。

$builder->from('table')->where('column', 'IN', function ($query) {
    $query->select('column')->from('table');
});
SELECT * FROM `table` WHERE `column` IN (SELECT `column` FROM `table`)

您还可以传递此语句的内部表示形式,并将其使用。我不会深入解释这一点,因为这不是首选的使用方式。

类似于JOIN,有很多带有硬编码参数的辅助函数。

$builder->where();
$builder->orWhere();

$builder->whereRaw();
$builer->orWhereRaw();

$builder->whereIn();
$builder->orWhereIn();

$builder->whereGlobalIn();
$builder->orWhereGlobalIn();

$builder->whereGlobalNotIn();
$builder->orWhereGlobalNotIn();

$builder->whereNotIn();
$builder->orWhereNotIn();

$builder->whereBetween();
$builder->orWhereBetween();

$builder->whereNotBetween();
$builder->orWhereNotBetween();

$builder->whereBetweenColumns();
$builder->orWhereBetweenColumns();

$builder->whereNotBetweenColumns();
$builder->orWhereNotBetweenColumns();

还有通过字典创建WHERE的方法

$builder->whereDict('dict', 'attribute', 'key', '=', 'value');
SELECT dictGetString('dict', 'attribute', 'key') as `attribute` WHERE `attribute` = 'value'

如果您想使用复杂键,可以将数组作为$key传递,然后数组将转换为元组。默认情况下,所有字符串都会被单引号转义,但您也可以传递一个Identifier实例来传递例如列名

$builder->whereDict('dict', 'attribute', [new Identifier('column'), 'string value'], '=', 'value');

将产生

SELECT dictGetString('dict', 'attribute', tuple(`column`, 'string value')) as `attribute` WHERE `attribute` = 'value'

分组

与SELECT类似。

$builder->from('table')->select('column', raw('count()')->groupBy('attribute');

最终查询将类似于

SELECT `column`, count() FROM `table` GROUP BY `attribute`

排序

$builder->from('table')->orderBy('column', 'asc', 'fr');

在上面的例子中,第三个参数是可选的

SELECT *  FROM `table` ORDER BY `column` ASC COLLATE 'fr'

别名

$builder->orderByAsc('column');
$builder->orderByDesc('column');

对于列,其行为与select方法中相同。

限制

有两种类型的限制。限制和limit n by。

limit n by

$builder->from('table')->limitBy(1, 'column1', 'column2');

将产生

SELECT * FROM `table` LIMIT 1 BY `column1`, `column2`

简单限制

$builder->from('table')->limit(10, 100);

将产生

SELECT * FROM `table` LIMIT 100, 10
$builder->from('table')->limit(10, 100);

SELECT * FROM `table` LIMIT 100, 10

UNION ALL

unionAll方法中可以传递闭包或构建器实例。在闭包内部,将传递构建器实例。

$builder->from('table')->unionAll(function($query) {
    $query->select('column1')->from('table');
})->unionAll($builder->select('column2')->from('table'));
SELECT * FROM `table` UNION ALL SELECT `column1` FROM `table` UNION ALL SELECT `column2` FROM `table`

执行请求并获取结果。

在构建请求后,您必须调用get()方法以将请求发送到服务器。此外,还有进行异步请求的机会。这几乎与unionAll相同。

$builder->from('table')->asyncWithQuery(function($query) {
    $query->from('table');
});
$builder->from('table')->asyncWithQuery($builder->from('table'));
$builder->from('table')->asyncWithQuery()->from('table');

这些调用将产生相同的行为。两个将异步执行的查询。现在,如果您调用get()方法,结果将返回一个数组,其中数值索引对应于具有该编号的请求结果。

集成

Laravel或Lumen < 5.5

您可以在Laravel/Lumen应用程序中使用此构建器。

Laravel

config/app.php中添加

    'providers' => [
        ...
        \Tinderbox\ClickhouseBuilder\Integrations\Laravel\ClickhouseServiceProvider::class,
        ...
    ]

Lumen

bootstrap/app.php中添加

$app->register(\Tinderbox\ClickhouseBuilder\Integrations\Laravel\ClickhouseServiceProvider::class);

通过config/database.php配置连接。

单独服务器示例

'connections' => [
    'clickhouse' => [
        'driver' => 'clickhouse',
        'host' => 'ch-00.domain.com',
        'port' => '',
        'database' => '',
        'username' => '',
        'password' => '',
        'options' => [
            'timeout' => 10,
            'protocol' => 'https'
        ]
    ]
]

'connections' => [
    'clickhouse' => [
        'driver' => 'clickhouse',
        'servers' => [
            [
                'host' => 'ch-00.domain.com',
                'port' => '',
                'database' => '',
                'username' => '',
                'password' => '',
                'options' => [
                    'timeout' => 10,
                    'protocol' => 'https'
                ]
            ],

            [
                'host' => 'ch-01.domain.com',
                'port' => '',
                'database' => '',
                'username' => '',
                'password' => '',
                'options' => [
                    'timeout' => 10,
                    'protocol' => 'https'
                ]
            ]
        ]
    ]
]

集群示例

'connections' => [
    'clickhouse' => [
        'driver' => 'clickhouse',
        'clusters' => [
            'cluster-name' => [
                [
                    'host' => '',
                    'port' => '',
                    'database' => '',
                    'username' => '',
                    'password' => '',
                    'options' => [
                        'timeout' => 10,
                        'protocol' => 'https'
                    ]
                ],

                [
                    'host' => '',
                    'port' => '',
                    'database' => '',
                    'username' => '',
                    'password' => '',
                    'options' => [
                        'timeout' => 10,
                        'protocol' => 'https'
                    ]
                ]
            ]
        ]
    ]
]

选择无集群的服务器

DB::connection('clickhouse')->using('ch-01.domain.com')->select(...);

或对每个新查询在随机服务器上执行

DB::connection('clickhouse')->usingRandomServer()->select(...);

选择集群

DB::connection('clickhouse')->onCluster('test')->select(...);

您可以使用serversclusters配置指令,并通过onClusterusing方法选择查询应在哪个服务器上执行。如果您想选择集群外的服务器,只需调用onCluster(null)然后调用using方法。您可以使用选定的集群或不使用的方法调用usingRandomServerusing方法。