【发布时间】:2017-04-28 12:46:39
【问题描述】:
在我正在开发的应用程序中,我们有两个数据源:MySQL 和 Elasticsearch。粗略地说,ES 有一个 MySQL 数据的副本,以获得更好的性能。我建立了一个直接访问 MySQL 的管理面板。这对于编写操作和检索单个项目来说是可以的。但是,当我尝试列出和过滤大量记录时,速度非常慢,导致超时。然后,我只更新列表部分以从 ES 而不是 MySQL 获取数据。
面板基于Laravel 5.3 构建,我们使用Datatables plug-in for jQuery 来显示数据。要将数据表绑定到后端,我们有Datatables package for Laravel。
使用以下控制器操作,并且在不应用任何过滤器时,它可以正常工作:
public function data(Elasticsearch $elastic, Request $request)
{
$query = [];
$cols = [];
if ($request->has('columns')) {
foreach ($request->get('columns') as $column) {
$cols[] = $column['name'];
if (!empty($column['search']['value'])) {
$query[] = sprintf('%s:%s', $column['name'], $column['search']['value']);
}
}
}
$from = (int) $request->get('start');
$size = (int) $request->get('length');
$sort = [];
if ($request->has('order')) {
foreach ($request->get('order') as $order) {
$sort[] = [ $cols[$order['column']] => $order['dir'] ];
}
} else {
$sort[] = [ 'name' => 'asc' ];
}
$args = [
'index' => 'acme',
'type' => 'user',
'from' => $from ?: 0,
'size' => $size ?: 10,
'sort' => $sort,
];
if (count($query) > 0) {
$args['q'] = implode(' AND ', $query);
}
$response = $elastic->search($args);
$data = [];
$total = 0;
if (!empty($response['hits'])) {
$total = $response['hits']['total'];
$data = array_map(function ($hit) {
return $hit['_source'];
}, $response['hits']['hits']);
}
return Datatables::of(collect($data))
->skipPaging()
->setTotalRecords($total)
->make(true);
}
触发表格渲染的 Javascript 如下所示:
$('#users-table').DataTable({
processing: true,
serverSide: true,
orderCellsTop: true,
ajax: '{!! route('user.data') !!}',
columns: [
{ data: 'name', name: 'name' },
{ data: 'type', name: 'type' },
{ data: 'status', name: 'status' }
]
});
当我尝试按某列搜索或过滤表格时出现问题。分页停止工作。我想那是因为我在将数据集传递给数据表之前在Datatables::of() 中过滤了数据集。我知道我可以从 ES 中检索整个数据集并让 Datatables 对数据进行过滤和排序,但我最终可能会遇到时间和内存使用问题。我们有数以百万计的文档被索引。
我尝试使用空函数 (->filter(function () {})) 覆盖全局搜索,但没有成功。添加时分页中断,即使记录总数设置为很大值,也只显示一页。
【问题讨论】:
-
@AddWebSolutionPvtLtd,是的。这就是我在将空函数传递给过滤器时尝试的方法。由于我已经在 ES 中过滤了数据,因此我可能将这个函数设为空。无论如何,谢谢。
标签: laravel elasticsearch laravel-5 datatables