【问题标题】:Exceeded rate limits: too many table update operations for this table message when using simba jdbc driverExceeded rate limits: too many table update operations for this table message when using simba jdbc driver
【发布时间】:2020-08-23 06:34:51
【问题描述】:

我正在使用 Simba Jdbc 驱动程序版本 1.2.2.1004 将 6 行数据顺序插入到 BigQuery 表中。该表只有 3 列。 插入 4 次后,我看到:

原因:com.simba.googlebigquery.support.exceptions.GeneralException:[Simba]BigQueryJDBCDriver 执行查询作业时出错。消息:超出速率限制:此表的表更新操作过多。欲了解更多信息,请参阅https://cloud.google.com/bigquery/troubleshooting-errors

我查看了谷歌方面的配额,但似乎都没有达到。 如果我限制插入,所有行都会被插入,所以这不是一天的限制,它似乎是每秒插入的数量,但根据我的配额应该至少为 10...

我还创建了一个测试类,它使用 google api 插入相同的值,效果很好..

【问题讨论】:

    标签: jdbc google-bigquery


    【解决方案1】:

    您达到了这个配额,5 次操作/10 秒。因此,限制您的速率会有所帮助。

    如果可能,请尝试将较小的更新分组为大更新以避免此配额。

    https://cloud.google.com/bigquery/quotas#standard_tables

    表元数据更新操作的最大速率 - 每个表每 10 秒 5 次操作

    表元数据更新限制包括使用 Cloud Console、经典 BigQuery 网页界面、bq 命令行工具、客户端库(通过调用 tables.insert、tables.patch 或 tables)执行的所有元数据更新操作.update API 方法,或执行 ALTER TABLE DDL 语句。此限制也适用于作业输出。

    【讨论】:

    • 嗨云,我已经看到了这个配额,但我没有更新表元数据,只是数据......老实说,不太确定驱动程序代码做了什么,但我看不到为什么他们会更新表元数据……文档指的是tables.insert,意思是创建表,对吧?
    • @mihai 我相信加载作业也很重要,我只是遇到“超出速率限制:此表的分区表更新操作太多”,我所做的就是加载作业(我以前使用流插入,但我开始达到范围限制)。所以我想我将不得不尝试在流插入和加载作业之间进行指数退避。顺便说一句,他们似乎已经澄清了文档:If you exceed this limit, you get an error message like Exceeded rate limits: too many table update operations for this table.
    猜你喜欢
    • 1970-01-01
    • 2022-10-06
    • 1970-01-01
    • 2021-12-31
    • 2014-10-14
    • 1970-01-01
    • 2012-05-04
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多