为什么我的 App Engine 应用达到 Stackdriver Logging 256KB 限制？

Question

我正在将 Python 2 App Engine Standard 应用迁移到新的 Python 3 Standard 运行时，即very different。一大区别是您明确使用 Google Cloud API，包括Stackdriver Logging。我正在使用 google-cloud-logging 的 App Engine Handler 并将其配置为将日志与 HTTP 请求相关联：

import google.cloud.logging
logging_client = google.cloud.logging.Client()

from google.cloud.logging.handlers import AppEngineHandler, setup_logging
setup_logging(AppEngineHandler(logging_client, name='stdout'))

这很好用！...除了它点击a 256KB log entry limit 并且经常崩溃。下面的堆栈跟踪。这发生在做大量工作的长时间运行的后台请求中，但是当我计算崩溃请求中记录的文本总量（包括字符串时间戳）时，它平均只有 5-15KB 左右，远小于 256KB。 （是的，文档警告This approximate limit is based on internal data sizes，但很难相信开销是 15-50 倍。）

App Engine 处理程序默认为BackgroundThreadTransport。我尝试将其 batch_size 从 10（默认值）降低到 1，然后切换到 SyncTransport，但没有运气。

知道我错过了什么吗？提前谢谢！

Traceback (most recent call last):
  File "/env/lib/python3.7/site-packages/google/cloud/logging/handlers/transports/background_thread.py", line 123, in _safely_commit_batch
    batch.commit()
  File "/env/lib/python3.7/site-packages/google/cloud/logging/logger.py", line 383, in commit
    client.logging_api.write_entries(entries, **kwargs)
  File "/env/lib/python3.7/site-packages/google/cloud/logging/_gapic.py", line 126, in write_entries
    partial_success=partial_success,
  File "/env/lib/python3.7/site-packages/google/cloud/logging_v2/gapic/logging_service_v2_client.py", line 477, in write_log_entries
    request, retry=retry, timeout=timeout, metadata=metadata
  File "/env/lib/python3.7/site-packages/google/api_core/gapic_v1/method.py", line 143, in __call__
    return wrapped_func(*args, **kwargs)
  File "/env/lib/python3.7/site-packages/google/api_core/retry.py", line 277, in retry_wrapped_func
    on_error=on_error,
  File "/env/lib/python3.7/site-packages/google/api_core/retry.py", line 182, in retry_target
    return target()
  File "/env/lib/python3.7/site-packages/google/api_core/timeout.py", line 214, in func_with_timeout
    return func(*args, **kwargs)
  File "/env/lib/python3.7/site-packages/google/api_core/grpc_helpers.py", line 59, in error_remapped_callable
    six.raise_from(exceptions.from_grpc_error(exc), exc)
  File "<string>", line 3, in raise_from
google.api_core.exceptions.InvalidArgument: 400 Log entry with size 258.3K exceeds maximum size of 256.0K

Answer 1

Stackdriver Log Entry Size 构成硬限制，已从 100KB 扩展到 256KB（参见Public Issue Tracker 和Release Notes 上的帖子）。

作为一种解决方法，您可以探索多个阶段的日志记录，以避免出现此限制错误。您可以将单个条目拆分为多个条目并照此记录。

此外，您可以将应用程序中的完整日志直接存储在 Cloud Storage 上，并且只将部分日志发送到 Stackdriver，这足以让您知道您是否对完整日志感兴趣行与否。通常，如果您只能在 Stackdriver 中存储最少的信息并使用不同的存储系统（云存储中的存储桶、spanner 或 CloudSQL db，或任何其他 SQL 或非 SQL 数据库）来存储更详细的信息，那会更好，然后用 UUID 将两者链接起来。

此外，为方便起见，我建议您排除不必要的日志以最小化文件大小。 （见Log Exclusions 和Preventing Log Waste）。之前也可以export these excluded log entries，以免永久丢失。

希望这些信息对您有用。