BigQuery - 从架构中删除未使用的列

Question

我不小心在我的 BigQuery 表架构中添加了错误的列。

我想知道以下是否可能，而不是重新加载完整的表（百万行）：

• 通过对带有某种过滤器的表运行“select *”查询并将结果保存到同一个表中，删除坏行（具有值的行包含错误的列）。
• 删除（现在）未使用的列。

是否支持此功能（或类似功能）？ 可能“将结果保存到表”功能可以有一个“紧凑模式”选项。

Answer 1

根据文档从 Big Query 中删除列的最省时的方法。

ALTER TABLE [table_name] DROP COLUMN IF EXISTS [column_name]

Answer 2

以下是执行此操作的代码。假设 c 是您要删除的列。

CREATE OR REPLACE TABLE transactions.test_table AS
SELECT * EXCEPT (c) FROM  transactions.test_table;

或者第二种方法，我最喜欢的是按照以下步骤。

1. 使用要排除的列编写 Select 查询。
2. 转到查询设置 Query Settings
3. 在Destination setting设置查询结果的目标表中，输入项目名称、数据集名称和表名称与步骤1中输入的完全相同。
4. 在目标表写入首选项中选择覆盖表。 Destination table settings
5. 保存查询设置并运行查询。

Answer 3

如果您的表不包含记录/重复类型字段 - 您的简单选择是：

1. 选择有效列，同时将不良记录过滤到新的临时表中

   SELECT
   来自您的餐桌
   WHERE

   将上面的内容写入临时表 - YourTable_Temp

2. 制作“损坏”表的备份副本 - YourTable_Backup

3. 删除YourTable
4. 复制YourTable_Temp到YourTable
5. 检查所有内容是否符合预期，如果是 - 删除临时表和备份表

请注意：上述 #1 的成本与您问题中第一个项目符号中的操作完全相同。其余动作（副本）免费

如果您有重复/记录字段 - 您仍然可以执行上述计划，但在 #1 中您需要使用一些 BigQuery User-Defined Functions 以在输出中具有正确的架构
您可以在下面看到示例 - 当然这需要一些额外的开发 - 但如果您处于危急情况 - 这应该适合您

Create a table with Record type column
create a table with a column type RECORD

我希望，当您需要操作和输出重复/记录数据时，Google BigQuery 团队会在某些时候为您的案例添加更好的支持，但目前这是我发现的最佳解决方法 - 至少对我自己而言

Answer 4

将结果保存到表格是您的最佳选择。尝试使用您感兴趣的选定列的大表，您可以应用限制以使其变小。