AWS RDS 上 MySQL 常规查询日志的大小答案

【问题标题】：Size of MySQL general query log on AWS RDSAWS RDS 上 MySQL 常规查询日志的大小
【发布时间】：2015-11-17 19:01:43
【问题描述】：

我正在尝试查找我的常规查询日志的大小。我无法通过 mysql 接口找到，因为它是通过 CSV 引擎存储的（查询时只显示 0）：

show table status from mysql;

# Name, Engine, Version, Row_format, Rows, Avg_row_length, Data_length, Max_data_length, Index_length, Data_free, Auto_increment, Create_time, Update_time, Check_time, Collation, Checksum, Create_options, Comment

'general_log', 'CSV', '10', 'Dynamic', '1', '0', '0', '0', '0', '0', NULL, NULL, NULL, NULL, 'utf8_general_ci', NULL, '', 'General log'

我知道那里至少有 100k 行（主要是查询），通过手动检查：

select * from mysql.general_log;

问题是，我似乎找不到从 AWS 控制台端访问日志的方法。在管理控制台中，只有非常一般的日志（其中包含以下信息）：

/rdsdbbin/mysql/bin/mysqld，版本：5.6.23-log（MySQL 社区服务器（GPL））。开始于：Tcp 端口：3306 Unix 套接字： /tmp/mysql.sock

...更多相同

我无法访问实际的 csv，因为我无法控制实际的服务器。

有没有人有一个聪明的方法来获取桌子的大小？在最坏的情况下，我可以计算每个字段的长度并通过行数进行估计？

【问题讨论】：

标签： mysql csv amazon-web-services logging

【解决方案1】：

我最终做的是从 MySQL 控制台查询大小，并根据列类型估计大小。

DESCRIBE mysql.general_log;
SELECT COUNT(*) FROM mysql.general_log;

您会看到 6 个列，每个列都有相对固定的大小，但您必须估计的两个 MEDIUM TEXT 列除外。但是你会得到一个不错的球痕。

【讨论】：

【解决方案2】：

（复制自https://bugs.mysql.com/bug.php?id=53929）

您可以添加以下过程，该过程将从 mysql 控制台确定 CSV 表的确切大小：

DELIMITER //
DROP PROCEDURE IF EXISTS checkcsv//
CREATE PROCEDURE checkcsv(IN databasename CHAR(200),IN tablename CHAR(200))
BEGIN
  SET SESSION group_concat_max_len=10*1024*1024; /* 10Mb buffer for CONCAT_WS */
  SELECT GROUP_CONCAT(COLUMN_NAME) INTO @columnames FROM INFORMATION_SCHEMA.COLUMNS WHERE (TABLE_SCHEMA = databasename AND TABLE_NAME = tablename);
  SET @get_colsizes_stmt = CONCAT("SELECT SUM(CHAR_LENGTH(REPLACE(REPLACE(REPLACE(CONCAT_WS(',',",@columnames,"),UNHEX('0A'),'nn'),UNHEX('22'),'nn'),UNHEX('5C'),'nn'))) INTO @total_length FROM ",databasename,".",tablename,";");
  PREPARE get_colsizes FROM @get_colsizes_stmt;
  EXECUTE get_colsizes;
  DEALLOCATE PREPARE get_colsizes;
  SET @get_count_stmt = CONCAT('SELECT COUNT(*) INTO @rowcount FROM ',databasename,'.',tablename,';');
  PREPARE get_count FROM @get_count_stmt;
  EXECUTE get_count;
  DEALLOCATE PREPARE get_count;
  SELECT 2*COUNT(COLUMN_NAME) INTO @non_numeric_cols_count FROM INFORMATION_SCHEMA.COLUMNS WHERE (TABLE_SCHEMA = databasename AND TABLE_NAME = tablename AND NUMERIC_SCALE IS NULL); /* Counting quotes */
  SET @total_size=@total_length+(@rowcount*@non_numeric_cols_count) /* Adding counted quotes */ +@rowcount /* one LineFeed per row */;
  SET @avg_row_length=@total_size/@rowcount;
  SET @output_stmt = CONCAT ("SELECT CONCAT('",databasename,"','.','",tablename,"') AS 'Table', ",@rowcount," AS 'Number Of Rows', ROUND(@avg_row_length) AS 'Average Row Length', ",ROUND(@total_size)," AS 'Total size' FROM ",databasename,".",tablename," LIMIT 1;");
  PREPARE outputr FROM @output_stmt;
  EXECUTE outputr;
  DEALLOCATE PREPARE outputr;
END;
//
DELIMITER ;
----- 

----- Usage Example: ----- 
mysql> CALL checkcsv("mysql","general_log");
+-------------------+----------------+--------------------+------------+
| Table             | Number Of Rows | Average Row Length | Total size |
+-------------------+----------------+--------------------+------------+
| mysql.general_log |             53 |                183 |       9673 |
+-------------------+----------------+--------------------+------------+
1 row in set (0.01 sec)

Query OK, 0 rows affected (0.06 sec)
-----

【讨论】：