【问题标题】:Oracle BLOB Extraction Very SlowOracle BLOB 提取非常慢
【发布时间】:2010-12-10 01:50:38
【问题描述】:

从我管理的 oracle 10gR2 10.2.05 数据库中提取 BLOBS 时遇到性能问题。我有大约 400 个存储为 BLOBS 的文件,我需要将它们写出到文件系统中。下面是我的代码。当我执行此过程时,前 8 个左右的文件会在几秒钟内写入,然后速度会呈指数级下降,在前 8 个之后每 40 秒大约有 1 个文件。对我来说这没有任何意义,为什么要前 8 个文件很快,但之后一切都变慢了。我尝试将其作为存储过程运行,将 UTL_FILE.fopen 更改为“wb”(写入二进制文件),并使用 NFS 安装的文件系统,以免影响数据库的性能。这些都没有产生任何影响。按照这个速度,我需要 6 个小时来提取 400 个平均每个大约 1.5MB 的文件。有没有人看到我的代码有什么问题或者知道更好的方法来做到这一点?顺便说一句,我使用此处找到的示例代码 http://www.oracle-base.com/articles/9i/ExportBlob9i.php 作为起点。

感谢您的帮助!

DECLARE
  TYPE comment_text IS TABLE OF documents.comment_text%TYPE;
  TYPE localdata IS TABLE OF documents.localdata%TYPE;
  l_file UTL_FILE.FILE_TYPE;
  l_buffer RAW(32767);
  l_amount BINARY_INTEGER := 32767;
  l_pos INTEGER := 1;
  l_blob localdata;
  l_fname comment_text;
  l_blob_len INTEGER;
  l_x NUMBER := 1;
BEGIN
  SELECT comment_text, localdata
  BULK COLLECT INTO l_fname, l_blob
  FROM documents
  WHERE user_id='BILLYBOB';
  IF SQL%ROWCOUNT =0 THEN
    DBMS_OUTPUT.PUT_LINE('No records found!');
  ELSE
    FOR i IN l_fname.FIRST .. l_fname.LAST
    LOOP
      l_blob_len := DBMS_LOB.getlength(l_blob(i));
      DBMS_OUTPUT.PUT_LINE(l_blob_len);
      l_file := UTL_FILE.fopen('BLOBS',l_x || '_' || l_fname(i),'w', 32767);
      l_pos := 1;
      l_x := l_x + 1;
      WHILE l_pos < l_blob_len
      LOOP
        DBMS_LOB.read(l_blob(i), l_amount, l_pos, l_buffer);
        UTL_FILE.put_raw(l_file, l_buffer, TRUE);
        l_pos := l_pos + l_amount;
      END LOOP;
      UTL_FILE.fclose(l_file);
    END LOOP;
  END IF;
END;

【问题讨论】:

    标签: oracle blobs


    【解决方案1】:

    我很确定您不应该在过程开始时将所有 BLOB 提取到一个数组中。由于您读取了 BLOB 数据并且从未真正关闭任何 lob 定位器,因此 Oracle 必须将所有这些信息保存在内存中。我猜这是内存溢出的情况。

    试试这个:

    CURSOR cc IS (SELECT ...)
    BEGIN
       OPEN cc;
       LOOP
          FETCH cc
             INTO l_fname, l_blob;
          EXIT WHEN cc%NOTFOUND;
          l_blob_len := DBMS_LOB.getlength(l_blob);
          DBMS_OUTPUT.PUT_LINE(l_blob_len);
          l_file := UTL_FILE.fopen('BLOBS', l_x || '_' || l_fname, 'w', 32767);
          l_pos  := 1;
          l_x    := l_x + 1;
          WHILE l_pos < l_blob_len LOOP
             DBMS_LOB.READ(l_blob, l_amount, l_pos, l_buffer);
             UTL_FILE.put_raw(l_file, l_buffer, TRUE);
             l_pos := l_pos + l_amount;
          END LOOP;
          UTL_FILE.fclose(l_file);
       END LOOP;
       CLOSE cc;
    END;
    

    【讨论】:

    • 我测试了你的代码,没有任何区别。但是 DBMS_LOB.close 会引发以下错误:22289. 00000 - “无法对未打开的文件或 LOB 执行 %s 操作” *原因:文件或 LOB 未打开,无法执行所需的操作。 *操作:在当前操作之前对文件或 LOB 成功打开操作。
    • @spaghettiwestern:我的猜测似乎是错误的。但是我试图重现您的设置,但我无法注意到写入速度变慢(我的设置涉及 1000 个文件,每个文件大约 1.5MB)。在您的情况下,由于前 8 次写入在性能方面似乎还可以,我建议将工作分成小批量。
    • 感谢您的输入和测试结果,非常感谢!!!有趣的是,您似乎没有同样的问题,您运行的是什么版本的 Oracle?当我修改我的过程以接受一个参数并且一次只允许一个 BLOB 提取然后在 plsql 块中使用循环来驱动我的过程时,我没有减速问题。事实上,它在大约 40 秒内完成了 700MB 的提取,而我在此处发布的原始代码示例需要数小时才能完成。
    • @spaghettiwestern:我在 10.2.0.3 db 上进行了测试。您可以尝试使用显式游标而不是隐式游标吗? (我更新了我的答案,尽管你必须调整你的 DECLARE 部分)。我想知道隐式游标(10g 功能)的隐藏批量获取是否在这里获取了太多数据。顺便说一句,我正在使用大量可用内存的非繁忙测试服务器上进行测试,这可能就是我无法重现您的结果的原因。
    • @Vincent - 显式游标产生相同的结果,但运行缓慢。我还在使用具有大量 ram 和 cpu 的空闲开发服务器。我认为我看到的问题与 DBMS_LOB.read 有关,就像它正在填充某种缓冲区或其他东西。如果我在原始代码示例中注释掉 UTL_FILE.put_raw,事情仍然运行缓慢,所以我知道它与 DBMS_LOB.read 有关。
    猜你喜欢
    • 2022-11-03
    • 2021-04-15
    • 1970-01-01
    • 2017-02-06
    • 2016-11-08
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2020-07-04
    相关资源
    最近更新 更多