Logstash 配置错误 - 未设置 jdbc_driver_library答案

【问题标题】：Logstash Configuration Error - jdbc_driver_library is not setLogstash 配置错误 - 未设置 jdbc_driver_library
【发布时间】：2020-01-19 11:12:55
【问题描述】：

我正在使用 Logstash 将数据从我的 Microsoft SQL Server 数据库移动到 ElasticSearch。当我尝试运行 logstash 时，我在日志文件中收到以下错误。我跑：

sudo -Hu logstash /usr/share/logstash/bin/logstash --path.settings=/etc/logstash -t

错误：

  Exception: LogStash::ConfigurationError
  Stack: /usr/share/logstash/vendor/bundle/jruby/2.5.0/gems/logstash-input-jdbc-4.3.13/lib/logstash/plugin_mixins/jdbc/jdbc.rb:163:in `open_jdbc_connection'
/usr/share/logstash/vendor/bundle/jruby/2.5.0/gems/logstash-input-jdbc-4.3.13/lib/logstash/plugin_mixins/jdbc/jdbc.rb:221:in `execute_statement'
/usr/share/logstash/vendor/bundle/jruby/2.5.0/gems/logstash-input-jdbc-4.3.13/lib/logstash/inputs/jdbc.rb:277:in `execute_query'
/usr/share/logstash/vendor/bundle/jruby/2.5.0/gems/logstash-input-jdbc-4.3.13/lib/logstash/inputs/jdbc.rb:263:in `run'
/usr/share/logstash/logstash-core/lib/logstash/java_pipeline.rb:309:in `inputworker'
/usr/share/logstash/logstash-core/lib/logstash/java_pipeline.rb:302:in `block in start_input'
[2019-09-18T00:16:36,250][ERROR][logstash.javapipeline    ] A plugin had an unrecoverable error. Will restart this plugin.
  Pipeline_id:main
  Plugin: <LogStash::Inputs::Jdbc jdbc_user=>[user_name], jdbc_password=><password>, statement=>"SELECT * FROM [table] WHERE delete_flag = 'N'", jdbc_connection_string=>"jdbc:sqlserver://[IP]:1433;databaseName=[database];", id=>"04af4c4719615e3a3a03c3df3e5262aa40c40e85fb55a5886a1797d42eb3a729", jdbc_driver_class=>"com.microsoft.sqlserver.jdbc.SQLServerDriver", enable_metric=>true, codec=><LogStash::Codecs::Plain id=>"plain_76e4bd7a-70dd-46cf-acd3-c3726a8e003f", enable_metric=>true, charset=>"UTF-8">, jdbc_paging_enabled=>false, jdbc_page_size=>100000, jdbc_validate_connection=>false, jdbc_validation_timeout=>3600, jdbc_pool_timeout=>5, sql_log_level=>"info", connection_retry_attempts=>1, connection_retry_attempts_wait_time=>0.5, parameters=>{"sql_last_value"=>1970-01-01 00:00:00 UTC}, last_run_metadata_path=>"/usr/share/logstash/.logstash_jdbc_last_run", use_column_value=>false, tracking_column_type=>"numeric", clean_run=>false, record_last_run=>true, lowercase_column_names=>true>
  Error: com.microsoft.sqlserver.jdbc.SQLServerDriver not loaded. :jdbc_driver_library is not set, are you sure you included
                    the proper driver client libraries in your classpath?

我在 Ubuntu 18 服务器上运行 ElasticSearch/Logstash。我安装了 ElasticSearch、Logstash、Java 11，并下载了 jdbc 并将其放在与我的 logstash 配置相同的文件夹中。

我的 Logstash 配置是：

input {
  jdbc {
    jdbc_driver_library => "/etc/logstash/conf.d/sqljdbc42.jar"
    jdbc_connection_string => "jdbc:sqlserver://[my_ip]:1433;databaseName=[db_name];"
    jdbc_driver_class => "com.microsoft.sqlserver.jdbc.SQLServerDriver"
    jdbc_user => "[username]"
    jdbc_password => "[password]"

    schedule => "0 4 * * * America/New_York"
    statement => "SELECT * FROM [table] WHERE delete_flag = 'N'"
  }
}

output {
  elasticsearch {
    hosts => ["localhost:9200"]
    index => "products"
  }
}

我指定了 jdbc 驱动程序库，不知道为什么我一直收到错误，为什么 logstash 找不到它。

我也试过跑（下）

sudo bash -c "export CLASSPATH=.:/etc/logstash/conf.d/sqljdbc42.jar"

注意：我取出了一些数据，ip，dbname，username等

【问题讨论】：

您需要设置库的绝对路径。见这里：stackoverflow.com/questions/43658663/logstash-mongodb-and-jdbc/…
@Val 已更新为绝对路径，但我仍然收到相同的错误。
我不确定进程是否可以读取/etc/logstash/conf.d/ 文件夹。尝试将 JAR 放在 Logstash 文件夹中
@Val 还是同样的错误。将其移至/usr/share/logstash/ 后。你认为这与我设置 CLASSPATH 的方式有关吗？
echo ${CLASSPATH} 返回/usr/share/logstash/sqljdbc42.jar，正确

标签： sql-server elasticsearch jdbc logstash logstash-jdbc

【解决方案1】：

这一直是 logstash-filter-jdbc_static 的问题。您需要将 .jar 移动到 /logstash-core/lib/jars/ 目录。并将配置中的 .jar 位置指定为“”。

详情请见下文： https://github.com/logstash-plugins/logstash-filter-jdbc_static/issues/47

【讨论】：