【问题标题】:Avro support in Flink - scalaFlink 中的 Avro 支持 - scala
【发布时间】:2017-05-28 21:05:47
【问题描述】:

如何在scala 中从Flink 读取avro

批处理/流/表是否相同:StreamExecutionEnvironment/ExecutionEnvironment/TableEnvironment

会不会像:val custTS: TableSource = new AvroInputFormat("/path/to/file", ...)

以下是 java avro 实现参考 (connectors),但在任何地方都找不到 scala 参考:

  AvroInputFormat<User> users = new AvroInputFormat<User>(in, User.class);
  DataSet<User> usersDS = env.createInput(users);

【问题讨论】:

    标签: scala avro apache-flink


    【解决方案1】:

    您可以在 Java 和 Scala API 中使用 Flink 的 InputFormats,包括 AvroInputFormat

    • 流和批处理:val avroInputStream = env.createInput(new AvroInputFormat[User](in, classOf[User]))
    • 表 API:tableEnv.registerTable("table", avroInputStream.toTable)

    【讨论】:

      猜你喜欢
      • 2014-03-26
      • 1970-01-01
      • 1970-01-01
      • 1970-01-01
      • 2019-08-03
      • 1970-01-01
      • 1970-01-01
      • 2018-02-27
      • 1970-01-01
      相关资源
      最近更新 更多