【问题标题】:Kubeflow, passing Python dataframe across components?Kubeflow,跨组件传递 Python 数据帧?
【发布时间】:2021-12-01 01:19:20
【问题描述】:

我正在编写一个 Kubeflow 组件,它读取输入查询并创建一个dataframe,大致如下:

from kfp.v2.dsl import component 

@component(...)
def read_and_write():
    # read the input query 
    # transform to dataframe 
    sql.to_dataframe()

我想知道如何将这个数据帧传递给我的 Kubeflow 管道中的下一个操作。 这可能吗?或者我是否必须将数据帧保存为 csv 或其他格式,然后传递它的输出路径? 谢谢

【问题讨论】:

    标签: python kubeflow kubeflow-pipelines tfx google-cloud-vertex-ai


    【解决方案1】:

    您需要使用Artifact 的概念。引用:

    工件表示大型或复杂的数据结构,如数据集或模型,并作为对文件路径的引用传递到组件中。

    【讨论】:

    • 太好了 我应该如何使用它?我想我必须传递给输入组件Output[Artifact],其中OutputArtefact 来自kfp.v2.dsl。但是,如何从组件中输出呢?
    • repo 中有很多样例,这里有一个Dataset 工件:github.com/kubeflow/pipelines/blob/…
    • URL 中给出的示例仍然不清楚如何从组件返回数据帧。您能否推荐更多资源?
    猜你喜欢
    • 2020-01-28
    • 1970-01-01
    • 2021-04-25
    • 2020-10-11
    • 1970-01-01
    • 2019-10-13
    • 2017-09-29
    • 2023-04-01
    • 2018-02-09
    相关资源
    最近更新 更多