【发布时间】:2020-08-02 15:42:14
【问题描述】:
我正在尝试理解 dask 异步客户端,但仍有一些问题。这是我的例子:
dask_client = await Client(
address=settings.DASK_SCHEDULER,
asynchronous=True
)
df_graduates = dd.read_parquet(
'/vagrant/shared/storage/F_Graduates'
)
df_d_emp = dd.read_parquet(
'/vagrant/shared/storage/D_Employer',
columns=['Business_Size'])
df_graduates = df_graduates.merge(df_d_emp, on='Employer_ID', how='inner')
df_graduates = await dask_client.compute(df_graduates)
我的问题是:
- 我应该在
dd.read_parquet上使用await吗? - 我应该在
merge上使用await吗? - 如果我为
read_parquet设置了错误的列名,它会在dask_client.compute之前立即引发异常。为什么会发生?如果客户端异步,它应该只创建任务,而不是执行它。
【问题讨论】:
标签: python-asyncio dask dask-distributed dask-dataframe