在非本地时区快速解析 Python 日期时间，调整夏令时

Question

我需要快速将 ISO 8601 日期时间字符串（字符串中没有时区，但已知位于美国/太平洋时区）转换为 numpy datetime64 对象。

如果我的机器在美国/太平洋时间，我可以简单地运行numpy.datetime64(s)。但是，这假定没有时区的字符串位于本地时区。此外，我不能轻易地以 ISO 8601 格式指定美国/太平洋时区，因为它有时是 -0800，有时是 -0700，具体取决于夏令时。

到目前为止，我最快的解决方案是numpy.datetime64(pandas.Timestamp(s).tz_localize(tz='US/Pacific', ambiguous=True))。这在我的机器上需要 70µs。如果我能把这个速度至少提高一个数量级就好了（numpy.datetime64(s) 在本地时间需要 4 µs，但如上所述是不正确的）。这可能吗？

Answer 1

首先请注意，没有偏移量的一些本地时间，因此它们的日期时间 字符串不明确。例如，ISO 8601 日期时间字符串

2000-10-29T01:00:00-07:00
2000-10-29T01:00:00-08:00

当偏移量被移除时，两者都映射到相同的字符串2000-10-29T01:00:00。

因此，可能并不总是能够重建一个唯一的时区感知 来自没有偏移的日期时间字符串的日期时间。

但是，我们可以在这些模棱两可的情况下做出选择 并接受并非所有模棱两可的日期都会被正确转换。

---

如果您使用的是 Unix，可以使用time.tzset 更改进程的本地时区：

import os
import time
os.environ['TZ'] = tz
time.tzset()

然后您可以使用

将日期时间字符串转换为 NumPy datetime64

def using_tzset(date_strings, tz):
    os.environ['TZ'] = tz
    time.tzset()
    return np.array(date_strings, dtype='datetime64[ns]')

---

但请注意，using_tzset 并不总是产生与您建议的方法相同的值：

import os
import time
import numpy as np
import pandas as pd

tz = 'US/Pacific'
N = 10**5
dates = pd.date_range('2000-1-1', periods=N, freq='H', tz=tz)
date_strings_tz = dates.format(formatter=lambda x: x.isoformat())
date_strings = [d.rsplit('-', 1)[0] for d in date_strings_tz]

def orig(date_strings, tz):
    return [np.datetime64(pd.Timestamp(s, tz=tz)) for s in date_strings]

def using_tzset(date_strings, tz):
    os.environ['TZ'] = tz
    time.tzset()
    return np.array(date_strings, dtype='datetime64[ns]')

npdates = dates.asi8.view('datetime64[ns]')
x = np.array(orig(date_strings, tz))
y = using_tzset(date_strings, tz)
df = pd.DataFrame({'dates': npdates, 'str': date_strings_tz, 'orig': x, 'using_tzset': y})

这表示原始方法orig 172 次无法恢复原始日期：

print((df['dates'] != df['orig']).sum())
172

而using_tzset 失败了 11 次：

print((df['dates'] != df['using_tzset']).sum())
11  

但是请注意，using_tzset 失败的 11 次是由于 DST 导致本地日期时间不明确。

这显示了一些差异：

mask = df['dates'] != df['using_tzset']
idx = np.where(mask.shift(1) | mask)[0]
print(df[['dates', 'str', 'using_tzset']].iloc[idx]).head(6)

#                     dates                        str         using_tzset
# 7248  2000-10-29 08:00:00  2000-10-29T01:00:00-07:00 2000-10-29 08:00:00
# 7249  2000-10-29 09:00:00  2000-10-29T01:00:00-08:00 2000-10-29 08:00:00
# 15984 2001-10-28 08:00:00  2001-10-28T01:00:00-07:00 2001-10-28 08:00:00
# 15985 2001-10-28 09:00:00  2001-10-28T01:00:00-08:00 2001-10-28 08:00:00
# 24720 2002-10-27 08:00:00  2002-10-27T01:00:00-07:00 2002-10-27 08:00:00
# 24721 2002-10-27 09:00:00  2002-10-27T01:00:00-08:00 2002-10-27 08:00:00

如您所见，当str 列中的日期字符串出现差异时 移除偏移后变得不明确。

所以using_tzset 似乎在不明确的日期时间之前产生了正确的结果。

---

这是比较 orig 和 using_tzset 的 timeit 基准：

In [95]: %timeit orig(date_strings, tz)
1 loops, best of 3: 5.43 s per loop

In [96]: %timeit using_tzset(date_strings, tz)
10 loops, best of 3: 41.7 ms per loop

所以当 N = 10**5 时，using_tzset 比 orig 快 100 倍以上。