【问题标题】:Best way of parsing date and time in golang在golang中解析日期和时间的最佳方法
【发布时间】:2015-01-28 18:05:39
【问题描述】:

我有很多日期时间值作为字符串传入我的 golang 程序。 格式固定位数:

2006/01/02 15:04:05

我开始使用 time.Parse 函数解析这些日期

const dtFormat = "2006/01/02 15:04:05"

func ParseDate1(strdate string) (time.Time, error) {
    return time.Parse(dtFormat, strdate)
}

但我的程序出现了一些性能问题。因此,考虑到我的格式是固定的,我尝试通过编写自己的解析函数来调整它:

func ParseDate2(strdate string) (time.Time, error) {
    year, _ := strconv.Atoi(strdate[:4])
    month, _ := strconv.Atoi(strdate[5:7])
    day, _ := strconv.Atoi(strdate[8:10])
    hour, _ := strconv.Atoi(strdate[11:13])
    minute, _ := strconv.Atoi(strdate[14:16])
    second, _ := strconv.Atoi(strdate[17:19])

    return time.Date(year, time.Month(month), day, hour, minute, second, 0, time.UTC), nil
}

最后我在这两个函数之上做了一个基准测试,得到了以下结果:

 BenchmarkParseDate1      5000000               343 ns/op
 BenchmarkParseDate2     10000000               248 ns/op

这是 27% 的性能提升。 在性能方面是否有更好的方法可以改善此类日期时间解析?

【问题讨论】:

  • 需要解析多少个日期?
  • 我通过 zmq push/pull 接收实时日志。这是一个连续的流。我批量记录行以限制事务数。主程序在峰值时间以 5000 TPS 记录。正常情况下为 500 TPS。
  • 如果您需要读取数据,您可以将日期存储为字符串,然后再将它们转换为实际日期吗?如果这是对某种仪表板的实时更新,您真的需要每秒更新仪表板 5000 次吗?
  • 我想用 Max,Min,Average 生成实时图表。如果可能的话,我还计划做更多的数学运算。因此,如果可能的话,我想避免任何数据丢失。但我理解你的意思,我需要检查在大量输入的情况下删除部分指标是否会影响我的数据。
  • "我想用 Max,Min,Average 生成实时图表。"。我也想要很多东西!你的cost–benefit analysis 在哪里。如果钱不是问题,买一台更大的电脑。否则,请现实一点。

标签: performance parsing date time go


【解决方案1】:

我希望使您的整个程序更快。例如ParseDate3,

func ParseDate3(date []byte) (time.Time, error) {
    year := (((int(date[0])-'0')*10+int(date[1])-'0')*10+int(date[2])-'0')*10 + int(date[3]) - '0'
    month := time.Month((int(date[5])-'0')*10 + int(date[6]) - '0')
    day := (int(date[8])-'0')*10 + int(date[9]) - '0'
    hour := (int(date[11])-'0')*10 + int(date[12]) - '0'
    minute := (int(date[14])-'0')*10 + int(date[15]) - '0'
    second := (int(date[17])-'0')*10 + int(date[18]) - '0'
    return time.Date(year, month, day, hour, minute, second, 0, time.UTC), nil
}

基准测试:

$ go test -bench=.
testing: warning: no tests to run
PASS
BenchmarkParseDate1  5000000           308 ns/op
BenchmarkParseDate2 10000000           225 ns/op
BenchmarkParseDate3 30000000            44.9 ns/op
ok      so/test 5.741s
$ go test -bench=.
testing: warning: no tests to run
PASS
BenchmarkParseDate1  5000000           308 ns/op
BenchmarkParseDate2 10000000           226 ns/op
BenchmarkParseDate3 30000000            45.4 ns/op
ok      so/test 5.757s
$ go test -bench=.
testing: warning: no tests to run
PASS
BenchmarkParseDate1  5000000           312 ns/op
BenchmarkParseDate2 10000000           225 ns/op
BenchmarkParseDate3 30000000            45.0 ns/op
ok      so/test 5.761s
$ 

参考:

Profiling Go Programs


如果您坚持使用date string,请使用ParseDate4

func ParseDate4(date string) (time.Time, error) {
    year := (((int(date[0])-'0')*10+int(date[1])-'0')*10+int(date[2])-'0')*10 + int(date[3]) - '0'
    month := time.Month((int(date[5])-'0')*10 + int(date[6]) - '0')
    day := (int(date[8])-'0')*10 + int(date[9]) - '0'
    hour := (int(date[11])-'0')*10 + int(date[12]) - '0'
    minute := (int(date[14])-'0')*10 + int(date[15]) - '0'
    second := (int(date[17])-'0')*10 + int(date[18]) - '0'
    return time.Date(year, month, day, hour, minute, second, 0, time.UTC), nil
}

【讨论】:

  • 该死,我是出于好奇才开始研究这个的,但我离 45ns/op 还差得很远。我想学会了不要想得太复杂:)谢谢!
  • 我在基准测试中没有得到相同的值: BenchmarkParseData1 5000000 331 ns/op BenchmarkParseData2 10000000 256 ns/op BenchmarkParseData3 20000000 143 ns/op 仍然可以提供更好的结果。谢谢
  • @dbenque:那是因为您使用的是string 而不是[]byte,所以会有转换成本。将ParseDate4 用于date string。请参阅我修改后的答案。你现在的结果是什么?
  • BenchmarkParseData1 5000000 328 ns/op BenchmarkParseData2 10000000 242 ns/op BenchmarkParseData3 20000000 135 ns/op BenchmarkParseData4 50000000 52.3 ns/op ....再次感谢。
  • 上式中的第一个字符应该乘以 100,而不是 10 (int(date[0])-'0')*100)。 @dbenque 我还鼓励您确保在将其应用于生产之前验证输入(尽管这将花费您一些纳秒;-))
【解决方案2】:

根据您已经展示的内容,使用strconv.Atoi 直接提高了您的性能。您可以进一步推动它并为您的特定用例滚动自己的atoi

您希望每个项目都是以 10 为底的正数。您也知道它不会溢出,因为传递的字符串表示的最大长度是 4。唯一可能的错误是字符串中的非数字字符。知道了这一点,我们可以简单地执行以下操作:

var atoiError = errors.New("invalid number")
func atoi(s string) (x int, err error) {
    i := 0
    for ; i < len(s); i++ {
        c := s[i]
        if c < '0' || c > '9' {
            err = atoiError
            return
        }
        x = x*10 + int(c) - '0'
    }
    return
}

将其包装成ParseDate3,我得到以下结果:

BenchmarkParseDate1  5000000           355 ns/op
BenchmarkParseDate2 10000000           278 ns/op
BenchmarkParseDate3 20000000            88 ns/op

您可以通过在 atoi 中不返回错误来加快速度,但我鼓励您无论如何都要测试输入(除非它在您的代码中的其他地方得到验证)。

看到内联解决方案后的替代 atoi 方法:

更进一步,您可以利用这样一个事实,即除了一个传递的字符串之外的所有字符串都是 2 位数长(年份是 4 位数,但它是 2 的乘积)。创建采用 2 位字符串的 atoi 将消除 for 循环。示例:

// Converts string of 2 characters into a positive integer, returns -1 on error
func atoi2(s string) int {
    x := uint(s[0]) - uint('0')
    y := uint(s[1]) - uint('0')
    if x > 9 || y > 9 {
        return -1 // error
    }
    return int(x*10 + y)
}

然后将年份转换为数字需要两步法:

year := atoi2(strdate[0:2])*100 + atoi2(strdate[2:4])

这提供了额外的改进:

BenchmarkParseDate4 50000000            61 ns/op

请注意,@peterSO 提出的内联版本只是稍微快一点(在我的情况下为 54 ns/op),但上面的解决方案为您提供了错误检查的可能性,而内联版本会盲目地将所有字符转换为日期.

【讨论】:

  • 额外纳秒的重要性取决于用例,但我更喜欢这种解决方案,因为它清晰易读,而且速度快。
猜你喜欢
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 1970-01-01
  • 2011-04-16
  • 1970-01-01
  • 1970-01-01
相关资源
最近更新 更多