读取和处理文本文件并保存到 csv

Question

我的文件似乎是“dict”格式...

文件头如下：time,open,high,low,close,volume

下一行如下： {"t":[1494257340],"o":[206.7],"h":[209.3],"l":[204.50002],"c":[204.90001],"v":[49700650]}`

    import csv
    with open ('test_data.txt', 'rb') as f:

    for line in f:
        dict_file = eval(f.read())
        time = (dict_file['t'])    # print (time) result [1494257340]
        open_price = (dict_file['o'])    # print (open_price) result [206.7]
        high = (dict_file['h'])    # print (high) result [209.3]
        low = (dict_file['l'])    # print (low) result [204.50002]
        close = (dict_file['c'])    # print (close) result [204.90001]
        volume = (dict_file['v'])    # print (volume) result [49700650]

        print (time, open_price, high, low, close, value)

# print result [1494257340] [206.7] [209.3] [204.50002] [204.90001] [49700650]

# I need to remove the [] from the output.

# expected result 

# 1494257340, 206.7, 209.3, 204.50002, 204.90001, 49700650

我需要的结果是（将时间（“纪元日期格式”）更改为 dd,mm,yy

5/8/17, 206.7, 209.3, 204.50002, 204.90001, 49700650

所以我知道我需要 csv.writer 函数

Answer 1

我发现您提交的代码存在许多问题。我建议你把你的任务分成小块，看看你是否可以让它们单独工作。所以你想做的是：

1. 打开一个文件
2. 逐行读取文件
3. eval 每行获取一个dict 对象
4. 从该对象获取值
5. 将这些值写入（单独的？）csv 文件中

对吗？

现在做每一个，一次一小步

1. 打开一个文件。

你说得很对：

with open('test_data.txt', 'rb') as f:
    print(f.read())

# b'{"t":[1494257340],"o":[207.75],"h":[209.8],"l":[205.75],"c":[206.35],"v":[61035956]}\n'

你可以用r模式打开文件，它会给你字符串而不是byte类型的对象

with open('test_data.txt', 'r') as f:
    print(f.read())

# {"t":[1494257340],"o":[207.75],"h":[209.8],"l":[205.75],"c":[206.35],"v":[61035956]}

它可能会导致一些问题，但应该可以工作，因为 eval 可以很好地处理它（至少在 python 3 中）

1. 逐行读取文件

with open('test_data.txt', 'rb') as f:
    for line in f:
        print(line)

# b'{"t":[1494257340],"o":[207.75],"h":[209.8],"l":[205.75],"c":[206.35],"v":[61035956]}\n'

这是您的代码中的另一个问题，您没有使用line 变量而是尝试使用f.read()。这只会读取整个文件（从第二行开始，因为已经读取了第一行）。试着换一个看看会发生什么

1. eval 每行获取一个dict 对象

再次。这工作正常。但我会在这里添加一些保护。如果文件中出现空行或格式错误怎么办。此外，如果此文件来自不受信任的来源，您可能会成为此处代码注入的受害者，例如文件中的一行更改为：

print("You've been hacked") or {"t":[1494257340],"o":[207.75],"h":[209.8],"l":[205.75],"c":[206.35],"v":[61035956]}

with open('test_data.txt', 'rb') as f:
    for line in f:
        dict_file = eval(line)
        print(dict_file)

# You've been hacked
# {'t': [1494257340], 'o': [207.75], 'h': [209.8], 'l': [205.75], 'c': [206.35], 'v': [61035956]}

我不知道你的确切规格，但你应该改用json.loads 更安全。

...

---

你能从那里继续自己吗？

4. 从对象中获取值

我认为dict_file['t'] 并没有给你所期望的价值。

它给了你什么？

为什么？

如何解决？

5. 将这些值写入 csv 文件

你能写一些随机字符串到文件吗？

scv 格式是什么样的？你能格式化你的值来匹配它吗

查看csv 模块的文档，对您有帮助吗？

等等等等……

---

编辑：解决方案

# you can save the print output in a file by running:
# $ python convert_to_csv.py > output.cvs
import datetime, decimal, json, os


CSV_HEADER = 'time,open,high,low,close,volume'


with open('test_data.txt', 'rb') as f:

    print(CSV_HEADER)

    for line in f:
        data = json.loads(line, parse_float=decimal.Decimal)
        data['t'][0] = datetime.datetime.fromtimestamp(data['t'][0]) \
            .strftime('%#d/%#m/%y' if os.name == 'nt' else '%-d/%-m/%y')
        print(','.join(str(data[k][0]) for k in 'tohlcv'))

跑步：

$ cat test_data.txt
{"t":[1494257340],"o":[207.75],"h":[209.8],"l":[205.75],"c":[206.35],"v":[61035956]}
{"t":[1490123123],"o":[107.75],"h":[109.8],"l":[105.75],"c":[106.35],"v":[11035956]}
{"t":[1491234234],"o":[307.75],"h":[309.8],"l":[305.75],"c":[306.35],"v":[31035956]}

$ python convert_to_csv.py
time,open,high,low,close,volume
8/5/17,207.75,209.8,205.75,206.35,61035956
21/3/17,107.75,109.8,105.75,106.35,11035956
3/4/17,307.75,309.8,305.75,306.35,31035956