如何使用python的多处理终止进程

Question

我有一些代码需要在其他几个可能挂起或出现不受我控制的问题的系统上运行。我想使用 python 的多处理来生成子进程以独立于主程序运行，然后当它们挂起或出现问题时终止它们，但我不确定解决这个问题的最佳方法。

当调用 terminate 时，它​​确实杀死了子进程，但随后它变成了一个已失效的僵尸，直到进程对象消失才会释放。下面的示例代码中循环永远不会结束的地方可以杀死它并在再次调用时允许重生，但似乎不是解决这个问题的好方法（即在 __init__() 中使用 multiprocessing.Process() 会更好）。

有人有什么建议吗？

class Process(object):
    def __init__(self):
        self.thing = Thing()
        self.running_flag = multiprocessing.Value("i", 1)

    def run(self):
        self.process = multiprocessing.Process(target=self.thing.worker, args=(self.running_flag,))
        self.process.start()
        print self.process.pid

    def pause_resume(self):
        self.running_flag.value = not self.running_flag.value

    def terminate(self):
        self.process.terminate()

class Thing(object):
    def __init__(self):
        self.count = 1

    def worker(self,running_flag):
        while True:
            if running_flag.value:
                self.do_work()

    def do_work(self):
        print "working {0} ...".format(self.count)
        self.count += 1
        time.sleep(1)

Answer 1

您可以在后台将子进程作为守护进程运行。

process.daemon = True

守护进程中的任何错误和挂起（或无限循环）都不会影响主进程，只有在主进程退出后才会终止。

这将适用于简单的问题，直到您遇到许多子守护进程，这些子守护进程将不断从父进程获取内存而没有任何显式控制。

最好的方法是设置一个Queue 让所有子进程与父进程通信，这样我们就可以join 很好地清理它们。下面是一些简单的代码，用于检查子进程是否挂起（又名time.sleep(1000)），并向队列发送消息，让主进程对其采取行动：

import multiprocessing as mp
import time
import queue

running_flag = mp.Value("i", 1)

def worker(running_flag, q):
    count = 1
    while True:
        if running_flag.value:
            print "working {0} ...".format(count)
            count += 1
            q.put(count)
            time.sleep(1)
            if count > 3:
                # Simulate hanging with sleep
                print "hanging..."
                time.sleep(1000)

def watchdog(q):
    """
    This check the queue for updates and send a signal to it
    when the child process isn't sending anything for too long
    """
    while True:
        try:
            msg = q.get(timeout=10.0)
        except queue.Empty as e:
            print "[WATCHDOG]: Maybe WORKER is slacking"
            q.put("KILL WORKER")

def main():
    """The main process"""
    q = mp.Queue()

    workr = mp.Process(target=worker, args=(running_flag, q))
    wdog = mp.Process(target=watchdog, args=(q,))

    # run the watchdog as daemon so it terminates with the main process
    wdog.daemon = True

    workr.start()
    print "[MAIN]: starting process P1"
    wdog.start()
    
    # Poll the queue
    while True:
        msg = q.get()
        if msg == "KILL WORKER":
            print "[MAIN]: Terminating slacking WORKER"
            workr.terminate()
            time.sleep(0.1)
            if not workr.is_alive():
                print "[MAIN]: WORKER is a goner"
                workr.join(timeout=1.0)
                print "[MAIN]: Joined WORKER successfully!"
                q.close()
                break # watchdog process daemon gets terminated

if __name__ == '__main__':
    main()

如果不终止worker，尝试将join() 连接到主进程将永远阻塞，因为worker 从未完成。

Answer 2

Python 多处理处理进程的方式有点混乱。

来自多处理指南：

加入僵尸进程

在 Unix 上，当一个进程完成但尚未加入时，它就变成了僵尸。永远不应该有很多，因为每次新进程启动（或调用 active_children()）时，所有尚未加入的已完成进程都将加入。同时调用已完成进程的 Process.is_alive 将加入该进程。即便如此，明确加入您启动的所有流程可能是一种好习惯。

为了避免进程变成僵尸，你需要在杀死它后调用它的join()方法。

如果您想要一种更简单的方法来处理系统中的挂起呼叫，您可以查看pebble。

Answer 3

（没有足够的声誉点发表评论，特此完整答案）

@PieOhPah：感谢您提供这个非常好的示例。
不幸的是，只有一个小缺陷不会让看门狗杀死工人：

if msg == "KILL WATCHDOG":

应该是：

if msg == "KILL WORKER":

所以代码变成了（为python3更新了打印）：

import multiprocessing as mp
import time
import queue

running_flag = mp.Value("i", 1)

def worker(running_flag, q):
    count = 1
    while True:
        if running_flag.value:
            print ("working {0} ...".format(count))
            count += 1
            q.put(count)
            time.sleep(1)
            if count > 3:
                # Simulate hanging with sleep
                print ("hanging...")
                time.sleep(1000)

def watchdog(q):
    """
    This check the queue for updates and send a signal to it
    when the child process isn't sending anything for too long
    """
    while True:
        try:
            msg = q.get(timeout=10.0)
        except queue.Empty as e:
            print ("[WATCHDOG]: Maybe WORKER is slacking")
            q.put("KILL WORKER")

def main():
    """The main process"""
    q = mp.Queue()

    workr = mp.Process(target=worker, args=(running_flag, q))
    wdog = mp.Process(target=watchdog, args=(q,))

    # run the watchdog as daemon so it terminates with the main process
    wdog.daemon = True

    workr.start()
    print ("[MAIN]: starting process P1")
    wdog.start()

    # Poll the queue
    while True:
        msg = q.get()
#        if msg == "KILL WATCHDOG":
        if msg == "KILL WORKER":
            print ("[MAIN]: Terminating slacking WORKER")
            workr.terminate()
            time.sleep(0.1)
            if not workr.is_alive():
                print ("[MAIN]: WORKER is a goner")
                workr.join(timeout=1.0)
                print ("[MAIN]: Joined WORKER successfully!")
                q.close()
                break # watchdog process daemon gets terminated

if __name__ == '__main__':
    main()

Answer 4

只需输入文件名而不是train_model_parallel：

kill -9 `ps -ef | grep train_model_parallel.py | grep -v grep | awk '{print $2}'`