使用多个线程迭代列表答案

【问题标题】：Iterating over lists using multiple threads使用多个线程迭代列表
【发布时间】：2012-04-05 08:19:00
【问题描述】：

以下代码（部分显示）创建类 DescCalculator 的对象并计算描述符并将它们作为字符串数组返回。传入一个分子和一个 Descriptor 对象的 ArrayList。

    private void calcDesc()
    {
        try
        {
        StatusPanel.setStatus("Calculating Molecular Descriptors Using CDK...\n");
        File df = new File(Settings.getCurrentDirectory() + sep + "molDesc.csv");
        FileWriter dfw = new FileWriter(df);
        LoadSDF lsdf1 = new LoadSDF(Settings.getCurrentDirectory() + sep + "marvin3D.sdf");
        List<IAtomContainer> mols3D = lsdf1.getCompounds();
        DescriptorEngine engine = new DescriptorEngine(DescriptorEngine.MOLECULAR);
        List<String> classNames = engine.getDescriptorClassNames();
        List<String> removeList = new ArrayList();
        removeList.add("org.openscience.cdk.qsar.descriptors.molecular.IPMolecularLearningDescriptor");
        classNames.removeAll(removeList);
        List<IDescriptor> instances = engine.instantiateDescriptors(classNames);
        engine.setDescriptorInstances(instances);

        List<String> headerItems = new ArrayList<String>();
        headerItems.add("CID");
        headerItems.add("MobCSA");
        for (IDescriptor descriptor : instances) {
            String[] names = descriptor.getDescriptorNames();
            headerItems.addAll(Arrays.asList(names));
        }
        ArrayList<IMolecularDescriptor> descriptors = new ArrayList();

        for (Object object : instances)
        {
        IMolecularDescriptor descriptor = (IMolecularDescriptor) object;
        String[] comps = descriptor.getSpecification().getSpecificationReference().split("#");
        descriptors.add(descriptor);
        }
        String headerLine = "";
        for (String header : headerItems) {
            headerLine = headerLine + header + ",";
        }

        dfw.append(headerLine+"\n");
        ExecutorService eservice = Executors.newFixedThreadPool(threads);
        CompletionService <List<String>> cservice = new ExecutorCompletionService <List<String>> (eservice);
        int k=0;
        for (IAtomContainer mol : mols3D)
        {
            DescCalculator dc = new DescCalculator(mol,descriptors);
            cservice.submit(dc);
            k=k+1;

        }
        for (int j=1 ; j<=k; j++)
        {
            StatusPanel.setStatus("Calculating Descriptors for Molecule "+j+"/"+compounds.size()+" Using "+threads+" Processors\n");
            List<String> dataItems = cservice.take().get();
                for (int i = 0; i < dataItems.size(); i++) {
                if (dataItems.get(i).equals("NaN")) {
                    dataItems.set(i, "NA");
                }
            }

            try {
                String dataLine = "";
                for (String data : dataItems) {
                    dataLine = dataLine + data + ",";
                }
                dfw.append(dataLine+"\n");
            } catch (Exception e) {
                System.out.println(e.toString());
            }
        }
 dfw.close();
        }
        catch (Exception e)
        {
            e.printStackTrace();
        }
    }

在类内部有一个 for 循环遍历描述符列表，如下所示（部分显示）。此代码遇到并发修改异常。如果我在 synchronized{} 块中使用线程 = 1 或描述符迭代，代码运行良好，但我没有得到所需的并行化。如何迭代类 DesCalculator 中的列表？？

    public class DescCalculator implements Callable<List<String>>{

    private IAtomContainer mol = new Molecule();
    private ArrayList<IMolecularDescriptor> molDesc;

    DescCalculator(IAtomContainer mol_, ArrayList<IMolecularDescriptor> molDesc_)
    {
        this.mol = mol_;
        this.molDesc = molDesc_;
    }

    @Override
    public List<String> call() {
        List<String> dataItems = new ArrayList<String>();
        try
        {
            String title = (String) mol.getProperty("PUBCHEM_COMPOUND_CID");
            dataItems.add(title);
            //String csa = Double.toString(mobcalCSA.get(ind));
            String csa = "NA";
            dataItems.add(csa);
            int ndesc = 0;
            for (IMolecularDescriptor descriptor : molDesc) {
                descriptor.calculate(mol);
                DescriptorValue value = descriptor.calculate(mol);
                if (value.getException() != null) {
                    for (int i = 0; i < value.getNames().length; i++) {
                        dataItems.add("NA");
                    }
                    continue;
                }

                IDescriptorResult result = value.getValue();
                if (result instanceof DoubleResult) {
                    dataItems.add(String.valueOf(((DoubleResult) result).doubleValue()));
                } else if (result instanceof IntegerResult) {
                    dataItems.add(String.valueOf(((IntegerResult) result).intValue()));
                } else if (result instanceof DoubleArrayResult) {
                    for (int i = 0; i < ((DoubleArrayResult) result).length(); i++) {
                        dataItems.add(String.valueOf(((DoubleArrayResult) result).get(i)));
                    }
                } else if (result instanceof IntegerArrayResult) {
                    for (int i = 0; i < ((IntegerArrayResult) result).length(); i++) {
                        dataItems.add(String.valueOf(((IntegerArrayResult) result).get(i)));
                    }
                }

                ndesc++;
            } 

        }
        catch(Exception e)
        {
            e.printStackTrace();
        }
        return dataItems;
    }

}

打印堆栈跟踪

java.util.ConcurrentModificationException
    at java.util.AbstractList$Itr.checkForComodification(AbstractList.java:372)
    at java.util.AbstractList$Itr.next(AbstractList.java:343)
    at org.openscience.cdk.ChemObject.notifyChanged(ChemObject.java:187)
    at org.openscience.cdk.ChemObject.setFlag(ChemObject.java:375)
    at org.openscience.cdk.graph.PathTools.depthFirstTargetSearch(PathTools.java:168)
    at org.openscience.cdk.graph.PathTools.depthFirstTargetSearch(PathTools.java:177)
    at org.openscience.cdk.graph.PathTools.depthFirstTargetSearch(PathTools.java:177)
    at org.openscience.cdk.graph.SpanningTree.getRing(SpanningTree.java:185)
    at org.openscience.cdk.graph.SpanningTree.getCyclicFragmentsContainer(SpanningTree.java:221)
    at org.openscience.cdk.atomtype.CDKAtomTypeMatcher.getRing(CDKAtomTypeMatcher.java:912)
    at org.openscience.cdk.atomtype.CDKAtomTypeMatcher.perceiveNitrogens(CDKAtomTypeMatcher.java:730)
    at org.openscience.cdk.atomtype.CDKAtomTypeMatcher.findMatchingAtomType(CDKAtomTypeMatcher.java:117)
    at org.openscience.cdk.tools.manipulator.AtomContainerManipulator.percieveAtomTypesAndConfigureAtoms(AtomContainerManipulator.java:719)
    at org.openscience.cdk.smiles.smarts.SMARTSQueryTool.initializeMolecule(SMARTSQueryTool.java:435)
    at org.openscience.cdk.smiles.smarts.SMARTSQueryTool.matches(SMARTSQueryTool.java:214)
    at org.openscience.cdk.smiles.smarts.SMARTSQueryTool.matches(SMARTSQueryTool.java:189)
    at org.openscience.cdk.qsar.descriptors.molecular.AcidicGroupCountDescriptor.calculate(AcidicGroupCountDescriptor.java:135)
    at edu.uconn.pharmacy.molfind.DescCalculator.call(DescCalculator.java:48)
    at edu.uconn.pharmacy.molfind.DescCalculator.call(DescCalculator.java:25)
    at java.util.concurrent.FutureTask$Sync.innerRun(FutureTask.java:303)
    at java.util.concurrent.FutureTask.run(FutureTask.java:138)
    at java.util.concurrent.Executors$RunnableAdapter.call(Executors.java:441)
    at java.util.concurrent.FutureTask$Sync.innerRun(FutureTask.java:303)
    at java.util.concurrent.FutureTask.run(FutureTask.java:138)
    at java.util.concurrent.ThreadPoolExecutor$Worker.runTask(ThreadPoolExecutor.java:886)
    at java.util.concurrent.ThreadPoolExecutor$Worker.run(ThreadPoolExecutor.java:908)
    at java.lang.Thread.run(Thread.java:680)

【问题讨论】：

好像代码不完整。您是否在任何地方修改 molDesc 集合？
你在 call() 中以什么方式改变 molDesc？其他线程是否有必要看到这些更改？最简单的解决方案就是在构造函数中复制列表。
@Tudor 似乎如此。 OP 可以使用CopyOnWriteArrayList 作为molDesc 的容器。但要确定的是，需要知道molDesc 的更新频率以及在DescCalculator#call() 执行时更新molDesc 是否完全正确。
那么您应该可以在构造函数中执行 this.molDesc = new ArrayList<Thingie>(molDesc_); 。引发异常的全部代码将有助于理解您实际尝试执行的操作。
看起来问题实际上是描述符对象本身对于并发使用是不安全的。也许您应该为每个工作线程创建一组新的单独描述符对象，而不是重用它们？

标签： java multithreading listiterator

【解决方案1】：

原来问题出在非线程安全的描述符对象上。我感谢 Affe 指出！在 DescCalculator 类中生成它们解决了这个问题。我感谢大家的意见！

【讨论】：

【解决方案2】：

您的 molDesc 字段是 2 个或更多访问 call() 方法的线程之间的共享状态。正如您所说，避免 CME 的唯一方法是将迭代包装在 synchronized() 块中（这将阻止您进行并行化），或者使用像 Victor 提到的 CopyOnWriteArrayList 这样的线程安全结构。

【讨论】：

我试过 CopyOnWriteArrayList ..无论如何 molDesc ArrayList 从未被修改过..

【解决方案3】：

除非您实际上是在修改 Collection 的同时走过它，否则您不应该遇到异常。这通常可以在 1 个线程中完成，方法是从您正在迭代的 Collection 中删除 - 例如在 for 中。

但在您的情况下，我猜您正在从某处的molDesc 列表中删除，尽管我在您提供的代码示例中看不到这一点。如果您需要从列表中删除条目，那么您将不得不使用其他一些机制来进行删除。你不能在多个线程中更改同一个集合，除非它是 synchronized。

结合其他想法：

现在确定它是否需要是完全相同的列表。您可以让每个线程使用列表的副本。
```
DescCalculator dc =
   new DescCalculator(mol, new ArrayList<IMolecularDescriptor>(descriptors));
```

您可以只传递molDesc 的Collections.synchronizedList 副本，尽管我不确定这是否是您想要的。

List<IMolecularDescriptor> syncedList =
    Collections.synchronizedList(descriptors);
...
DescCalculator dc = new DescCalculator(mol, syncedList);

每个线程都可以保存需要删除的项目列表。最后，您可以在收割线程时使用Future 来获取已删除的项目列表并将它们从最后的列表中删除。

【讨论】：