【发布时间】:2012-04-10 23:59:12
【问题描述】:
我正在创建一个可以长时间运行的 Java 应用程序,该应用程序需要更新功能而无需关闭。我决定通过在内存中编译并实例化的 .java 文件(作为字节数组从数据库中提取)的形式加载它来提供这个更新的功能。如果你有更好的方法,我会全力以赴。
我遇到的问题是,当我在人工环境中进行一些测试时,每次加载这些“脚本”循环时,内存占用都会略有增加。
注意:这实际上是我第一次用 java 做这样的事情或很多事情。我之前在 C# 中通过加载和卸载 .cs 文件完成了类似的操作,并且在那里还存在内存占用问题......为了解决我将它们加载到单独的应用程序域中,当我重新编译文件时,我刚刚卸载了该应用程序域并创建了一个新的。
入口点
这是我用来模拟长时间使用(许多重新编译周期)后的内存占用的入口方法。我运行了一小段时间,它很快就吃光了 500MB 以上。
这仅在临时目录中有两个虚拟脚本。
public static void main( String[ ] args ) throws Exception {
for ( int i = 0; i < 1000; i++ ) {
Container[ ] containers = getScriptContainers( );
Script[ ] scripts = compileScripts( containers );
for ( Script s : scripts ) s.Begin( );
Thread.sleep( 1000 );
}
}
收集脚本列表(临时)
这是我用来收集脚本文件列表的临时方法。在生产过程中,这些实际上将作为字节数组加载,其中包含一些其他信息,例如数据库中的类名。
@Deprecated
private static Container[ ] getScriptContainers( ) throws IOException {
File root = new File( "C:\\Scripts\\" );
File[ ] files = root.listFiles( );
List< Container > containers = new ArrayList<>( );
for ( File f : files ) {
String[ ] tokens = f.getName( ).split( "\\.(?=[^\\.]+$)" );
if ( f.isFile( ) && tokens[ 1 ].equals( "java" ) ) {
byte[ ] fileBytes = Files.readAllBytes( Paths.get( f.getAbsolutePath( ) ) );
containers.add( new Container( tokens[ 0 ], fileBytes ) );
}
}
return containers.toArray( new Container[ 0 ] );
}
容器类
这是简单的容器类。
public class Container {
private String className;
private byte[ ] classFile;
public Container( String name, byte[ ] file ) {
className = name;
classFile = file;
}
public String getClassName( ) {
return className;
}
public byte[ ] getClassFile( ) {
return classFile;
}
}
编译脚本
这是编译 .java 文件并将它们实例化为 Script 对象的实际方法。
private static Script[ ] compileScripts( Container[ ] containers ) throws InstantiationException, IllegalAccessException, ClassNotFoundException {
List< ClassFile > sourceScripts = new ArrayList<>( );
for ( Container c : containers )
sourceScripts.add( new ClassFile( c.getClassName( ), c.getClassFile( ) ) );
JavaCompiler compiler = ToolProvider.getSystemJavaCompiler( );
JavaFileManager manager = new MemoryFileManager( compiler.getStandardFileManager( null, null, null ) );
compiler.getTask( null, manager, null, null, null, sourceScripts ).call( );
List< Script > compiledScripts = new ArrayList<>( );
for ( Container c : containers )
compiledScripts.add( ( Script )manager.getClassLoader( null ).loadClass( c.getClassName( ) ).newInstance( ) );
return ( Script[ ] )compiledScripts.toArray( new Script[ 0 ] );
}
MemoryFileManager 类
这是我为编译器创建的自定义 JavaFileManager 实现,以便我可以将输出存储在内存中而不是物理 .class 文件中。
public class MemoryFileManager extends ForwardingJavaFileManager< JavaFileManager > {
private HashMap< String, ClassFile > classes = new HashMap<>( );
public MemoryFileManager( StandardJavaFileManager standardManager ) {
super( standardManager );
}
@Override
public ClassLoader getClassLoader( Location location ) {
return new SecureClassLoader( ) {
@Override
protected Class< ? > findClass( String className ) throws ClassNotFoundException {
if ( classes.containsKey( className ) ) {
byte[ ] classFile = classes.get( className ).getClassBytes( );
return super.defineClass( className, classFile, 0, classFile.length );
} else throw new ClassNotFoundException( );
}
};
}
@Override
public ClassFile getJavaFileForOutput( Location location, String className, Kind kind, FileObject sibling ) {
if ( classes.containsKey( className ) ) return classes.get( className );
else {
ClassFile classObject = new ClassFile( className, kind );
classes.put( className, classObject );
return classObject;
}
}
}
ClassFile类
这是我的多用途 SimpleJavaFileObject 实现,用于将源 .java 文件和编译后的 .class 文件存储在内存中。
public class ClassFile extends SimpleJavaFileObject {
private byte[ ] source;
protected final ByteArrayOutputStream compiled = new ByteArrayOutputStream( );
public ClassFile( String className, byte[ ] contentBytes ) {
super( URI.create( "string:///" + className.replace( '.', '/' ) + Kind.SOURCE.extension ), Kind.SOURCE );
source = contentBytes;
}
public ClassFile( String className, CharSequence contentCharSequence ) throws UnsupportedEncodingException {
super( URI.create( "string:///" + className.replace( '.', '/' ) + Kind.SOURCE.extension ), Kind.SOURCE );
source = ( ( String )contentCharSequence ).getBytes( "UTF-8" );
}
public ClassFile( String className, Kind kind ) {
super( URI.create( "string:///" + className.replace( '.', '/' ) + kind.extension ), kind );
}
public byte[ ] getClassBytes( ) {
return compiled.toByteArray( );
}
public byte[ ] getSourceBytes( ) {
return source;
}
@Override
public CharSequence getCharContent( boolean ignoreEncodingErrors ) throws UnsupportedEncodingException {
return new String( source, "UTF-8" );
}
@Override
public OutputStream openOutputStream( ) {
return compiled;
}
}
脚本界面
最后是简单的脚本界面。
public interface Script {
public void Begin( ) throws Exception;
}
在编程方面我还是个新手,我已经使用堆栈一段时间来找到一些解决我遇到的小问题的方法,这是我第一次提出问题,所以如果我包括在内,我深表歉意信息太多或太长;我只是想确保我是彻底的。
【问题讨论】:
-
如何测量内存占用?在 Java 中,程序实际使用的内存量与仅仅因为它可以保留使用的内存量之间存在巨大差异。
-
+1 提出了一个很好的问题,我有兴趣看到这个问题的答案。您是否偶然看到过 Java 反射?
-
在我的任务管理器中注意到特定 javaw.exe 进程的内存使用量增加后,我使用了 Eclipse 内存分析器。似乎垃圾收集器没有做任何事情来收集未使用的残余物......还有一个事实是,如果我删除睡眠并将其设置为 while(true),它会因内存不足而崩溃。
-
我没有发现任何明显的问题。您正确地为每个类使用了单独的类加载器,这是我的第一个猜测。您可能会尝试的一件事是转储并分析堆以查看哪些类占用了所有内存以及它们如何链接到 gc 根。一种快速而简单的方法是使用
jps获取您的进程ID,使用jmap转储堆,然后使用jhat对其进行分析。 -
+1 写得很好的问题。谢谢!
标签: java class memory dynamic loading