Articulo completo: http://www.jboss.org/community/wiki/OutOfMemoryExceptionWhenRedeploying
O puedes agregar el siguiente fix a tu archivo run.conf: $JBOSS_HOME/bin/run.conf agregar a la linea JAVA_OPTS algo asi, recuerda si existe algo ya escrito dentro de la linea simplemente agregar estas lineas dentro de la comillas:JAVA_OPTS="-server -Xms128m -Xmx128m"
Por ultimo tambien puedes ver:
http://javahowto.blogspot.com/2006/06/6-common-errors-in-setting-java-heap.html
