Mensajes

Agregale una accion al boton que permita abrir una nueva ventana.
Revisa la interface ActionListener.

Eee no lo se, porque lo hice hace tiempo y no me acuerdo.
Trata de colocar el valor en bytes y no en megabytes

Si hay una forma, se le agrega como un argumento.
usando java -X salen varias opciones pero de las tantas estas te pueden servir.
-Xms<size>        set initial Java heap size
-Xmx<size>        set maximum Java heap size

Adios

No se porque pero solo puedes hacer una sola vez llamar start. Por lo menos una vez lo intente si quieres qu se repita puedes hacer que el hilo siga funcionando pero durmiendo.
No se mucho sobre sincronizacion de hilos, pero usa la clase Semaphore que esta en java.util.concurrence  si no me equivoco.
Adios.

No entendi mucho que quieres hacer pero necesitar saber:
Usar las siguientes clases:
java.awt.BufferedImage (cargar una imagen)
java.awt.Graphics2D  (modificar la imagen)
javax.imageio.ImageIO (Leer imagenes tanto como guardarlas en distintos formatos)
javax.awt.AffineTransform (aplicarle transformaciones)

Y eso espero que te haya servidor de ayuda.

Instala el JRE ese permite abrir jar sino usa esta sentencia en una consola de comandos

#javaw -jar tu_jar.jar

Se ve bonito la app y es para IRC?

Eclipse
Netbeans
JDK
pero para linuz 

Leer un dato en un jar es digamo facil pero escribirlo es imposible ya que el jar es el ejecutable de java y tendrias que en un programa aparte descomprimir todo y luego comprimirlo nuevamente.
COmo tu dices debes tenerlo afuera y conseguir alguna encriptacion pero ahora haslo sin cifrar nada luego lo haces. Para los archivos puedes usar rutas absolutas o relativas.

MMMM, para realizar eso debes agregar un comando al llamar java, a pesar que consigas la cantidad de memoria total ram no dispondras de esa memoria Java sea caera.
El comando es -Xmalgo no se no me acuerdo. Revisa las clases que estan en java.lang de seguro que pillas algo ahi en especial la clase Runtime.