Si, el software trabaja con un servidor "RTAS" externo por medio de un programa llamado BB Auth Manager, logre emular el servidor en mi maquina y el software conecta pero al momento de descifrar el dll se queda alli y no pasa, ya que esta esperando la respuesta del sevidor, pero si logro descifrar las dll el software funciona con normalidad y no va a necesitar conectar al servidor ya que se supone que ya obtuvo los permisos "RTAS" para descifrar y trabajar. Leyendo un poco vi que trabaja con crptografia RSA con clave publia y privada como tu mencionaste, pero nose como aplicarla para descencriptar esos dll.
Aqui adjunto el link del software:
https://www.dropbox.com/s/8eziwx7e0a5oq3n/MMLSetup.rar
Aqui adjunto el link del software:
https://www.dropbox.com/s/8eziwx7e0a5oq3n/MMLSetup.rar