por lo general cuando abrís un archivo con un editor hexa en la primera línea está el tipo de extensión o formato del archivo, pero por lo que comentas deberías tener en cuenta que pueden crear un formao propio e inclusive puede estar enciptado, ya que lo usaría solo cuando lo necesite el programa y lo dejaría bien en memoria.