CreateFileA retorna ERROR_NOACCESS + STATUS_DATATYPE_MISALIGNMENT

[Usuario887]

Hola,

Estoy jugando con un depurador y cuando intente hacer una llamada a CreateFileA, LastError se setea a ERROR_NOACCESS y LastStatus a STATUS_DATATYPE_MISALIGNMENT. No entiendo que significa...

Pense que se referia a que la referencia al nombre del archivo ("hello.txt") se encontraba en una posicion de memoria desalineada a 4 bytes, pero aun cuando la alinee a 4 bytes sigue retornando lo mismo.

Aqui esta el disassemble:

00007FF755211016 | mov qword ptr ss:[rsp+30],0             |
00007FF75521101F | mov dword ptr ss:[rsp+28],80            |
00007FF755211027 | mov dword ptr ss:[rsp+20],2             |
00007FF75521102F | mov r9d,0                               |
00007FF755211035 | mov r8d,0                               |
00007FF75521103B | mov edx,40000000                        |
00007FF755211040 | lea rcx,qword ptr ds:[7FF7552110A4]     | 00007FF7552110A4:"hello.txt"
00007FF755211047 | mov rax,qword ptr ds:[<&CreateFileA>]   |
00007FF75521104E | call rax                                |
00007FF755211050 | mov qword ptr ss:[rbp-8],rax            |

(el handle lo guardo en rbp-8)

Arquitectura x86_64

7FF7552110A4: direccion del nombre del archivo ("hello.txt")

Equivalente en C:

Código (c) [Seleccionar] Expandir

hFile=CreateFileA("hello.txt",
                      GENERIC_WRITE,
                      0,
                      NULL,
                      CREATE_ALWAYS,
                      FILE_ATTRIBUTE_NORMAL,
                      NULL);

Gracias...

[Eternal Idol]

En teoria no deberia ser un problema del primer parametro pasado a CreateFileA, esto funciona por ejemplo:

Código (asm) [Seleccionar] Expandir

extrn CreateFileA:   PROC

PUBLIC entry
.data
msg db "hello.txt", 0

.code
entry:
mov qword ptr [rsp + 030h], 0
mov dword ptr [rsp + 028h], 80
mov dword ptr [rsp + 020h], 2 
mov r9d, 0
mov r8d, 0
mov edx, 040000000h
lea rcx, offset msg
inc rcx
call CreateFileA

Adivinando (jugar con un depurador e intentar hacer una llamada es algo ambiguo, podes estar escribiendo codigo a mano dentro de la memoria del proceso por ejemplo) te diria que la pila en si misma, RSP, puede estar desalineada.

[Usuario887]

podes estar escribiendo codigo a mano dentro de la memoria del proceso por ejemplo

Es justo lo que intento hacer... Lo habia intentado hace tiempo pero ahora crei que lo podia lograr  

No se que es exactamente lo que esta desalineado porque el mismo codigo en posiciones dadas de memoria diferentes el codigo funciona y crea el archivo.

¿Es decir que RSP tiene que estar alineado? Eso no lo sabia   pero tiene sentido



J*******deeeeeerrrrrrrrr tienes razon...
Muchisimas gracias por tu ayuda. Que tonto 

Se que la memoria principal en la arquitectura x86 se alinea a 4 bytes, o al menos eso tengo entendido. ¿Sabes por que esto es asi precisamente en Windows y en donde podria conseguir mas informacion al respecto? Siento que me voy a equivocar con esto varias veces.

Gracias de antemano...
Buenas noches.

[Eternal Idol]

¿Es decir que RSP tiene que estar alineado? Eso no lo sabia   pero tiene sentido

Si. "The stack will always be maintained 16-byte aligned, except within the prolog (for example, after the return address is pushed), and except where indicated in Function Types for a certain class of frame functions."

https://docs.microsoft.com/en-us/cpp/build/stack-usage?view=msvc-170

Y es basicamente lo mismo para AMD64 System V ABI (https://coderedirect.com/questions/51914/why-does-the-x86-64-amd64-system-v-abi-mandate-a-16-byte-stack-alignment).

Por cierto asi provoque el mismo error, en cuanto hace un syscall se detecta el problema:

Código (asm) [Seleccionar] Expandir

entry:
push dx ;;;;;;;;;;;;;
mov qword ptr [rsp + 030h], 0
mov dword ptr [rsp + 028h], 80
mov dword ptr [rsp + 020h], 2  
mov r9d, 0
mov r8d, 0
mov edx, 040000000h
lea rcx, offset msg
call CreateFileA
int 3

(299c.368c): Break instruction exception - code 80000003 (first chance)
cfe!entry+0x43:
00007ff7`74391043 cc              int     3
0:000> r eax
eax=ffffffff
0:000> !gle
LastErrorValue: (Win32) 0x3e6 (998) - Invalid access to memory location.
LastStatusValue: (NTSTATUS) 0x80000002 - {EXCEPTION}  Alignment Fault  A datatype misalignment was detected in a load or store instruction.

[Usuario887]

except within the prolog

¿Que es el prologo? ¿El procedimiento en el que se esta ejecutando el procedimiento actual?

¿Y por que 16 precisamente...? Crei que eran cuatro (la "Palabra" de la mayoria de procesadores)

Frame functions... Eso no me suena de nada. Lo acabo de buscar y me aparece en contextos diferentes.



Respecto al syscall... Si, me lo imagine porque persegui la excepcion hasta kernel32 que es de donde venia

Código (asm) [Seleccionar] Expandir

    entry:
    push dx ;;;;;;;;;;;;;
    mov qword ptr [rsp + 030h], 0
    mov dword ptr [rsp + 028h], 80
    mov dword ptr [rsp + 020h], 2 
    mov r9d, 0
    mov r8d, 0
    mov edx, 040000000h
    lea rcx, offset msg
    call CreateFileA
    int 3

Ufffffff......... Casi se me desvia la vista pensando en que DX es de 16 bits y no bytes. Aqui DX desalinea la pila por 2 bytes ¿No?

[Eternal Idol]

https://en.wikipedia.org/wiki/Function_prologue_and_epilogue

"There are basically two types of functions. A function that requires a stack frame is called a frame function. A function that does not require a stack frame is called a leaf function."
https://docs.microsoft.com/en-us/cpp/build/stack-usage?view=msvc-170

rdx edx dx dl
https://docs.microsoft.com/en-us/windows-hardware/drivers/debugger/x64-architecture

[Usuario887]

https://en.wikipedia.org/wiki/Function_prologue_and_epilogue

Ah... No sabia que eso tenia nombre.

OK ya entiendo que es. Sin embargo no la relacion con el alineamiento. Citas:

The stack will always be maintained 16-byte aligned, except within the prolog

"Except within the prolog"

A que se refiere con "within"? No se que es lo que esta "Dentro" del prologo.

Gracias por tu ayuda...

[Eternal Idol]

Las instrucciones que momentaneamente pueden dejar la pila desalineada.

[Usuario887]

Las instrucciones que momentaneamente pueden dejar la pila desalineada.

Es decir que, traduciendo...

La pila sera siempre mantenida en un alineamiento de 16-bytes, excepto las instrucciones que momentaneamente pueden dejar la pila desalineada...?

"Excepto"

A que se refiere exactamente con "Excepto"?

[Eternal Idol]

No, no se dice eso, sacaste la parte del prologo, DENTRO del prologo se puede dejar la pila desalineada momentaneamente, eso es lo que dice. Si todavia no entendes lo que esta dentro del prologo lee de nuevo:
https://en.wikipedia.org/wiki/Function_prologue_and_epilogue

¿A que se refiere con excepto? ¿Es una pregunta en serio? ¿De verdad? Me rindo por un tiempo.