Para escribir la rutina se usa un editor de texto (también es recomendable tener esto al lado: https://www.scss.tcd.ie/~waldroj/3d1/arm_arm.pdf ).
Una vez la tengas escrita vas a tener que ensamblarla y dejarla en un binario crudo. Para hacer esto, si usas windows puedes usar el paquete de hackmew, que trae el ensamblador de GNU, objcopy y un .bat. Si no, dilo y sigo explicando.

El tema de la investigación es algo más complicado. La mayoría de la gente usa IDA Pro, una herramienta de pago demasiado cara (870€ hacia arriba), que obviamente todo el mundo piratea. Yo paso de usarlo, de modo que tiro con el debugger de VBA, objdump y un archivo de código que voy escribiendo.

Oh, y te diría que hay una página en la wiki de wah titulada "ASM" pero la wiki esta rota. (What? La wiki está rota!)

PD: Notepad el equivalente de nano/pico de windows (Do you know what Pico stands for? It’s an acronym for “Don’t Know How To Use Vi”) - hay mil editores mejores que notepad en windows, instala notepad++ o algo así.