RPG Maker:
Pro's:
Fácil.
Puede hacerte aprender Ruby
Contras:
Hay problemas de rendimiento
El programa es de pago
No jugable en consolas

ROM-Hacking:
Pro's:
Jugable en consolas
Es un camino hacia aprender ingeniería inversa
Contras:
Difícil - sobretodo cuando se trata de modificar el engine
Limitado - me refiero especialmente al hardware

Crear tu propio engine de cero (sin rpg maker's ni nada de eso):
Pro's:
Todo el mundo va a amarte durante siglos (?)
Los límites los ponéis tú y el hardware
Dispones del código fuente (porque lo has escrito tú mismo, sabes?), así que modificar algo del engine es mucho más rápido y fácil.
Aprendes (o mejoras en) programación
Contras:
Escribir el engine es un camino muy largo y complicado
Va a ser una lucha infinita contra los segfaults y otros errores, especialmente si programas en C o C++.

En resumen:
Si eres algo vago y no te importa trabajar con algo malvado: RPG Maker.
Si te gusta pelearte con binarios: ROM-Hacking.
Si te gusta programar: Programa.