GBA tiene definitivamente mejor rendimiento. RPG Maker XP es un programa de código cerrado poco depurado en algunos aspectos, además de que solo está disponible para Windows (y es de pago, cof, cof), y el Pokémon Essentials y derivados muestran problemas de framerate con mapas grandes o eventos complejos. Todo esto puede mejorarse si se sabe Ruby, pero solo hasta un cierto punto, ya que el "corazón" de RPG Maker es ineditable.

Por otro lado, el RPG tiene la ventaja de permitir recursos gráficos y sonoros de más alta calidad, e importarlos mucho más rápidamente. También es mucho más fácil gestionar el espacio ocupado, no como en una ROM, en la que hay que estar pendiente de repuntear datos y de no sobreescribir nada.

Cada formato tiene lo suyo. Si quieres lograr resultados deprisa y añadir muchas funcionalidades "modernas" (gráficos y sonido de alta calidad, funciones online, etc.), RPG es preferible. Si te atrae la idea de jugar con los límites de un software clásico y valoras las ventajas de la portabilidad, la optimización y la sensación de "pulidez" y de "oficialidad" que da una ROM, pues yo optaría por GBA. Al final depende un poco del tipo de juego que quieras hacer.

Para un juego estilo GBA clásico en el que no quieras añadir sistemas nuevos, yo diría que lo mejor es hacer un hack, pero eso depende de cada uno.