Hola, no creo que tu problema sean la Palib, sino mas bien que tal vez necesitas aprender un poco más, por lo que comentas tienes problemas en la creación del programa, palib no son ningun compilador, ni ningun lenguaje como dicen por ahí, simplemente son una serie de funciones que contienen a su vez funciones de libnds, y algun que otro programilla para simplificar el proceso de creación de una aplicacion o un juego.

Por ejemplo en libnds para iniciar el modo 2d tendrias que poner todo esto mas o menos:

powerON(POWER_ALL);
REG_POWERCNT &= ~SWITCH_SCREENS;

    videoSetMode(  MODE_0_2D |
                   DISPLAY_SPR_ACTIVE |  
                   DISPLAY_SPR_1D |      
                   DISPLAY_SPR_1D_SIZE_128|
                   DISPLAY_SPR_1D_BMP     
                    );
    videoSetModeSub(  MODE_0_2D |
                   DISPLAY_SPR_ACTIVE |    
                   DISPLAY_SPR_1D |       
                   DISPLAY_SPR_1D_SIZE_128|
                   DISPLAY_SPR_1D_BMP     
                    );        
vramSetMainBanks(VRAM_A_MAIN_SPRITE,VRAM_B_MAIN_BG_0x06000000,VRAM_C_SUB_BG,VRAM_D_SUB_SPRITE);

Pero claro hacer esto cada vez que quieras iniciar el modo 2d es un tostón, así que lo que se suele hacer es meterlo en una función, como hacen en palib:

void PA_Init2D(void){

powerON(POWER_ALL);
REG_POWERCNT &= ~SWITCH_SCREENS;

    videoSetMode(  MODE_0_2D |
                   DISPLAY_SPR_ACTIVE |  
                   DISPLAY_SPR_1D |      
                   DISPLAY_SPR_1D_SIZE_128|
                   DISPLAY_SPR_1D_BMP     
                    );
    videoSetModeSub(  MODE_0_2D |
                   DISPLAY_SPR_ACTIVE |    
                   DISPLAY_SPR_1D |       
                   DISPLAY_SPR_1D_SIZE_128|
                   DISPLAY_SPR_1D_BMP     
                    );        
vramSetMainBanks(VRAM_A_MAIN_SPRITE,VRAM_B_MAIN_BG_0x06000000,VRAM_C_SUB_BG,VRAM_D_SUB_SPRITE);

   }
  
de esta manera cada vez que quiera iniciar este modo solo tendrás que poner  PA_Init2D(), estas cosas son esenciales en programacion, porque primero te ahorras tiempo, y segundo el codigo es mas limpio.

Palib tiene sus limitaciones, ya que utilizan una version de libnds, que está ya algo anticuada, las nuevas libnds traen algunas mejoras mas, tambien palib tiene algun que otro bug.

Creo que si te metes con las libnds sin dominar mas o menos lo básico, puede hacer que te lies más, tambien depende de lo que quieras hacer, si tu objetivo solo es el de hacer juegos, utiliza lo que mas facil te resulte(palib), pero si lo que quieres es conocer mas la consola, o ver que es lo que puedes hacer XD utiliza libnds.

Son simplemente dos opciones, una mas sencilla y otra algo mas compleja, en una ya tienes las funciones basicas creadas y en la otra las tienes que crear tu :), yo por ejemplo ahora que estoy con trasteando con wii he tenido que crearme una pequeña librería, para simplificar ciertas cosas, y crear otras.

Espero que esto te oriente :)

saludos