Si te dice que el punto no es compatible con la 3DS, simplemente puede ser eso, que tu router no es compatible con 3DS. Yo estuve mucho tiempo sin poder conectarme a internet con un router por ese mismo problema.
Y no sé como va en 3DS, pero DS creo que iba mejor con WEP.