He conseguido mejorar un poco el algoritmo para reconocer los bordes, ahora reconoce mejor de arriba a abajo aunque sigue existiendo bastante ruido.... espero poder por lo menos eliminar píxels huérfanos.
Probando a usar un marcador típico de realidad aumentada: