我妈妈的姨姨的女儿的女儿算不算三代以内的旁系亲属？

不算，己经出三代了。

这个是三代以内的旁系亲属，你妈妈的表姐或者表妹的女儿，那肯定是三代内的亲属。

旁系血亲是具有间接血缘关系的亲属，即非直系血亲而在血缘上和自己同出一源的亲属。三代以内旁系血亲是在血缘上和自己同出于三代以内的亲属。这里的三代是从自己开始计算为一代的三代。(简单说就是，替谁考虑就把谁当为第一代，向上查直到为同一父母而生为止)例如：亲兄弟姊妹和自己同源于父母，自己是第一代，父母是第二代，所以亲兄弟姊妹之间是二代以内旁系血亲;伯叔、姑母、堂兄弟姊妹和自己同源于祖父母，自己是第一代，父亲和伯叔、姑母是第二代，祖父母是第三代，而这些亲属都源于第三代，所以自己与伯叔、姑母、堂兄弟姊妹、姑家表兄弟之间是三代以内旁系血亲;舅父、姨母和表兄弟姊妹(姑家表兄弟除外)和自己同源于外祖父母，自己是第一代，母亲和舅父、姨母是第二代，外祖父母是第三代，而这些亲属都源于第三代，所以自己与舅父、姨母、表兄弟姊妹之间也是三代以内旁系血亲。