Caríssimo,
É comum trabalhar com aproximadamente 10% do diâmetro das fresas de profundidade. Utilizar uma fresa de 3mm com 2mm de ap. seria como utilizar uma de 12mm com 8mm de ap. Não tenho duvidas que em alguns casos você obtenha um bom resultado, mas com certeza as fresas estão além da sua capacidade de corte.
A liga 1100, é relacionada a um alumínio com 99% de pureza (ou seja, sem ligas), você pode estar tendo o mesmo problema que encontramos no corte com bedames em tornos, a dilatação do material resultante do processo pode estar dilatando o canal e "travando" a ferramenta. Outro problema que pode ocorrer, menos comum, é o encruamento da área de corte, que modifica as características mecânicas do material. Mas como eu disse é pouco comum.
Para processos de alto rendimento em alumínio é muito importante verificar a refrigeração, ele deve estar com pressão razoável e direcionada diretamente a área de corte em pelo menos dois lados da ferramenta, a concentração de óleo deve ser de aproximadamente 14%, mas deve variar de acordo com o fabricante, seria bom consultar seu fornecedor.
No caso da ferramenta, utilize fresas de metal duro, sem cobertura e polidas, atente-se ao ângulo de hélice da ferramenta. Para ferramentas pequenas, qualquer vibração pode ser um grande problema, recomendo que verifique a eficiência da sua fixação e também o estado do spindle da máquina.
Trata-se de eliminação de possibilidades para encontrar o problema, não há receita mágica. Porém, volto a falar que a profundidade de corte é enorme quando comparada ao diâmetro da sua ferramenta.
Espero ter ajudado. Grande abraço!