Da pra fecha em 5.8 com argrid de 27dbi

Dá sim, segundo o calculo terá sinal em -66 com a antena do lado B a 12m.
Isso dá pra um MCS4 a princípio, preveria uns 15-18Mbps de trafego real.

Sua conta deu errado porque você colocou a sensibilidade de RX em -20, é só olhar no datasheet a sensibilidade:
http://dl.ubnt.com/ag5_datasheet.pdf

-74 a -96 se usar N (Deve usar).
Terá sinal pelo calculo de -63 a -66, tem que levar em conta o SNR mínimo de cada datarate. Ficaria algo assim:

MCS / Sensibilidade / SNR / Sinal mínimo exigido
MCS7 / -74 / 25dB / -49
MCS6 / -77 / 22dB / -55
MCS5 / -83 / 19dB / -64
MCS4 / -86 / 16dB / -70

Vê-se que MCS4 deve te servir.
Na prática talvez tenham arvores atrapalhando a zona de fresnel no ponto B e não chegue -66 mas sim algo tipo -69, talvez até menos de -70, mas se não tiver tanta obstrução na zona de fresnel (Na visada não pode ter nada, nem mosquito) na pior das hipoteses cai pra MCS3.
Veja que em MCS4 ele tem limite de 19dBm, e não de 20, então se ainda não comprou procure Airgrid M5 HP e não o basico M5. O M5 HP permite uns 24dBm em MCS5.

E veja que 20dBm é potencia baixa pra 5GHz, pode subir pra 22 ou 23dBm se usar M5 HP, em MCS6 o M5 HP vai até 25dBm se não me engano, acho que daria pra fechar seu PTP com M5 HP a 25dBm em MCS6, trafego real na casa dos 25-28Mbps provavelmente.