4.4 KiB
Microburst导致EtherFabric的Traffic Link TX丢包
| ID | Creation Date | Assignee | Status |
|---|---|---|---|
| OMPUB-1295 | 2024-05-20T10:50:57.000+0800 | 杨威 | 已关闭 |
运营商(Ooredoo)反馈MDY-ORD部分链路存在丢包现象,使用rapid ping测试丢包率在千分之一左右。同时,MYTEL也反馈其链路(主要集中在YGN)在高峰时间段存在BFD无法up的情况。
- 运营商反馈的各链路的丢包情况
!image-2024-05-22-10-41-39-879.png|width=779,height=318!
- 运营商在位于新加坡的PoP点向IGW路由器rapid ping的结果
!image-2024-05-22-10-44-02-318.png|width=779,height=430!
!image-2024-05-22-10-45-12-528.png|width=357,height=129!
- Ooredoo提供了在全天各时间段执行rapid ping的汇总结果(自2024-5-11起至2024-5-14止),可见高峰时间段100G链路丢包严重。
!image-2024-05-22-10-52-24-554.png|width=751,height=305!
此时,从EF的统计结果上看,该链路的利用率非常高,满负荷运行(下图为EF统计的链路吞吐量)。
!image-2024-05-22-10-53-41-781.png|width=659,height=642!
- 在Etherfabric上配置放行规则放行Ping报文后,Ooredoo反馈Ping丢包的现象有显著改善。
!image-2024-05-22-10-48-47-290.png|width=276,height=263!
-
此时,Etherfabric和ASW均开启了流量控制功能,在EF、ASW、TSGX上均未观测到丢包。luqiuwen commented on 2024-05-22T12:04:48.117+0800:
-
关闭了Etherfabric的流控功能,可见在EF的链路侧接口上约有千分之一的丢包率。联系了EF的供应商,供应商反馈EF链路侧TX丢包可能是由于交换芯片缓存不足,无法容纳流量中的Microburst。特别是多个100GE(业务侧)向同一链路侧接口转发时,该现象会更为明显。
!https://download.huawei.com/mdl/image/download?uuid=dd77a5d969254077a17721e8084dd28e!
[https://support.huawei.com/enterprise/en/doc/EDOC1100086962]
- 开启了MARSIO的TX限速功能,配置以下参数:
{code:java} crudini --set /opt/tsg/mrzcpd/etc/mrglobal.conf device:bond en_tx_meter 1 crudini --set /opt/tsg/mrzcpd/etc/mrglobal.conf device:bond tx_meter_cir_in_Kbps 50000000 crudini --set /opt/tsg/mrzcpd/etc/mrglobal.conf device:bond tx_meter_cbs_in_KB 8192 crudini --set /opt/tsg/mrzcpd/etc/mrglobal.conf device:bond tx_meter_ebs_in_KB 131072 {code}
- 从统计上看,标记为Yellow的报文计数呈现周期性上涨,约10s上涨一次。考虑到重复流量识别功能中Bloom过滤器新、旧切换的周期为10s,可能导致了microburst。关闭重复流量识别功能,上述现象消失。
- MDY-ORD关闭了FW的重复流量识别功能,UDP最大流表调整到10000,EF上停用放行ICMP报文的策略后,运营商反馈该站点各链路无丢包现象。
!image-2024-05-22-12-03-27-412.png!
- 目前,全网各站点已进行以上修改,即关闭了FW重复流量识别功能,UDP流表最大数量调整到10000,EF上停用ICMP报文的放行策略。
Attachments
Attachment: image-2024-05-22-10-41-39-879.png
Attachment: image-2024-05-22-10-44-02-318.png
Attachment: image-2024-05-22-10-45-12-528.png
Attachment: image-2024-05-22-10-48-47-290.png
Attachment: image-2024-05-22-10-52-24-554.png
Attachment: image-2024-05-22-10-53-41-781.png
Attachment: image-2024-05-22-12-03-27-412.png






