Files
geedge-jira/md/OMPUB-1295.md
2025-09-14 22:27:11 +00:00

4.4 KiB
Raw Permalink Blame History

Microburst导致EtherFabric的Traffic Link TX丢包

ID Creation Date Assignee Status
OMPUB-1295 2024-05-20T10:50:57.000+0800 杨威 已关闭

运营商Ooredoo反馈MDY-ORD部分链路存在丢包现象使用rapid ping测试丢包率在千分之一左右。同时MYTEL也反馈其链路主要集中在YGN在高峰时间段存在BFD无法up的情况。

  • 运营商反馈的各链路的丢包情况

!image-2024-05-22-10-41-39-879.png|width=779,height=318!

  • 运营商在位于新加坡的PoP点向IGW路由器rapid ping的结果

!image-2024-05-22-10-44-02-318.png|width=779,height=430!

!image-2024-05-22-10-45-12-528.png|width=357,height=129!

  • Ooredoo提供了在全天各时间段执行rapid ping的汇总结果自2024-5-11起至2024-5-14止可见高峰时间段100G链路丢包严重。

!image-2024-05-22-10-52-24-554.png|width=751,height=305!

此时从EF的统计结果上看该链路的利用率非常高满负荷运行下图为EF统计的链路吞吐量

!image-2024-05-22-10-53-41-781.png|width=659,height=642!

  • 在Etherfabric上配置放行规则放行Ping报文后Ooredoo反馈Ping丢包的现象有显著改善。

!image-2024-05-22-10-48-47-290.png|width=276,height=263!

  • 此时Etherfabric和ASW均开启了流量控制功能在EF、ASW、TSGX上均未观测到丢包。luqiuwen commented on 2024-05-22T12:04:48.117+0800:

  • 关闭了Etherfabric的流控功能可见在EF的链路侧接口上约有千分之一的丢包率。联系了EF的供应商供应商反馈EF链路侧TX丢包可能是由于交换芯片缓存不足无法容纳流量中的Microburst。特别是多个100GE业务侧向同一链路侧接口转发时该现象会更为明显。

!https://download.huawei.com/mdl/image/download?uuid=dd77a5d969254077a17721e8084dd28e!

[https://support.huawei.com/enterprise/en/doc/EDOC1100086962]

  • 开启了MARSIO的TX限速功能配置以下参数

{code:java} crudini --set /opt/tsg/mrzcpd/etc/mrglobal.conf device:bond en_tx_meter 1 crudini --set /opt/tsg/mrzcpd/etc/mrglobal.conf device:bond tx_meter_cir_in_Kbps 50000000 crudini --set /opt/tsg/mrzcpd/etc/mrglobal.conf device:bond tx_meter_cbs_in_KB 8192 crudini --set /opt/tsg/mrzcpd/etc/mrglobal.conf device:bond tx_meter_ebs_in_KB 131072 {code}

  • 从统计上看标记为Yellow的报文计数呈现周期性上涨约10s上涨一次。考虑到重复流量识别功能中Bloom过滤器新、旧切换的周期为10s可能导致了microburst。关闭重复流量识别功能上述现象消失。
  • MDY-ORD关闭了FW的重复流量识别功能UDP最大流表调整到10000EF上停用放行ICMP报文的策略后运营商反馈该站点各链路无丢包现象。

!image-2024-05-22-12-03-27-412.png!

  • 目前全网各站点已进行以上修改即关闭了FW重复流量识别功能UDP流表最大数量调整到10000EF上停用ICMP报文的放行策略。

Attachments

Attachment: image-2024-05-22-10-41-39-879.png

image-2024-05-22-10-41-39-879.png

Attachment: image-2024-05-22-10-44-02-318.png

image-2024-05-22-10-44-02-318.png

Attachment: image-2024-05-22-10-45-12-528.png

image-2024-05-22-10-45-12-528.png

Attachment: image-2024-05-22-10-48-47-290.png

image-2024-05-22-10-48-47-290.png

Attachment: image-2024-05-22-10-52-24-554.png

image-2024-05-22-10-52-24-554.png

Attachment: image-2024-05-22-10-53-41-781.png

image-2024-05-22-10-53-41-781.png

Attachment: image-2024-05-22-12-03-27-412.png

image-2024-05-22-12-03-27-412.png