MDS 9000系列光纤通道端口链路事件“LR Rcvd B2B”故障排除

简介

本文档介绍思科多层数据交换机(MDS)9000系列光纤通道(FC)端口上遇到的问题，并提供了解决该问题的解决方案。

问题

此链接事件日志显示：

*************** Port Config Link Events Log ***************
 ----                            ------    -----   -----   ------
 Time                            PortNo    Speed   Event   Reason
 ----                            ------    -----   -----   ------
 ...
 Jul 28 00:46:39 2012  00670297  fc11/25    ---    DOWN   LR Rcvd B2B      

LR Rcvd B2B(或链路故障链路重置失败非空的recv队列)消息指示连接到端口的设备向MDS发送链路重置(LR)，但MDS由于端口上的内部拥塞而不响应链路重置响应(LRR)。端口有从连接设备接收的排队数据包，但MDS无法将它们传送到相应的出口端口。由于它们仍在入口端口处排队，因此MDS无法发回LRR，链路会失败。

以下错误消息与上一个事件日志一起显示：

%PORT-2-IF_DOWN_LINK_FAILURE: %$VSAN 93%$ 
  Interface fc11/25 is down (Link failure)

%PORT-5-IF_DOWN_LINK_FAILURE: %$VSAN 100%$ 
  Interface fc5/32 is down (Link failure Link Reset 
  failed nonempty recv queue)

注意：此场景的假设条件是MDS授予FC设备的缓冲区信用数为3，并且FC设备的数据包被交换到出口FC端口。

                MDS
    FC Port                FC Port
    (Egress)   Arbiter    (Ingress)      FC device
    --------   -------    ---------      ---------
  1)                           <------- FC packet 1
  2)             <--- Grant Request
  3)             Grant------------>
  4)    <---------------FC packet 1
  5)                            R_Rdy-------->       Tx B2B=3
  6)                           <------- FC packet 2  Tx B2B=2
  7)             <---- Grant Request
  8)                           <------- FC packet 3  Tx B2B=1
  9)             <---- Grant Request
 10)                           <------- FC packet 4  Tx B2B=0
 11)             <---- Grant Request
 12) Time lapses - Variable depending on attached HBA type
 13)                           <--------Link Reset(LR)
 14)          Start 90ms "LR Rcvd B2B" timer
 15)          "LR Rcvd B2B" timer expires
 16)                            <--------NOS-------->

解释

本节介绍上一输出：

1. FC设备以FC数据包形式向入口端口传输，目的地为出口端口。
2. MDS入口线卡(LC)端口确定目标索引(DI)，并将授权请求传输到活动管理引擎上的仲裁器(Bellagio2)。
3. 仲裁器向入口端口发回Grant，这赋予它通过XBAR将FC数据包1传输到出口端口的权限。
4. 入口LC通过XBAR将FC数据包1传输到出口端口。这使入口缓冲区可用。
5. 入口端口将R_RDY传回FC设备，FC设备补充信用。
   
   

   注意：前五个步骤在没有拥塞时是典型的。假设此时出口端口队列已满，无法再接收任何数据包。

   
   
6. FC设备将FC数据包2传输到入口端口，目的地是出口端口。
7. MDS入口LC端口确定DI，并将授予请求传输到活动管理引擎上的仲裁服务器(Bellagio2)。
8. FC设备将FC数据包3传输到入口端口，目的地是出口端口。
9. MDS入口LC端口确定DI，并将授予请求传输到活动管理引擎上的仲裁服务器(Bellagio2)。
10. FC设备将FC数据包4传输到入口端口，目的地是出口端口。
11. MDS入口LC端口确定DI，并将授予请求传输到活动管理引擎上的仲裁服务器(Bellagio2)。
12. 时间过期，具体取决于连接的HBA类型。
13. 在Tx B2B=0处经过一段时间后，FC设备启动信用丢失恢复，并传输链路重置(LR)。
14. 当入口端口收到LR时，它会检查其入口缓冲区并确定至少有一个数据包已排队。然后启动90毫秒LR Rcvd B2B计时器。
15. 如果接收到授权，并且三个FC数据包被发送到出口端口，则取消LR Rcvd B2B计时器，并将链路重置响应(LRR)发回到FC设备。但是，在这种情况下，出口端口仍然拥塞，三个FC数据包仍在入口端口处排队。LR Rcvd B2B计时器过期，并且LRR不会传回到FC设备。
16. 入口端口和FC设备都通过传输非操作序列启动链路故障。

解决方案

如果链路因LR Rcvd B2B或链路故障链路重置失败非空recv队列消息而失败，则失败的端口不是导致瓶颈的原因，只受慢速/卡滞端口的影响。要确定导致链路故障的慢速/停滞端口，请完成以下步骤：

1. 确定是否有多条链路由于上述问题而发生故障。如果大约同时发生多条链路故障，则可能会因为所有端口都尝试将数据包传输到一个通用出口端口而出现问题。
2. 检查VSAN分区数据库，以查看相邻FC设备与哪些设备分区。将这些端口映射到出口E或本地F端口。为了映射到出口E，端口使用show fspf internal route vsan <vsan> domain <dom>命令。要映射到本地F端口，请使用show flogi database vsan <vsan>命令。如果有多条链路因LR Rcvd B2B消息而失败，则合并找到的出口E或本地F端口，并检查是否存在重叠。重叠可能是导致端口缓慢/停滞的原因。
3. 检查步骤2中找到的端口是否指示瓶颈。这些 ISP 包括：
   
   
   • 信用损失(AK_FCP_CNTR_CREDIT_LOSS / FCP_SW_CNTR_CREDIT_LOSS)
   • 100毫秒Tx B2B零(AK_FCP_CNTR_TX_WT_AVG_B2B_ZERO / FCP_SW_CNTR_TX_WT_AVG_B2B_ZERO)
   • 超时丢弃(AK_FCP_CNTR_LAF_TOTAL_TIMEOUT_FRAMES / THB_TMM_TOLB_TIMEOUT_DROP_CNT / F16_TMM_TOLB_TROP_CNT)
     
     
4. 如果确定慢速端口是出口E端口，则继续对FSPF下一跳接口指示的相邻交换机进行慢速排放故障排除。
5. 如果确定慢速/阻塞端口是FCIP链路或端口通道，则检查FCIP链路是否有IP重新传输或其他问题（如链路故障）的迹象。输入show ips stats all命令以检查问题。

配置选项

以下是两种可能的系统配置选项：

• 此计时器确定系统在超时无法传输的帧之前等待的时间。默认值为500毫秒。
  
  

  system timeout congestion-drop 
         
         
           mode E|F 
         

• 此计时器确定从零Tx信用点开始以线速丢弃帧到接收信用的时间。
  
  

  system timeout no-credit-drop 
         
         
           mode E|F 
         

相关信息

• 瓶颈设备培训4.2(7)- PDF下载
  
• 技术支持和文档 - Cisco Systems