Lyon:Network: Difference between revisions

From Grid5000
Jump to navigation Jump to search
No edit summary
 
No edit summary
 
(87 intermediate revisions by 15 users not shown)
Line 1: Line 1:
= Addressage =
{{Template:Site link|Network}}
Les plages d'addresses suivantes sont réservées et utilisées par Lyon, mais pas nécessairement entièrement routées:
{{Portal|Network}}
; 192.168.69.0/24: Réseau d'interconnection avec l'exterieur. Il sert à simplifier les tables de routages en déportant la passerelle <code class="host">coutoo</code> derrière le switch/routeur <code class="host">little-ego</code>.
{{Portal|User}}
; 10.69.0.0/16: Réseau Grid5000 de Lyon. Seul la moitier de ce réseaux (ie: 10.69.0.0/17) est routée dans les sites Grid5000, permettant de se réserver des plages pour l'administration (aucun intérêt à être accessible en dehors de Lyon) et permettre différents type d'expérimentation réseaux.
{{Maintainer|Simon Delamare}}


Le découpage est effectué comme suit:
'''See also:''' [[Lyon:Hardware|Hardware description for Lyon]]
0 0xxx yyyyyyyyyyy  host    y  \
0 0xxx 111110yyyyy  switch  y  | réseau x 
0 0xxx 111111yyyyy  serveur y  /
0 0111 xxxyyyyyyyy  host y tunnel x
0 1xxx yyyyyyyyyyy  host y réseau de test x
1 .... ...........  meme découpage mais non routé


Les réseaux actuellement en exploitation sont:
= Overview of Ethernet network topology =
* <code>10.69.0.0/21&nbsp;&nbsp;</code>: Réseau de calcul sur interface native
* <code>10.69.8.0/21&nbsp;&nbsp;</code>: Réseau Myrinet avec émulation ethernet
* <code>10.69.128.0/21</code>: Réseau d'administration
* <code>10.69.136.0/21</code>: Accès a la carte d'administration ou processeur de service


= VLAN =
[[File:LyonNetwork.svg|800px]]
En plus des VLAN attribué par renater (voir [[Interconnexion r%C3%A9seau]]), Lyon utilise pour ces besoins une série de VLAN:
* 599: routage vers la passerelle (<code class="host">coutoo</code>)
* 690: réseau de calcul
* 691 &rarr; 698: réseaux de tests
* 699: réseau d'administration


== <code class="host">little-ego</code> ==
{{:Lyon:GeneratedNetwork}}
* ports 4:41-4:48: lyon_adm
* ports 4:1-4:7,4:17,6:1 lyon_test1
* ports 4:18-4:32,6:2 lyon_test2
* ports 4:9-4:16,4:19,6:3 lyon_test3
* ports 4:33-4:40,4:20,6:4 lyon_test4
* ports 9:3,9:4 trunk vlan
* ports 1:1-1:48,2:1-2:48 lyon


== <code class="host">venus</code> ==
= IP networks in use =


== <code class="host">salome</code> ==
You have to use a public network range to run an experiment between several Grid5000 sites.
* port 49: trunk vlan
 
* ports 1,5: lyon_test1
=== Public Networks ===
* ports 2,6: lyon_test2
 
* ports 3,7: lyon_test3
* computing : '''172.16.48.0/20'''
* ports 4,8: lyon_test4
* virtual : '''10.140.0.0/14'''
* ports 9-48,50: lyon
 
=== Local Networks ===
 
* admin : '''172.17.48.0/20'''
* nat : '''192.168.69.0/30'''
 
== HPC Network - Infiniband ==
* [https://www.nvidia.com/en-us/networking/infiniband/sb7800/ switch "''swib''"] : SB7800 (4xEDR, 100Gb/s)
* gemini : 3 interfaces connected to ''swib'' (4xEDR 100Gb/s)
** Card model: ''Mellanox Technologies MT27800 Family (MT4119)''
** driver: ''mlx5_core''
* pyxis : 1 interface connected to ''swib'' (4xEDR, 100Gb/s)
** Card model: ''Mellanox Technologies MT28908 Family [ConnectX-6] (MT4123)''
** driver: ''mlx5_core''
* alcor (''group storage''): 1 interface connected to ''swib'' (4xFDR, 56Gb/s)
** Card model: ''Mellanox Technologies MT27800 Family [ConnectX-5] (MT4119)''
** driver: ''mlx5_core''
[[File:LyonHPCNetwork.png|1500px]]<br/>
''(image generated from ibnetdiscover and [https://github.com/cyberang3l/InfiniBand-Graphviz-ualization InfiniBand-Graphviz-ualization])''

Latest revision as of 14:48, 12 March 2024

See also: Hardware description for Lyon

Overview of Ethernet network topology

LyonNetwork.svg


Network devices models

  • force10: Force10 S4810
  • gw: Dell EMC S4128F-ON
  • salome: FESX448+2XG-PREM
  • sneowise: Arctica 4808xs
  • sneowiseib1: Mellanox QM8700
  • sneowiseib2: Mellanox QM8700
  • swib: Mellanox SB7800

More details (including address ranges) are available from the Grid5000:Network page.

IP networks in use

You have to use a public network range to run an experiment between several Grid5000 sites.

Public Networks

  • computing : 172.16.48.0/20
  • virtual : 10.140.0.0/14

Local Networks

  • admin : 172.17.48.0/20
  • nat : 192.168.69.0/30

HPC Network - Infiniband

  • switch "swib" : SB7800 (4xEDR, 100Gb/s)
  • gemini : 3 interfaces connected to swib (4xEDR 100Gb/s)
    • Card model: Mellanox Technologies MT27800 Family (MT4119)
    • driver: mlx5_core
  • pyxis : 1 interface connected to swib (4xEDR, 100Gb/s)
    • Card model: Mellanox Technologies MT28908 Family [ConnectX-6] (MT4123)
    • driver: mlx5_core
  • alcor (group storage): 1 interface connected to swib (4xFDR, 56Gb/s)
    • Card model: Mellanox Technologies MT27800 Family [ConnectX-5] (MT4119)
    • driver: mlx5_core

LyonHPCNetwork.png
(image generated from ibnetdiscover and InfiniBand-Graphviz-ualization)