Engineering
Simulazione e progettazione
CAE, CFD, FEM e simulazioni multi-physics possono richiedere CPU ad alta banda di memoria, comunicazioni MPI e storage per checkpoint.
Compute · Cluster HPC e AI
Progettazione di cluster HPC e AI
Progettiamo infrastrutture CPU e GPU complete di interconnessione, storage parallelo, provisioning, scheduler e monitoraggio. Il dimensionamento parte dai workload, dai dataset e dai tempi di esecuzione richiesti.
Dati di progetto
Quali informazioni servono per dimensionare il cluster
Analizziamo software, grado di parallelismo, uso di CPU o GPU, memoria per job, durata delle elaborazioni e numero di utenti concorrenti. Questi dati permettono di definire il nodo tipo e il numero di nodi senza basarsi soltanto sulla potenza teorica.
Valutiamo anche dimensione dei dataset, letture e scritture concorrenti, spazio scratch, crescita, licenze, code di lavoro e integrazione con l’infrastruttura esistente. Il risultato è un’architettura con ipotesi, margini e criteri di espansione espliciti.
01
Nodi di calcolo
CPU, GPU e memoria vengono scelte sul profilo del codice.
Per workload MPI, simulazioni e calcolo numerico verifichiamo numero di core, frequenza, banda di memoria e memoria disponibile per processo. Per AI, rendering o calcolo accelerato valutiamo tipo e numero di GPU, memoria GPU, collegamenti PCIe e rapporto con le CPU.
Il nodo può includere NVMe locale per sistema operativo, cache o scratch temporaneo. Nei cluster misti definiamo partizioni CPU, GPU o ad alta memoria, così lo scheduler può assegnare le risorse corrette a ogni job.
02
Fabric e accesso ai dati
Interconnessione e storage devono sostenere il parallelismo.
La rete di calcolo può utilizzare InfiniBand o Ethernet con RDMA, in funzione della sensibilità a latenza, banda e comunicazioni tra nodi. Topologia, ridondanza e rapporto di concentrazione vengono definiti sul numero di nodi e sul traffico atteso.
Per l’accesso condiviso valutiamo BeeGFS, Lustre o altri file system paralleli, separando quando necessario metadata, capacità e livelli NVMe o HDD. Il dimensionamento considera throughput aggregato, IOPS, file piccoli, checkpoint e accesso concorrente.
03
Gestione e data center
Provisioning, scheduler e infrastruttura di rack completano il progetto.
La soluzione può includere provisioning dei nodi, scheduler come Slurm, repository software, monitoraggio, telemetria e gestione BMC. Le reti di management, calcolo e storage vengono separate e documentate.
Prima della configurazione verifichiamo assorbimento per nodo e per rack, PDU, cablaggio, airflow e temperatura ambiente. Per densità elevate può essere valutato il raffreddamento diretto a liquido, insieme a ridondanza e manutenzione.
Profili di utilizzo
Il dimensionamento cambia con il tipo di workload.
La stessa piattaforma può combinare più code o partizioni, ma ogni applicazione impone un diverso rapporto tra calcolo, memoria, rete e storage.
Research
Ricerca scientifica
Genomica, fisica, chimica computazionale e climatologia combinano job batch, ambienti software differenti e dataset condivisi.
AI
Training e inferenza
Training e inferenza richiedono GPU adeguate al modello, memoria acceleratore, rete tra nodi e un percorso dati che alimenti le GPU.
Data intensive
Pipeline e analytics
Bioinformatica e analytics richiedono preprocessing, molti file, metadata rapidi e spazio scratch separato dai dati persistenti.
Elementi integrabili
Componenti definiti nella distinta tecnica.
Ogni voce viene associata a requisiti misurabili, compatibilità software e possibilità di espansione.
Nodi CPU e GPU
Configurazioni single o dual socket, nodi accelerati e nodi ad alta memoria.
- CPU Intel o AMD
- GPU professionali
- memoria ECC
Fabric di cluster: InfiniBand ed Ethernet
Rete per MPI, RDMA, accesso storage e management.
- Ethernet
- InfiniBand
- topologia e ridondanza
Storage parallelo: BeeGFS e Lustre
File system condiviso per dati persistenti, scratch e checkpoint.
- BeeGFS
- Lustre
- livelli NVMe/HDD
Software e gestione
Provisioning, scheduler, monitoraggio e controllo del ciclo di vita.
- Slurm
- cluster management
- telemetria
Rack, power e cooling
Verifica elettrica, termica e meccanica dell’infrastruttura.
- PDU e cablaggio
- air o liquid cooling
- manutenzione
Informazioni utili
Dati necessari per una prima configurazione
Sono utili applicazioni utilizzate, numero di utenti e job, dataset, tempi attesi, crescita, software richiesto e vincoli del data center.