2.3. Scratch en el cluster

El home de cada usuario esta limitado en tamaño. Se autoriza una occupación de 20GB, llegando a los 25GB por no más de una semana.

Para conocer cuanto estan ocupando y sus limites, pueden usar el comando quota. La opción -s es para tener un formato más leible.

$ quota -s
Disk quotas for user jerome (uid 1865): 
     Filesystem  blocks   quota   limit   grace   files   quota   limit   grace
10.2.255.249:/export/home/jerome
                  1072M  20480M  25600M           21772       0       0   
    

En este caso, vemos que el limite es de 20480MB, y la ocupación actual del usuario es de 1072Mb.

Para poder trabajar, el cluster cuenta con dos tipos de espacios para almacenar los datos temporales:

Presentamos cada uno para que sepan como utilizarlos.

2.3.1. /state/partition1

Cada nodo tiene una partición de scratch, dentro de su disco duro propio. Esta partición se llaman /state/partition1 , y es dedicada al almacenamiento de los datos. La regla de uso es que para evitar conflictos, cada usuario crea su propio directorio (con su nombre por ejemplo). Por ejemplo, en seguida viene un extracto de un script que define el temporal para los datos en el nodo. Ntan que usamos además del nombre del usuario, el numero del job. Eso permite separar aún mas los datos, en caso de estudios similares.

Temp="/state/partition1/$USER/${JOB_ID}/"
mkdir -p $Temp
cd  $Temp

.../..

# al final lo borramos
cd
rm -rfv $Temp
    

2.3.2. /scratch

El cluster dispone de un almacenamiento visibles en todos los nodos, usando el sistema de archivos Lustre [1]. Este sitema se basa en la red IB para la transferencia de los datos. Aunque es un poco menos veloz que la transferencia con un disco duro local, la ventaja es que se pueden acceder a los datos desde cualquier maquina del cluster.

Es espacio disponible suma un total de 52TB. Para que no existen conflictos en los nombre de archivos, la buena regla es usar este espacio, creando un subdirectorio (con su nombre de usuario mejor) para alli depositar los archivos. Retomando el ejemplo anterior, podemos usar el scratch de esta manera:

Temp="/scratch/$USER/${JOB_ID}/"
mkdir -p $Temp
cd  $Temp

.../..

# al final lo borramos
cd
rm -rfv $Temp
	  

Este espacio no es respaldado. Al momento que sea necesario, se limpiaran primero los archivos más viejos, para dejar este espacio con menos de 85% de ocupación total. Así que tomen sus precauciones para evitar cualquier perdida de datos importantes.

Notes

[1]

http://lustre.org/