Nosso membro e doutorando Antônio Carlos Júnior criou uma biblioteca em python para acessar, de forma fácil e legível, as informações da GPU a partir de um código python.

Esta funcionalidade tem como objetivo monitorar se o código está ou não usando a GPU, assim como a memória. Isto é útil para calcular o tamanho do batch (somente forward) em tempo de execução.

Esta biblioteca também está habilitada para listar somente as GPUs que o slurm aloca ou todas as GPUs do host.

Quick Start

Install the igpu module.

pip install igpu

And, enjoy it!

import igpu
gpu_count = igpu.count_devices()
gpu = igpu.get_device(0)
print(f'This host has {gpu_count} devices.')
print(f'The first gpu is a {gpu.name} with {gpu.memory.total:.0f}{gpu.memory.unit}.')

Acesse o link abaixo para a documentação completa:

https://github.com/acnazarejr/igpu