Q: Jak uruchomić uczenie/inferencję na wybranych GPU?
A: Należy uruchomić program z opcją:
CUDA_VISIBLE_DEVICES=0,1gdzie 0 i 1 to numery kart graficznych do rozproszonego obliczenia.
Q: Jak włączyć/wyłączyć obsługę NVX dla połączonych kart graficznych mostkiem NVLink?
A: Przy połączonych kartach GPU obsługa NVlink w transformersach jest domyślnie uruchomiona. Aby wyłączyć obsługę NVX dla kart należy dodać do wywołania programu opcję
NCCL_P2P_DISABLE=1