V tomto blogu se zaměříme na způsoby, jak můžete zvýšit využití GPU v PyTorch.
Jak zvýšit využití GPU v PyTorch?
Existuje několik technik, které lze použít ke zvýšení využití GPU a zajištění toho, že pro zpracování složitých modelů strojového učení budou použity ty nejlepší hardwarové zdroje. Tyto taktiky zahrnují úpravu kódu a využití funkcí PyTorch. Některé důležité tipy a triky jsou uvedeny níže:
- Načítání dat a velikostí dávek
- Modely méně závislé na paměti
- PyTorch Lightning
- Upravte nastavení běhového prostředí ve službě Google Colab
- Vymažte mezipaměť pro optimalizaci
Načítání dat a velikostí dávek
' Nakladač dat ” v PyTorch se používá k definování specifikací dat, která mají být načtena do procesoru s každým dopředným průchodem modelu hlubokého učení. Větší ' objem várky ” dat bude vyžadovat větší výpočetní výkon a zvýší využití dostupného GPU.
Syntaxe pro přiřazení Dataloaderu se specifickou velikostí dávky v PyTorch k vlastní proměnné je uvedena níže:
Zvýšit_GPU_Utilization = DataLoader ( objem várky = 32 )
Modely méně závislé na paměti
Každá modelová architektura vyžaduje jiný objem „ Paměť “, aby fungoval na optimální úrovni. Modely, které efektivně využívají méně paměti za jednotku času, jsou schopny pracovat s velikostmi dávek, které jsou mnohem větší než u jiných modelů.
PyTorch Lightning
PyTorch má zmenšenou verzi, která je „ PyTorch Lightning “. Je optimalizován pro bleskově rychlý výkon, jak je patrné z jeho názvu. Lightning standardně používá GPU a nabízí mnohem rychlejší zpracování pro modely strojového učení. Hlavní výhodou Lightning je absence požadavku na standardní kód, který může bránit zpracování.
Importujte potřebné knihovny do projektu PyTorch se syntaxí uvedenou níže:
! pip install baterka
! pip install pytorch - Blesk
import pochodeň
import pytorch_lightning
Upravte nastavení běhového prostředí ve službě Google Colab
Google Colaboratory je cloudové IDE, které svým uživatelům poskytuje bezplatný přístup k GPU pro vývoj modelů PyTorch. Ve výchozím nastavení běží projekty Colab na CPU, ale nastavení lze změnit.
Otevřete sešit Colab, přejděte na „ Doba běhu “ na liště nabídek a přejděte dolů na „ Změňte nastavení runtime “:
Poté vyberte 'T4 GPU' možnost a klikněte na „ Uložit ” pro použití změn pro využití GPU:
Vymažte mezipaměť pro optimalizaci
PyTorch umožňuje svým uživatelům vymazat mezipaměť, aby bylo možné uvolnit místo pro běh nových procesů. ' Mezipaměti ” ukládá data a informace o spouštěných modelech, takže může ušetřit čas, který bude vynaložený na opětovné načítání těchto modelů. Vymazání mezipaměti poskytuje uživatelům více prostoru pro spouštění nových modelů.
Příkaz k vymazání mezipaměti GPU je uveden níže:
pochodeň. odlišný . prázdná_mezipaměť ( ) 
Tyto tipy se používají k optimalizaci běhu modelů strojového učení s GPU v PyTorch.
Profesionální tip
Google Colab umožňuje svým uživatelům přístup k podrobnostem o využití GPU pomocí „ nvidia “, abyste získali informace o tom, kde jsou hardwarové prostředky využívány. Příkaz k zobrazení podrobností o využití GPU je uveden níže:
! nvidia - smi 
Úspěch! Právě jsme ukázali několik způsobů, jak zvýšit využití GPU v PyTorch.
Závěr
Zvyšte využití GPU v PyTorch odstraněním mezipaměti, použitím PyTorch Lightning, úpravou nastavení runtime, používáním efektivních modelů a optimálními velikostmi dávek. Tyto techniky jdou dlouhou cestou k zajištění toho, aby modely hlubokého učení fungovaly co nejlépe a byly schopny vyvozovat platné závěry a závěry z dostupných dat. Ukázali jsme techniky pro zvýšení využití GPU.