Docker(1) - 도커 개요
Introduction
최근 포스트
make FLAG 옵션
FLAG(옵션)에 대해 정의
PyTorch Distributed(3) DDP
Introduction DDP는 여러 machine(node)에서 실행할 수 있는 데이터 병렬 처리를 모듈 수준에서 구현한다. multi-process를 생성하고, process당 단일 DDP 인스턴스를 생성한다. DDP는 torch.distributed의 collective c...
PyTorch Distributed(2) DP
Introduction DP는 one process & multi-gpu로 실행할 수 있는 데이터 병렬 처리를 모듈 수준에서 구현하는 패러다임을 말한다. 이 패러다임에 해당하는 모듈인 torch.nn.DataParallel은 일종의 컨테이너인데, 입력 데이터는 mini-b...
python의 예외처리 (try-except, assert)
try-except는 파이썬 예외 처리 시 사용할 수 있다. try-except의 예외 처리를 위한 분기 try: # 실행내용 raise Exception("에러테스트") # 에러 발생시키기 except: # 에러 발생 시 분기 else : # 예외...