ShuffleNet 편집하기 (부분)

===ShuffleNet V2 개선점===
ShuffleNet V2는 실제 장치에서의 속도, 메모리 접근 효율, 병렬 처리 성능 등을 고려하여 설계 지침(Guidelines)을 제시하였다.
*G1: 입력 채널과 출력 채널의 크기가 같을 때 MAC이 최소화된다.
*G2: 그룹 컨볼루션을 과도하게 사용하면 오히려 MAC이 증가할 수 있다.
*G3: 네트워크가 너무 조각(fragmented)되면 병렬 효율이 떨어진다.
*G4: 요소별 연산(element-wise operation)의 비용도 고려해야 한다.
ShuffleNet V2 유닛은 다음과 같은 구조를 따른다.
*채널 스플릿(channel split): 입력 채널을 두 갈래(branch)로 나눈다.
*한 브랜치는 연산을 거치고, 다른 브랜치는 아이덴티티(identity)로 유지된다.
*연산 브랜치: 1×1 컨볼루션 → 3×3 depthwise 컨볼루션 → 1×1 컨볼루션
*두 브랜치를 합친 뒤 채널 셔플 연산 수행.