AV1 인코딩으로 이름 높으신 이 분... 그런데 AV1 말고 AVC나 HEVC 인코딩도 빠를까요? 좀 그래주길 바래서 질렀는데... 결과는 이렇습니다.

◆ 테스트 시스템
- CPU: AMD Ryzen 7 5700X
- M/B: ASUS Crosshair VI Hero
- Memory: SEC 16GB PC4-25600 * 4
- Storage: SEC PM981a 512GB
- Graphic Card: ZOTAC GeForce RTX 3070 TwinEdge 8GB / Intel Arc A770 Limited Edition 16GB
- Driver: nVIDIA: 546.17 / Intel: 101.4972
- OS: Windows 11 Pro 23H2
- Encoder: ShanaEncoder 5.3.1.1

테스트는 날림으로 진행한거라 툴은 ShanaEncoder 5.3을 사용하여 다음 규격의 영상을 AVC로 각각 CPU 인코딩, GPU 인코딩을 수행했습니다. 인코딩 옵션들이 조금씩 다르나 화질값을 큰 폭으로 변경하지 않는 이상 옵션 변경에 따른 시간 변동은 큰 의미가 없는 수준임을 확인하였습니다.

- 영상 규격: FHD 23.98fps / 23:38.25, HEVC
- 인코더 세팅: CPU(Q=18), NVENC(Q=26, Main/Auto/P4/hq), QSV(Q=26, Main/Auto/VeryFast)

해외에서는 전반적으로 최소한 지포스 30용 NVENC 대비 동급이거나 조금 낫다는 평가를 봤기에 의외였는데, 이 정도 시간이면 지포스 GTX 1080이나 RX Vega 56보다는 뛰어난 속도이긴 하지만, 지포스 30 시리즈의 NVENC 대비 인코딩의 속도는 확실히 뒤쳐지는 결과값입니다. 테스트를 잘못했나 여러 번 반복을 하였으나 의미 있는 결과값이 나오지는 않았습니다.

그러다... 이게 인코더 탓이 아닌가 하는 생각이 들어(ShanaEncoder 6가 초기에 문제가 있어 5의 마지막 버전인 5.3.1.1을 고집하고 있었습니다.) 이후 최신 버전의 릴리즈 내용을 보니 QSV 관련 수정 사항이 있어 혹시나 하여 인코더를 바꿔(6.0.1.6)으로 다시 테스트를 진행하였는데, 그 결과는 이러합니다. 세팅은 여전히 해당 인코더의 깡 기본값 그대로이나, HEVC 인코딩도 더해 테스트를 해보았습니다. 아, 아래 CPU 표에 5800X로 되어 있는건 5700X입니다.

인코더가 바뀐 이후 결과값이 상당히 달라졌습니다. ShanaEncoder가 6로 바뀌면서 CPU 깡 인코딩보다는 낫지만 3070보다는 못했던 A770의 인코딩 성능이 3070과 대등한 수준으로 올라왔습니다. 물론 저 보다 훨씬 낫다는 말을 하기는 어렵지만 최소한 못할 이유는 없는 수준까지 달라졌습니다. HEVC에서는 CPU 대비 성능 향상이 두 그래픽카드 모두 확연히 있는 수준입니다.

4K급 이상의 고해상도를 한 것은 아니라 일반적으로 시중 유통이 되는 Full HD급 영상물을 기준으로 한 것이기에 성능을 전부 발휘하지 못했다 할 수는 있겠으나 최소한 해외측 리뷰와 비슷한 결과값은 냈다고 볼 수 있습니다. 다만 혹시나 훨씬 나을까 하는 기대는 충족하지 못한게 씁슬하긴 합니다.

결론: 드라이버나 하드웨어 세팅이 다 문제가 없는데 성능이 안 나온다 하면 툴부터 최신으로 바꿔보자.