AI 이미지 생성시 그래픽카드 전력제한 테스트 / Stable Diffusion

AI 이미지 생성시 그래픽카드 전력제한 테스트 / Stable Diffusion

그래픽카드 전력제한 테스트

이미지 생성시 그래픽카드에 대한 최적의 전력 제한 값을 찾기 위해 AfterBurner 등으로 GPU에 전력 제한을 설정하고 이미지 생성에 필요한 시간이 얼마나 감소하는지 벤치 점수와 비교했습니다. 각 시간에 걸리는 초 수를 측정하고 전력제한 30%에서 100%로의 전환을 그래프로 요약했습니다. 104% 오버 전력공급도 추가합니다.

바쁜 사람을 위한 결론

전력 제한을 실시한다면 70%가 최적의 설정값이 됩니다.

생성 매수당 전력 소비량이나 생성 속도의 저하 상태를 가미해 이 결론에 이르렀습니다.

결론에 이르기까지의 구체적인 계측치나 그래프등은 모두 아래에 기재하고 있습니다.

2023.03.16 - [AI] - Stable Diffusion용 그래픽카드 고르는법!

Stable Diffusion용 그래픽카드 고르는법!

계측 조건

벤치 스코어에 대해서는 간단히 말하면, 파라미터등을 동일하게 설정해 실시하는 이미지 생성 속도의 벤치마크 테스트입니다.

512×512 사이즈의 이미지을 10매(batch count 10, batch size 1) 생성할 때 걸린 시간(Time taken 값)을 비교하는 것입니다.

여기에서는 각 전력 제한치마다 3회 계측해 그 평균치를 비교했습니다.

또한 xformers는 유효합니다.

여기 ↑의 'Power Limit'값을 변경했습니다.

결과(표와 그래프)

표(사용데이터)

전력(%)▼/ 단위(초)▶	1번째	2번째	3번째	평균치	100% 1로 정한경우
104	19.07	19.04	18.24	18.78	0.996
100	19.15	18.44	19.00	18.86	1.000
90	19.05	18.95	18.84	18.95	1.004
80	19.67	19.61	19.56	19.61	1.040
70	20.81	20.76	20.70	20.76	1.100
60	23.89	24.20	24.23	24.11	1.278
50	32.56	32.56	32.48	32.53	1.725
40	65.38	66.70	66.09	66.06	3.502
30	112.73	111.90	112.02	112.22	5.949

이걸 그래프화해보면 아래처럼 그려집니다.

그래프화(평균 Time taken 값 비교)

60%를 밑돌면 급격히 점수가 악화되고 있는 것을 알 수 있습니다.

특히 30%는 가늠하기 어렵다.

위의 표에서 보면 전력제한 30%는 거의 6배까지 느려지는것을 알 수 있습니다.

반대로 104%로 전력을 오버해서 공급해도 점수가 거의 향상되지 않는다는 것도 알 수 있습니다.

전력 효율을 간이적으로 비교

전력제한 값(%)x평균 Time taken값(s)으로 산출되는 수치를 비교합니다.

이 값은 10장 생성에 얼마나 전력 소비를 했는지 비교하기 때문에 작은 것이 우수합니다.

전력제한값과 실제 소비전력에는 어느 정도 오차도 있으므로 참고 정도로 하시기 바랍니다.

60~70% 정도가 가장 전력 효율이 좋을 것 같습니다.

104%의 오버 전력을 공급해도 의미있는 수치는 아닌 변화로 30~40%의 전력 효율이 훨씬 최악인 것을 알 수 있습니다.

결론 이미지 생성에 추천하는 전력 제한값은 몇 %?

우선 실용적인 관점에서 50% 미만은 시간이 너무 많이 걸려서 추천드리기 어렵습니다.

또 전력 제한별 속도 저하 상태는 다음과 같습니다.

• 104% : 0.4% 속도 향상
• 90%: 0.4% 속도 저하
• 80%: 4% 속도 저하
• 70%: 10% 속도 저하
• 60%: 28% 속도 저하

70~80%는 성능저하 상태가 작고 절전이 가능하므로 우수합니다.

또한 전력 효율을 단순 비교하면 60~70%가 가장 좋은 것 같습니다.

따라서 결론은 전력 제한이 구현된 경우 70%가 최적의 설정이라는 것입니다. 이상 AI이미지 생성시 효율적인 전력제한에 대해 알아봤습니다.