전 tensorflow lite 쪽을 맡았긴 한데..
다른 분 께서 꽤나 복잡한 과정을 거쳐서 yolov4 tiny 모델을 tflite 로 export 하시던데 버전 맞추는것부터 쉽지 않더라구요..
일단 yolo v3 로 ARMv7(32bit) 에서 15초/이미지 이상 걸렸던걸로 기억을 합니다. (라즈베리 2정도 성능?)
yolo lite 계열로 가셔야 초당 1~2 프레임 (neon 가속시, NPU 미사용) 나오고
요즘 핸드폰 이라면 10~15 프레임은 나올 수 있을 것 같습니다. 다만 전원이나 발열 문제로 npu 가속을 지원받을수 있으면 더 잘 나올수 있습니다.
직접 안드로이드에서 돌리는 것 말고 API 처럼 웹 서버를 운영하시는 방법도 있습니다.
다만 이러한 경우에는 셀룰러나 WIFI가 연결되지 않으면 사용하기 힘든 문제가 있습니다.
그리고 기본적인 네트워크 딜레이가 있기 때문에 실시간이 매우 중요한 경우에는 적용하기 힘들다는 문제점도 있습니다.
소규모 외주 서비스는 많습니다. 제가 아는 건 위시캣? 인가 하는 사이트가 있네요.
다른 분 께서 꽤나 복잡한 과정을 거쳐서 yolov4 tiny 모델을 tflite 로 export 하시던데 버전 맞추는것부터 쉽지 않더라구요..
일단 yolo v3 로 ARMv7(32bit) 에서 15초/이미지 이상 걸렸던걸로 기억을 합니다. (라즈베리 2정도 성능?)
yolo lite 계열로 가셔야 초당 1~2 프레임 (neon 가속시, NPU 미사용) 나오고
요즘 핸드폰 이라면 10~15 프레임은 나올 수 있을 것 같습니다. 다만 전원이나 발열 문제로 npu 가속을 지원받을수 있으면 더 잘 나올수 있습니다.
다만 이러한 경우에는 셀룰러나 WIFI가 연결되지 않으면 사용하기 힘든 문제가 있습니다.
그리고 기본적인 네트워크 딜레이가 있기 때문에 실시간이 매우 중요한 경우에는 적용하기 힘들다는 문제점도 있습니다.