| Dog Video | Image Size | ||||||
|---|---|---|---|---|---|---|---|
| Processor | DLC Model | 75 x 33 | 150 x 267 | 300 x 533 | 424 x 754 | 600 x 1067 | |
| Linux | Intel Xeon CPU 3.1 GHz | MobileNetV2-0.35 | 62±5 | 31±1 | 14±0 | 8±0 | 4±0 |
| ResNet-50 | 24±1 | 11±0 | 3±0 | 2±0 | 1±0 | ||
| GeForce GTX 1080 | MobileNetV2-0.35 | 256±51 | 208±46 | 124±19 | 80±9 | 43±1 | |
| ResNet-50 | 121±15 | 95±13 | 52±3 | 33±1 | 19±10 | ||
| GeForce GTX 2080 Ti | MobileNetV2-0.35 | 240±38 | 192±26 | 165±12 | 146±7 | 79±3 | |
| ResNet-50 | 179±18 | 138±11 | 86±3 | 64±2 | 35±1 | ||
| TITAN RTX | MobileNetV2-0.35 | 168±29 | 144±20 | 133±14 | 115±9 | 71±3 | |
| ResNet-50 | 132±14 | 113±11 | 82±4 | 56±2 | 33±1 | ||
| Tesla V100-SXM2-16GB | MobileNetV2-0.35 | 229±13 | 189±10 | 138±11 | 105±6 | 64±3 | |
| ResNet-50 | 169±7 | 133±4 | 90±4 | 65±2 | 42±1 | ||
| Tesla P100-PCIE-16GB | MobileNetV2-0.35 | 220±12 | 179±9 | 114±7 | 77±3 | 44±1 | |
| ResNet-50 | 115±3 | 91±2 | 59±2 | 45±1 | 26±1 | ||
| Tesla K80 | MobileNetV2-0.35 | 118±4 | 105±3 | 64±4 | 47±2 | 26±1 | |
| ResNet-50 | 58±2 | 43±1 | 21±1 | 13±0 | 7±0 | ||
| Tesla T4 | MobileNetV2-0.35 | 200±17 | 166±13 | 117±10 | 86±5 | 49±2 | |
| ResNet-50 | 134±8 | 99±5 | 51±3 | 33±1 | 18±0 | ||
| Quadro P400 | MobileNetV2-0.35 | 105±4 | 76±2 | 31±1 | 18±0 | 10±0 | |
| ResNet-50 | 24±0 | 16±9 | 6±0 | 4±0 | 2±0 | ||
| Windows | Intel Xeon Silver CPU 2.1 GHz | MobileNetV2-0.35 | 28±1 | 13±0 | 6±0 | 3±0 | 1±0 |
| ResNet-50 | 22±1 | 9±0 | 3±0 | 2±0 | 1±0 | ||
| GeForce GTX 1080 with Max-Q Design | MobileNetV2-0.35 | 142±17 | 132±14 | 98±5 | 69±3 | 41±1 | |
| ResNet-50 | 87±3 | 77±3 | 48±1 | 31±1 | 18±0 | ||
| GeForce GTX 1080 | MobileNetV2-0.35 | 128±11 | 115±10 | 94±7 | 72±3 | 41±1 | |
| ResNet-50 | 101±5 | 86±4 | 49±1 | 32±1 | 18±0 | ||
| Quadro P1000 | MobileNetV2-0.35 | 120±11 | 108±10 | 58±2 | 39±1 | 20±0 | |
| ResNet-50 | 54±2 | 38±1 | 17±0 | 10±0 | 5±0 | ||
| MacOS | Intel Core i5 CPU 2.4 GHz | MobileNetV2-0.35 | 39±5 | 20±2 | 11±1 | 7±1 | 4±0 |
| ResNet-50 | 8±1 | 4±0 | 1±0 | 1±0 | 0±0 | ||
| Intel Core i7 CPU 3.5 GHz | MobileNetV2-0.35 | 117±8 | 47±3 | 15±1 | 8±0 | 4±0 | |
| ResNet-50 | 29±2 | 11±1 | 3±0 | 2±0 | 1±0 | ||
| Intel Core i9 CPU 2.4 GHz | MobileNetV2-0.35 | 126±25 | 66±13 | 19±3 | 11±1 | 6±0 | |
| ResNet-50 | 31±6 | 16±2 | 6±1 | 4±0 | 2±0 | ||
| Jetson | Xavier | MobileNetV2-0.35 | 68±8 | 60±7 | 54±4 | 41±1 | 25±1 |
| ResNet-50 | 46±1 | 34±1 | 17±0 | 12±0 | 6±0 | ||
| TX2 | MobileNetV2-0.35 | 37±2 | 32±2 | 13±0 | 7±0 | 4±0 | |
| ResNet-50 | 18±1 | 12±0 | 5±0 | 3±0 | 2±0 | ||
| Mouse Video | Image Size | ||||||
|---|---|---|---|---|---|---|---|
| Processor | DLC Model | 115 x 87 | 229 x 174 | 459 x 349 | 649 x 493 | 917 x 698 | |
| Linux | Intel Xeon CPU 3.1 GHz | MobileNetV2-0.35 | 61±4 | 32±1 | 15±0 | 8±0 | 4±0 |
| ResNet-50 | 28±1 | 11±0 | 4±0 | 2±0 | 1±0 | ||
| GeForce GTX 1080 | MobileNetV2-0.35 | 285±24 | 209±23 | 134±9 | 86±2 | 44±1 | |
| ResNet-50 | 136±8 | 106±3 | 60±1 | 35±0 | 19±10 | ||
| GeForce GTX 2080 Ti | MobileNetV2-0.35 | 252±49 | 198±36 | 198±16 | 147±8 | 80±3 | |
| ResNet-50 | 192±21 | 151±17 | 101±4 | 63±2 | 37±1 | ||
| TITAN RTX | MobileNetV2-0.35 | 169±28 | 145±19 | 152±15 | 124±9 | 78±3 | |
| ResNet-50 | 149±16 | 119±11 | 92±3 | 58±2 | 35±1 | ||
| Tesla V100-SXM2-16GB | MobileNetV2-0.35 | 260±12 | 218±9 | 180±18 | 121±8 | 68±3 | |
| ResNet-50 | 184±6 | 151±5 | 111±6 | 75±3 | 47±2 | ||
| Tesla P100-PCIE-16GB | MobileNetV2-0.35 | 246±12 | 198±7 | 138±8 | 79±3 | 46±1 | |
| ResNet-50 | 128±3 | 103±2 | 70±3 | 46±1 | 28±1 | ||
| Tesla K80 | MobileNetV2-0.35 | 127±6 | 119±5 | 79±4 | 52±2 | 28±1 | |
| ResNet-50 | 60±2 | 45±2 | 23±1 | 13±0 | 7±0 | ||
| Tesla T4 | MobileNetV2-0.35 | 242±21 | 197±16 | 156±14 | 101±6 | 56±2 | |
| ResNet-50 | 141±7 | 102±5 | 57±3 | 34±1 | 20±0 | ||
| Quadro P400 | MobileNetV2-0.35 | 114±5 | 84±3 | 37±1 | 20±0 | 10±0 | |
| ResNet-50 | 25±0 | 16±0 | 7±0 | 4±0 | 2±0 | ||
| Windows | Intel Xeon Silver CPU 2.1 GHz | MobileNetV2-0.35 | 28±1 | 14±0 | 6±0 | 3±0 | 1±0 |
| ResNet-50 | 23±1 | 9±0 | 3±0 | 2±0 | 1±0 | ||
| GeForce GTX 1080 with Max-Q Design | MobileNetV2-0.35 | 147±17 | 136±15 | 108±6 | 73±3 | 46±1 | |
| ResNet-50 | 107±5 | 93±4 | 54±2 | 32±1 | 18±0 | ||
| GeForce GTX 1080 | MobileNetV2-0.35 | 133±15 | 119±14 | 100±9 | 77±3 | 43±1 | |
| ResNet-50 | 110±5 | 94±3 | 55±1 | 34±1 | 19±0 | ||
| Quadro P1000 | MobileNetV2-0.35 | 129±13 | 115±11 | 72±3 | 43±1 | 22±0 | |
| ResNet-50 | 57±2 | 41±1 | 19±0 | 10±0 | 6±0 | ||
| MacOS | Intel Core i5 CPU 2.4 GHz | MobileNetV2-0.35 | 42±5 | 22±2 | 12±1 | 7±1 | 4±0 |
| ResNet-50 | 9±1 | 4±0 | 2±0 | 1±0 | 0±0 | ||
| Intel Core i7 CPU 3.5 GHz | MobileNetV2-0.35 | 127±10 | 48±3 | 16±1 | 9±1 | 4±0 | |
| ResNet-50 | 30±3 | 10±2 | 3±0 | 2±0 | 1±0 | ||
| Intel Core i9 CPU 2.4 GHz | MobileNetV2-0.35 | 178±15 | 74±16 | 19±3 | 10±1 | 6±0 | |
| ResNet-50 | 35±8 | 14±2 | 6±1 | 4±0 | 2±0 | ||
| Jetson | Xavier | MobileNetV2-0.35 | 79±9 | 68±9 | 59±5 | 44±2 | 27±1 |
| ResNet-50 | 46±2 | 36±1 | 19±0 | 12±0 | 7±0 | ||
| TX2 | MobileNetV2-0.35 | 39±2 | 30±2 | 18±1 | 9±0 | 5±0 | |
| ResNet-50 | 19±1 | 11±0 | 6±0 | 4±0 | 2±0 | ||