Производительность CARS API#
В данном разделе представлены значения результатов тестирования CARS API для разных конфигураций оборудования сервера.
Конфигурация сервера#
Эффективность распознавания атрибутов ТС и ГРЗ зависит от параметров входного изображения:
- Размер изображения;
- Количество бит на один цвет.
Тестирование проводилось для изображений, имеющих следующие характеристики:
- Разрешение изображения для нескольких ТС (запрос detector cars): 1920×1080 px;
- Разрешение изображения одно ТС (запрос detector grz): 500х439 px;
- Разрешение изображения ГРЗ: 117x33 px;
- Формат исходных изображений: jpeg.
Параметры тестового сервера представлены в Таблице 31.
Таблица 31. Параметры тестового сервера
| № | Параметр | Значение |
|---|---|---|
| 1 | Процессор (CPU) | Intel(R) Xeon(R) Gold 6240R, Thread(s) per core: 2, Core(s) per socket: 24 |
| 2 | Видеопроцессор (GPU) | Tesla T4 |
| 3 | Частота CPU | 2.40GHz |
| 4 | Оперативная память | 755Gb |
| 5 | Жесткий диск | 240GB INTEL SSDSC2KB24 |
| 6 | Видеопамять | 16Gb |
| 7 | Операционная система | CentOS 8 |
Измерения производительности CARS API представлены для нескольких типов ускорителей (Таблица 32).
Таблица 32. Описание параметров ускорителей при тестировании
| Параметр | Описание |
|---|---|
| AVX2 | Запуск CARS API на сервере с CPU c поддержкой инструкций AVX2 |
| GPU | Запуск CARS API на сервере с GPU |
Представленные в настоящем руководстве значения являются средними величинами, полученными по итогам проведения не менее 100 экспериментов.
В экспериментах по определению атрибутов ТС и ГРЗ, перечисленных в таблице ниже, использовались все доступные ядра центрального процессора.
Результаты проведения тестирования производительности#
Тестирование проводилось с использованием следующих классификаторов:
- car_brand_model_v2;
- vehicle_color;
- vehicle_type;
- vehicle_emergency_type;
- public_transport_type;
- special_transport_type;
- grz_all_countries;
- vehicle_axles;
- vehicle_descriptor_v2.
Запрос /classify для классификаторов#
Таблица 33. Результаты тестирования для запроса classify
|
Параметр |
AVX2 |
GPU |
|
CPU usage (%) |
24,03 |
7,79 |
|
CPU memory (Mb) |
4713 |
5528 |
|
GPU usage (%) |
94,75 |
|
|
GPU memory (Gb) |
2,26 |
|
|
RPS (transactions/s) |
21,09 |
31,93 |
|
Response time (ms) |
484 |
322 |
Запрос /detector с параметрами cars и grz#
Таблица 34. Результаты тестирования для запроса detector с параметрами cars и grz
|
Параметр |
AVX2 |
GPU |
|
CPU usage (%) |
24,2 |
9,37 |
|
CPU memory (Mb) |
5430 |
6218 |
|
GPU usage (%) |
95,5 |
|
|
GPU memory (Gb) |
2,62 |
|
|
RPS (transactions/s) |
14,27 |
23,79 |
|
Response time (ms) для запросов: |
||
|
/detector: cars |
375 |
217 |
|
/detector: grz |
309,3 |
161 |
|
/detector: classify |
561 |
322 |