Производительность CARS API#
В данном разделе представлены значения результатов тестирования CARS API для разных конфигураций оборудования сервера.
Конфигурация сервера#
Эффективность распознавания атрибутов ТС и ГРЗ зависит от параметров входного изображения:
- Размер изображения;
- Количество бит на один цвет.
Тестирование проводилось для изображений, имеющих следующие характеристики:
- Разрешение изображения ТС: 500х439 px;
- Разрешение изображения ГРЗ: 117x33 px;
- Формат исходных изображений: jpeg.
Параметры тестового сервера представлены в Таблице 31.
Таблица 31. Параметры тестового сервера
| № | Параметр | Значение |
|---|---|---|
| 1 | CPU | Model name: Intel(R) Xeon(R) Gold 6240R CPU, Thread(s) per core: 2, Core(s) per socket: 24 |
| 2 | Частота CPU | 2.40GHz |
| 3 | Оперативная память | 755Gb |
| 4 | Жесткий диск | 240GB INTEL SSDSC2KB24 |
| 5 | Видеопамять | 15109MiB |
| 6 | Операционная система | CentOS 8 |
Измерения производительности CARS API представлены для нескольких типов ускорителей (Таблица 32).
Таблица 32. Описание параметров ускорителей при тестировании
| Параметр | Описание |
|---|---|
| CPU | Запуск CARS API на сервере с центральным процессором (CPU) без поддержки инструкций Advanced Vector Extensions 2 (AVX2) |
| AVX2 | Запуск CARS API на сервере с CPU c поддержкой инструкций AVX2 |
| GPU | Запуск CARS API на сервере с GPU |
Представленные в настоящем руководстве значения являются средними величинами, полученными по итогам проведения не менее 100 экспериментов.
В экспериментах по определению атрибутов ТС и ГРЗ, перечисленных в таблице ниже, использовались все доступные ядра центрального процессора.
Результаты проведения тестирования производительности#
Тестирование проводилось с использованием следующих классификаторов:
- car_brand_model_v2;
- vehicle_color;
- vehicle_type;
- vehicle_emergency_type;
- public_transport_type;
- special_transport_type;
- grz_all_countries;
- vehicle_axles;
- vehicle_descriptor_v2.
Запрос /classify для классификаторов#
Таблица 33. Результаты тестирования для запроса classify
| Параметр | CPU | AVX2 | GPU |
|---|---|---|---|
| CPU usage (%) | 24,64 | 24,03 | 7,79 |
| CPU memory (Mb) | 5676 | 4713 | 5528 |
| GPU usage (%) | - | - | 94,75 |
| GPU memory (Gb) | - | - | 2,26 |
| RPS (transactions/s) | 6,57 | 21,09 | 31,93 |
| Response time (ms) | 1627,55 | 484 | 322 |
Запрос /detector с параметрами cars и grz#
Таблица 34. Результаты тестирования для запроса detector с параметрами cars и grz
| Параметр | CPU | AVX2 | GPU |
|---|---|---|---|
| CPU usage (%) | 18,35 | 24,2 | 9,37 |
| CPU memory (Mb) | 8217 | 5430 | 6218 |
| GPU usage (%) | - | - | 95,5 |
| GPU memory (Gb) | - | - | 2,62 |
| RPS (transactions/s) | 3,92 | 14,27 | 23,79 |
| CARS Response time (ms) | 1399 | 375 | 217 |
| GRZ Response time (ms) | 1401 | 309,3 | 161 |