GB/T 45087-2024
Метод тестирования производительности серверной системы искусственного интеллекта (Англоязычная версия)
- Стандартный №
- GB/T 45087-2024
- язык
- Китайский, Доступно на английском
- Дата публикации
- 2024
- Разместил
- General Administration of Quality Supervision, Inspection and Quarantine of the People‘s Republic of China
- Последняя версия
- GB/T 45087-2024
- сфера применения
-
Анализ основного содержания стандарта
Тип теста Ключевые показатели Тестовый режим Типичные сценарии Тест производительности обучения Время, пропускная способность, энергопотребление, использование ресурсов Закрытый режим/Открытый режим 11 моделей, включая ResNet50/LLaMa2 Тест производительности вывода Задержка, пропускная способность, опорное давление, количество видеоканалов 5 режимов поступления заданий 9 Сценариев, включая OCR/распознавание лиц
Технологическая эволюция и стандартные инновации
Этот стандарт впервые устанавливает тестовую систему, охватывающую весь жизненный цикл серверов ИИ. Основные прорывы включают в себя:
- Предложение требований к тестам для девяти типов точности вычислений, включая BF16/TF32
- Определение спецификации измерения эпохи для распределенного обучения
- Инновационное введение показателей энергоэффективности (МБ/кВт·ч)
- Добавление тестовых сценариев, таких как LLaMa2-70B, для больших моделей
Сравнение основных методов тестирования
Типичные конфигурации для обучения и тестирования
Элементы Закрытый режим Открытый режим Структура модели Неизменяемая Настраиваемая Предварительная обработка данных Строго ограничено Оптимизация разрешена Размер пакета Фиксированное значение Динамически настраиваемый
Предложения по реализации
- Конфигурация оборудования: Тестовая система должна поддерживать пропускную способность шины PCIe 4.0 x16 или выше
- Спецификация журнала: Необходимо записывать [метку времени]-[количество испытаний]-[точность] каждого периода обучения
- Гарантия справедливости: Изменение функции расчета индикатора во время теста запрещено
- Оптимизация энергоэффективности: Для горизонтального сравнения рекомендуется использовать индикатор коэффициента энергоэффективности в Приложении E
GB/T 45087-2024 История
- 2024 GB/T 45087-2024 Метод тестирования производительности серверной системы искусственного интеллекта
