IEEE 2894-2024
Руководство IEEE по архитектурной структуре для объяснимого искусственного интеллекта

Стандартный №

IEEE 2894-2024

Дата публикации

2024

Разместил

Institute of Electrical and Electronics Engineers (IEEE)

Последняя версия

IEEE 2894-2024

сфера применения

Область применения В этом руководстве представлена технологическая структура, направленная на повышение надежности систем ИИ с использованием технологий и методов объяснимого искусственного интеллекта (XAI). В документе также представлены измеримые решения для оценки систем ИИ с точки зрения объяснимости. В частности, в документе проиллюстрированы следующие аспекты систем XAI: a) Требования к предоставлению понятных человеку объяснений для систем ИИ в различных вариантах использования, например, в здравоохранении и финансовых приложениях b) Подходы к предложению ряда доступных инструментов для предоставления модели ИИ обоснованных объяснений c) Набор измеримых решений для оценки систем ИИ и соответствующей производительности, такой как доступность, устойчивость, точность, безопасность, защищенность и конфиденциальность системы ИИ в таком статусе Цель Ожидается, что системы искусственного интеллекта будут заслуживать доверия и будут придерживаться принципов человеческой этики, включая справедливость, конфиденциальность, прозрачность и т. д. Для достижения надежности требуются базовые механизмы систем ИИ, которые являются прозрачными и понятными для всех заинтересованных сторон систем ИИ. Этот мандат мотивирует изучение различных технологий и методов объяснимого искусственного интеллекта (XAI). Учитывая настоятельную необходимость и глубокое влияние XAI, это руководство направлено на предоставление технологической основы, которая облегчает принятие соответствующих методов, облегчает оценку и сравнение различных подходов и демонстрирует типичные сценарии, в которых XAI может принести большую пользу заинтересованным сторонам системы ИИ и нашему обществу. Аннотация Новый стандарт IEEE - Действует. Новая волна приложений искусственного интеллекта, которые предлагают обширные преимущества для нашей повседневной жизни, была вызвана впечатляющим успехом в области машинного обучения. Однако потеря объяснимости во время этого перехода означает уязвимость к порочным данным, плохое проектирование структуры модели и подозрительность заинтересованных сторон и широкой общественности - все с рядом юридических последствий. ......

IEEE 2894-2024 История

• 2024 IEEE 2894-2024 Руководство IEEE по архитектурной структуре для объяснимого искусственного интеллекта

стандарты и спецификации