Надежный ИИ

Стандарты ИИ для надежности и конфиденциальности данных

Надежный ИИ относится к системам искусственного интеллекта, разработанным и внедренным таким образом, чтобы быть прозрачными, надежными и уважать конфиденциальность данных.

Надежный ИИ использует ряд технологий повышения конфиденциальности (PET), включая гомоморфное шифрование , федеративное обучение , безопасные многосторонние вычисления , дифференциальную конфиденциальность , доказательство с нулевым разглашением . ^[1]^[2]

Концепция заслуживающего доверия ИИ также охватывает необходимость того, чтобы системы ИИ были объяснимыми , подотчетными и надежными. Прозрачность в ИИ подразумевает, что процессы и решения систем ИИ понятны пользователям и заинтересованным сторонам. Подотчетность гарантирует наличие протоколов для устранения неблагоприятных результатов или предубеждений , которые могут возникнуть, с назначенными обязанностями по надзору и исправлению. Надежность и безопасность направлены на обеспечение того, чтобы системы ИИ работали надежно в различных условиях и были защищены от вредоносных атак. ^[3]

Стандартизация МСЭ

Trustworthy AI также является рабочей программой Международного союза электросвязи , агентства Организации Объединенных Наций , инициированной в рамках его программы AI for Good . ^[2] Ее истоки лежат в работе Фокус-группы МСЭ-ВОЗ по искусственному интеллекту для здравоохранения , где острая потребность в конфиденциальности в то же время, как и потребность в аналитике, создала спрос на стандарт в этих технологиях.

Когда в 2020 году проект «ИИ во благо» перешел в онлайн-формат, была инициирована серия семинаров TrustworthyAI, чтобы начать обсуждение такой работы, что в конечном итоге привело к мероприятиям по стандартизации. ^[4]

Многопартийные вычисления

Безопасные многосторонние вычисления (MPC) стандартизируются в рамках «Вопроса 5» (инкубатора) Исследовательской группы 17 МСЭ-Т . ^[5]

Гомоморфное шифрование

Гомоморфное шифрование позволяет выполнять вычисления на основе зашифрованных данных, где результаты или результат все еще зашифрованы и неизвестны тем, кто выполняет вычисления, но могут быть расшифрованы исходным шифровальщиком. Его часто разрабатывают с целью обеспечения возможности использования в юрисдикциях, отличных от юрисдикций создания данных (например, в соответствии с GDPR ). ^{[ необходима цитата ]}

ITU сотрудничает с самого начала совещаний по стандартизации HomomorphicEncryption.org , на которых был разработан стандарт гомоморфного шифрования. 5-е совещание по гомоморфному шифрованию прошло в штаб-квартире ITU в Женеве . ^{[ необходима цитата ]}

Федеративное обучение

Маски с нулевой суммой, используемые в федеративном обучении для сохранения конфиденциальности, широко используются в мультимедийных стандартах Исследовательской группы 16 МСЭ-Т ( VCEG ), таких как JPEG , MP3 и H.264 , H.265 (он же MPEG ). ^{[ необходима ссылка ]}

Доказательство с нулевым разглашением

Предыдущая предстандартизационная работа по теме доказательства с нулевым разглашением была проведена в фокус-группе МСЭ-Т по технологиям цифрового реестра. ^{[ необходима ссылка ]}

Дифференциальная конфиденциальность

Применение дифференциальной конфиденциальности для сохранения конфиденциальности рассматривалось на нескольких семинарах по машинному обучению «Дня 0» на всемирных саммитах AI for Good. ^{[ необходима ссылка ]}

Смотрите также

Ссылки

^ "Advancing Trustworthy AI - US Government". Национальная инициатива по искусственному интеллекту . Получено 24.10.2022 .
^ ab "TrustworthyAI". ITU . Архивировано из оригинала 2022-10-24 . Получено 2022-10-24 .
В данной статье использован текст из этого источника, предоставленного Международным союзом электросвязи по лицензии CC BY 4.0.
^ ««Доверенный ИИ» — это структура, помогающая управлять уникальными рисками». MIT Technology Review . Получено 2024-06-01 .
^ "Серия семинаров TrustworthyAI". AI for Good . Получено 24.10.2022 .
^ Шульман, Р.; Грин, Р.; Глинн, П. (2006-03-21). «Достигает ли внедрение компьютеризированного, поддерживающего принятие решений интенсивного протокола инсулинотерапии жесткого гликемического контроля? Проспективное наблюдательное исследование». Critical Care . 10 (1): P256. doi : 10.1186/cc4603 . ISSN 1364-8535. PMC 4092631 .

[1] "Advancing Trustworthy AI - US Government". Национальная инициатива по искусственному интеллекту . Получено 24.10.2022 .

[:0-2] "TrustworthyAI". ITU . Архивировано из оригинала 2022-10-24 . Получено 2022-10-24 .
В данной статье использован текст из этого источника, предоставленного Международным союзом электросвязи по лицензии CC BY 4.0.

[3] ««Доверенный ИИ» — это структура, помогающая управлять уникальными рисками». MIT Technology Review . Получено 2024-06-01 .

[4] "Серия семинаров TrustworthyAI". AI for Good . Получено 24.10.2022 .

[5] Шульман, Р.; Грин, Р.; Глинн, П. (2006-03-21). «Достигает ли внедрение компьютеризированного, поддерживающего принятие решений интенсивного протокола инсулинотерапии жесткого гликемического контроля? Проспективное наблюдательное исследование». Critical Care . 10 (1): P256. doi : 10.1186/cc4603 . ISSN 1364-8535. PMC 4092631 .