Яндекс подтвердил соответствие международному стандарту ответственной разработки ИИ
Яндекс первым в России получил сертификат ISO/IEC 42001. Он подтверждает, что компания ответственно подходит к созданию искусственного интеллекта. Независимый аудит установил, что процессы разработки и предоставления YandexGPT соответствуют всем требованиям стандарта, в том числе в области этики и безопасности.
О стандарте
ISO/IEC 42001:2023 - это международный стандарт для систем менеджмента в организациях, которые разрабатывают или используют решения на основе искусственного интеллекта. Он оценивает не сами ИИ-продукты, а подход к их созданию и внедрению: насколько прозрачно и безопасно действует компания, насколько эффективны её процессы.
YandexGPT - семейство больших языковых моделей (LLM, Large Language Model) Яндекса. Они применяются более чем в 20 сервисах и продуктах компании - среди них Поиск, AI-ассистент Алиса, Нейроэксперт, Реклама, Шедеврум, Умная камера, AI-ассистенты в Маркете, Лавке и Еде. Их используют и клиенты Yandex Cloud - на платформе Yandex Cloud AI Studio.
В ходе проверки эксперты удостоверились, что Яндекс должным образом обеспечивает безопасность данных пользователей YandexGPT, автоматически мониторит ошибки и аномалии в работе моделей, следит за качеством и этичностью ответов, анализирует обратную связь от пользователей и ведёт подробную документацию. Аудит также подтвердил, что Яндекс учитывает этические и социальные риски, связанные с развитием ИИ и обучает сотрудников правилам ответственной разработки.
"Яндекс всегда очень бережно подходил ко всему, что связано с искусственным интеллектом. Мы начали выстраивать процессы, которые обеспечивали бы этичность и безопасность ИИ, задолго до публичного анонса YandexGPT. Получение сертификата - ещё одно подтверждение, что мы всё делаем правильно. Яндекс выступает за ответственное применение ИИ и готов делиться своим опытом с другими российскими компаниями", - дала комментарий Анна Зинчук, руководитель службы комплаенса и обучения информационной безопасности.
Принципы, которых Яндекс придерживается при разработке и использовании ИИ, опубликованы в общем доступе (https://ya.ru/ai/responsible-ai#group_principles). В марте 2024 года Яндекс в составе Альянса в сфере ИИ разработал и подписал декларацию об ответственной разработке и использовании сервисов на основе генеративного ИИ. Компания регулярно вводит новые меры для повышения безопасности своих ИИ-продуктов. Так, с весны 2025 года Яндекс привлекает к проверке своих генеративных нейросетей "белых хакеров" и выплачивает за найденные уязвимости до миллиона рублей.
Источник:
