Яндекс предложил концепцию проверки ИИ на соответствие духовно‑нравственным ценностям, в рамках госрегулирования.
На августовском совещании по регулированию искусственного интеллекта компания представила властям концепцию тестовых заданий и эталонов для оценки ИИ по духовно‑нравственным ценностям.
По словам близких к правительственным кругам источников, подобная методика позволит оценивать соответствие ИИ современным ценностям страны.
Уточняется, что проект пока остается на стадии концепции.
Обсуждался вопрос приватности тестовых данных: представители ФСБ настаивали на недоступности данных для публикации и невозможности отклонения моделей к тестам.
Представители бизнеса отметили, что закрытые датасеты могут быть слишком сложными и мешать быстрому развитию моделей; предложен компромисс — сочетать закрытые и открытые данные с различной формулировкой вопросов.
Контекст: в конце июля президент подписал закон о суверенных и национальных моделях искусственного интеллекта, которые должны соответствовать законам страны и духовно‑нравственным ценностям.
