Новые требования к ИИ: тесты на духовно‑нравственные ценности
Во время августовского совещания по регулированию искусственного интеллекта «Яндекс» представил властям концепцию тестовых заданий и эталонов проверки ИИ на соответствие духовно‑нравственным ценностям.
По словам собеседников, проект на данный момент реализуется как концепция.
Собеседники отметили, что конфиденциальность тестовых данных критична: датасеты не должны становиться общедоступными и не должны позволять легко подстроить модели под тест.
Предложение — сочетать закрытые и открытые данные с разной формулировкой вопросов, чтобы проверить устойчивость моделей.
Контекст: в июле президент подписал закон о суверенных и национальных моделях ИИ, которые должны соответствовать законам России и нравственным ценностям.
Контекст и перспективы
Эксперты отмечают, что такой подход может повлиять на развитие отрасли и регулирование ИИ в стране.
