Яндекс планирует проверить ИИ на соответствие духовно‑нравственным ценностям.
На августовском совещании по регулированию ИИ Яндекс представил концепцию тестов и эталонов для проверки ИИ на соответствие духовно‑нравственным ценностям.
По участникам совещания и близким к Минцифры сообщили, что проект находится на стадии концепции.
Такие тесты призваны оценивать соответствие ИИ духу времени и ценностям страны.
Детали: пока проект находится на стадии концепции.
На совещании ФСБ настаивала на том, чтобы данные для тестов не становились публичными и разработчики не могли подстроить модели.
Представитель бизнеса отметил, что закрытый датасет может быть слишком сложным для прохождения и не даст быстро развивать модели. Был предложен компромисс — использовать как закрытые, так и открытые данные с разной формулировкой вопросов.
Контекст: в июле был подписан закон о суверенных и национальных моделях ИИ, которые должны соответствовать законам страны и духовно‑нравственным ценностям.
