В отечественной цифровой среде наступила новая эра — эпоха тотального контроля над алгоритмами. В России официально вступил в силу закон, который позволяет IT-компаниям, получившим одобрение от Минцифры, передавать свои большие ИИ-модели на проверку. И не просто куда угодно, а в специальные независимые лаборатории. Видимо, чтобы даже у кремниевых мозгов не возникло соблазна выдать что-то лишнее или неучтенное.
Задачи у этих проверяющих структур поставлены поистине грандиозные. Лаборатории должны будут оценить, насколько каждая модель соответствует российскому законодательству. Но это только верхушка айсберга. Главная миссия заключается в том, чтобы проверить ИИ на соответствие традиционным духовно-нравственным ценностям. Похоже, скоро нам придется объяснять нейросетям, что именно считается «нравственным» в текущем правовом поле, иначе их ждет строгий выговор и запрет на эксплуатацию.
Сама процедура выглядит как классический пример того, как технологический прогресс встречается с бюрократическим надзором. Сначала компания получает добро от Минцифры, затем отправляет свои разработки на экспертизу, где за каждой строчкой кода будут искать признаки нарушения морального облика. Мы уже привыкли к проверкам планов уроков и заполнения бесконечных журналов, так что идея внедрения системы «духовного фильтра» для программного обеспечения вполне вписывается в нашу общую логику контроля всего и вся. Теперь даже математические вероятности в больших моделях будут обязаны соблюдать установленный государством этический стандарт.
Источник: Antochi Новостной
