Инициатива призвана защитить потребителя от возможных ошибок алгоритмов и обеспечить право на человеческий контроль, особенно в социально значимых сферах. Как пояснил ведущий эксперт в области ИИ «Университета 2035» Ярослав Селиверстов, потребность в отказе от нейросетей наиболее остро возникает там, где цена ошибки высока или нужен учет уникальных обстоятельств.
Речь идет о медицинской диагностике, экстренной помощи, юридических консультациях и финансовых рекомендациях, где автоматическое решение способно навредить из-за неспособности алгоритма корректно оценить конкретную ситуацию. Кроме того, возможность поговорить с живым человеком критически важна в стрессовых ситуациях и для людей, не имеющих опыта работы с цифровыми сервисами.
Впрочем, эксперты предупреждают о возможных издержках. Директор Института исследований интернета Карен Казарян назвал законопроект «сырым»: если клиенты банков, авиакомпаний и сотовых операторов начнут массово требовать человеческого участия, это приведет к росту расходов, раздуванию штатов и в конечном итоге — к удорожанию тарифов.
Более того, есть сферы, где без ИИ обойтись технически невозможно — например, заказ такси или использование навигаторов, где участие человека просто не предусмотрено. В Т2 и Wildberries&Russ призвали соблюдать баланс, чтобы новое регулирование не ухудшило пользовательский опыт и не замедлило обслуживание.
Примечательно, что документ также обязывает разработчиков тестировать нейросети на предмет противоправного использования и исключать функции, ведущие к дискриминации. Если решение ИИ затрагивает права и свободы человека, пользователя должны об этом уведомить.
В Минцифры подчеркнули, что развитие технологий остается приоритетом, но их применение должно идти рука об руку с соблюдением прав граждан. Россия в этом вопросе идет в русле мирового тренда: ЕС уже принял AI Act с требованиями прозрачности, а в США декабрьский указ закрепил право граждан на согласие с использованием их данных для обучения алгоритмов.
Госдума обсудит расширение использования материнского капитала.
Ранее юрист объяснил, как сохранить прожиточный минимум при списании долгов.