Этику ИИ определит Кодекс

27 окт 2021 02:40 #106004 от ICT
"Технологии искусственного интеллекта постепенно внедряются в самые разные сферы жизни, включая образование, здравоохранение, госуправление. По данным ВЦИОМа, около 48% россиян доверяют ИИ. Это достаточно высокая цифра. Но пока у части общества неоднозначное отношение к таким технологиям, и это то, над чем нам надо работать. Обществу нужен надежный ИИ с вероятностью ошибки ниже, чем у человека. Права и свободы граждан гарантированы Конституцией. Наша обязанность – реализовать механизмы по их защите, независимо от среды, в которой находится человек. Соблюдение этических норм при работе с ИИ позволит предотвратить их нарушение. Поэтому Правительство приветствует подписание профессиональным сообществом Кодекса этики ИИ, он позволит повысить уровень доверия граждан к новым технологиям. Опираясь на лучшие практики, Россия входит в десятку стран, для которых этичность развития важнейшей технологии XXI века имеет государственное значение", – отметил заместитель председателя Правительства России Дмитрий Чернышенко. Вице-премьер отметил, что указом Президента утверждена Национальная стратегия развития ИИ до 2030 года и работа над кодексом шла с учетом ее требований. Кодекс станет частью федерального проекта "Искусственный интеллект" и Стратегии развития информационного общества на 2017-2030 годы. Документ поделен на два раздела, куда входят в том числе такие темы, как стимулирование развития ИИ, повышение осведомленности об этике применения ИИ, идентификация ИИ в общении с человеком и информационная безопасность. К разработке кодекса было привлечено свыше 500 экспертов, получено и проработано более 300 различных предложений и замечаний. Организационно активно участие принимали Аналитический центр Правительства и Минэкономразвития. Документ охватывает не только разработчиков, но и ученых, потребителей, поставщиков ИТ-решений. Принципы и положения, которые удалось выработать, полностью соответствуют рекомендациям ЮНЕСКО в сфере ИИ и содействуют достижению целей устойчивого развития, определенных ООН. Событие прошло в рамках I международного форума "Этика искусственного интеллекта: начало доверия". Пленарная сессия, которая проходила под темой "Национальная концепция этического регулирования искусственного интеллекта", завершилась торжественной церемонией подписания вышеупомянутого кодекса этики ИИ. С помощью электронной подписи "Госключ" документ подписали Сбер, "Газпром нефть", "Яндекс" VK, МТС и Российский фонд прямых инвестиций, а также представители "Сколково", "Ростелекома", Росатома, InfoWatch и ЦИАН. "Сегодня организации-лидеры поставили свои подписи под кодексом. Ожидаем, что до конца года его подпишут более 100 организаций из государственного, коммерческого и научного секторов. Правительство приложит все необходимые организационные усилия, чтобы этические принципы ИИ нашли практическую реализацию в разных сферах: в госуправлении, здравоохранении, на транспорте, где благополучие людей в приоритете", – заключил Дмитрий Чернышенко, отметив, что система искусственного интеллекта должна быть абсолютно безопасна для человека. Кодекс этики устанавливает общие этические принципы и стандарты поведения, которыми могут руководствоваться участники отношений в сфере искусственного интеллекта. Он провозглашает человеко-ориентированный и гуманистический подход при развитии технологий ИИ, принципы недискриминации, безопасности работы с данными и информационной безопасности, идентификации ИИ в общении с человеком и уважения автономии воли человека, ответственности за последствия применения ИИ. "Многие считают, что технологии искусственного интеллекта неоднозначны: с одной стороны, это мощный драйвер развития для всего человечества, с другой – ИИ обладает некоторой степенью автономности в принятии им решений, и не всегда очевидно, как эти решения принимаются. Поэтому сегодня перед всеми нами стоит большая цель – выработать доверие к технологиям ИИ, а это невозможно без определения правил их этичного применения. Уверен, что принятый кодекс, в разработке которого активное участие принял Сбер, станет важным шагом в укреплении доверия граждан нашей страны к ИИ и, как следствие, в развитии всей отечественной отрасли искусственного интеллекта", - заявил первый заместитель председателя правления Сбера Александр Ведяхин. Приверженность Кодексу станет ключевым элементом социальной ответственности компаний, разрабатывающих и внедряющих технологии ИИ в России. Планируется, что Кодекс этики в сфере искусственного интеллекта станет рекомендательным документом по этике для всех участников рынка ИИ: государства, бизнеса, российских и иностранных разработчиков. Кодекс устанавливает общие этические принципы и стандарты поведения, которыми могут руководствоваться участники отношений в сфере искусственного интеллекта. Президент МТС Вячеслав Николаев отметил, что именно решения на основе технологии искусственного интеллекта уже в ближайшее время могут обеспечить настоящий прорыв в части цифровизации здравоохранения, образования, не говоря уже о решении повседневных задач. "Вместе с тем искусственный интеллект сегодня можно с уверенностью назвать технологией, которая вызывает наибольшую тревогу в обществе. Поэтому сейчас самое время определить принципы, которые помогут использовать технологии искусственного интеллекта с максимальной пользой для общества. В МТС этическим вопросам при разработке продуктов, в том числе на базе искусственного интеллекта, всегда уделялось повышенное внимание, и мы рады поделиться этим опытом в рамках разработки общероссийского кодекса этики ИИ", - подчеркнул Вячеслав Николаев. В пресс-службе МТС добавили, что высокотехнологичные компании, которые руководствуются этическими правилами при создании решений на основе ИИ, получат дополнительное конкурентное преимущество. В компании отметили, что вопрос касается и коммерческой успешности продуктов, особенно в таких чувствительных сферах, как персональные или медицинские данные. Обеспечение бизнесом открытости, связанной с решениями на основе ИИ информации, станет основой повышения доверия к технологии в целом. "Данный кодекс содержит все ключевые направления и необходимые инструменты эффективного этического регулирования: назначение уполномоченного по этике внутри компании, создание национальной комиссии по этике, разработку недискриминационных методик, утверждение лучших практик в сфере ИИ, процедуры этической оценки. Предусмотрено также сотрудничество разработчиков по обмену информацией о выявленных этических уязвимостях, о способах повышения качества и доступности ресурсов, создания условий для развития образования", - отметили в МТС. "Сам кодекс, по сути, является моделью угроз, в котором часть угроз попытались оценить и предотвратить. В частности, ответственность за принятие решений должно оставаться за человеком, есть обязательность уведомления человека о том, что в данный момент с ним общается система ИИ", - сообщила генеральный директор Infowatch Наталья Касперская. Начальник Управления Администрации президента РФ по развитию ИКТ и инфраструктуры связи Татьяна Матвеева подчеркнула, что кодекс открыт для подписания не только российскими компаниями, но и иностранными. По ее словам, тем самым будет сохраняться баланс, ведь кодекс позволит российским компаниям-разработчикам достаточно уверенно себя чувствовать в рамках различных международных площадок, уверенно выводить свои продукты на международные рынки, и продукты, которые соответствуют кодексу, будут приниматься в том числе и зарубежным сообществом. "Положения кодекса этики ИИ с течением времени должны пересматриваться в соответствии с возможными новыми вызовами, которые будут вставать в рамках развития новых технологий", - обозначила один из ключевых факторов Татьяна Матвеева. В качестве инструмента реализации вышеупомянутых принципов и положений кодексом предусмотрено создание Национальной комиссии по этике ИИ, назначение уполномоченных по этике, а также возможность создания коллегиальных отраслевых органов по этике. Альянс также займется разработкой методических рекомендаций и свода наилучших практик решения возникающих этических вопросов в жизненном цикле ИИ. "Формирование и развитие рынка ИИ-технологий требует эффективного взаимодействия его участников. Совместная подготовка, принятие и дальнейшее использование Кодекса этики – важный этап формирования ключевых инструментов инфраструктуры и создания историй успеха для разработчиков, пользователей и инвесторов в сфере искусственного интеллекта. РФПИ вместе с соинвесторами и портфельными компаниями фонда традиционно большое внимание уделяет вопросам этики и репутации, поэтому готов активно делиться собственным и перенимать передовые опыт и практики", - подчеркнул первый заместитель Генерального директора Российского фонда прямых инвестиций (РФПИ) Анатолий Браверман. Архитектор Softline digital Николай Князев отмечает, что кодекс содержит благие пожелания, подсвечивая вопросы, о которых много говорят во всех странах. Эксперт приводит в пример методы, внедреннные в Microsoft Azure, которые проверяют, не обучилась ли модель дискриминации по национальному или религиозному признаку, для чего используются инструменты отслеживания и контроля моделей ИИ. Он добавляет, что работы о контроле самообучения группы OpenAI были одни из самых обсуждаемых несколько лет назад, и обращает внимание, что на центральной конференции разработчиков нейронных сетей NeurIPS оценка социальных последствий - обязательный раздел любой научной статьи. "Данные пункты кодекса указывают разработчику модели машинного обучения неочевидные моменты куда стоит обратить внимание, и это безусловно разумно. Некоторые из пунктов явно инспирированы футурологами, более близкими к книгам, чем к практической науке, например пункт 2.4. о недопустимости использования систем, где есть возможность причинения вреда имуществу или окружающей среде. Это напоминает правила фантаста Азимова, однако такой подход абсурден, если говорить о прямом применении (любые устройства прямо или косвенно наносят урон окружающей среде). В любом случае в кодексе поднимаются темы, о которых нужно говорить и искать ответы на поставленные вопросы", - резюмирует Николай Князев, высказав мнение, что стоит уделять больше внимания интерпретируемости моделей, ведь все опасения появляются, когда мы видим в ИИ "черный ящик" и развеиваются, когда мы понимаем как он принимает решения. Директор по продуктовой стратегии Группы Т1 Сергей Иванов заметил, что вопрос зависимости человеческих жизней и здоровья от итогов работы тех или иных алгоритмов будет заостряться именно по причине отсутствия морали, этики и подобных человеческих качеств в автоматизированных решениях. "Принятие кодекса - правильный и во многом неизбежный шаг. Однако документ не имеет обязательного статуса, ограничиваясь только рекомендациями. Кроме того, любая передовая технология развивается и усложняется: зафиксированные сейчас в Кодексе подходы вряд ли будут отвечать вызовам и уровню технологии через 10 лет. Скорее всего мы увидим достаточно регулярный процесс верификации (актуализации), а не статический свод "правил", - заключил Сергей Иванов. Ссылка на источник


  • Сообщений: 75474

  • Пол: Не указан
  • Дата рождения: Неизвестно
  • Пожалуйста Войти или Регистрация, чтобы присоединиться к беседе.

    Похожие статьи

    ТемаРелевантностьДата
    Этику ИИ определит Кодекс26.95Вторник, 26 октября 2021
    LTE определит будущее M2M8.56Вторник, 06 сентября 2016
    Правительство само определит, как контролировать персональные данные8.2Понедельник, 10 октября 2016
    Экспертная комиссия определит информацию, запрещенную к распространению8.2Понедельник, 27 марта 2017
    Роскомнадзор определит требования к методам блокировки сайтов8.2Четверг, 21 сентября 2017
    Беспроводной назубный сенсор определит химический состав еды8.2Понедельник, 26 марта 2018
    Правительство определит порядок контроля за обработкой персональных данных8.11Понедельник, 10 октября 2016
    Полиграф определит авторов «слива» рабочего ролика в сеть8.11Пятница, 11 октября 2019
    «МегаФон» с помощью больших данных определит загрузку общественного транспорта8.02Четверг, 09 сентября 2021
    «Всегда быть в маске…» там, где необходимо Видеоаналитика определит нарушителей масочного режима7.94Четверг, 14 мая 2020

    Мы в соц. сетях