В День Победы стоит подумать и о войнах будущего, которые будут тесно связаны с технологиями искусственного интеллекта и робототехники.
Совет Европы, созданный нашими союзниками по окончании II Мировой войны, продолжает до 18.00 (20.00 мск) сегодня публичные консультации по теме регулирования ИИ.
При развитии технологий важна оценка их воздействия на права человека.
#ИИ #AI #HRIA #SkyNet

@AI_regulation пишет о формировании позиции России по вопросам регулирования искуственного интеллекта.
Осторожный подход к введению запретов можно только приветствовать. А еще не стоит забывать про развитие оценки воздействия алгоритмических систем, о котором мы писали чуть более года назад
#ИИ #AI #AIIA #TA #TechnologyAssessment

Сегодня на круглом столе "Искусственный интеллект: разумный партнер" XII Международного ИТ-Форума с участием стран БРИКС и ШОС представлен доклад "Этика и цифра: от проблем к решениям", в котором рассмотрено, в том числе и развитие оценки воздействия алгоритмических систем на международном уровне и ее перспективы в России.
Доклад подготовлен нашими коллегами из #РАНХиГС @CDTO_online совместно с коллегами из @AI_regulation @GDPRru @privacy_chat
#ИИ #AI #digital #AIIA #TechnologyAssessment

👉 @robocounsel пишет о проведении ОЭСР публичных консультаций по классификатору систем искусственного интеллекта для их дифференцированного регулирования.
❗ Консультации продлятся до 30 июня 2021 года
#ОЭСР #OECD #ИИ #AI

В Совете Федерации признают важность технологий больших данных и искусственного интеллекта для нормотворчества.

Ирина Рукавишникова  отметила, что тема предполагает обсуждение возможностей использования технологии ИИ для проведения процедур правового мониторинга и анализа правовой информации.
«На сегодняшний день эта деятельность осуществляется в большей мере органами исполнительной власти, но для законодателя, безусловно, это интересно как с точки зрения регулирования, так и с точки зрения использования отдельных элементов. Совершенствование и подготовка законодательных инициатив и поправок должны быть основаны на глубоких аналитических исследованиях правоприменительной практики, статистических данных, подготовку которых сейчас можно доверить, в том числе современным цифровым технологиям, таким как обработка больших данных, искусственный интеллект».
Напомним, что ранее наш эксперт из #РАНХиГС рассмотрел существующие правовые ограничения для применения технологий ИИ в нормотворчестве.
#СоветФедерации #ИИ #нормотворчество

Счетная Палата США (GAO) опубликовала рамочное руководство по оценке применения технологий искусственного интеллекта для органов государственной власти
(Artificial Intelligence:An Accountability Framework for Federal Agencies and Other Entities)
#ИИ #AI #GAO #AuditOffice #US #оценка #TA #TechnologyAssessment

Оценка и аудит алгоритмических систем

Обсерватория политики в отношении ИИ ОЭСР опубликовала обзор методов оценки и аудита алгоритмических систем.
В документе выделены 4 направления оценки / аудита, а также их взаимосвязь с жизненным циклом алгоритмических систем и уровнями их рисков
#ИИ #AI #ОЭСР #OECD #TechnologyAssessment

Депутаты ГосДумы @Hinshtein и @petr_tolstoy активно обсуждают возможность передачи персональных данных по сути в коммерческий оборот.
При этом действительно стоит вспомнить, что достаточно серьезные именения их правового режима предусматриваются в рамках экспериментальных правовых режимов, в том числе "московского эксперимента" по искусственному интеллекту. Возможно, стоит сначала оценить результативность указанных экспериментов, прежде чем вводить общее регулирование?
#PersonalData #ЭПР #ИИ

Как пишет @protivrakaru - готовится к старту один из трех медицинских проектов в рамках нового закона об экспериментальных правовых режимах (ЭПР): компания «Дата МАТРИКС» получила право на оцифровку рутинной клинической практики применения лекарственных средств в РФ.
Исследования рутинной клинической практики планируется проводить с использованием технологий искусственного интеллекта. Согласно заявке, данные будут передаваться оператору в обезличенном виде от медицинской организации по защищенному каналу, а для их обезличивания оператор будет предоставлять специально разработанную программу. На основании результатов исследований субъект ЭПР будет создавать аналитические отчеты о сравнительной эффективности и безопасности лекарственной терапии, а также о тяжести протекания заболеваний. Полученные таким образом аналитические документы могут быть предоставлены на возмездной основе медицинским, фармацевтическим, контрактным исследовательским организациям или физическим лицам, заинтересованным в результатах исследований ‎по конкретному заболеванию.
#эпр #медицина #ИИ

Владислав Федулов: самое важное в законе - понять явление, которое пытаешься регулировать

Замглавы Минэкономразвития рассказал о запуске экспериментальных правовых режимов и внедрении искусственного интеллекта
#МЭР #ЭПР #ИИ

Опубликован AI Index Report 2022 Стэнфордского университета.
В документе отмечается развитие регулирования искусственного интеллекта, в том числе рост числа законопроектов в данной сфере в 25 странах - с одного в 2016 году до уже восемнадцати в 2021 году.
#ИИ #AI

Новая статья про регулирование искусственного интеллекта в Евросоюзе (доступна через open access format журнала Policy Sciences):
The Politics of Artificial Intelligence regulation and governance reform in the European Union.
#EU #AI #ИИ
https://link.springer.com/article/10.1007/s11077-022-09452-8

В госкорпорации «Росатом» разработан прототип модуля «Интеллектуальный анализ проектной документации», который предполагает применение технологий искусственного интеллекта и машинного обучения для распознавания требований в нормативной документации.
#ИИ #AI #Росатом

Заместитель председателя Правительства России Дмитрий Чернышенко поручил федеральным органам исполнительной власти до конца 2022 года представить в кабмин перечень решений по снятию барьеров, сдерживающих широкомасштабное внедрение искусственного интеллекта в отраслях экономики.

#барьеры #ИИ

Присоединяемся к челленджу “Поговори о регуляторике с @AIGPT4bot !”
#GPT #AI #ИИ #регуляторика

🗣 CEO OpenAI Сэм Альтман выступил на днях в сенате США

В основном на заседании шла речь о регуляции новых масштабных ИИ-моделей, которые могут появиться в ближайшем будущем.

🔹Альтман просит сенат создать ИИ-агентство, своеобразный аналог МАГАТЭ в США, которое бы регулировало такие ИИ-модели и процедуры.

🔹Также обсуждали риски искусственного интеллекта и проблему защиты персональных данных. Отчасти потому, что в США все еще нет федерального закона по обработке персональных данных пользователей.

💡Интересный момент, в сенате понимают, что жесткое регулирование может навредить ИИ-энтузиастам и замедлить индустрию ИИ в стране.

В то же время этого совершенно не боятся в Европе.

📑 11 мая был предложен черновой вариант Европейского AI Act, согласно которому теперь каждая ИИ-модель будет требовать лицензирования для использования в Европе.

По сути акт поставит вне закона open source решения, так как разработчики не будут тратить время и деньги на лицензирование.

Так что со своим желанием зарегулировать всё на корню европейцы «стреляют себе в ногу».

Необходима ли регуляция ИИ?

Я считаю, что она жизненно важна, т. к. крупные корпорации, способные натренировать такие модели несут ответственность перед обществом в любой стране.

Безусловно, искусственный интеллект – это будущее, но в то же время неизвестно какие опасности и риски он в себе таит.

Исторически обычно было так, что правила безопасности писались кровью.

Появлялась новая технология ➡️ она приводила к гибели множества людей ➡️ затем уже формировались правила.

Так было
📍и с различными производствами,
📍и с ядерной энергетикой,
📍и даже с ремнями безопасности в автомобилях.

В случае же с AI, риски слишком высоки чтобы вновь разрабатывать правила эмпирическим путём, только после того, как вскроются проблемы и от них пострадают люди.

⚖️ Но важен баланс, слишком строгие правила ограничат развитие технологии.

Посмотрим, о чем договорятся в итоге в США, ведь этот момент войдет в историю человечества.

#ИИ #регулирование

@bitkogan

Искусственный интеллект заменит врачей?

🔶️ Недавно в статье Today была рассказана история Алекса, который с четырех лет испытывал хроническую боль, трудности с ходьбой и неконтролируемые перепады настроения. Мать ребенка три года пыталась выяснить причину болезни — за это время они посетили 17 врачей от педиатра до стоматолога. В итоге женщина обратилась к искусственному интеллекту. Всемизвестный Chat GPT поставил мальчику редкий диагноз — расщепление позвоночника и порок развития спинного мозга. Алексу провели операцию, которая помогла избавиться от болезни. 

❓ Сможет ли искусственный интеллект заменить врачей?
❗ Отвечает профессор кафедры информационного права и цифровых технологий Университета имени О.Е. Кутафина (МГЮА) Алексей Ефремов: 
«Применение цифровых технологий, в том числе технологий обработки больших данных и искусственного интеллекта - уже достаточно распространенное явление. Огромную помощь московских врачам во время пандемии COVID-19 оказали технологии анализа снимков легких больных. Вместе с тем, помощь цифровых технологий при постановке диагноза - это именно помощь, а решение должно оставаться за живым человеком - врачом».

🔶️ Вопросы же юридической ответственности за решения, принятые системами ИИ, пока остаются предметом дискуссии, существуют различные подходы к определению ее субъекта.
«Я поддерживаю ту точку зрения, что само принятие решения должно оставаться за человеком, даже на основе рекомендаций систем ИИ, и он должен оставаться субъектом юридической ответственности. Тем более, что практика такой ответственности очень сложная в настоящее время» — отмечает Алексей Ефремов

#МГЮА #ИИ #AI #телемедицина

Новый дивный мир - с встроенной самоцензурой ИИ.

«При этом теперь модель теряет в креативности генерации, признал Греф: «Мы последние полгода модель не могли выставить, потому что мы закручивали настройки безопасности. При этом модель в общем доступе потеряла 12% в креативности и точности. Нам придется пройти через этот период. Нужна помощь государства в снисхождении и понимании, что мы как дети пока здесь, — нас сильно не судить. Потому что когда разработчиков и нас пригласили в прокуратуру… Хорошо, что прокурор такой современный попался, с чувством юмора, — он все изучил, и, слава богу, нас никуда не привлекли. Он сказал: ребята, давайте идите работайте, но будьте поаккуратнее. Могло бы быть иначе».
#ИИ #прокуратура #сбербанк
https://www.rbc.ru/finances/08/11/2023/654b54359a79471eee235b36

Мы не раз ранее обращались к теме обеспечения расчетов МСИ верифицированными данными (в таких расчетах нет ничего суперсложного, но сложен исходный шаг - создать базы данных по затратам и затем поддерживать их в актуальном состоянии).

Обратимся к Стратегии в области данных, разработанной Еврокомиссией ещё в 2020 году.

«Создание единого пространства данных частного и государственного секторов ради их использования на благо всего общества» - так можно сформулировать основную цель этой Стратегии.

Неперсональные данные, генерируемые агентами экономических отношений, несут в себе большой потенциал для инновационного развития территорий. Граждане и органы власти должны иметь доступ к ним, ведь это откроет для них возможности доказательного (data-driven) принятия решений, для чего и понадобится межсекторальный фреймворк данных.

К настоящему времени уже вступили в силу четыре ключевых документа, регулирующих аспекты управления данными на территории ЕС (+ на стадии разработки находится проект по регулированию ИИ). Главный из них – «The Data Act» - начнет исполняться с 2025. В нём прописана нормативная база шеринга данными, которая существенно расширяет возможности доступа к ним как потребителей/бизнеса, так и органов власти. Закреплены такие важнейшие понятия, как «Интернет вещей» и «связанные товары» (connected products).

Отдельно подчеркивается обязанность бизнеса предоставлять имеющиеся данные государству, когда это необходимо, например, в чрезвычайных ситуациях или когда иные способы доступа к данных не позволили их получить (для срочных задач управления/регулирования). Предполагается компенсация бизнесу со стороны государства за понесенные издержки по предоставлению информации.

#МСИ #IoT #Еврокомиссия #данные #data #DataDriven #ИИ #AI