Персональные данные для машинного обучения

На http://privacyforum.ru/ сегодня обсудили итоги года в области регулирования персональных данных и перспективы создания коммерческих продуктов на их основе.

Моё выступление можете увидеть в записи трансляции (первые 60 минут):

https://www.youtube.com/watch?v=cOkFdIFINKY

В частности, я затронул проблему использования персональных данных для создания обученных моделей в исследовательских песочницах данных.

В развитие этой темы можно сказать следующее.

Подобные модели представляют собой программы для ЭВМ, сами по себе не содержат персональных данных и составляют основу новых ИТ-продуктов и решений, как коммерческих так и государственных.

Представляется, что дополнительные риски для граждан использованием их персональных данных для создания таких программ не создаются при следующих условиях:
- адекватное обезличивание персональных данных, поступающих в песочницу,
- организационный и технический контроль целевого использования этих данных и доступа к ним со стороны исследователей данных,
- организационный и технический контроль запрета на извлечение обезличенных персональных данных из песочницы (разрешается извлечение только самих моделей, которые были обучены на данных).

Пользователи готовы установить приложение для КОВИЗ-19 от Гугла, но не от Фейсбука

Вышло свежее интересное исследование настроений публики по вопросу отслеживания контактов в связи с пандемией КОВИЗ-19.

Помимо прочего, пользователи предпочитают доверять тем компаниям, которые считают компетентными и имеющими подходящие ресурсы.

Simko L and others, ‘COVID-19 Contact Tracing and Privacy: A Longitudinal Study of Public Opinion’ (2020) 37 Proceedings of the ACM on Measurement and Analysis of Computing Systems <http://arxiv.org/abs/2012.01553>

https://yangx.top/ICT_Moscow/4460

Кажется, первые нормативные акты, реализующие положения нашей Концепции регулирования ИИ. Интересно наблюдать за тем, как описанные в ней тезисы и принципы внедряются в правовую систему.

Майкрософт получил патент на чатбота, имитирующего конкретного человека

https://tinyurl.com/msbotpat

Запатентованное решение предполагает, что из различных источников создаётся агрегированный "индекс личности", на котором чатбот обучается её имитировать.

Возникают вопросы. Обсудим в комментариях?

1. Личные неимущественные права

В отношении живого человека такой чатбот вряд ли может быть создан без его согласия — иное было бы нарушением его личных неимущественных прав.

В частности, в последней редакции ГК КНР, вступившей в силу недавно, появилась прямая норма об этом.

2. Разумные ожидания и интересы других лиц

Чатбот, как минимум, не должен вводить в заблуждение других лиц в вопросе о том, с чем они в действительности взаимодействуют.

3. Этика и публичный порядок

Отдельный вопрос — совместимо ли использование такого чатбота, и при каких условиях, с уважением к человеческому достоинству, в том числе умерших?

4. Ценность и последствия получения такого патента

Тут интересно мнение @vychislit_po_IP

Опрос ИИ-разработчиков

ICT.Moscow проводят исследование о реалиях и барьерах, с которыми сталкивается отрасль. Результаты обещают опубликовать в марте.

Опрашивают руководителей профильных проектов и подразделений из бизнеса, госсектора и академсреды/НКО.

Если это ваш профиль, есть смысл поучаствовать — исследование будет более репрезентативным.

https://yangx.top/ICT_Moscow/4510

Человекоцентричный ИИ в Хельсинки

Интересно, какие ИИ-системы применяет город? На каких наборах данных они натренированы? Какие риски осознаются и как адресуются эксплуатантом?

Для того, чтобы быть более прозрачным перед жителями в этих вопросах, город создал сайт с реестром своих ИИ-систем и информацией о них.

Через этот же сайт они собирают обратную связь от жителей, чтобы сделать городской ИИ более человекоцентричным.

Инициатива кажется нам более чем достойной для воспроизведения в российских условиях.

https://ai.hel.fi/en/ai-register/

Вебинар: Применение распознавания лиц в уголовном судопроизводстве

Когда:
2 февраля 2021 (вторник), с 16:00 до 18:00 по Москве.

Спикеры:
- Томас Ламперт (Ph.D), зав. кафедрой ИИ и анализа данных, Страсбургский университет,
- Кейт Робертсон, юрист по уголовным и административным делам, юридическая фирма Марксон Ло, Торонто,
- Сабина Глесс (Ph.D.), профессор уголовного права и процесса, Базельский университет.

Организаторы:
Страсбургский университет и Совет Европы

Трансляция будет доступна во время мероприятия по ссылке:
https://bit.ly/2MhHCnW

Страхование ответственности при внедрении и эксплуатации автономных систем

В центре компетенций Фонда "Сколково" планируем обсудить с участием страховых компаний проблематику страхования ответственности при эксплуатации автономного и высокоавтоматизированного транспорта и иных робототехнических систем.

Если вы имеете отношение к робототехнике или страхованию и желаете поучаствовать дискуссии — пишите: @tyulkanov

Повышается ответственность за нарушения при обработке персональных данных

В контексте федеральной программы "Цифровая экономика" часто обсуждают, как расширение возможностей применения персональных данных (при принятии определённых мер предосторожности) могло бы способствовать развитию искусственного интеллекта, например — при построении более точных моделей в ходе машинного обучения.

Однако фактическая государственная политика в этом вопросе часто складывается с опорой скорее на кнут, нежели на пряник.

Об этом может свидетельствовать и данный законопроект, принятый сегодня Госдумой в третьем чтении.

Срок, в течение которого возможно привлечь к ответственности за административные правонарушения в области персональных данных теперь будет составлять не 3 месяца, а один год с момента их совершения.

Многие штрафы увеличены вдвое.

Также введена повышенная ответственность за некоторые повторные нарушения. Например, для юридического лица штраф составит:

- за повторную обработку персональных данных в не предусмотренных законодательством случаях или в целях, несовместимых с целями сбора данных — до 300 тыс. руб.
- за повторную обработку персональных данных без согласия субъекта в письменной форме, когда оно требуется — до 500 тыс. руб.
- за повторный отказ уточнить, заблокировать или уничтожить персональные данные по требованию субъекта или уполномоченного органа — до 500 тыс. руб.

Машина имитирует человека: правовые аспекты

2 марта, во вторник, в 19:00 мы проводим первый голосовой митап телеграм-канала @robocounsel. Обсудим правовые аспекты имитации человека машиной в формате голосового митапа.

Участники: Анастасия Сковпень, Марина Рожкова, Максим Али, Владислав Архипов, Вадим Перевалов и я (Александр Тюльканов).

Контекст:

Майкрософт получил патент на чатбота, имитирующего конкретного человека. Запатентованное решение предполагает, что из различных источников создаётся агрегированный "индекс личности", на котором чатбот обучается её имитировать.

В то же время КНР вводит в свой Гражданский кодекс прямую норму, запрещающую подобную имитацию без согласия человека.

Похожие на нас персональные ассистенты, наши личные аватары да и просто создаваемые без нашего согласия дипфейки - в какой-то мере уже не будущее, а вполне себе настоящее.

Возникают вопросы, связанные с личными неимущественными правами, разумными ожиданиями и интересами других лиц, этикой и публичным порядком, патентными и иными интеллектуальными правами.

Для участия:

1) Сохраните приглашение в календарь.

2) В день мероприятия пройдите по ссылке.

Наш первый митап здесь — уже в ближайший вторник!

Обо всём, что имитирует человека, с его согласия и без: дипфейки, аватары, чатботы и тёмные голокроны ситхов.

Сохраните приглашение в календарь:

https://yangx.top/robocounsel/109

Митап пройдёт уже сегодня в 19:00.
Проходите заранее по этой ссылке.

Автоматическое правоприменение и документооборот

Иногда приходится слышать такие предложения: давайте прекратим указывать, что постановление о штрафе вынес сержант Петров, если его полностью автоматически вынесла информационная система.

Мол, это и неправда, и несправедливо к Петрову.

Давайте просто: именем Российской Федерации, с вас 5000 рублей. С уважением, государственная автоматизированная система "Росштраф".

Возникает вопрос, не упускаем ли мы здесь то, как работает механизм ответственности в человеческом обществе? Не игнорируем ли мы основы социальной психологии?

Ведь, по крайней мере на первый взгляд, полное устранение из подобного документа указания на ответственного будет стимулировать безответственное применение автоматизированных систем. Так как ответственность будет «размазываться» на аморфный госорган или Российскую Федерацию или её субъект.

В таком случае никакое конкретное должностное лицо не будет мотивировано (угрозой потери должности, работы, денег, личной свободы) обеспечивать справедливость и отсутствие злоупотреблений в процессе принятия конкретного решения в отношении конкретного гражданина.

Да, у документов, созданных информационной системой, может и не быть человеческого автора. Но если речь идёт о документах, опосредующих принятие важных юридически значимых решений, у таких документов может — и должен — быть человеческий контролёр, ревизор. С учётом неизбежного несовершенства техники и всегда неполностью предсказуемой среды, в которой такая техника работает.

Нецелесообразность человеческого контроля на стадии создания конкретного документа не означает, что такой контроль должен пропасть вовсе.

Такой контроль лишь перемещается на следующий, более высокий уровень — контроль за процессом создания и исполнения документов (возможно, с верификацией отдельных документов в зависимости от степени риска).

С учётом этого, кажется правильным рассуждать не об устранении из подобных документов указания на конкретное должностное лицо, связанное с конкретным документом, а об изменении статуса лиц, указываемых в документах, соотвественно их реальной роли (контролёр, ревизор и т.п.).

Согласны, либо возражаете? Давайте обсудим в комментариях.

В продолжение темы нашего митапа о дипфейках

@popmeh: "Как и было не раз предсказано, технологии дипфейков начали применяться для прямого обмана людей и манипуляции их мнением".

https://yangx.top/Popmeh/5901

Искусственный интеллект и этика на RIGF

07.04 с 13:50 до 15:20 выступаю в секции по искусственному интеллекту и этике на Российском форуме по управлению интернетом.

Также участвуют:
- Эльза Ганеева, Microsoft
- Андрей Игнатьев, Центр Глобальной ИТ-Кооперации, МГИМО
- Ян Клейссен, Совет Европы
- Андрей Незнамов, Сбербанк
- Андрей Кулешов, МФТИ
- Максим Федоров, Сколковский институт науки и технологий

Модераторы: Карен Казарян, РАЭК, Анна Абрамова, МГИМО

Примечательно, что форум пройдёт в гибридном формате, а именно — все уставшие от онлайн-мероприятий приглашаются в Экспоцентр (Краснопресненская набережная, 14).

Регистрируйтесь здесь.

Право на обработку данных?

Kop M, ‘The Right to Process Data for Machine Learning Purposes in the EU’ (2021) 34 Harvard Journal of Law & Technology 1

Сегодня увидел у автора в Линкдине данную статью. Абстракт заинтересовал.

В статье приводятся аргументы в пользу закрепления в праве ЕС sui generis права на обработку данных для целей развития ИИ.

Всё это приурочено к планируемому принятию в ЕС Data Governance Act.

При этом автор выступает за довольно радикальную доработку этого документа. И, в частности, за исключение или существенное ограничение прав на данные в составе наборов данных, предназначенных для машинного обучения.

Конечный вывод — Евросоюзу не стоит слушать бизнес и искать компромисы, а стоит твёрдо и смело проводить политику, которую предпочитает автор.

Доводы, приводимые автором в защиту своих тезисов, кажутся довольно слабо проработанными. Контраргументы самому себе — нарочито не детализированными.

Возможно, вы иного мнения? Обсудим в комментариях.

Начало RIGF уже скоро. А на заднем плане Самизнаетекто. В этом топике будут комментарии по ходу мероприятия.