Сегодня в неформальной обстановке буду в гостях у Кристины — подключайтесь

​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​#events #privacy #radiogroot

Когда: 31 августа 19:00(мск)
Где: голосовой чат в канале Privacy GDPR Russia
Тема: RadioGroot. Privacy поболтушки
В гостях: Александр Тюльканов
Организатор: RPPA
Язык: русский
Стоимость: бесплатно
Подробности: заходи в канал

🗓 Добавить в календарь

💬Оставляй вопросы спикеру здесь⬇️⬇️⬇️

14-15 сентября - Конференция Reghorizon AI Policy

Выступаю 15 сентября в панели № 4 с 11:15 до 12:30 по Москве

Обсудим, как в регулировании применения технологий нам могут помочь эти же самые технологии.

Язык — английский.

Регистрируйтесь здесь!

Итак, наша панель, завершилась —спасибо всем, кто смотрел!

А вот и результаты опроса в эфире...

P. S. Мероприятие продолжается, следующая панель в 12:45 по Москве.

Почему мало популярны инструменты для управления предвзятостью (fairness frameworks)?

Ранее я рассказывал про недобросовестные практики в машинном обучении. А именно, про "отмывание" ML-моделей (fairwashing), при котором для модели, выдающей несправедливые решения, строится убедительное объяснение, показывающее её в ложно хорошем свете.

Вчера на Reghorizon затронул и обратную сторону — добросовестные практики в машинном обучении. В данном случае — на этапе отбора данных для обучения модели.

Существуют решения с открытым исходным кодом, которые помогают строить модели методологически корректно и выявлять проблемы с данными (fairness frameworks).

Например, Aequitas, Fairlearn, Google What-if tool, IBM Fairness 360, PyMetrics Audit AI, Scikit-fairness.

Но, судя недавнему опросу кембриждских исследователей, только 54% специалистов по исследованию данных и ML когда-либо пробовали пользоваться этими инструментами.

Почему? Из-за несовершенства инструментов, их малой известности или неосознанности проблемы?

Хоть горшком назови, только в печку не ставь

В чате, который шёл на Reghorizon параллельно нашей сессии, обсуждали тезис о том, уместно ли называть "adjudication" ("судебным разрешением спора") деятельность автоматизированной системы, выносящей решение по спору без участия человека.

Чем такую деятельность точно нельзя назвать, так это "administration of justice" ("отправление правосудия").

Дело в том, что правосудие не ограничивается задачей (1) поиска наиболее подходящих к делу норм закона или (2) наиболее подходящих судебных прецедентов. Эта задача без участия человека на современном уровне техники решается лишь отчасти.

Правосудие предполагает, помимо этого, (3) учёт всех обстоятельств дела (а в инквизитивном процессе — ещё и инициативное их выявление), (4) доктрины и применение с необходимостью абстрактных норм и принципов, включающих (5) ценностные суждения. Эта задача без участия человека на современном уровне техники не решается вовсе.

Ну и, разумеется, правосудие предполагает собственно некую (6) процедуру, предполагающую возможность стороны ответить на аргументы другой стороны, получить новые доказательства и предоставить суду дополнительные аргументы, которые суд должен быть способен понять. Эта задача без участия человека на современном уровне техники также не решается.

Поэтому, когда вы обращаетесь к боту за оспариванием какого-то действия и решения, а бот выносит решение без участия человека и оно имеет для вас правовое значение (потому что это следует из закона или договора) — вы наблюдаете — в лучшем случае — автоматизированное правоприменение (application of law), но не правосудие (administration of justice) и не разрешение спора (adjudication).

Уточним соотношение терминов

Комментарий Сергея Халатова к моему посту на Фейсбуке по этой теме породил желание уточнить термины и их соотношение. Чтобы все были, как говорят англоязычные, на одной странице. Считайте это поправкой к заметке.

CAHAI-LFG: 4-е заседание

Сегодня состоится предпоследнее заседание группы по правовым основам (Legal framework group) Спецкомитета по искусственному интеллекту Совета Европы. Группе предстоит обсудить элементы, которые могут потенциально быть включены в Конвенцию СЕ по ИИ.

Группа включает представителей России, участницы целого ряда предыдущих Конвенций СЕ, включая Конвенцию 108+, которая является правовой основой для российского закона о персональных данных.

Ранее 21 мая 2021 года, на своей 131 сессии Комитет Министров СЕ призвал своих представителей сфокусироваться, прежде всего, на возможности выработки обязывающего правового акта общего характера по общим принципам регулирования (в практике СЕ это конвенции), который может сопровождаться обязывающими или рекомендательными отраслевыми правовыми актами.

В расширенной англоязычной версии заметки сделал важное уточнение по мотивам статьи о новейших практиках из Поднебесной:

“Суд провинции рекомендует судьям Хайнаня принять на вооружение интеллектуальную систему, которая при помощи обработки речи, графов знаний и глубокого обучения пытается вывести суть дела и сформировать решение на основе прецедентов” (с. 18).

Когда суд выносит правосудное решение, он делает это благодаря правовому анализу (legal reasoning).

Если вы подменяете (а не просто дополняете) правовой анализ статистическим, вы пытаетесь (притом грубым механистическим образом) вывести должное из сущего, что попросту методологически некорректно.

Опубликовано видео с конференции RegHorizon 14-15 сентября 2021 г., включая нашу секцию.

Верховенство данных вместо верховенства права?

В продолжение темы: вышла свежая статья моих коллег Я. Менесёра и К. Барбаро — "Artificial intelligence and the judicial memory: the great misunderstanding".

Авторы раскрывают проблематику "предсказательного правосудия". В основе критика, схожая с моей: вы не можете просто взять и заменить правовую аргументацию статистическим анализом.

Но выводы и опасения авторов более глубокие: при излишнем увлечении "государственным управлением, основанным на данных", при постановке "телеги" данных впереди государственной "лошади" существует риск подмены базовых ориентиров в регулировании.

Сейчас этими базовыми ориентирами в развитых демократиях всё ещё являются идеалы прав человека и верховенства права.

Но останутся ли они такими же ориентирами, скажем, через 20 лет или будут незаметно подменены идеалами эффективной технократии — большой вопрос.

Конференция: на пути к гармонизированному регулированию ИИ

Если вам показалось, что в последнее время на канале мало постов — вам не показалось. Пришлось этим немного временно пожертвовать, так как мы с коллегами в последние месяцы приложили огромное количество усилий, чтобы завтра провести одну из крупнейших конференций по регулированию применения ИИ.

И завтра, во вторник 26 октября, вы сможете её увидеть в прямом эфире здесь. Там же вы можете ознакомиться с программой и спикерами (скорее смотрите, они потрясающие).

Откроют конференцию генеральный секретарь Совета Европы, президент ПАСЕ и представители нынешнего Венгерского председательства Комитета Министров Совета Европы.

Ждём вас завтра в эфире в 11:00 по Москве.

Подводные камни предиктивной аналитики на российских судебных актах

В комментариях к посту нашего коллеги Сергея Халатова мы с ним затронули проблему, критически значимую для построения систем предсказательной судебной аналитики.

По 25-летнему опыту Сергея российские судебные акты — по всем категориям дел — стабильно демонстрируют два существенных недостатка: (1) неполное или ошибочное отражение обстоятельств, положенных в основу решения, (2) отсутствие адекватной мотивировочной части, позволяющей логически увязать обстоятельства и вынесенное решение.

Ввиду этого, на мой взгляд — и Сергей согласен — на основе анализа одного лишь корпуса российских судебных актов затруднительно понять, почему российские суды принимают те решения, которые они принимают.

И без дополнительных данных не только бесполезно, но и вредно было бы пытаться на основе такого анализа давать какие-то далеко идущие рекомендации по улучшению законодательства или, например, пытаться создавать хорошую автоматизированную систему предсказательной судебной аналитики.

Для получения необходимой дополнительной информации требуется глубокое погружение: работа напрямую со сторонами соответствующих споров, анализ условий договоров, в связи с которыми такие споры возникают, изучение иных материалов дела, опрос непосредственных участников событий.

Именно на основе всех этих не отражённых в тексте судебного акта предпосылок на самом деле действуют стороны и суд, затем выносящий решение.

Предсказательная судебная аналитическая система, не учитывающая этого, заведомо будет бесполезной или вредной.

Отличная колонка от Ивана Бегтина
про лицевую биометрию в Мосметро

Если ещё не читали — здесь.

Мне всегда казалось, что давать себя пропускать в метро по лицу — это какое-то дико непропорциональное обременение себя дополнительными рисками без каких-то ощутимых выгод.

"Тройка" отлично работает, так же быстро пропускает через турникет и при необходимости может покупаться за наличные совершенно анонимно.

Тот самый случай, когда заявленная цель обработки персональных данных (исполнение договора на оказание транспортной услуги) достигается прекрасно без их [избыточного] сбора. То есть нарушается один из базовых принципов обработки персональных данных, предусмотренных 152-ФЗ и Конвенцией 108+ (неизбыточность).

Такое ощущение, что декларируемая цель сбора биометрии здесь совершенно притворная, а собираемые данные нужны и ценны для непонятно каких иных целей.

Недостатки российских судебных актов: комментарий Р. С. Бевзенко

С описанной выше оценкой Сергея Александровича Халатова соглашается и другой известный российский юрист — Роман Сергеевич Бевзенко.

На наш вопрос в чате его канала Loader from SVO о том, действительно ли российские судебные акты стабильно демонстрируют вышеописанные недостатки, Роман Сергеевич ответил:

"Конечно. Особенность российских судебных актов в том, что в них судьи (1) произвольно описывают обстоятельства дела, упоминая только те из них, которые им "выгодны" для подкрепления решения, (2) произвольно описывают аргументы сторон, выбирая только те из них, с которыми они согласны или которые они могут опровергнуть, (3) вместо демонстрации логики своих рассуждений российские судьи просто цитируют нормы законов (это делается для того, чтобы дать как можно меньше поводов проверочным инстанциям для отмены)".

Есть о чём задуматься — и коллегам из судебной системы, и антрепренёрам юртеха...

И вновь о произведениях, созданных компьютером

Не знаю, как у вас, а мою ленту Фейсбука заполонили "произведения, созданные компьютером". Да-да, те самые computer generated works нейросети DALL-E.

Данная иллюстрация лишний раз для меня поставила под сомнение тезис о том, что правовой режим для творчества человека и "творчества" машины может быть одинаковым.

На предыдущем уровне дискуссии, пока не стало популярным обсуждать некие возможные новые квазисмежные права на "творчество" машин, я сам вёл вполне всерьёз разговоры о возможной атрибуции авторских прав.

Обсуждали, например, с Анатолием Семёновым в том числе телеологически — насколько это справедливо с позиций целей института авторского права.

Которое вроде как изначально было про создание для человека стимулов к творчеству, чтобы не все занимались только более прагматичными занятиями типа починки примусов.

Комментировали релевантное положение британского CDPA про computer-generated works. Спекулировали о возможной аналогии в российском праве и как могут или должны de lege ferenda распределяться права среди возможных претендентов (создатели "творческого" инструмента и его пользователь).

Говорили о практической сложности разграничения computer-generated works и computer-assisted works.

При этом для меня этот аргумент (сложность различения на практике) не являлся и не является достаточным поводом для того, чтобы предоставлять этим двум всё же отличающимся по процессу создания объектам одинаковый правовой режим.

Все эти рассуждения de lege ferenda интересны, но как следует разрешать возможные казусы по действующему российскому закону?

Ведь если кто-то из пользователей присвоит себе подобное "творчество" нейросети, действительно, может сложиться ситуация, когда в оборот поступит некий объект, внешне плохо отличимый от творчества некоторых современных художников.

И если потребители будут считать этот объект ценным, будут готовы платить за его использование, иллюзия права будет сохраняться и может порождать вполне неиллюзорные выгоды для того, кто заявил об авторстве.

Кажется, на практике эта проблема de lege lata может решаться следующим образом.

Авторское право на любое конкретное находящееся в обороте изображение может продолжать презюмироваться существующим и принадлежащим автору, который объявил себя таковым, до опровержения этой презумпции иным заинтересованным лицом.

Если создатели нейросети или кто-то иной представят доказательства того, что объект в действительности создан нейросетью, его следует считать неохраноспособным.

Причины просты: вряд ли несколько слов, которыми пользователь задаёт параметры результата работы нейросети, можно считать даже минимальным творческим вкладом.

И, с другой стороны, результат не является неотъемлемой частью самой нейросети как объекта авторских прав. В ином случае мы получили бы ситуацию, когда обладатели авторских прав на нейросеть получили бы монополию на использование бесконечного множества возможных результатов её работы, что кажется очевидно абсурдным при сопоставлении нейросети с другими аналогичными ей по назначению техническими средствами — инструментами (фотоаппарат, фортепиано, графический редактор и т.п.).

Соответственно, если появятся доказательства того, что самопровозглашённый автор присвоил себе авторство на результат работы нейросети, у его возможных контрагентов возникнет право на иск к нему о признании сделки по поводу результатов "творчества" недействительной как заключённой под влиянием обмана.

Согласны?

P.S. Описанное выше — лишь предлагаемый подход к применению существующего закона, но не аргумент против возможного изменения закона. Есть ощущение, что институты авторского и смежного права в целом уже какое-то время трещат по некоторым швам и нуждаются в обновлении.

И отдельно об аргументах против автоматического закрепления прав на результаты работы нейросети за её разработчиками (de lege ferenda)

Когда мы с коллегами в Фейсбуке ранее (в 2016) обсуждали эту тему, предложение по поводу возможных прав разработчика озвучивалось, но для меня выглядело и тогда сомнительным.

Ещё была статья аж 2015 года моего преподавателя из Эдинбурга Б. Шафера с коллегами, где рассматривался тогдашний кейс с новостью о Qentis. Якобы объявился такой российский разработчик, который разработал софт, позволивший создать и заявить авторские права на 97,42% всех в принципе возможных осмысленных текстов длиной от 10 до 400 слов на ряде языков (остальные тексты уже были созданы за предшествующую историю человечества).

К счастью, новость о Qentis оказалась лишь частью арт-перформанса венского художника Михаэля Марковичи, который нам ещё тогда продемонстрировал потенциальные проблемы копирайт-троллинга, возможного при слепом предоставлении правовой охраны результатам работы таких нынешних нейросетей, как DALL-E.

Данный перформанс, в свою очередь, отсылает нас к мысленному эксперименту Эмиля Бореля - "теореме о бесконечных обезьянах": по закону больших чисел вопрос лишь времени, когда они случайным нажатием на клавиши воспроизведут все работы Шекспира.

Эта же идея вдохновила Хорхе Луиса Борхеса позже описать возможную "Вавилонскую библиотеку", содержащую, как результат подобных случайных "трудов", бесконечные никак не упорядоченные и не озаглавленные тома со всеми возможными комбинациями букв алфавита.

В результате, такая библиотека действительно содержала всю возможную полезную информацию, когда либо существовавшую, но ввиду отсутствия какой-либо логики и системы в её представлении полезное просто утопало в тоннах бесполезного.

Детище Qentis, в результате, оказывалось современной версией такой бессмысленной Вавилонской библиотеки, где бесконечные обезьяны заменены на множество современных процессоров для параллельных вычислений.

При таком пояснении кажется, что предложение автоматически предоставлять разработчикам системы какие-либо права на полученные системой результаты выглядит либо просто безумием, либо сознательным доведением до абсурда всей истории с развитием института прав на интеллектуальную собственность.

Для меня лично очевидно, что аналогичный аргумент применим и к случаю с результатами работы нейросети DALL-E. Какой бы новый правовой режим ни был предложен взамен нынешнего (моё толкование описано в предыдущем посте), наихудшее, что можно было бы придумать — это допустить автоматическое признание каких-либо интеллектуальных прав на результаты за разработчиками нейросетей и иных систем с ИИ.

На этом фоне более осмысленным выглядят другие предложения, например, озвученное здесь Алексеем Гудковым.

В моём понимании, de lege ferenda, если это окажется социально и экономически более обоснованным чем полное отсутствие правовой охраны, мы можем говорить, как максимум, лишь о допустимости закрепления некоего права за лицом, которое отберёт среди множества созданных нейросетью результатов что-то более-менее достойное внимания публики и придаст ему некий новый смысл (путём интерпретации, помещения в некий задуманный этим лицом контекст или, как напоминает нам Владимир Ожерельев, путём переработки).

При этом речь, на мой взгляд, может идти, конечно, не об авторском, а о некоем новом квазисмежном праве, притом достаточно сильно ограниченном по времени действия и объёму правомочий.

Об охраноспособности результатов работы нейросети: комментарий В. О. Калятина

А вот какой взгляд по данному вопросу у Виталия Олеговича Калятина, который любезно согласился дать комментарий для нашего канала:

"Если кратко, то можно сказать так: В целом, общий подход, что в России, что за рубежом, сейчас понятен –охраняются только результаты, созданные человеком. Значит, все, что создается нейросетью охраняться не будет. А создатели сети/ПО права не получат, т.к. их творческий вклад был ограничен программой/организацией сети, но не касался созданного объекта.

Как быть с РИДами, созданными искусственным интеллектом?

Прежде всего нужно понять, чего мы хотим достичь закреплением права на такой объект. В отношении обычных произведений/изобретений введение правовой охраны призвано прежде всего стимулировать людей создавать новые объекты, заниматься творчеством. Искусственный интеллект в поощрении не нуждается (по крайней мере, сейчас J ). А общество заинтересовано в получении возможно высококачественных продуктов в сфере интеллектуального творчества. Представляется, что единственным субъектом, на который мы можем эффективно воздействовать для достижения этой цели является организатор использования искусственного интеллекта. Именно это лицо ставит задачу, задает параметры работы, отбирает и корректирует результаты. Поэтому логично ему и предоставлять право, но, конечно, ограниченное по объему и срокам, например, в рамках смежных прав – тем более, что его деятельность подобна деятельности изготовителю фонограммы или базы данных, права которых там уже присутствуют. Как представляется, именно к смежным правам склоняется и большинство исследователей в мире. Этот вариант позволит защитить и творчество человека, т.к. у заказчика будет выбор – приобрести ограниченные права на объект, созданный искусственным интеллектом (пусть и дешевле) или более широкие права на объект, созданный человеком (но дороже).

Хуже всего, конечно, давать права разработчику искусственного интеллекта – во-первых, мы получим несколько монополистов на рынке контента, а во-вторых, не достигнем своей цели, т.к. это лицо не определяет качественные характеристики создаваемых продуктов, оно готовит инструмент, но используют его другие. Ненамного лучше выводить объекты, созданные искусственным интеллектом, в сферу общественного достояния: в этом случае человек будет вытеснен с рынка соответствующей продукции; с другой стороны пышно расцветет фиктивное авторство – когда вместо искусственного интеллекта будут указываться имена людей, не имеющих отношения к производству. И вместо сокращения охраны мы получим полноценную защиту результатов, только уже в ущерб людям".

В США рассматривается законопроект в защиту интересов пользователей медиаплатформ

Уже не первый год учёные били тревогу: на примере американского общества приводились множества примеров того, как объективно, на графиках, усугубилась в последние годы поляризация общества.

Как сторонники одной партии демонизируют других, как люди одних взглядов не настроены на сотрудничество с другими.

Статистика показывала, что такой разобщённости в обществе не было 50, 40 и даже 10 лет назад.

И в последнее время проблема только усугубилась за счёт помещения людей в пузыри из алгоритмических фильтров, создаваемых социальными сетями и медиаплатформами.

За счёт фильтрации, персонализации видимой информации по критерию наибольшего удержания аудитории конкретному человеку предлагается контент, который способствует не критическому взгляду на мир, а подкреплению тех когнитивных ошибок и тех убеждений, которые этому конкретному человеку уже свойственны.

Радикалы становятся радикальнее, люди одних взглядов общаются всё больше с людьми тех же взглядов и не имеют шансов выйти из комфортного, но тесного и неполноценного мирка.

И вот, законотворцы в США наконец-то прислушались и в необыкновенном единении внесли на рассмотрение двухпартийный законопроект, который поможет снизить остроту описанной выше проблемы.

“Consumers should have the OPTION to engage with Internet platforms without being manipulated by secret algorithms driven by user-specific data,”.

Нельзя не согласиться.

"The bill would require social media sites to post a notice the first time a person interacts with an “opaque” algorithm. The notice would give users the option to turn the algorithm off. The bill defines an opaque algorithm as one that “determines the order of manner that information is furnished to a user... based, in whole or in part, on user-specific data that was NOT EXPRESSLY provided by the user to the platform for such purpose.”

Соответственно, если Фейсбук спросит вас, хотите ли вы видеть ленту на базе их предположений (inferred data) о вашей сексуальной ориентации и политических взглядов либо не хотите — это правильный вопрос, и вы решите сами, вправе ли они использовать эти данные либо нет. Т.к. вы субъект этих данных, решать вам, а не им.

Если текст закона будет на этих принципах — прекрасно.