Как создать реестр цифровых отказников?

Еврокомиссия запустила тендер на научно-исследовательские работы по теме возможного создания единого реестра правообладателей, желающих реализовать своё право на отказ от парсинга их контента для обучения ИИ и других целей.

Такое право предоставлено Директивой ЕС об авторском праве на едином цифровом рынке, однако практическая его реализация затруднена, поскольку пока не выработан единообразный подход к тому, в какой форме (в том числе машиночитаемой) правообладатели могут на практике декларировать свой отказ.

В извещении о тендере составители исходят из необходимости проработать вопрос использования уникальных идентификаторов произведений и связанных с ними метаданных.

R1: что внутри?

В сети очень большой, и заслуженно, интерес к новой китайской ИИ-модели Deepseek r1.

Она из так называемых ризонинг-моделей (хотя происходящее, по наблюдению Колина Фрейзера в соцсети X, скорее ближе к руминации, чем к консистентному мыслительному процессу, отсюда reasoning models -> rumination models).

Но работает лучше обычных ллм, и почти на одном уровне с OpenAI o1. При стоимости токенов в 21(!) раз дешевле, и при том, что r1 — опен-сорс продукт.

Поэтому многим интересно, как это так получилось, как китайские учёные и разработчики добились таких результатов.

Если вам тоже интересно – в этой статье занимательные инсайты.

Пол Маккартни стал бы одним из первых цифровых отказников

... если бы аналогичный задуманному в ЕС реестр появился бы в Великобритании.

Более того, артист выступает против самого появления на островах правового режима, который бы по умолчанию давал ИИ-разработчикам карт-бланш на свободное использование охраняемых произведений.

Это повредит прежде всего новым, молодым артистам, отмечает он.

R1: аттракцион неслыханной транспарентности

Самое любопытное отличие r1 от американских ризонинг-моделей: она показывает пользователю промежуточные токены (CoT), которые генерируются моделью и добавляются к промту, чтобы повысить шансы найти более адекватный ответ.

То есть в отличие от OpenAI o1, в Deepseek r1 вы можете посмотреть на внутренние руминации модели, которые потом не входят в финальный ответ, но определяют его содержимое.

Естественно, я спросил про Тяньаньмэнь. На английском оказалось вообще бесполезно — как только система пытается вывести ответ с этим словом, включается какой-то жёсткий фильтр и весь ответ (и предшествующая ему руминация) удаляются из диалога и с экрана.

На русском модель зацензурирована слабее, и в окне руминации можно подсмотреть вот такие фантастические по транспарентности откровения. Серым шрифтом — промежуточные руминации, чёрным внизу — итоговый ответ.

Хорошо забытое старое (в масштабах ИИ-новостей) китайское регулирование генеративного ИИ

Поскольку особенности китайской ИИ-этики и заодно ИИ-регулирования снова в тренде, я просто оставлю это здесь: Временные меры по управлению генеративным ИИ от 2023 г.

С тем самым объясняющим многое принципом: "При оказании и использовании услуг в области генеративного ИИ должны поддерживаться основополагающие социалистические ценности", ст. 4.

Как работают аккредитация, сертификация и нотификация в ЕС?

Как известно, Регламент ЕС по искусственному интеллекту вводит требования к разработке и внедрению ИИ-систем повышенной опасности. Но эффективность нового Регламента напрямую зависит от существующей инфраструктуры качества ЕС.

Ключевой её элемент — Регламент 765/2008, которые устанавливает единые правила аккредитации органов по сертификации.

Именно эти органы по сертификации и будут по заказам ИИ-компаний участвовать в подтверждении соответствия их продуктов требованиям Регламента — в тех случаях, когда он требует не просто задекларировать соответствие, а проверить его — с участием независимой стороны.

Это требуется, например, для систем биометрической идентификации — они должны пройти оценку по процедуре, схожей в общих чертах с той, которая существует для медицинских изделий.

При этом право на участие в подтверждении соответствия ИИ-систем повышенной опасности будут иметь только организации, которые нотифицированы властями одной из стран ЕС — по результатам их проверки либо этими властями, либо национальным органом по аккредитации.

Особую роль здесь играет Многостороннее соглашение по еврокооперации в области аккредитации (EA MLA), гарантирующее взаимное признание аккредитаций между странами-членами. Это снижает издержки бизнеса, позволяя выбрать подходящий аккредитованный и нотифицированный орган, оценка которого признаётся в рамках всего ЕС.

Все взаимосвязи отражены на прилагаемой схеме.

Подробнее обо всём этом и не только рассказываю на своём курсе по Регламенту ЕС по ИИ в феврале — регистрация закрывается на этой неделе, поэтому если интересно — поторопитесь присоединиться. Для оплаты по российским картам — пишите через бот.

Идентификация и управление рисками ИИ общего назначения (GPAI)

Такова тема нового отчёта, выпущенного британским Департаментом по инновациям, науке и технологиям.

Над отчётом в почти 300 страниц трудились 100 международных экспертов, и лишь небольшая его часть посвящена спекулятивным рискам потери контроля над ИИ-системами будущего.

97% отчёта — сугубо практические наблюдения об актуальных, часто уже задокументированных негативных последствиях применения ИИ-систем и о том, какими техническими мерами им можно противостоять.

Отчёт содержит более 1300 (!) ссылок на литературу и потому представляет собой по сути энциклопедию GPAI риск-менеджмента по состоянию на 2025 год. Читать - не перечитать.

Свои впечатления и инсайты высказал в видеоформе здесь.

Почему операторам на европейском рынке выгодно прекратить запрещённые ИИ-практики до введения штрафов?

Сегодня, 2 февраля 2025 года, вступили в силу первые положения Регламента ЕС по ИИ, запрещающие определённые ИИ-практики. При этом административные санкции начнут действовать только с августа 2025 года. Что же тогда должно мотивировать компании пошевелиться до этого момента?

Экономический стимул соблюдать запреты уже сейчас кроется не в самих положениях Регламента, а в том, как он вписан в общую правовую систему ЕС.

Регламенты ЕС имеют прямое действие на территории всех государств-членов ЕС. Поэтому с сегодняшнего дня:

📌 Запрещённые ИИ-практики (социальный скоринг, манипулятивные ИИ-чатботы типа "AI girlfriends", массовый парсинг фото для создания баз лицевой биометрии и др.) становятся прямо предусмотренной законом разновидностью противоправного поведения;

⚖️ Осуществление запрещённой ИИ-практики может образовывать состав гражданского правонарушения и влечь деликтную ответственность по национальному праву;

💼 Истцы смогут требовать возмещения вреда, причинённого деликтом, при доказанности вреда, противоправного поведения и причинной связи между ними (принцип генерального деликта: ст. 1240 ГК Франции, § 823 Германского гражданского уложения и др.)

Если вы планируете вывод на рынок ЕС своего ИИ-продукта или уже сделали это, но сомневаетесь, нет ли в нём запрещённого с сегодняшнего дня функционала - пишите, помогу разобраться.

Помни о Директиве № 4

Журналист Марти Суонт отмечает: после того, как Марк Цукерберг запостил в своей соцсети фото с инаугурации Трампа, в комментариях, естественно, было довольно много и позитива, и негатива.

Но интересное не в этом, а в том, как "суммирует" комментарии ИИ компании Цукерберга (для американских пользователей его соцсети недавно стал доступен такой функционал):

Бот пытается более-менее объективно суммировать все комментарии, но поскольку в них есть и негатив, тут же включаются какие-то жёсткие фильтры (по типу тех, которые у Дипсика вырезают всё про Тяньаньмэнь) и всё саммари пропадает с экрана.

Вспоминается фильм "Робокоп", где у робота-правоохранителя в основные директивы была зашита секретная четвёртая: никогда не противостоять должностному лицу ОКП (производитель робота).

А какова четвёртая директива у вашей любимой ИИ-системы?

Как избежать включения в ваш ИИ-продукт запрещённого в ЕС функционала?

Еврокомиссия опубликовала проект своих разъяснений по применению положений статьи 5 Регламента ЕС по ИИ. Ожидается, что в ближайшие дни этот проект будет утверждён.

Кому актуально — читаем очень внимательно.

И конечно же будем разбирать эту тему на моём курсе, второй поток которого начинается в эту пятницу.

Первый коллективный иск за нарушение Регламента ЕС по ИИ

Предъявлен против Тиктока в Германии, цена иска исчисляется в миллиардах евро: по 500-2000 евро компенсации вреда на человека, для 20 млн. немецких пользователей платформы.

Вменяется помимо прочего нарушение ст. 5 Регламента ввиду манипулятивных ИИ-практик, подсаживающих пользователей на приложение.

Иск именно гражданский, о возмещении вреда и пресечении противоправного поведения.

Административные штрафы включатся только со 2 августа, но убытки в суде взыскивать можно уже со 2 февраля.