ИИ и проблема контроля

Американская ассоциация юристов согласовала рекомендации по работе с искусственным интеллектом. Понятно, что юристы - одни и первых, кто реагирует на новые реалии. Ведь огромное количество правовых несостыковок и претензий нужно как-то упорядочить, раз государства пока не в состоянии это сделать.
И вот на что обращают внимание американские юристы:

1) Продукты, системы, услуги и возможности ИИ должны быть под контролем, надзором людей и "человеческих" властей.

2) Владельцы и разработчики ИИ должны нести ответственность за вред, нанесенный при использовании продуктов, систем, услуг и возможностей ИИ.

3) Разработчики ИИ должны обеспечить возможность другим понять, как работают продукты, системы, услуги и возможности ИИ. Да это коммерческая тайна, но нужно вести подробную внутреннюю документацию, которую можно запросить в ходе судебного процесса.

Пункт №1 сомнителен с той точки зрения, что куда более умная и быстрая система всегда сможет обмануть человеческих операторов. Иллюзия контроля - вещь даже более опасная, чем его отсутствие. А вот второй пункт более интересный.

1) ИИ может манипулировать людьми, изменять их отношение к отдельным явлениям и направлять их деятельность. Так действует любой алгоритм. Но ИИ - может в перспективе делать это незаметно. Люди будут уверены, что решения приняты ими, что отношения к процессам в мире сформировались на основе их опыта, что их мнения возникли самостоятельно. Получается, что факт нанесения вреда, либо не будет установлен, либо должен устанавливаться извне. Решение этой проблемы - это потенциальный путь к созданию каких-то контрольных институтов, которые собирают данные о тех, кто собирает данные. В какой форме это может быть реализовано - демонстрирует пример Китая. Там решили просто - нужно администрировать не результаты, а сам процесс. В результате, государственная Администрация киберпространства Китая получила полномочия по контролю самих алгоритмов.

2) ИИ может давать преимущества отдельным индивидам или группам. Если в будущем условные ЛГБТК-террористы захотят оправдать свою деятельность по захвату заложников и свои требования по повсеместному доступу к операциям по смене мозга пола, то ИИ поможет им подобрать правильные лозунги, размещать рекламу, распространять вирусные ролики, создавать новые точки доступа к целевым аудиториям. И здесь возникает вопрос - будет ли это оценено как вред, с учетом того, что основные разработки по ИИ идут в странах, где подобное поведение в целом находит понимание? Проблема разграничения опасных групп - древняя, как мир, а ИИ, к сожалению, только добавляет новые группы в эту дискуссию и не подсказывает возможных решений.

3) ИИ может поддерживать определенный социальный порядок, воспроизводить определенную идеологию. И снова непонятно - это вредно, или полезно. С одной стороны, во многих государствах идеологии на государственном уровне не установлены, а потому продвижение какой-то одной идеологии ведет к унификации политического пространства. Государства могут радостно потирать руки, а вот насколько порадуются граждане - тут непонятно. С другой стороны, есть страны, где государственная идеология существует. Но ее суть как раз в том, что она установлена государством. В случае противоречия каких-то идеологических моментов между нарративами государства и ИИ - вполне возможна утрата государством монополии на свою идеологию. Эмпирически - это несомненный вред, но кто о нем сможет заявить, если стандарты оценки вреда также зависят от господствующей идеологии?

И напоследок - технологии ИИ скорее всего ведут к формированию нового типа личности, который совершенно иначе воспринимает мир и принимает решения. А что это значит с точки зрения ответственности перед прежними поколениями и обществом в целом? А будет ли новый тип личности в полном смысле личностью и биологическим человеком? Не формируется ли в этом новом типе личности что-то вроде "цифрового крепостного", который всем обязан владельцу данных и отрабатывает свое право на доступ к технологиям ИИ? Вопросов больше, чем ответов.

Хорошо, что за дело взялись юристы. Если кто и сможет установить какие-то рамки для индивидуальной автономии и стандарты определения вреда, то это те, чей заработок зависит от ответов на подобные этико-правовые вопросы.

https://www.americanbar.org/content/dam/aba/administrative/news/2023/mym-res/604.pdf

В преддверии саммита даны основные оценки наших текущих отношений

🏴‍☠Только вчера говорил риа новостям, что по Нигеру ничего не понятно. И что их президент может выпутаться. Сегодня его вроде свергли - но пропали теперь те, кто вроде бы свергал.

🐊 Теоретический вывод. В последние два десятилетия снижалось общее число переворотов в Африке, но росла доля успешных переворотов. Нигер вполне может развернуть тренд по числу переворотов, запустить ценную реакцию по Сахелю и Западной Африке.

🤫Практический вывод. Нигер не наш, французов от туда вытравить будет сложновато. Дело не только в уране, но и в Китае. Китаю намного комфортнее слабые французы в Нигере и чуточка американцев, а не наемные борцы с антиколониализмом с теперешней резиденцией в Беларуси.

Это кстати классическая логическая ошибка - "вместе с этим, значит вследствие этого" ⬇️

Нигер наш! Последняя марионетка Франс-Африк свергнута прямо к форуму Россия-Африка. Нигер — нигерийцам.

Остужал сегодня федеральные СМИ
https://ria.ru/20230727/niger-1886688049.html

Саммит "Россия-Африка". День первый.

В плюсе:
- соглашение об АЭС в Уганде;
- военное сотрудничество с Бурунди (видимо, поедут не только "музыканты");
- соглашение о центре изучения инфекций в Эфиопии, это очень-очень важно для отечественной науки;
- возобновили проекты по геологоразведке в Мозамбике.

В минусе:
- видимо, потеряли Анголу как перспективного партнера (на саммите глава МИД, с ним встреч президента России не запланировано в оба дня саммита);
- представитель ЮАР достаточно уверенно отсекла сотрудничество вузов по гуманитарным специальностям. Пространство общих ценностей пока откладывается;
- РЖД все ещё не удаётся выстрелить с рекламой своих предложений. Отчасти проблема в том, кто будет строить жд.

⤴️Если правильно помню, я придумал название. 🍾

Саммит "Россия-Африка". День второй.

В плюсе:
- проекты по добыче руды в Зимбабве;
- договорённость о плавучей АЭС в ЮАР;
- новый поток африканцев в Петербургской духовной семинарии;
- растёт спрос на нашу сталь на континенте;
- закупки вооружения со стороны Эритреи (одна из самых больших армий на континенте).

В минусе:
- подвисла конкретика по сотрудничеству с Мали;
- проблема портов в Западной Африке (многие порты принадлежат или управляются западниками - они просто не пускают многие наши грузы);
- по непонятной причине раньше времени уехал премьер Эфиопии, хотя это может и не иметь политического значения.

Вроде бы саммиты с Африке станут проводить чаще (чуть ли не раз в год) - хорошо или плохо, не знаю.

Питер и Империя.

Какое-то время назад мы с коллегой Пареньковым написали небольшой текст о постимпериях. Основная мысль была простой как три копейки - империи не уходят, даже если распадаются.

Маршруты после распада могут быть разные - одни страны как бывшие центры империй хотят её восстановить, другие - хотят повторить величие/масштаб бывшего имперского центра, третьи - переводят трансграничность империи в транснациональность (например, сохранить культуру и смыслы, потеряв политически).

А где в этом перечне Россия? До недавнего казалось, что мы в рядах тех, кто отказался от постимперского пути. Каялись перед всеми, включая поляков. Затем в 2014 году многие стали подозревать, что Россия стремится восстановить империю. Но это опять-таки не так. Возвращение в родную гавань - не ждёт Прибалтику и Среднюю Азию, мы явно ничего не имеем против независимой Монголии. Да и порт Дальний останется Далянем.

Стоя сегодня на Государевом бастионе Петропавловской крепости, я услышал, как колокола собора отбивают мелодию "Коль славен наш Господь в Сионе". В конце XVIII века - это гимн Российской империи. Так может и не распадалась Империя? Просто немного ушла в разборки с самой собой. А сейчас разобралась.

Гипотеза такая: распад СССР ≠ распад империи.

https://mgimopravo.elpub.ru/jour/article/view/71

Утром в воскресенье после мультиков был повтор нескольких серий.

Совершенно не помню сюжет, но было ярко и необычно. За окном могла быть достаточно серая осень, а на экране - жаркий город с дорогими машинами, барами и усадьбой семейства главных героев. Это не была, как сейчас ни к месту говорят, мягкая сила, скорее красивая сказка. Сказка без конца.

Океан вне закона.

Меньше всего я хотел бы, чтобы этот канал превратился в канал об Африке. Замыкаться на одном регионе, на одной стране - это форма интеллектуальной несвободы. Даже если речь идёт о таком ярком и перспективном континенте как Африка. Поэтому, прости, Нигер, мы двигаемся от суши к морю...

📖Книжка Иэна Урбина - это сборник его статей в New York Times. С журналистской точки зрения, написано местами слабовато - много длиннот, оступлений, мелких случайных деталей. И, конечно, ультралиберальная пропаганда насчет климата, куда без нее. Но темы его текстов - умопомрачительные.

🧩Важная деталь - Урбина старался все увидеть своими глазами. Нужно съездить на тайское рыболовецкое браконьерское судно? Он попал на такое судно - уговорами и деньгами. Нужно посмотреть, как безумная активистка помогает мексиканкам делать аборты на специальной яхте? Он и туда попал. Нужно оценить, что такое Силенд? Он съездил. Нужно поговорить с профессиональными угонщками кораблей? И это Урбина сделал и даже понаблюдал за операцией по угону "изнутри".

⚠️Меня очень заинтересовал фокус его рассуждений - о стыке норм и расстояния, о фактическом и формальном доступе, о соотношении частного бизнеса и государства в океанских пространствах.

💋Вообще, это какой-то небольшой тренд последних лет - изучать не то, что контролируется, а то, что контролируется номинально. Горные пространства, Интернет, космос, даже нелегальные дачные поселки и "ничейные" электросети на Дальнем Востоке. И это хорошая тенденция, ведь иллюзия контроля опаснее отсутствия контроля.

Нигер, однако, не отпускает. Я не прямо великий специалист по этой стране - таких в России просто нет. Но мне кажется, торг уже начался.

Вариант с интервенцией как в Гамбии считаю нереальным - потому как интервенция в Гамбии с 2017 года никак не заканчивается, ресурсы ЭКОВАС небезграничны (как бы осколки "Боко Харам" никто не отменял). Но могу ошибаться, нормальной информации мало - все наши источники по событиям глубоко вторичны.

https://ria.ru/20230801/niger-1887529503.html

А вот мой бывший студент Никита Панин полагает, что интервенции в Нигер таки быть.

Его аргумент - Нигерии важно показать, кто в регионе главный и что вообще-то перевороты делать плохо. Мотивы престижа - штука сильная.

Мой контраргумент - никуда особенно малонаселенные страны Сахеля не денутся. Лидер необязательно должен вести за собой. Он может и пугать☠

🇳🇪♨️ Влияние военного переворота в Нигере на субрегион анализирует Никита Панин.

— Динамика политических процессов в субрегионе нарастает. Накопившихся проблем, связанных как с ситуацией внутри стран, так и с их отношениями с внешним миром, оказывается достаточно для того, чтобы ранее лояльные властям вооруженные силы «внезапно» оборачивались против них.

— Для ЭКОВАС переворот в Нигере может стать самым серьёзным вызовом за историю существования сообщества. Все ограничительные меры, предпринятые ЭКОВАС, по итогам прошлых переворотов не привели к желаемому исходу.

— Если Нигерии не удастся предложить своё адекватное видение выстраивания диалога между ЭКОВАС и четырьмя «отколовшимися» от сообщества республиками (в частности, с Нигером), на лидерских амбициях Нигерии фактически может быть поставлен крест.

— В Западной Африке, и так разделённой языковым барьером на англо- и франкоязычную части, постепенно складывается альтернативное ЭКОВАС сообщество «непризнанных режимов». Они вместе ищут варианты борьбы с внешним давлением, в том числе финансовым; они вместе (и между собой) готовы развивать сотрудничество с Москвой в военно-техническом плане.

— Если раньше успех переворота в Нигере ещё мог вызывать вопросы с учётом возможной реакции Франции, то теперь речь идёт о консолидации нового политического пространства, фактически объединённого пактом о взаимопомощи. В таких условиях введение санкций по типу тех, которые последовали в случае с Гвинеей, Мали и Буркина-Фасо, явно не имеет шансов на успех для их инициаторов.

— Для западных стран события в регионе в любом случае несут серьёзную угрозу. Эксперты изначально ожидали от Франции реакции более жёсткой и решительной, чем раньше. Первичные заявления президента Э. Макрона это отчасти подтверждали. Но на данный момент всё разворачивается, скорее, по привычному сценарию: Франция уже начинает эвакуацию своих граждан из Нигера (впрочем, это не значит, что французский контингент уйдёт так же быстро).

Сейчас Совету по защите отечества придётся доказать свою «профпригодность» к управлению страной в сложных условиях, чтобы в конечном счёте на фоне внешнего давления страна не потеряла управляемость и не скатилась в хаос.

https://russiancouncil.ru/analytics-and-comments/columns/africa/perevorot-v-nigere-vliyanie-na-subregion/