В России появился Кодекс этики искусственного интеллекта
Документ презентовали сегодня на международном форуме «Этика Искусственного интеллекта: начало доверия». Его подписали представители крупнейших российских компаний, вузов и научно-исследовательских институтов — МФТИ, Сбербанк, Яндекс, МТС, Ростелеком, РФПИ, Газпромнефть и другие.
Принятие Кодекса этики в сфере ИИ — это продолжение тренда на самоорганизацию IT-отрасли: два года назад был принят Кодекс этики использования данных, принципы которого также поддержали ведущие российские компании.
На дискуссии «Этика и Big Data» гендиректор «Диалога» Алексей Гореславский назвал Кодекс этики ИИ прорывным: в нем впервые поднимаются принципиальные вопросы, которые касаются этических последствий внедрения и использования ИИ и которые лежат за пределами сферы регулирования этики данных.
«Большие данные служат своего рода топливом для искусственного интеллекта, поэтому этические аспекты работы с данными не могли не получить отражения в новом Кодексе: например, в контексте непредвзятости систем ИИ и недискриминации при классификации и обработке данных, а также в контексте информационной безопасности и защиты от несанкционированного доступа к персональным данным и сведениям, составляющих государственную тайну», — сказал Гореславский.
Документ презентовали сегодня на международном форуме «Этика Искусственного интеллекта: начало доверия». Его подписали представители крупнейших российских компаний, вузов и научно-исследовательских институтов — МФТИ, Сбербанк, Яндекс, МТС, Ростелеком, РФПИ, Газпромнефть и другие.
Принятие Кодекса этики в сфере ИИ — это продолжение тренда на самоорганизацию IT-отрасли: два года назад был принят Кодекс этики использования данных, принципы которого также поддержали ведущие российские компании.
На дискуссии «Этика и Big Data» гендиректор «Диалога» Алексей Гореславский назвал Кодекс этики ИИ прорывным: в нем впервые поднимаются принципиальные вопросы, которые касаются этических последствий внедрения и использования ИИ и которые лежат за пределами сферы регулирования этики данных.
«Большие данные служат своего рода топливом для искусственного интеллекта, поэтому этические аспекты работы с данными не могли не получить отражения в новом Кодексе: например, в контексте непредвзятости систем ИИ и недискриминации при классификации и обработке данных, а также в контексте информационной безопасности и защиты от несанкционированного доступа к персональным данным и сведениям, составляющих государственную тайну», — сказал Гореславский.
Что происходит с обществом под влиянием новых технологий? Сможет ли искусственный интеллект осознать себя и что тогда ждет человечество? Государственное интернет-регулирование: забота или цензура? Виртуальность — новая норма?
На эти и другие вопросы мы ответим в нашей новой еженедельной рубрике «Общество и технологии». Материалы ищите по хештегу #общество_технологии
На эти и другие вопросы мы ответим в нашей новой еженедельной рубрике «Общество и технологии». Материалы ищите по хештегу #общество_технологии
О войне мнений в сети
Поляризация мнений в интернете сегодня превратилась в одну из самых востребованных тем исследований учёных и предмет обеспокоенности властей. Пока математики выявляют закономерности «войны в сети», депутаты готовятся на законодательном уровне противостоять рискам социальных конфликтов. Озабоченность этим вопросом выглядит убедительнее, если глубже ознакомиться с процессом поляризации.
Из всех актуальных теорий на этот счет наиболее интересной нам кажется так называемая идеологизированная поляризация. В бесконечном потоке идеологически заряженных инфоповодов пользователь находится в перманентном процессе идентификации — себя, своей группы и «других». Необходимость определиться и ограниченность времени принятия решения вынуждают его выбирать более радикальные формулировки и полярные позиции.
В результате происходит постоянное дробление социума, которое ведет к атомизации даже внутри одного информационного пузыря. Согласие с собеседником по одному вопросу не уменьшает вероятность стать его оппонентом по другому. Ограниченное (персонализированное) информационное пространство вынуждает человека продолжать спор — в том числе по тем поводам, по которым, казалось бы, уже достигнут консенсус. Яркий пример тому — движение феминизма: сегодня между ортодоксальными, интерсекциональными, постколониальными, радикальными, эко-, квир- и прочими феминистками больше поводов для разногласий, чем было у их первой волны в отношении патриархального общества.
Эту ситуацию исследовали авторы «Emergence of Polarized Ideological Opinions in Multidimensional Topic Spaces» (2021). Ученые получили модель, которая демонстрирует высокую корреляцию между мнениями по малосвязанным и вообще не связанным темам при условии, что они остродискуссионные. Таким образом, зная позицию человека, например, по вопросу вакцинации, можно предсказать его точку зрения касательно того же феминизма или глобального потепления.
Получается, чем больше у людей возможностей формировать свою индивидуальность через свободный выбор суждений по разным вопросам, тем более однородным становится этот выбор, скапливаясь в радикальных позициях. Чем активнее человек заявляет о своих принципиальных убеждениях, тем более предопределенным с каждым разом становится его ответ даже по самым отдаленным темам. Судя по всему, делая выбор в пользу радикальности суждения, мы лишаем себя дальнейших альтернатив и становимся частью единой траектории заданного движения голоса в эхо-камере.
Учитывайте эту информацию при коммуникации с аудиторией, а об алгоритмах как факторе социальных противоречий и перспективах законодательного воздействия на них — в следующем посте.
#общество_технологии
Поляризация мнений в интернете сегодня превратилась в одну из самых востребованных тем исследований учёных и предмет обеспокоенности властей. Пока математики выявляют закономерности «войны в сети», депутаты готовятся на законодательном уровне противостоять рискам социальных конфликтов. Озабоченность этим вопросом выглядит убедительнее, если глубже ознакомиться с процессом поляризации.
Из всех актуальных теорий на этот счет наиболее интересной нам кажется так называемая идеологизированная поляризация. В бесконечном потоке идеологически заряженных инфоповодов пользователь находится в перманентном процессе идентификации — себя, своей группы и «других». Необходимость определиться и ограниченность времени принятия решения вынуждают его выбирать более радикальные формулировки и полярные позиции.
В результате происходит постоянное дробление социума, которое ведет к атомизации даже внутри одного информационного пузыря. Согласие с собеседником по одному вопросу не уменьшает вероятность стать его оппонентом по другому. Ограниченное (персонализированное) информационное пространство вынуждает человека продолжать спор — в том числе по тем поводам, по которым, казалось бы, уже достигнут консенсус. Яркий пример тому — движение феминизма: сегодня между ортодоксальными, интерсекциональными, постколониальными, радикальными, эко-, квир- и прочими феминистками больше поводов для разногласий, чем было у их первой волны в отношении патриархального общества.
Эту ситуацию исследовали авторы «Emergence of Polarized Ideological Opinions in Multidimensional Topic Spaces» (2021). Ученые получили модель, которая демонстрирует высокую корреляцию между мнениями по малосвязанным и вообще не связанным темам при условии, что они остродискуссионные. Таким образом, зная позицию человека, например, по вопросу вакцинации, можно предсказать его точку зрения касательно того же феминизма или глобального потепления.
Получается, чем больше у людей возможностей формировать свою индивидуальность через свободный выбор суждений по разным вопросам, тем более однородным становится этот выбор, скапливаясь в радикальных позициях. Чем активнее человек заявляет о своих принципиальных убеждениях, тем более предопределенным с каждым разом становится его ответ даже по самым отдаленным темам. Судя по всему, делая выбор в пользу радикальности суждения, мы лишаем себя дальнейших альтернатив и становимся частью единой траектории заданного движения голоса в эхо-камере.
Учитывайте эту информацию при коммуникации с аудиторией, а об алгоритмах как факторе социальных противоречий и перспективах законодательного воздействия на них — в следующем посте.
#общество_технологии
Кратко о том, что придет на смену соцсетям и как мы будем общаться в будущем.
#общество_технологии
#общество_технологии
QR-коды: где и когда нужны?
47 регионов России ввели систему QR-кодов для входа в учреждения культуры, соцобслуживания, туристические центры и ТЦ.
Какие именно QR-коды и в каких случаях нужны, можно посмотреть на интерактивной карте о ситуации с COVID-19 в регионах. Подробно о ней мы писали здесь. Карту каждую неделю обновляют ЦУР.
«Сейчас в медиасреде отмечается повышенный запрос граждан на информацию об ограничениях по QR-кодам. Меры, принимаемые губернаторами, могут отличаться в зависимости от регионов. Для того, чтобы любой житель мог разобраться, какие именно ограничения и на какой срок утверждены органами власти и введены в его городе, мы собрали максимально полную информацию и представили ее на сайте стопкоронавирус.рф», — рассказал первый замгендиректора «Диалог Регионы» Кирилл Истомин.
47 регионов России ввели систему QR-кодов для входа в учреждения культуры, соцобслуживания, туристические центры и ТЦ.
Какие именно QR-коды и в каких случаях нужны, можно посмотреть на интерактивной карте о ситуации с COVID-19 в регионах. Подробно о ней мы писали здесь. Карту каждую неделю обновляют ЦУР.
«Сейчас в медиасреде отмечается повышенный запрос граждан на информацию об ограничениях по QR-кодам. Меры, принимаемые губернаторами, могут отличаться в зависимости от регионов. Для того, чтобы любой житель мог разобраться, какие именно ограничения и на какой срок утверждены органами власти и введены в его городе, мы собрали максимально полную информацию и представили ее на сайте стопкоронавирус.рф», — рассказал первый замгендиректора «Диалог Регионы» Кирилл Истомин.
И снова переименование: Facebook стал Meta. Название сменила сама компания — соцсети Facebook, Instagram и WhatsApp не изменятся.
Собрали для вас подборку мемов, заполнивших интернет после этой громкой новости.
Собрали для вас подборку мемов, заполнивших интернет после этой громкой новости.
#дайджест новостей за неделю
🔺Минцифры планирует создать суперприложение для чиновников
В него войдут мессенджер, средства для видео-конференц-связи, почта, облачное хранилище и другие инструменты, необходимые в работе госслужащих. Планируется, что приложение заработает до конца 2022 года.
🔺В России появился Кодекс этики искусственного интеллекта
Документ подписали представители крупнейших российских компаний, вузов и научно-исследовательских институтов — МФТИ, Сбербанк, Яндекс, МТС, Ростелеком, РФПИ, Газпромнефть и другие. Ознакомиться с Кодексом можно здесь.
🔺СФ: поправки в УК РФ о треш-стримах проходят согласование
За проведение прямых интернет-трансляций, содержащих сцены издевательства над людьми и животными, сенаторы предлагают штрафовать и отправлять в колонию на срок до шести лет.
🔺Минцифры разработает систему для поиска фишинговых сайтов
Платформа будет собирать данные приложений и почтовых сервисов и передовать информацию о выявленных нарушениях правоохранительным органам и другим ведомствам. Запустить систему планируют в 2022 году.
🔺Минцифры планирует создать суперприложение для чиновников
В него войдут мессенджер, средства для видео-конференц-связи, почта, облачное хранилище и другие инструменты, необходимые в работе госслужащих. Планируется, что приложение заработает до конца 2022 года.
🔺В России появился Кодекс этики искусственного интеллекта
Документ подписали представители крупнейших российских компаний, вузов и научно-исследовательских институтов — МФТИ, Сбербанк, Яндекс, МТС, Ростелеком, РФПИ, Газпромнефть и другие. Ознакомиться с Кодексом можно здесь.
🔺СФ: поправки в УК РФ о треш-стримах проходят согласование
За проведение прямых интернет-трансляций, содержащих сцены издевательства над людьми и животными, сенаторы предлагают штрафовать и отправлять в колонию на срок до шести лет.
🔺Минцифры разработает систему для поиска фишинговых сайтов
Платформа будет собирать данные приложений и почтовых сервисов и передовать информацию о выявленных нарушениях правоохранительным органам и другим ведомствам. Запустить систему планируют в 2022 году.
This media is not supported in your browser
VIEW IN TELEGRAM
Только за октябрь аналитики «Диалога» выявили 154 ресурса о продаже фейковых сертификатов о вакцинации от коронавируса.
Максимальный всплеск пришелся на период с 27 по 29 октября — было выявлено 43 ссылки с такими подделками.
Кроме того, что такие продавцы ведут незаконную деятельность, они еще и запугивают людей — рассказывают о «вреде» прививки, чтобы набрать больше клиентов. Об этом в интервью телеканалу «Россия 24» рассказал эксперт всероссийского межведомственного центра компетенций «Диалог» Тимофей Ви.
#фейки #аналитика #мнение
Максимальный всплеск пришелся на период с 27 по 29 октября — было выявлено 43 ссылки с такими подделками.
Кроме того, что такие продавцы ведут незаконную деятельность, они еще и запугивают людей — рассказывают о «вреде» прививки, чтобы набрать больше клиентов. Об этом в интервью телеканалу «Россия 24» рассказал эксперт всероссийского межведомственного центра компетенций «Диалог» Тимофей Ви.
#фейки #аналитика #мнение
Продолжаем рассуждать о соцсетях в нашей рубрике #общество_технологии
Пределы контроля алгоритмов
Одна из основных задач рекомендательных алгоритмов сегодня заключается в преумножении прибыли IT-корпораций. Эта цель достигается бесконечным повторением однотипного контента, просматривание которого усиливает социальные противоречия, вынуждая пользователей раз за разом возвращаться к горячим спорам по бесчисленным поводам. Даже многие сотрудники интернет-гигантов не готовы больше с этим мириться.
Так, экс-программист YouTube Гийом Шасло пытался изменить ситуацию — сделать алгоритмы более «правильными» и полезными для пользователя, но его проекты отклоняли. Причина тому — стремление YouTube любым способом увеличивать время нахождения людей на площадке, с чем вполне успешно справляются и существующие алгоритмы. Они заставляют смотреть однообразные ролики, что затягивает и программирует наши дальнейшие решения: например, выдача серии видео о конспирологических теориях подталкивает занимать соответствующую позицию. Таким образом, вариантов узнать другую точку зрения практически нет.
▪️За вас уже все решили
У человечества все меньше шансов на самостоятельное мышление: ежемесячно YouTube используют 2 млрд людей, а алгоритм рекомендаций определяет, что они будут смотреть более чем в 70% случаев. Это примерно 700 млн часов или тысяча человеческих жизней — ежедневно!
Выбор ИИ оказывает огромное влияние: только Google обслуживает 5,6 млрд запросов в сутки, на каждый из которых выпадает около 10 результатов автозаполнения. Очевидно, что это сильно воздействует на общество, хотя мы до сих пор точно не знаем как.
▪️Путь к новым решениям
В этой связи стоит обратить внимание на проект российской группы законодателей. Под руководством председателя Комитета Госдумы РФ по информационной политике Александра Хинштейна депутаты подготовили стратегический ответ на описанную выше проблему. Предлагаемое ими регулирование алгоритмов, эксплуатирующих негативные и деструктивные качества человеческой психики, при ближайшем рассмотрении оказывается не столько попыткой вмешательства государства в работу соцсетей, сколько формой господдержки социально ответственного бизнеса.
Смысл в том, что предлагаемый законопроект предоставит пользователям возможность ограничить действие агрессивных алгоритмов. В результате этого компаниям, владеющим и сотрудничающим с соцсетями, придется вкладываться в разработку более совершенных, «правильных» алгоритмов. Они будут действовать не только в интересах рекламодателей, но и пользователей, позволив им успешнее контролировать свою интернет-активность.
▪️Экологичность соцсетей
Примерно на такой идее базировался механизм алгоритмов Шасло — расширения интересов аудитории за счет показа роликов на разные темы. Несмотря на исчерпывающие доказательства экономической и социальной эффективности такого нововведения, о реализации его на Западе пока речи не идет. Без законодательного воздействия на рынок перемены к лучшему невозможны. Доказательство тому — принуждение углеводородных предприятий путем штрафов и поощрений переходить на экологичные технологии.
Можно сказать, что проект Хинштейна, который имеет все шансы стать прообразом единой международной практики, является первым шагом к созданию «экологичного» интернета — виртуальной среды, в которой место инструментов «зомбирования» пользователя займут подпорки для его интеллектуального роста и независимости.
Пределы контроля алгоритмов
Одна из основных задач рекомендательных алгоритмов сегодня заключается в преумножении прибыли IT-корпораций. Эта цель достигается бесконечным повторением однотипного контента, просматривание которого усиливает социальные противоречия, вынуждая пользователей раз за разом возвращаться к горячим спорам по бесчисленным поводам. Даже многие сотрудники интернет-гигантов не готовы больше с этим мириться.
Так, экс-программист YouTube Гийом Шасло пытался изменить ситуацию — сделать алгоритмы более «правильными» и полезными для пользователя, но его проекты отклоняли. Причина тому — стремление YouTube любым способом увеличивать время нахождения людей на площадке, с чем вполне успешно справляются и существующие алгоритмы. Они заставляют смотреть однообразные ролики, что затягивает и программирует наши дальнейшие решения: например, выдача серии видео о конспирологических теориях подталкивает занимать соответствующую позицию. Таким образом, вариантов узнать другую точку зрения практически нет.
▪️За вас уже все решили
У человечества все меньше шансов на самостоятельное мышление: ежемесячно YouTube используют 2 млрд людей, а алгоритм рекомендаций определяет, что они будут смотреть более чем в 70% случаев. Это примерно 700 млн часов или тысяча человеческих жизней — ежедневно!
Выбор ИИ оказывает огромное влияние: только Google обслуживает 5,6 млрд запросов в сутки, на каждый из которых выпадает около 10 результатов автозаполнения. Очевидно, что это сильно воздействует на общество, хотя мы до сих пор точно не знаем как.
▪️Путь к новым решениям
В этой связи стоит обратить внимание на проект российской группы законодателей. Под руководством председателя Комитета Госдумы РФ по информационной политике Александра Хинштейна депутаты подготовили стратегический ответ на описанную выше проблему. Предлагаемое ими регулирование алгоритмов, эксплуатирующих негативные и деструктивные качества человеческой психики, при ближайшем рассмотрении оказывается не столько попыткой вмешательства государства в работу соцсетей, сколько формой господдержки социально ответственного бизнеса.
Смысл в том, что предлагаемый законопроект предоставит пользователям возможность ограничить действие агрессивных алгоритмов. В результате этого компаниям, владеющим и сотрудничающим с соцсетями, придется вкладываться в разработку более совершенных, «правильных» алгоритмов. Они будут действовать не только в интересах рекламодателей, но и пользователей, позволив им успешнее контролировать свою интернет-активность.
▪️Экологичность соцсетей
Примерно на такой идее базировался механизм алгоритмов Шасло — расширения интересов аудитории за счет показа роликов на разные темы. Несмотря на исчерпывающие доказательства экономической и социальной эффективности такого нововведения, о реализации его на Западе пока речи не идет. Без законодательного воздействия на рынок перемены к лучшему невозможны. Доказательство тому — принуждение углеводородных предприятий путем штрафов и поощрений переходить на экологичные технологии.
Можно сказать, что проект Хинштейна, который имеет все шансы стать прообразом единой международной практики, является первым шагом к созданию «экологичного» интернета — виртуальной среды, в которой место инструментов «зомбирования» пользователя займут подпорки для его интеллектуального роста и независимости.