🤖🌐 Международным и социальным последствиям использования технологий искусственного интеллекта (#ИИ) посвящена новая рабочая тетрадь РСМД

В центре анализа настоящей работы — возможное влияние ИИ и смежных с ним технологий (машинное обучение, автономные аппараты) на международные отношения и различные сферы общественной жизни. В публикациях также рассматриваются этико-юридические аспекты применения технологий ИИ. Издание включает в себя аналитические материалы, подготовленные специалистами в сферах искусственного интеллекта, машинного обучения, автономных систем, а также юристов и социологов. Авторы: Сергей Карелов, Максим Карлюк, Антон Колонин, Николай Маркоткин и Дмитрий Шефтелович.

Электронная версия издания http://russiancouncil.ru/paper44

Сегодня же в РСМД состоялась одноименная конференция, в которой приняли участие ведущие эксперты в области ИИ и смежных дисциплин, международной безопасности, философы, юристы и социологи. Видео всех сессий конференции https://www.youtube.com/watch?v=jG1IS6G7uTo&feature=youtu.be&t=138&list=PLVsJ4XAR8N3dnw37VbxAi8kRdE_DpH3pB

У @russiancouncil сегодня было людно, весело и интересно, @vatfor подтверждает. Единственное, очень уж про разное говорили докладчики зачастую - ну да искусственный интеллект тема такая, широкая и не очень оформленная.

Чуть позже выскажемся и поподробнее.

https://yangx.top/russiancouncil/1838

Рады были видеть на конференции по #ИИ двух авторов @vatfor! То, что тема дискуссии была широка - бесспорно. Но проблема даже не в широте темы, а в различиях в подходах и используемой терминологии. Надеемся, что публикации РСМД позволят систематизировать подходы в изучении проблемы ИИ в международных отношениях. В следующем году планируем сосредоточиться на более точечных аспектах.

Автор Ватфора выступал на конференции РСМД по международным социально-политическим последствиям внедрения технологий искусственного интеллекта, и делится впечатлениями от собственно конференции. Тематика ИИ охватывает широкий спектр тем, и, соответственно, докладчики тоже старались рассказать о, с их точки зрения, наиболее интересных аспектах этой темы. Кроме философских рассуждений о сути интеллекта и боевых роботах, многое было сказано о перспективах развития ИИ-технологий в мире в целом и в России в частности.

К сожалению, широкий спектр конференции поспособствовал широте, но не глубине дискуссии. Хотелось бы обсудить многие из поднявшихся тем глубже, посмотреть на обсуждение мер по поддержке малого ИТ-бизнеса, обсудить замещение рабочих мест, освобождаемых автоматизацией, детально взвесить «за» и «против» автономных боевых систем вместе с собственно собирающимися их применять военными. Но, скорее всего, это потребовало бы расширения конференции во времени; поэтому со своей стороны понадеемся, что РСМД продолжит проект и рассмотрит наиболее интересные вопросы детально.

Из дискуссии, удалось почерпнуть кое-что новое и познавательное. Из запомнившихся тезисов и выступлений можно упомянуть рассуждения о том, что машинное обучение это ответ на огромные масштабы данных, краткую историю индийского киберкомаднования, поучительную историю о том, как пользователи Твиттера научили чат-робота от Microsoft плохому (и вывод, что качество данных на входе зачастую критически важно для классификации на выходе, что было видно на недавнем примере с Amazon), вопрос о необходимости принятия национальной стратегии развития ИИ-технологий, варианты помощи российскому ИТ-бизнесу и вопрос о предпочтительном формате (открытый либо закрытый) разработки ИИ. Риски ИИ участники видели не только в труднообъяснимости принимаемых решений, но и в собственно технологии, позволяющей фабриковать фото и видео и создать «виртуальное пространство дезинформации», и в гонке ИИ-вооружений. Звучали и скептические голоса: в первую очередь, коллеги со стажем вспоминали, что под «искусственным интеллектом» последние 40 лет понимались технологии на горизонте ИИ, которые на следующий день становились рутинной задачей статистики или дискретной математики; а в общем контексте цифровизации вспоминали опыт последних тридцати лет, когда цифровизация требовала достаточно масштабной реорганизации бизнес-процессов. Несмотря на ограниченный формат, нашлось место и жёстким дискуссиям по существу, и даже мерянием формами допуска.

Со своей стороны в копилку дискуссии Ватфор хочет добавить один тезис: тот факт, что машинное обучение требует огромные массивы данных и необходимость эти данные собирать и обрабатывать, поднимает вопрос о добровольности их сбора, и, собственно, защите пользовательских данных, анонимизации и контроля за утечками информации. Даже в рамках человеческого общения наличие тайны и отказ обсуждать определённые темы позволяет сделать выводы, чего уже говорить о выводах, которые можно сделать из «больших данных».

https://yangx.top/russiancouncil/1838

🇷🇺 ➿ #Россия способна найти свою нишу в #ИИ-технологиях, но эта ниша интегрирована в глобальный ландшафт.

Вице-президент ВШЭ Игорь Агамирзян рассказал о роли технологий искусственного интеллекта в технологическом развитии человечества, возможностях и ограничениях международного регулирования информационных технологий и российской позиции в гонке технологий.

"...отличие цифрового мира от мира индустриального заключается в том, что здесь невозможно догоняющее развитие. Если в период индустриализации можно было построить завод, купив техническую документацию и затратить на это меньшее время и ресурсы меньшие, чем если бы конструирование и создание этого завода происходило с нуля, то в современной цифровой экономике такой вариант не сработает. Сейчас объект и его чертеж — это, по сути, одно и то же. Для того, чтобы реализовать собственную разработку некоего объекта с нуля, потребуются время и ресурсы такие же, как были когда-то использованы, чтобы создать прототип.
Соответственно, чтобы сократить существующее технологическое отставание, потребуются те же самые 50 лет, на протяжении которых это технологическое отставание росло.

Рассчитывать на то, что мы сможем полностью, как у нас говорят, «импортозаместить» информационные технологии — это наивно. Но мы можем, базируясь на существующей международной и достаточно хорошо стандартизованной платформе (в том числе микроэлектроники, систем хранения данных, коммуникационного оборудования, соответствующего программного обеспечения) строить новое и интегрировать те технологии и те, условно говоря, общественно-доступные знания, которые в мире существуют.

Россия может найти свою нишу в ИИ-технологиях. Но эта ниша интегрирована в глобальный ландшафт. Однако в эту нишу в условиях, так сказать, ограничений на развитие глобальной экономики, вход найти очень трудно."

http://russiancouncil.ru/analytics-and-comments/interview/igor-agamirzyan-iskusstvennyy-intellekt-obektivnaya-zakonomernost-razvitiya-chelovechestva/

🤖 Эйнштейн однажды остроумно заметил, что в мире есть две бесконечные вещи — Вселенная и человеческая глупость, хотя в первом он не вполне уверен.

Раз уж глупость бесконечна, то интеллект, уровнем развития которого она является, пусть и искусственный, можно обсуждать так же бесконечно долго.

Новый текст "про #ИИ" посвящен проблеме недостижимости сильного ИИ. Оговоримся правда, недостижимость авторами фиксируется на существующей аппаратной базе и в алгоритмизированном пространстве.

В мультидисциплинарном (айти, физика, философия, психология, биология и, конечно же, математика) лонгриде Роман Дурнев, Кирилл Крюков и Андрей Титов разбираются в терминологии ИИ, объясняют, почему создание «сильного ИИ» в виде программы на ЭВМ в принципе невозможно, подробно описывают математические ограничения в создании ИИ человеческого уровня и рисуют удивительные перспективы настоящего биохакинга, основанного на развитии биокибернетических систем.

Вперед к экзокортексу и брейнету! 🤓

http://russiancouncil.ru/analytics-and-comments/analytics/v-pogone-za-sovershennym-intellektom/

Эксперт РСМД и автор @vatfor Дмитрий Шефтелович подготовил обзор стратегии #ИИ МО США, опубликованной 12 февраля 2019 г.

Судя по всему, в Пентагоне сформировалось мнение, что для внедрения ИИ-технологий не хватает ни ресурсов, ни организационных структур. Поэтому стратегия предусматривает, кроме собственно внедрения технологий, дополнительное активное финансирование, привлечение кадров из гражданского и научного сектора, а также создание специализированного внутреннего ведомства по ИИ, которое должно управлять внедрением технологий и отчасти преобразовать не только процесс внедрения, но и сам Пентагон, увеличивая его эффективность не только за счёт технических инноваций, но и за счёт применения современных управленческих практик.

С точки зрения Пентагона, ИИ-технологии способны радикально преобразовать военное дело. Интересно, что как в России и Китае, так и в США, главные аргументы для включения в гонку ИИ, это позиции "конкурентов". В случае США, это Китай и Россия, которые, по мнению авторов документа, уже разрабатывают и внедряют ИИ-технологии с далеко идущими геополитическими целями, противоречащими ценностям США и их союзников.

http://russiancouncil.ru/analytics-and-comments/analytics/obzor-strategii-ii-mo-ssha/

🇨🇳🏃‍♂🇺🇸 #Китай  обогнал #США по 2м из 4х ключевых показателей развития ИИ.

Китай уже сейчас №1 по числу научных публикаций и патентов, а США  пока лидирует  по числу специалистов и компаний.

Но предопределенности лидерства Китая в мировом развитии ИИ нет. Чтобы переломить ход мировой ИИ гонки, США требуется сделать примерно то же, что они уже не раз делали в прошлом, осознав свое технологическое отставание в стратегической для национальной безопасности сфере.

Так было с Манхеттенским проектом в 1942–1946, когда США решили во что бы то не стало выиграть гонку по созданию атомной бомбы, несмотря на то, что немцы, начав свой проект на 3 года раньше, значительно ушли вперед. Похожим образом складывалась история программы «Аполлон»,  целью которой было догнать и перегнать ушедший вперед в своей космической программе СССР.

Подробнее о гонке #ИИ в лонгриде Сергея Карелова, автора
@theworldisnoteasy https://goo.gl/pnmxeJ

🤖🇷🇺 #Робототехника и #ИИ в России: разработки есть, а законодательства — нет (пока)

2019 год должен стать переломным для российских высоких технологий — готовятся к выходу национальные стратегии по развитию робототехники и искусственного интеллекта, также ожидается, что будут приняты законы, регулирующие эти отрасли. Мы побеседовали с руководителем Исследовательского центра «Робоправо» Андреем Незнамовым о содержании национального законодательства в сфере ИИ и робототехники и перспективах международного регулирования смертоносных автономных систем.

О законе об использовании роботов

Ключевая идея нового закона будет заключаться в том, чтобы минимально навредить интересам индустрии и наоборот поддержать ее развитие. При этом одновременно необходимо соблюсти баланс с обеспечением интересов общества и государства, в первую очередь с точки зрения безопасности. Мы стараемся любыми способами донести до законодателей мысль, что 90% нормативных актов в этой сфере в других странах направлены на поддержку отрасли, а не на то, чтобы ее регулировать.

О робототехнике в России

Существует распространенное заблуждение, что в России нет ни роботов, ни искусственного интеллекта, и нам незачем писать законы на эту тему. Не все знают, что в стране есть компании, которым удается не просто производить роботов, но и экспортировать их в те страны, куда, казалось бы, это делать невозможно — например, в Японию. Такие ростки, безусловно, нужно поддерживать. Лучше всего ситуация с военной робототехникой. Из гражданских — это, в первую очередь, сервисная робототехника. В сфере медицины постепенно появляется целый ряд разработок. Промышленная робототехника у нас, к сожалению, пока развита достаточно слабо.

О законодательстве в области беспилотных транспортных средств

Уже сейчас в десятках стран мира есть законодательство, разрешающее тестирование полностью беспилотных машин, а мы разрешили только один вид. Более того, у нас не разрешено тестирование машин, которые изначально созданы как беспилотные, в которых даже руля нет. Такие разработки в России есть, а законодательства — нет. Это, конечно, большая проблема. Я надеюсь, что в 2019 г. мы сможем это поправить.

О регулировании и/или запрещении использования военных дронов

Несмотря на возмущение общественности и кампании вроде «Stop Killer Robots», факты говорят в том, что во многих странах такие разработки ведутся, а у целого ряда стран такие разработки есть. Правда заключается в том, что использовать такие боевые системы выгодно как с экономической, так и с гуманитарной точки зрения. Умирает робот, а не человек. В вопросах регулирования военных беспилотников государствам очень тяжело будет найти какой-то консенсус.

https://russiancouncil.ru/analytics-and-comments/interview/robototekhnika-i-ii-v-rossii-razrabotki-est-a-zakonodatelstva-poka-net/

​​Россия на карте мира ИИ.
Место и перспектива трёх стран в мировой ИИ-гонке.
Еще пару лет назад был смысл в применении разнообразных рейтингов для оценки положения стран в мировой ИИ-гонке (см. (1)). Теперь это уже не так. Практические успехи глубокого обучения (основное направление развития современных ИИ-систем) привели к тому, что на это направлении развития ИИ теперь приходятся 95%+ всех денег и талантов. А это значит, что как минимум на ближайшую декаду, лидеры глубокого обучения будут лидерами мировой ИИ-гонки.

А в глубоком обучении, - как в беге. Выигрывает тот, у кого лучше физическая подготовка. Конечно, есть и другие факторы (спортивный дух, настрой, воля к победе, техника …). Но без исключительно хорошей физической подготовки в гонке не выиграть.

Эквивалентом физической подготовки в современном глубоком обучении является вычислительная мощность компьютера, на котором обучаются модели со все большим числом параметров. В крупнейшей на сегодня языковой модели transformer от Microsoft число параметров составляет 530 млрд. Насколько круто возросли требования к вычислительной мощности для таких моделей видно из этого графика (2).

В результате вычислительная мощность стала главным показателем потенциала роста величины и сложности новых все более совершенных моделей глубокого обучения. И это относится как к бизнесу компаний БигТеха, так и к академическим исследовательским центрам, а также к каждой стране в целом.

Для оценки вычислительной мощности для такого рода задач обучения сверхбольших моделей создан специальный тест HPL-AI (3). Но по этому тесту пока что оценена производительность лишь 19 высокопроизводительных вычислительных комплексов мира. Поэтому для более широкого и полного сравнения самых высокопроизводительных систем для ИИ пока продолжают использовать показатель скорости вычислений с плавающей точкой (Flop/s), как это принято в рейтинге ТОР500 (4).

И по этой оценке карта мира ИИ выглядит так, как на приложенном к посту рисунке.
Совокупная вычислительная мощность каждой из стран соответствует площади прямоугольников, в свою очередь разделенных на более мелкие прямоугольники, соответствующие вычислительной мощности отдельных высокопроизводительных систем.
• Россия обведена красным пунктиром (7 систем, самая мощная из них у Яндекса – 21,5 петафлопс (10^15 Flop/s)
• Китай обведен синим пунктиром (173 системы, самая мощная – 93 петафлопс – на 26% превышает производительность всех российских систем в ТОР500).
• США обведены желтым пунктиром (149 систем, самая мощная – 149 петафлопс –в 2 раза превышает производительность всех российских систем в ТОР500).

Таково сегодняшнее место России на карте мира ИИ.

А теперь о перспективе.
На этом рисунке (5) вычислительная мощность трёх новых суперкомпьютерных систем соответствует площади трёх прямоугольников:
• Желтый – это Китай: 25 января с.г. SenseTime запустил Artificial Intelligence Data Centre (AIDC) нового поколения SenseCore; его вычислительная мощность 3740 петафлопс (в 51 раз превышает производительность всех российских систем в ТОР500)
• Синий – это США: к 2023 году Facebook (Meta) доведет вычислительную мощность своего AI supercomputer RSC до 4900 петафлопс (в 67 раз превышает производительность всех российских систем в ТОР500)
• Красный – это Россия: к 2026 планируется создать суперкомпьютер на разрабатываемых сейчас отечественных процессорах «Эльбрус-32С» производительностью в 100 петафлопс.

#ИИ #HPC #Россия #Китай #США
1 2 3 4 5