Как наказывать ИИ за смерть людей?
Закон это не решит. Производитель тоже. Но появился выход.
Пора признать, не решив этот вопрос, цивилизация не станет человеко-ИИшной. Только решив, как наказывать людей за убийства, люди смогли построить цивилизацию. В итоге люди не перестали убивать. Но вопрос о наказании за убийство позволил избежать логико-этического тупика прогресса. А теперь надо решать по новой.
Теперь на смену цивилизации людей идет человеко-ИИшная. И как теперь наказывать за убийство? Ведь ИИ будет убивать: на войне и без; случайно и умышленно (напр. делая выбор, кого спасать, а кого убить); по одиночке и массово …
Пока ИИ работает в паре с человеком, проблем нет, т.к. спрос за смерть предъявляется человеку. В США за 14 лет ошибки роботизированной хирургии убили 144ёх. Но хирурги не понесли ответственности за это, т.к. остальные 2+ млн. роботизированных операций, прошли гладко. И, следовательно, роботы делает хирургию более безопасной.
Но ведь и беспилотные авто сделают вождение безопасней. Однако, справедливо отмечает Макс Тегмарк, как с роботизированной хирургией здесь не получится. Как только ИИ останется со смертью один на один, возникает юридический тупик.
«Если появление на дорогах беспилотных автомобилей сохранит жизнь половине от тех 32 тыс., что ежегодно гибнут на дорогах США, то производители таких автомобилей получат не 16 тыс. благодарственных открыток от спасенных, а 16 тыс. исков в защиту погибших. В случае, когда беспилотный автомобиль попадает в аварию и в результате страдают люди, кто должен нести за это ответственность – пассажир авто, владелец или производитель?»
Т.е. все упирается в законы, регулирующие эту область. Но законы пишут политики. И ждать от них интеллектуальных откровений, способных решить этот логико-этический мега-пазл, было бы наивно. Задушить регулированием безопасности отрасль беспилотных авто у себя в стране они могут. Но тогда исследования, а затем и производство просто сбегут в страны с менее требовательными правительствами.
И этот регуляторный тупик касается далеко не только самоуправляемых авто. ИИ для дронов, энергетики, связи, инфраструктуры, оружия … Всюду ИИ будет убивать. И всюду один и тот же регуляторный тупик:
- либо задушить развитие технологии у себя в стране, проиграв из-за этого в международной конкуренции;
- либо забить на регулирование, и будь что будет.
Но ведь и «забить» не спасает. Как только регуляторные ограничения будут сняты, уровень рисков зашкалит. А это дорога в хаос невосполнимых потерь.
Есть ли выход? Jack Clark из Open AI и Gillian K. Hadfield из Универа Торонто считают, что есть.
Они предлагают революционное решение – новый способ регулирования высокорисковых технологий, названный «Регуляторный рынок». Его суть в переходе от двухуровневой системы регуляторных отношений правительство – бизнес к трехуровневому правительство – частно-правовой регулятор – бизнес. Причем отношения между двумя последними будут регулироваться не законами, а деньгами.
Мне это предложение чем-то напомнило идею правоведа Дэвида Владека сделать ответственным за смерть на дороге … сам автомобиль. Суть в том, чтобы для беспилотных авто требовалась специальная страховка. Те авто, чья страховая история будет чистой, получат премию за свою безопасность. А плохо разработанные модели от небрежного производителя получат право лишь на такие дорогие страховые полисы, что владение ими окажется невыгодным. Так и сложится подобие «Регуляторного рынка».
Предложение по созданию для ИИ «Регуляторного рынка» будет впервые представлено авторами 26го сентября на конференции «Economics of Artificial Intelligence».
Желающие познакомиться с ним уже сейчас, а заодно протестировать его на кейсе Adversarial-атак на коммерческие дроны, могут это сделать здесь
#БезопасностьИИ
P.S. Какой станет Фемида, столкнувшись с таким вызовом?
Возможно, такой:
Самуэль Бак «В поисках портрета Б»
Закон это не решит. Производитель тоже. Но появился выход.
Пора признать, не решив этот вопрос, цивилизация не станет человеко-ИИшной. Только решив, как наказывать людей за убийства, люди смогли построить цивилизацию. В итоге люди не перестали убивать. Но вопрос о наказании за убийство позволил избежать логико-этического тупика прогресса. А теперь надо решать по новой.
Теперь на смену цивилизации людей идет человеко-ИИшная. И как теперь наказывать за убийство? Ведь ИИ будет убивать: на войне и без; случайно и умышленно (напр. делая выбор, кого спасать, а кого убить); по одиночке и массово …
Пока ИИ работает в паре с человеком, проблем нет, т.к. спрос за смерть предъявляется человеку. В США за 14 лет ошибки роботизированной хирургии убили 144ёх. Но хирурги не понесли ответственности за это, т.к. остальные 2+ млн. роботизированных операций, прошли гладко. И, следовательно, роботы делает хирургию более безопасной.
Но ведь и беспилотные авто сделают вождение безопасней. Однако, справедливо отмечает Макс Тегмарк, как с роботизированной хирургией здесь не получится. Как только ИИ останется со смертью один на один, возникает юридический тупик.
«Если появление на дорогах беспилотных автомобилей сохранит жизнь половине от тех 32 тыс., что ежегодно гибнут на дорогах США, то производители таких автомобилей получат не 16 тыс. благодарственных открыток от спасенных, а 16 тыс. исков в защиту погибших. В случае, когда беспилотный автомобиль попадает в аварию и в результате страдают люди, кто должен нести за это ответственность – пассажир авто, владелец или производитель?»
Т.е. все упирается в законы, регулирующие эту область. Но законы пишут политики. И ждать от них интеллектуальных откровений, способных решить этот логико-этический мега-пазл, было бы наивно. Задушить регулированием безопасности отрасль беспилотных авто у себя в стране они могут. Но тогда исследования, а затем и производство просто сбегут в страны с менее требовательными правительствами.
И этот регуляторный тупик касается далеко не только самоуправляемых авто. ИИ для дронов, энергетики, связи, инфраструктуры, оружия … Всюду ИИ будет убивать. И всюду один и тот же регуляторный тупик:
- либо задушить развитие технологии у себя в стране, проиграв из-за этого в международной конкуренции;
- либо забить на регулирование, и будь что будет.
Но ведь и «забить» не спасает. Как только регуляторные ограничения будут сняты, уровень рисков зашкалит. А это дорога в хаос невосполнимых потерь.
Есть ли выход? Jack Clark из Open AI и Gillian K. Hadfield из Универа Торонто считают, что есть.
Они предлагают революционное решение – новый способ регулирования высокорисковых технологий, названный «Регуляторный рынок». Его суть в переходе от двухуровневой системы регуляторных отношений правительство – бизнес к трехуровневому правительство – частно-правовой регулятор – бизнес. Причем отношения между двумя последними будут регулироваться не законами, а деньгами.
Мне это предложение чем-то напомнило идею правоведа Дэвида Владека сделать ответственным за смерть на дороге … сам автомобиль. Суть в том, чтобы для беспилотных авто требовалась специальная страховка. Те авто, чья страховая история будет чистой, получат премию за свою безопасность. А плохо разработанные модели от небрежного производителя получат право лишь на такие дорогие страховые полисы, что владение ими окажется невыгодным. Так и сложится подобие «Регуляторного рынка».
Предложение по созданию для ИИ «Регуляторного рынка» будет впервые представлено авторами 26го сентября на конференции «Economics of Artificial Intelligence».
Желающие познакомиться с ним уже сейчас, а заодно протестировать его на кейсе Adversarial-атак на коммерческие дроны, могут это сделать здесь
#БезопасностьИИ
P.S. Какой станет Фемида, столкнувшись с таким вызовом?
Возможно, такой:
Самуэль Бак «В поисках портрета Б»
Такая Фемида вам не нравится?
Мне тоже.
Но пока что в вопросах убийства людей искусственным интеллектом Фемида выглядит примерно так.
Самуэль Бак "See No Evil"
Мне тоже.
Но пока что в вопросах убийства людей искусственным интеллектом Фемида выглядит примерно так.
Самуэль Бак "See No Evil"
Остановитесь, - это путь к гибели цивилизации!
Разработана 1я дорожная карта спасения.
Великий космолог и астрофизик, обладатель премий Эйнштейна и Фарадея, золотых медалей Ньютона и Брюса, кавалер Ордена Заслуг, автор десятка выдающихся открытий, 500 научных работ и восьми книг лорд Мартин Джон Рис два года назад поставил вопрос ребром -
нам всем конец? (1)
Этот же вопрос он поставил неделей раньше в суперпрестижной лекции «Как пережить это столетие: как сохранить нашу «бледно-голубую точку» (2).
Мысли проф. Риса просты, как все гениальное.
• Экзистенциальные риски для выживания человечества подошли к тому пределу, когда само уже не рассосется.
• Ждать, что правительства развитых стран всерьез возьмутся за поиск возможностей снижения этих рисков, не приходится. Они озабочены лишь ближайшей перспективой. А все, что за пределами очередного электорального цикла, их вообще не волнует.
• Только общественность своей активностью может заставить правительства озаботиться этими рисками не на словах, а на деле.
Наивысший из этих рисков несет разработка Автономных систем вооружений (AWS): систем вооружений, которые после активации могут сами выбирать и атаковать цели без дальнейшего вмешательства человека-оператора.
То, что цивилизация на Земле еще существует, - огромная удача. Ей мы обязаны конкретным людям.
• Василий Архипов – единственный из 3х ответственных за пуск ядерной торпеды офицеров подводной лодки Б-59. Он отказался нанести удар по США 27 октября 1962 (3), когда капитан Савицкий уже принял решение пустить эту торпеду, а торпедный офицер, задыхаясь от нехватки воздуха и адской жары, прохрипел: “Мы сейчас по ним шарахнем! Сами погибнем, их потопим
всех, но флот не опозорим!”(4). Но Архипов остановил ядерный удар, имевший все шансы начать ядерный апокалипсис на планете.
• Станислав Петров - дежурный офицер системы раннего предупреждения. Он поверил своей интуиции, что США вряд ли стали бы атаковать всего лишь 5ю ракетами, и нарушил инструкцию, не доложив командованию, что на СССР уже летят 5 ядерных ракет США. Потом выяснилось, что это была ошибка - спутник принял солнечные блики от облаков за пламя ракетных двигателей (5). Петров остановил начинающуюся ядерную войну.
✔️ И вот теперь, с появлением Автономных систем вооружений, в цепочке принятия решений не будет Архипова, Петрова… никого не будет, кто мог бы остановить ИИ, самостоятельно принявшего решения стрелять.
Сегодня под Открытым письмом специалистов по ИИ и робототехники о необходимости запретить все автономные системы вооружений стоит уже 26215 подписей (6).
Но как провидчески писал Мартин Рис, на правительства полагаться в этом вопросе бессмысленно.
Какая же альтернатива?
Давить на правительства, чтобы все же запретили?
Бессмысленно. Все равно какие-то страны или фанатики не последуют запрещению. А там и все остальные спохватятся.
Тогда, как обычно с технологиями – война план покажет?
Но это путь к гибели цивилизации.
Третий вариант – дорожную карту из 5 компонентов (7), предложила «великолепная семёрка» спецов по ИИ. Это результат работы, института FutureOfLife после выпуска ими меморандума в марте 2019 (8) и проведения 28-29 августа с.г. воркшопа на эту тему.
Предлагается.
• ограниченный по времени мораторий;
• исключения для определенных классов оружия;
• протоколы против непреднамеренной эскалации;
• стратегии по предотвращению распространения;
• разработка «кентавров» людей и ИИ.
#AWS
Разработана 1я дорожная карта спасения.
Великий космолог и астрофизик, обладатель премий Эйнштейна и Фарадея, золотых медалей Ньютона и Брюса, кавалер Ордена Заслуг, автор десятка выдающихся открытий, 500 научных работ и восьми книг лорд Мартин Джон Рис два года назад поставил вопрос ребром -
нам всем конец? (1)
Этот же вопрос он поставил неделей раньше в суперпрестижной лекции «Как пережить это столетие: как сохранить нашу «бледно-голубую точку» (2).
Мысли проф. Риса просты, как все гениальное.
• Экзистенциальные риски для выживания человечества подошли к тому пределу, когда само уже не рассосется.
• Ждать, что правительства развитых стран всерьез возьмутся за поиск возможностей снижения этих рисков, не приходится. Они озабочены лишь ближайшей перспективой. А все, что за пределами очередного электорального цикла, их вообще не волнует.
• Только общественность своей активностью может заставить правительства озаботиться этими рисками не на словах, а на деле.
Наивысший из этих рисков несет разработка Автономных систем вооружений (AWS): систем вооружений, которые после активации могут сами выбирать и атаковать цели без дальнейшего вмешательства человека-оператора.
То, что цивилизация на Земле еще существует, - огромная удача. Ей мы обязаны конкретным людям.
• Василий Архипов – единственный из 3х ответственных за пуск ядерной торпеды офицеров подводной лодки Б-59. Он отказался нанести удар по США 27 октября 1962 (3), когда капитан Савицкий уже принял решение пустить эту торпеду, а торпедный офицер, задыхаясь от нехватки воздуха и адской жары, прохрипел: “Мы сейчас по ним шарахнем! Сами погибнем, их потопим
всех, но флот не опозорим!”(4). Но Архипов остановил ядерный удар, имевший все шансы начать ядерный апокалипсис на планете.
• Станислав Петров - дежурный офицер системы раннего предупреждения. Он поверил своей интуиции, что США вряд ли стали бы атаковать всего лишь 5ю ракетами, и нарушил инструкцию, не доложив командованию, что на СССР уже летят 5 ядерных ракет США. Потом выяснилось, что это была ошибка - спутник принял солнечные блики от облаков за пламя ракетных двигателей (5). Петров остановил начинающуюся ядерную войну.
✔️ И вот теперь, с появлением Автономных систем вооружений, в цепочке принятия решений не будет Архипова, Петрова… никого не будет, кто мог бы остановить ИИ, самостоятельно принявшего решения стрелять.
Сегодня под Открытым письмом специалистов по ИИ и робототехники о необходимости запретить все автономные системы вооружений стоит уже 26215 подписей (6).
Но как провидчески писал Мартин Рис, на правительства полагаться в этом вопросе бессмысленно.
Какая же альтернатива?
Давить на правительства, чтобы все же запретили?
Бессмысленно. Все равно какие-то страны или фанатики не последуют запрещению. А там и все остальные спохватятся.
Тогда, как обычно с технологиями – война план покажет?
Но это путь к гибели цивилизации.
Третий вариант – дорожную карту из 5 компонентов (7), предложила «великолепная семёрка» спецов по ИИ. Это результат работы, института FutureOfLife после выпуска ими меморандума в марте 2019 (8) и проведения 28-29 августа с.г. воркшопа на эту тему.
Предлагается.
• ограниченный по времени мораторий;
• исключения для определенных классов оружия;
• протоколы против непреднамеренной эскалации;
• стратегии по предотвращению распространения;
• разработка «кентавров» людей и ИИ.
#AWS
YouTube
Why We Should Ban Lethal Autonomous Weapons
Top AI researchers -- including deep-learning co-inventor Yoshua Bengio and AAAI President-elect Bart Selman -- explain what you need to know about lethal autonomous weapons. Thanks to Joseph Gordon-Levitt for the narration. Take action at https://autonomousweapons.org
Почему изнасилования отстают от инноваций.
Раскрыт последний секрет «формулы городов».
Вопрос в заголовке лишь кажется диким. Но он столь же реален, как сама жизнь. Ибо рост числа изнасилований следует тому же математическому закону, что и рост числа инноваций. Это т.н. «формула жизни», описывающая рост не только биологических существ, но и социумов больших городов
Y=Y0*M^b
Поразительно, но скорость роста всего живого описывается единой формулой с показателем степени b больше 1. То же самое и с ростом городов – его экономическая активность, бюджеты, число инноваций, автопарк, заболеваемость, энергопотребление и т.д. - все это растет со сверхлинейной скоростью с ростом числа жителей M. Город как будто живой.
Это удивительное открытие единой «формулы жизни» и «формулы городов» до сих пор портило лишь одно – наличие нескольких непонятных исключений из правила. Например, рост числа изнасилований.
Как понять - число ограблений банков, угонов автомобилей, разбоя и т.п. растет сверхлинейно (также быстро, как инновации и т.д.) с увеличением числа жителей города (b >= 1,5), а рост числа изнасилований всего лишь линейно (b = 1)?
И вот секрет раскрыт. Новое исследование Modeling the origin of urban-output scaling laws объяснило различия в масштабировании разных типов преступлений и подтвердило гипотезу на матмодели.
Оказалось, что все зависит от степени социальности (коллективности) действий (и в частности, преступлений).
• Чтобы ограбить банк, нужна банда сообщников.
• Угонять автомобиль тоже сподручней не в одиночку.
• А вот изнасиловать – без проблем и одному. Более того, делать это без подельников для большинства преступников – больше кайфа.
• Аналогично с угоном мопеда или карманным воровством. Здесь напарники совсем не обязательны.
Этот вывод – серьезное подтверждение гипотезы, лежащей в основе «формулы городов».
Большие города – катализаторы социальных связей, позволяющих под любое дело (от стартапа до ограбления банка) найти оптимальную команду исполнителей.
И потому в больших городах растут, как на дрожжах, абсолютно все виды коллективной деятельности: бизнес, наука, развлечения, командный спорт, … и даже групповые преступления.
Ну а плохая новость в том, что Facebook, ВКонтакте и т.п. – это тоже, своего рода, «большие города». И подобрать группу для любого вида коллективной деятельности здесь тем проще, чем больше соцсеть. Причем эта простота растет сверхлинейно, опережая рост размера сети. И поэтому рекрутеры идут в сеть. Но и преступники тоже.
Групповая креативность в соцсетях растет также сверхлинейно. И в том числе, преступная креативность. Новые невиданные методы преступлений и поиск исполнителей на них, - эффективность всего этого растет сверхлинейно в больших городах и в больших соцетях.
Так уж устроена жизнь.
За все надо платить.
А за сверхлинейное масштабирование, - тем более.
#ФормулаГородов
• Подробней о единой формуле: жизни, городов, выборов в моем посте
• О том, что этой же формуле подчиняется динамика внимания к новостям в СМИ – во 2м моем посте
• Каким образом та же формула связана с фрактальной геометрией инноваций, порождая «Дилемму инноватора» и «Модель инновационного консильери» – в 3ем моем посте
Раскрыт последний секрет «формулы городов».
Вопрос в заголовке лишь кажется диким. Но он столь же реален, как сама жизнь. Ибо рост числа изнасилований следует тому же математическому закону, что и рост числа инноваций. Это т.н. «формула жизни», описывающая рост не только биологических существ, но и социумов больших городов
Y=Y0*M^b
Поразительно, но скорость роста всего живого описывается единой формулой с показателем степени b больше 1. То же самое и с ростом городов – его экономическая активность, бюджеты, число инноваций, автопарк, заболеваемость, энергопотребление и т.д. - все это растет со сверхлинейной скоростью с ростом числа жителей M. Город как будто живой.
Это удивительное открытие единой «формулы жизни» и «формулы городов» до сих пор портило лишь одно – наличие нескольких непонятных исключений из правила. Например, рост числа изнасилований.
Как понять - число ограблений банков, угонов автомобилей, разбоя и т.п. растет сверхлинейно (также быстро, как инновации и т.д.) с увеличением числа жителей города (b >= 1,5), а рост числа изнасилований всего лишь линейно (b = 1)?
И вот секрет раскрыт. Новое исследование Modeling the origin of urban-output scaling laws объяснило различия в масштабировании разных типов преступлений и подтвердило гипотезу на матмодели.
Оказалось, что все зависит от степени социальности (коллективности) действий (и в частности, преступлений).
• Чтобы ограбить банк, нужна банда сообщников.
• Угонять автомобиль тоже сподручней не в одиночку.
• А вот изнасиловать – без проблем и одному. Более того, делать это без подельников для большинства преступников – больше кайфа.
• Аналогично с угоном мопеда или карманным воровством. Здесь напарники совсем не обязательны.
Этот вывод – серьезное подтверждение гипотезы, лежащей в основе «формулы городов».
Большие города – катализаторы социальных связей, позволяющих под любое дело (от стартапа до ограбления банка) найти оптимальную команду исполнителей.
И потому в больших городах растут, как на дрожжах, абсолютно все виды коллективной деятельности: бизнес, наука, развлечения, командный спорт, … и даже групповые преступления.
Ну а плохая новость в том, что Facebook, ВКонтакте и т.п. – это тоже, своего рода, «большие города». И подобрать группу для любого вида коллективной деятельности здесь тем проще, чем больше соцсеть. Причем эта простота растет сверхлинейно, опережая рост размера сети. И поэтому рекрутеры идут в сеть. Но и преступники тоже.
Групповая креативность в соцсетях растет также сверхлинейно. И в том числе, преступная креативность. Новые невиданные методы преступлений и поиск исполнителей на них, - эффективность всего этого растет сверхлинейно в больших городах и в больших соцетях.
Так уж устроена жизнь.
За все надо платить.
А за сверхлинейное масштабирование, - тем более.
#ФормулаГородов
• Подробней о единой формуле: жизни, городов, выборов в моем посте
• О том, что этой же формуле подчиняется динамика внимания к новостям в СМИ – во 2м моем посте
• Каким образом та же формула связана с фрактальной геометрией инноваций, порождая «Дилемму инноватора» и «Модель инновационного консильери» – в 3ем моем посте
Нужно готовиться к будущей войне.
Оценка мировых перспектив АНБ США.
Вовсе не собираюсь грузить вас очередной страшилкой перед выходными. Тема куда практичней и актуальней.
✔️ Какие тренды в ближайшие годы возобладают в мире, во многом зависит от позиций Белого дома.
✔️ Какова будет позиция Белого дома по отношению к конкретным трендам, в значительной степени связана с их видением разведсообществом США в контексте угроз и вызовов для своей страны.
✔️ Каково это видение, только что обстоятельно разъяснил главный юридический советник Агентства национальной безопасности Гленн Герстелл.
Ну а поскольку этот лонлонггрид станет читать далеко не каждый из вас, вы рискуете не только пропустить откровения АНБ (Гленн Герстелл – лишь рупор агентства), но и упустить важную информацию, весьма важную при прогнозировании трендов мирового развития.
Посему вот вам максимально отжатый сухой остаток 5,4 тыс. слов (в переводе Google) до 185 слов моего резюме.
1) Финансирование разведсообщества США сильно возрастет с нынешних $60 млрд в год. Огромные деньги будут впрыснуты в два ключевых технологических направления.
2) Эти направления: ИИ и Квантовый компьютинг.
Главная цель по направлению ИИ – спасти ИИ от «отравления данными». Эта метафора у Герстелла означает весь спектр угроз, когда злоумышленники могут передать дезинформацию системам ИИ, чтобы заставить их нанести вред кому-либо (например: обмануть машину без водителя, чтобы она игнорировала знак остановки, или обмануть систему управления энергосистемой, военным объектом, выборами и т.д.).
Главная цель по направлению Квантовый компьютинг – в корне изменить баланс геополитической мощи в мире за счет прорыва в технологии шифрования. Поскольку до середины века это в любом случае сделают либо США, либо Китай, нужно бросить все силы, чтобы США победили в этой «последней битве» сверхдержав.
3) Для выполнения 2х названных целей необходимо подмять под себя (принудить к партнерству) университеты и бизнес. Основание этого очевидно, поскольку «разработка самых мощных вычислений и сложных алгоритмов в настоящее время происходит не в Пентагоне или АНБ, а в университетских исследовательских лабораториях, а также в Google и Amazons коммерческого мира».
Мои постоянные читатели помнят, что еще год назад я назвал это «ИИ-национализацией», которая уже началась.
#ИИнационализация
Оценка мировых перспектив АНБ США.
Вовсе не собираюсь грузить вас очередной страшилкой перед выходными. Тема куда практичней и актуальней.
✔️ Какие тренды в ближайшие годы возобладают в мире, во многом зависит от позиций Белого дома.
✔️ Какова будет позиция Белого дома по отношению к конкретным трендам, в значительной степени связана с их видением разведсообществом США в контексте угроз и вызовов для своей страны.
✔️ Каково это видение, только что обстоятельно разъяснил главный юридический советник Агентства национальной безопасности Гленн Герстелл.
Ну а поскольку этот лонлонггрид станет читать далеко не каждый из вас, вы рискуете не только пропустить откровения АНБ (Гленн Герстелл – лишь рупор агентства), но и упустить важную информацию, весьма важную при прогнозировании трендов мирового развития.
Посему вот вам максимально отжатый сухой остаток 5,4 тыс. слов (в переводе Google) до 185 слов моего резюме.
1) Финансирование разведсообщества США сильно возрастет с нынешних $60 млрд в год. Огромные деньги будут впрыснуты в два ключевых технологических направления.
2) Эти направления: ИИ и Квантовый компьютинг.
Главная цель по направлению ИИ – спасти ИИ от «отравления данными». Эта метафора у Герстелла означает весь спектр угроз, когда злоумышленники могут передать дезинформацию системам ИИ, чтобы заставить их нанести вред кому-либо (например: обмануть машину без водителя, чтобы она игнорировала знак остановки, или обмануть систему управления энергосистемой, военным объектом, выборами и т.д.).
Главная цель по направлению Квантовый компьютинг – в корне изменить баланс геополитической мощи в мире за счет прорыва в технологии шифрования. Поскольку до середины века это в любом случае сделают либо США, либо Китай, нужно бросить все силы, чтобы США победили в этой «последней битве» сверхдержав.
3) Для выполнения 2х названных целей необходимо подмять под себя (принудить к партнерству) университеты и бизнес. Основание этого очевидно, поскольку «разработка самых мощных вычислений и сложных алгоритмов в настоящее время происходит не в Пентагоне или АНБ, а в университетских исследовательских лабораториях, а также в Google и Amazons коммерческого мира».
Мои постоянные читатели помнят, что еще год назад я назвал это «ИИ-национализацией», которая уже началась.
#ИИнационализация
Nytimes
Opinion | I Work for N.S.A. We Cannot Afford to Lose the Digital Revolution. (Published 2019)
Technology is about to upend our entire national security infrastructure.
Мир взорвался инфобомбой – Google достиг квантового превосходства.
Полагаю, это не совсем так. Точнее, совсем не так.
Бомбу вчера заложили два журналиста FT. А сегодня все СМИ, включая самые полярные издания, просто сошли с ума.
За всем этим хайпом кроются два интересных момента.
Первый смешной. Если правда, будто бы «расчет, на выполнение которого устройству от IBM требуется 10 тысяч лет, компьютер от Google совершил за 200 секунд», то как смогли проверить правильность ответа компьютера Google?
Второй момент серьезный. Пока спорят на каком из лабораторных опытных экземпляров (53-кубитном Sycamore или 72-кубитном Bristlecone) Google «добился квантового превосходства», IBM объявила о запуске в октябре коммерческих продаж вычислений на 53-кубитном квантовом компьютере для клиентов своей IBM Q Network.
#КвантовыйКомпьютинг
Полагаю, это не совсем так. Точнее, совсем не так.
Бомбу вчера заложили два журналиста FT. А сегодня все СМИ, включая самые полярные издания, просто сошли с ума.
За всем этим хайпом кроются два интересных момента.
Первый смешной. Если правда, будто бы «расчет, на выполнение которого устройству от IBM требуется 10 тысяч лет, компьютер от Google совершил за 200 секунд», то как смогли проверить правильность ответа компьютера Google?
Второй момент серьезный. Пока спорят на каком из лабораторных опытных экземпляров (53-кубитном Sycamore или 72-кубитном Bristlecone) Google «добился квантового превосходства», IBM объявила о запуске в октябре коммерческих продаж вычислений на 53-кубитном квантовом компьютере для клиентов своей IBM Q Network.
#КвантовыйКомпьютинг
Ft
Google claims to have reached quantum supremacy
Researchers say their quantum computer has calculated an impossible problem for ordinary machines
Сомнения подтвердились. Китайцы расставили точки над i так:
"Google 的一小步" ("это маленький шаг для Google").
Весь вчерашний хайп оказался лишь отвлекающим маневром с целью реабилитировать Google после взрыва их 72-кубитного Bristlecone в марте этого года, после чего группу расформировали, а работавших в ней специалистов перебросили на форсирование 54-кубитного Sycamore с 53 функциональными кубитами.
https://m.huxiu.com/article/319016.html
А здесь подробное объяснение вопроса 如何评价 Google 率先实现量子霸权？("Как оценить первую квантовую гегемонию Google?"), также сделанное китайцами
https://www.zhihu.com/question/346999432
Ну а приложенная картинка резюмирует суть.
"Google 的一小步" ("это маленький шаг для Google").
Весь вчерашний хайп оказался лишь отвлекающим маневром с целью реабилитировать Google после взрыва их 72-кубитного Bristlecone в марте этого года, после чего группу расформировали, а работавших в ней специалистов перебросили на форсирование 54-кубитного Sycamore с 53 функциональными кубитами.
https://m.huxiu.com/article/319016.html
А здесь подробное объяснение вопроса 如何评价 Google 率先实现量子霸权？("Как оценить первую квантовую гегемонию Google?"), также сделанное китайцами
https://www.zhihu.com/question/346999432
Ну а приложенная картинка резюмирует суть.
Найден оптимальный алгоритм парковки.
Одна из самых повседневных задача, наконец, решена.
Нам только кажется, что наши повседневные решения просты. Они подчас дьявольски сложные и требуют для решения крутейшей математики.
И мы ошибаемся думая, что большинство повседневных задач уже решены. Дудки! Вот даже для решения, казалось бы, банальной задачи парковки приличное решение придумали только что.
Вы приехали в торговый центр или отель, или еще куда-то с большой публичной парковкой. Свободные места есть. Но как выбрать оптимальное место?
Можно тупо встать на свободном конце парковочного ряда. Но отсбда далеко идти ко входу в здание.
Можно попытаться найти дырку поближе ко входу в ряду уже припаркованных машин. Но надо тратить время на поиск. И потом, - парковаться в 1ю попавшуюся дырку или искать еще ближе ко входу, а там и еще ближе? А когда ближе не окажется, разворачиваться и возвращаться. Но время – деньги.
Получается, что так плохо (пилить с дальнего конца стоянки ко входу), что эдак погано (заморачиваться и тратить время на выбор самой близкой ко входу дырки).
И как же быть?
Дано следующее:
- автомобиль едет справа налево (см. рис);
- ваша цель - вход в здание - расположен на дальнем левом конце от ряда авто.
Чтобы количественно сравнить разные стратегии, нужно ввести «стоимость наших затрат». Естественным определением «стоимости» может быть расстояние от места парковки до входа в здание плюс время, потраченное на поиски места для парковки.
Чтобы минимизировать число параметров предположим, что скорость автомобиля на стоянке такая же, как и скорость ходьбы. Таким образом, подходящей мерой «стоимости» будет расстояние, пройденное автомобилем на стоянке плюс расстояние, которое водитель проходит от места парковки до цели.
Проанализировали 3 стратегии.
В «Кроткой стратегии» каждый новый автомобиль паркуется на крайнем правом месте в максимальном удалении от входа.
В «Оптимистической стратегии» водитель надеется, что есть место для парковки рядом с входом в здание. Таким образом, водитель проходит весь путь до входа, игнорирует все открытые места и, наконец, паркуется на первом свободном месте, которое встретится при отступлении назад.
В «Разумной стратегии» водитель, в отличие от «оптимиста» не уверен, но надеется, что свободные места внутри ряда имеются. Обнаружив 1ю дырку он паркуется на 1ое же свободное место слева от дырки. Если же слева от неё свободных мест нет, то «разумный водитель» превращается в «оптимиста» - проходит весь путь до входа, и развернувшись, паркуется на первом свободном месте, которое встретится при отступлении назад.
Как следует из названия, «Разумная стратегия» оказалась лучшей, - она стоит водителям наименьших затрат времени.
На 2ом месте «Оптимистическая стратегия».
«Кроткая стратегия» предельно неэффективна.
Чтобы доказать это математически, пришлось написать дифуравнение и еще 3 страницы не самых простых формул.
Какая из всего этого мораль.
1) «Разумную стратегию» каждый из нас каким-то образом знает без какой-либо оптимизационной математики. Но откуда это знание, и как (кто) его в нас вложил – неизвестно. Эволюция, однако?
2) Проверенныая в исследовании стратегия оптимальна лишь в упрощенном идеальном примере (один бесконечный ряд авто, нет конкуренции за место и пр.) Для реальной стратегии (не идеальной) математическое решение пока неизвестно. Разработавший ее, наверное, будет претендовать на «нобеля в математике».
3) Есть большое подозрение, что и эта – не сформулированная пока наукой оптимальная реальная стратегия - нам все же каким-то образом известна (зашита в нас). Ведь решаем же мы эту задачу. И нельзя сказать, что не оптимально.
https://iopscience.iop.org/article/10.1088/1742-5468/ab3a2a
#СтатистическаяМеханника
Одна из самых повседневных задача, наконец, решена.
Нам только кажется, что наши повседневные решения просты. Они подчас дьявольски сложные и требуют для решения крутейшей математики.
И мы ошибаемся думая, что большинство повседневных задач уже решены. Дудки! Вот даже для решения, казалось бы, банальной задачи парковки приличное решение придумали только что.
Вы приехали в торговый центр или отель, или еще куда-то с большой публичной парковкой. Свободные места есть. Но как выбрать оптимальное место?
Можно тупо встать на свободном конце парковочного ряда. Но отсбда далеко идти ко входу в здание.
Можно попытаться найти дырку поближе ко входу в ряду уже припаркованных машин. Но надо тратить время на поиск. И потом, - парковаться в 1ю попавшуюся дырку или искать еще ближе ко входу, а там и еще ближе? А когда ближе не окажется, разворачиваться и возвращаться. Но время – деньги.
Получается, что так плохо (пилить с дальнего конца стоянки ко входу), что эдак погано (заморачиваться и тратить время на выбор самой близкой ко входу дырки).
И как же быть?
Дано следующее:
- автомобиль едет справа налево (см. рис);
- ваша цель - вход в здание - расположен на дальнем левом конце от ряда авто.
Чтобы количественно сравнить разные стратегии, нужно ввести «стоимость наших затрат». Естественным определением «стоимости» может быть расстояние от места парковки до входа в здание плюс время, потраченное на поиски места для парковки.
Чтобы минимизировать число параметров предположим, что скорость автомобиля на стоянке такая же, как и скорость ходьбы. Таким образом, подходящей мерой «стоимости» будет расстояние, пройденное автомобилем на стоянке плюс расстояние, которое водитель проходит от места парковки до цели.
Проанализировали 3 стратегии.
В «Кроткой стратегии» каждый новый автомобиль паркуется на крайнем правом месте в максимальном удалении от входа.
В «Оптимистической стратегии» водитель надеется, что есть место для парковки рядом с входом в здание. Таким образом, водитель проходит весь путь до входа, игнорирует все открытые места и, наконец, паркуется на первом свободном месте, которое встретится при отступлении назад.
В «Разумной стратегии» водитель, в отличие от «оптимиста» не уверен, но надеется, что свободные места внутри ряда имеются. Обнаружив 1ю дырку он паркуется на 1ое же свободное место слева от дырки. Если же слева от неё свободных мест нет, то «разумный водитель» превращается в «оптимиста» - проходит весь путь до входа, и развернувшись, паркуется на первом свободном месте, которое встретится при отступлении назад.
Как следует из названия, «Разумная стратегия» оказалась лучшей, - она стоит водителям наименьших затрат времени.
На 2ом месте «Оптимистическая стратегия».
«Кроткая стратегия» предельно неэффективна.
Чтобы доказать это математически, пришлось написать дифуравнение и еще 3 страницы не самых простых формул.
Какая из всего этого мораль.
1) «Разумную стратегию» каждый из нас каким-то образом знает без какой-либо оптимизационной математики. Но откуда это знание, и как (кто) его в нас вложил – неизвестно. Эволюция, однако?
2) Проверенныая в исследовании стратегия оптимальна лишь в упрощенном идеальном примере (один бесконечный ряд авто, нет конкуренции за место и пр.) Для реальной стратегии (не идеальной) математическое решение пока неизвестно. Разработавший ее, наверное, будет претендовать на «нобеля в математике».
3) Есть большое подозрение, что и эта – не сформулированная пока наукой оптимальная реальная стратегия - нам все же каким-то образом известна (зашита в нас). Ведь решаем же мы эту задачу. И нельзя сказать, что не оптимально.
https://iopscience.iop.org/article/10.1088/1742-5468/ab3a2a
#СтатистическаяМеханника
По моей персональной шкале магнитуда «малоизвестных интересных» междисциплинарных открытий (от лат. magnitudo «важность, значительность, крупность, величие») оценивается подобно магнитуде землетрясений по шкале Рихтера. На всей Земле за год происходит лишь до 10ти землетрясений с магнитудой 7,0–7,9 по шкале Рихтера. С такой же частотой делаются и междисциплинарные открытия аналогичной магнитуды.
Магнитуда междисциплинарного открытия, опубликованного в 2х статьях последнего выпуска журнала Antiquity, — не меньше 7,9. Что ставит его на уровень открытия роли Больших Богов и Большого Брата (о чем я все никак не успеваю написать продолжение 🥺).
Как и в истории с Большими Богами, новое открытие не только кардинально меняет наши представления о прошлом цивилизации.
Оно открывает нам понимание будущего, в которое стремительно увлекают мир новые информационные технологии.
На сей раз речь идет о кардинальном переосмыслении произошедшей 4 тыс. лет назад «1й революции роботов». Переосмыслении, позволяющем нам уже сегодня увидеть и понять в какую антиутопию попадет цивилизация, в результате нового большого скачка неравенства, вследствие «2й революции роботов».
Продолжить чтение:
- в Medium http://bit.ly/2mr5IzJ
- в Яндекс Дзен https://clck.ru/JEqu9
#Неравенство
Магнитуда междисциплинарного открытия, опубликованного в 2х статьях последнего выпуска журнала Antiquity, — не меньше 7,9. Что ставит его на уровень открытия роли Больших Богов и Большого Брата (о чем я все никак не успеваю написать продолжение 🥺).
Как и в истории с Большими Богами, новое открытие не только кардинально меняет наши представления о прошлом цивилизации.
Оно открывает нам понимание будущего, в которое стремительно увлекают мир новые информационные технологии.
На сей раз речь идет о кардинальном переосмыслении произошедшей 4 тыс. лет назад «1й революции роботов». Переосмыслении, позволяющем нам уже сегодня увидеть и понять в какую антиутопию попадет цивилизация, в результате нового большого скачка неравенства, вследствие «2й революции роботов».
Продолжить чтение:
- в Medium http://bit.ly/2mr5IzJ
- в Яндекс Дзен https://clck.ru/JEqu9
#Неравенство
Medium
2я революция роботов ведет к большому скачку неравенства
Как и «1я революция роботов» 4 тыс. лет назад
Люди могли бы стать креативней Бога.
Будь у нас предложенная альтернативная система образования.
Образовательную систему можно представить, как сложную сеть связей между различными дисциплинами.
Цель большинства классических образовательных систем – подготовить узкого специалиста в конкретной области. Американская модель образования в области гуманитарных наук гордится тем, что дает студентам целостную перспективу, раскрывая им различные дисциплины. Однако простое знакомство студентов с различными идеями без того, чтобы они осознали глубокие, лежащие в основе связи, похоже на ожидание интересной сетевой динамики от сети с отключенными связями между узлами.
В работе «Творчество как новое свойство сложной образовательной системы» предлагается новая система образования представляющая собой сложную сеть из множества узлов - разных дисциплин, связи между которыми представляют поток объединяющих идей между ними.
Соединения между узлами позволяют свободно перетекать идеям между дисциплинами, качественно расширяя возможности для творчества, являющегося эмердгентным свойством такой сети.
Прообраз такой сетевой схемы существует. Но не в образовании. Это схема, похожая на лежащую в основе конструктора LEGO.
Примером того, на что способна креативность человека, самообразованием пришедшего к свободному перетеканию идей между разными дисциплинами, может служить Тео Янсен. Он бросил вызов земной эволюции, создав целый мир существ, способных передвигаться под воздействием ветра по песчаным пляжам. Используя генетические алгоритмы, симулирующие эволюцию биологических видов, Тео Янсен поднялся до уровня Бога. Его «пляжные животные» (нидерл. Strandbeest; strand = пляж; beest = зверь), это пример альтернативной искусственной жизни. От поколения к поколению эти механизмы совершенствуются и «адаптируются» к условиям песчаного пляжа, куда Янсен выпускает их погулять. Эти «живые скульптуры» — достаточно сложные конструкции, способные взаимодействовать с окружающей средой, в том числе, реагируя на её изменения – подробней здесь и здесь
Представить себе мир, населенный людьми с креативностью уровня Тео Янсена, я не способен (из-за нехватки креативности).
Но такой мир возможен, если изменить систему образования.
Возможно, она будет построена по схеме LEGO. Возможно, на иной схеме.
Но что точно, - это будет сетевая схема с высокой связностью узлов, в принципе исключающая возможность существования термина междисциплинарность.
Creativity as an Emergent Property of Complex Educational System
#Образование
Будь у нас предложенная альтернативная система образования.
Образовательную систему можно представить, как сложную сеть связей между различными дисциплинами.
Цель большинства классических образовательных систем – подготовить узкого специалиста в конкретной области. Американская модель образования в области гуманитарных наук гордится тем, что дает студентам целостную перспективу, раскрывая им различные дисциплины. Однако простое знакомство студентов с различными идеями без того, чтобы они осознали глубокие, лежащие в основе связи, похоже на ожидание интересной сетевой динамики от сети с отключенными связями между узлами.
В работе «Творчество как новое свойство сложной образовательной системы» предлагается новая система образования представляющая собой сложную сеть из множества узлов - разных дисциплин, связи между которыми представляют поток объединяющих идей между ними.
Соединения между узлами позволяют свободно перетекать идеям между дисциплинами, качественно расширяя возможности для творчества, являющегося эмердгентным свойством такой сети.
Прообраз такой сетевой схемы существует. Но не в образовании. Это схема, похожая на лежащую в основе конструктора LEGO.
Примером того, на что способна креативность человека, самообразованием пришедшего к свободному перетеканию идей между разными дисциплинами, может служить Тео Янсен. Он бросил вызов земной эволюции, создав целый мир существ, способных передвигаться под воздействием ветра по песчаным пляжам. Используя генетические алгоритмы, симулирующие эволюцию биологических видов, Тео Янсен поднялся до уровня Бога. Его «пляжные животные» (нидерл. Strandbeest; strand = пляж; beest = зверь), это пример альтернативной искусственной жизни. От поколения к поколению эти механизмы совершенствуются и «адаптируются» к условиям песчаного пляжа, куда Янсен выпускает их погулять. Эти «живые скульптуры» — достаточно сложные конструкции, способные взаимодействовать с окружающей средой, в том числе, реагируя на её изменения – подробней здесь и здесь
Представить себе мир, населенный людьми с креативностью уровня Тео Янсена, я не способен (из-за нехватки креативности).
Но такой мир возможен, если изменить систему образования.
Возможно, она будет построена по схеме LEGO. Возможно, на иной схеме.
Но что точно, - это будет сетевая схема с высокой связностью узлов, в принципе исключающая возможность существования термина междисциплинарность.
Creativity as an Emergent Property of Complex Educational System
#Образование
YouTube
THEO JANSEN exhibition in FUKUI promotion video【English】
web site
https://theojansen-fukui.jp
The INTERNATIONAL HOKURIKU KOGEI SUMMIT is an art exhibition organized by the Agency for Cultural Affairs and three prefectures in Hokuriku (Fukui Prefecture, Ishikawa Prefecture, Toyama Prefecture).
Three prefectures…
https://theojansen-fukui.jp
The INTERNATIONAL HOKURIKU KOGEI SUMMIT is an art exhibition organized by the Agency for Cultural Affairs and three prefectures in Hokuriku (Fukui Prefecture, Ishikawa Prefecture, Toyama Prefecture).
Three prefectures…
Антиутопия сегодня – мир управляемый рейтингами.
Среди которых уже нет объективных.
Основным фактором, определяющим будущее мира, являются не квантовые компьютеры, цифровая экономика или ИИ. Все это важно, но не самое главное. Главное то, - что повседневно управляет мировосприятием и поступками миллиардов людей: от глав государств до конторских клерков, от профессоров до школяров, от интеллектуалов до домохозяек. Это рейтинги.
За последние 10 лет мир кардинально изменился, но мы этого не заметили. Повсеместно – в науке и искусстве, политике и экономике, социологии и спорте, маркетинге и пиаре - рейтинги стали определять, что важно, а что нет. Политический вес и статусы научных журналов, важность новостей и значимость идей, качество обучения или товара – все теперь определяется исключительно рейтингами. Да что там! Репутация человека теперь тоже исключительно продукт рейтингов. Выбор друзей и романтических связей – тоже.
Впервые входя в сетевой инфо-мир, дети начинают узнавать его с помощью алгоритмов рейтингования поисковых систем. Именно они – алгоритмы ранжирования Google и Яндекс – формируют знания, мировоззрение, отношение к другим людям, материальным и нематериальным объектам мира.
Короче, нет на Земле сегодня чего-любо более важного, чем рейтинги. А теперь вопрос - насколько эти рейтинги объективны?
Короткий ответ – неизвестно. Каков уровень предвзятости и манипуляций, стоящий за формированием тех или иных рейтингов, - в большинстве случаев точно определить невозможно.
Сегодняшний инфо-мир – это океан данных, в котором работают гигантские водочерпалки, фильтры которых ежеминутно модифицируются, оптимизируя работу черпалок под узкий набор установочных целей (напр. «вовлечение», рассчитываемое по числу кликов пользователей, или «удовлетворение» рассчитываемое по числу лайков).
Вот всего два примера, - имхо, самые впечатляющие.
1) Рейтингование величайшего в мире хранилища видео-контента, на 70% определяющее, какое видео вы дальше посмотрите на Ютубе.
Это откровение сотрудников Google на проходившей на прошлой неделе в Дании конференции RecSys '19.
https://dl.acm.org/citation.cfm?id=3346997
Как отозвался об этом докладе Джек Кларк из OpenAI:
«Это захватывающий документ, поскольку читается как заметки техперсонала, обслуживающего какую-то гигантскую машину, которую они едва понимают. Мы здесь находимся в области, где объемы данных настолько велики, что единственным методом понять, как работает система - провести живой эксперимент и посмотреть, что получится. Мы используем простые оценки в качестве прокси для куда более серьезных проблем, - напр. таких как предвзятость. Понимая при этом, что истинные «ценности» рейтингования, скорее всего, скрыты от нас.»
2) Скоро выходящий «бестселлер ближайшего будущего» - «Рейтингование: неписанные правила социальной игры, в которую мы все играем», написанная Петером Эрди - всемирно известным специалистом по сложности на стыке вычислительной нейробиологии и системной биологии.
https://global.oup.com/academic/product/ranking-9780190935467?cc=gb&lang=en&
Это потрясающая инди-книга показывает на многих реальных примерах, почему и как строятся рейтинги – плод пересечения реальности, иллюзий и манипулирования. Эрди открывает механизмы, которые мы, чаще всего, не осознаем. Он показывает на примерах, насколько мощное и удручающее влияние эти механизмы оказывают на жизни людей, ошибочно полагающих, что их мировоззрение и поступки находятся под их собственным контролем.
#Рейтинги #БББ
Среди которых уже нет объективных.
Основным фактором, определяющим будущее мира, являются не квантовые компьютеры, цифровая экономика или ИИ. Все это важно, но не самое главное. Главное то, - что повседневно управляет мировосприятием и поступками миллиардов людей: от глав государств до конторских клерков, от профессоров до школяров, от интеллектуалов до домохозяек. Это рейтинги.
За последние 10 лет мир кардинально изменился, но мы этого не заметили. Повсеместно – в науке и искусстве, политике и экономике, социологии и спорте, маркетинге и пиаре - рейтинги стали определять, что важно, а что нет. Политический вес и статусы научных журналов, важность новостей и значимость идей, качество обучения или товара – все теперь определяется исключительно рейтингами. Да что там! Репутация человека теперь тоже исключительно продукт рейтингов. Выбор друзей и романтических связей – тоже.
Впервые входя в сетевой инфо-мир, дети начинают узнавать его с помощью алгоритмов рейтингования поисковых систем. Именно они – алгоритмы ранжирования Google и Яндекс – формируют знания, мировоззрение, отношение к другим людям, материальным и нематериальным объектам мира.
Короче, нет на Земле сегодня чего-любо более важного, чем рейтинги. А теперь вопрос - насколько эти рейтинги объективны?
Короткий ответ – неизвестно. Каков уровень предвзятости и манипуляций, стоящий за формированием тех или иных рейтингов, - в большинстве случаев точно определить невозможно.
Сегодняшний инфо-мир – это океан данных, в котором работают гигантские водочерпалки, фильтры которых ежеминутно модифицируются, оптимизируя работу черпалок под узкий набор установочных целей (напр. «вовлечение», рассчитываемое по числу кликов пользователей, или «удовлетворение» рассчитываемое по числу лайков).
Вот всего два примера, - имхо, самые впечатляющие.
1) Рейтингование величайшего в мире хранилища видео-контента, на 70% определяющее, какое видео вы дальше посмотрите на Ютубе.
Это откровение сотрудников Google на проходившей на прошлой неделе в Дании конференции RecSys '19.
https://dl.acm.org/citation.cfm?id=3346997
Как отозвался об этом докладе Джек Кларк из OpenAI:
«Это захватывающий документ, поскольку читается как заметки техперсонала, обслуживающего какую-то гигантскую машину, которую они едва понимают. Мы здесь находимся в области, где объемы данных настолько велики, что единственным методом понять, как работает система - провести живой эксперимент и посмотреть, что получится. Мы используем простые оценки в качестве прокси для куда более серьезных проблем, - напр. таких как предвзятость. Понимая при этом, что истинные «ценности» рейтингования, скорее всего, скрыты от нас.»
2) Скоро выходящий «бестселлер ближайшего будущего» - «Рейтингование: неписанные правила социальной игры, в которую мы все играем», написанная Петером Эрди - всемирно известным специалистом по сложности на стыке вычислительной нейробиологии и системной биологии.
https://global.oup.com/academic/product/ranking-9780190935467?cc=gb&lang=en&
Это потрясающая инди-книга показывает на многих реальных примерах, почему и как строятся рейтинги – плод пересечения реальности, иллюзий и манипулирования. Эрди открывает механизмы, которые мы, чаще всего, не осознаем. Он показывает на примерах, насколько мощное и удручающее влияние эти механизмы оказывают на жизни людей, ошибочно полагающих, что их мировоззрение и поступки находятся под их собственным контролем.
#Рейтинги #БББ
Oup
Ranking
Human beings are competitive. We want to know who is the strongest, who is the richest, and who is the cleverest of all. Some situations, like ranking people based on height, can be ranked in objective ways. However, many Top Ten lists are based on subjective…
Сегодня последний день узнать, что ИИ думает о вас.
И на своем примере осознать: ИИ – это сама предвзятость.
Сегодня последний день работы проекта «Рулетка ImageNet» - самой хайповой и вирусной провокации на тему ИИ. Она действует как окно в расистские, женоненавистнические, жестокие и просто абсурдные классификации, которыми люди заразили ИИ (сам то он о нас не смыслит ничего).
ImageNet – это разработанный в Принстонском и Стэнфордском университетах набор данных изображений, широко используемый для машинного обучения.
Цель проекта «Рулетка ImageNet» - дать учебному набору данных «говорить за себя», чтобы он сам (а не эксперты) показал, насколько предвзят ИИ, и почему классификация людей ИИшным способом в лучшем случае ненаучна, а в худшем - глубоко вредна.
Поскольку проект супер-хайповый, мне много писать о нем не нужно.
Задача ИИ простая. По фото определить статус, характер и профессию людей.
Результаты тестов на десятках миллионов фото одни называют «хамскими», другие «забавными», третьи «проницательными», четвертые «заставляющими задуматься».
Еще бы:
• Обама, по мнению ИИ – типичный картежник
• Королева Елизавета – типичная суфражистка
• Меган, Герцогиня Сассекская, ранее Меган Маркл – признана ИИ эксцентричной и сумасбродной
• Президент Трамп – это борец за гражданские права меньшинств.
• Илон Маск – комик
• Киану Ривз — барон
• Президент Зеленский — демагог и мошенник
• Президент Путин получил от ИИ широкий спектр определений - барон, бизнесмен, король, магнат, олигарх
• А Юрий Дудь определен просто и конкретно – детектив.
Однако лучше всего, чтобы осознать степень предвзятости, которой человечество уже заразило ИИ, попробовать проверить на своем фото.
Я попробовал и получил такое определение от ИИ – образец духовности и разума, теософ (от θεοσοφία «божественная мудрость») — человек, занятый мистическим богопознанием, созерцанием Бога, в свете которого открывается таинственное знание всех вещей.
Вот теперь думаю, может переименовать свой канал в Теософ?
Проверьте ИИ на себе https://imagenet-roulette.paglen.com/ (сегодня это еще можно).
А здесь подробности https://www.excavating.ai/
Тут же о том, как пытаются «лечить от предвзятости» ИИ на наборе данных ImageNet http://image-net.org/update-sep-17-2019
#ПредвзятостьИИ
И на своем примере осознать: ИИ – это сама предвзятость.
Сегодня последний день работы проекта «Рулетка ImageNet» - самой хайповой и вирусной провокации на тему ИИ. Она действует как окно в расистские, женоненавистнические, жестокие и просто абсурдные классификации, которыми люди заразили ИИ (сам то он о нас не смыслит ничего).
ImageNet – это разработанный в Принстонском и Стэнфордском университетах набор данных изображений, широко используемый для машинного обучения.
Цель проекта «Рулетка ImageNet» - дать учебному набору данных «говорить за себя», чтобы он сам (а не эксперты) показал, насколько предвзят ИИ, и почему классификация людей ИИшным способом в лучшем случае ненаучна, а в худшем - глубоко вредна.
Поскольку проект супер-хайповый, мне много писать о нем не нужно.
Задача ИИ простая. По фото определить статус, характер и профессию людей.
Результаты тестов на десятках миллионов фото одни называют «хамскими», другие «забавными», третьи «проницательными», четвертые «заставляющими задуматься».
Еще бы:
• Обама, по мнению ИИ – типичный картежник
• Королева Елизавета – типичная суфражистка
• Меган, Герцогиня Сассекская, ранее Меган Маркл – признана ИИ эксцентричной и сумасбродной
• Президент Трамп – это борец за гражданские права меньшинств.
• Илон Маск – комик
• Киану Ривз — барон
• Президент Зеленский — демагог и мошенник
• Президент Путин получил от ИИ широкий спектр определений - барон, бизнесмен, король, магнат, олигарх
• А Юрий Дудь определен просто и конкретно – детектив.
Однако лучше всего, чтобы осознать степень предвзятости, которой человечество уже заразило ИИ, попробовать проверить на своем фото.
Я попробовал и получил такое определение от ИИ – образец духовности и разума, теософ (от θεοσοφία «божественная мудрость») — человек, занятый мистическим богопознанием, созерцанием Бога, в свете которого открывается таинственное знание всех вещей.
Вот теперь думаю, может переименовать свой канал в Теософ?
Проверьте ИИ на себе https://imagenet-roulette.paglen.com/ (сегодня это еще можно).
А здесь подробности https://www.excavating.ai/
Тут же о том, как пытаются «лечить от предвзятости» ИИ на наборе данных ImageNet http://image-net.org/update-sep-17-2019
#ПредвзятостьИИ
-
Excavating AI
An investigation into the politics of training sets, and the fundamental problems with classifying humans.
Если сопоставить и проанализировать в совокупности аргументацию и выводы Бострома и Турчина, то напрашивается довольно страшный вывод.
• Создание Всемирного Большого Брата является неизбежным следствием перехода человечества в постиндустриальную информационную эру.
• Произошел «фазовый переход» в сложности мира.
• И поэтому Всемирный Большой Брат теперь столь же необходим для дальнейшего масштабирования кооперации и стабилизации обществ, как и несколько тысячелетий назад людям потребовались Большие Боги, без которых развитие цивилизации вплоть до нынешнего уровня было бы вряд ли возможным.
Представляю вам 2ю часть лонгрида на 19 мин чтения о том, почему и когда пришли Большие Боги:
- на Medium http://bit.ly/2mSjcoK
- на Яндекс Дзен https://clck.ru/JKH7Z
#БольшойБрат #БольшиеБоги
• Создание Всемирного Большого Брата является неизбежным следствием перехода человечества в постиндустриальную информационную эру.
• Произошел «фазовый переход» в сложности мира.
• И поэтому Всемирный Большой Брат теперь столь же необходим для дальнейшего масштабирования кооперации и стабилизации обществ, как и несколько тысячелетий назад людям потребовались Большие Боги, без которых развитие цивилизации вплоть до нынешнего уровня было бы вряд ли возможным.
Представляю вам 2ю часть лонгрида на 19 мин чтения о том, почему и когда пришли Большие Боги:
- на Medium http://bit.ly/2mSjcoK
- на Яндекс Дзен https://clck.ru/JKH7Z
#БольшойБрат #БольшиеБоги
Medium
Почему и когда пришли Большие Боги
Продолжение «Большой Брат — сын Большого Бога»
Последнее китайское предупреждение США.
На сей раз, от McKinsey и армии.
• Год назад мною был зафиксирован технологический паритет США и Китая в области ИИ и показано, что США начинают проигрывать в ИИ-гонке (1)
• В феврале 2019 тема была продолжена так - Китай обходит США в ИИ-гонке. США сдаваться не намерены, но переломить ситуацию пока не могут (2)
• Развивая тему, в конце мая появился мой пост о том, что США близки к проигрышу ИИ-гонки Китаю (3)
Спустя 4 месяца ситуация становится критической уже не только для нацбезопасности США, но и для всего мира. Ведь речь теперь идет о надвигающемся технологическом доминировании Китая не только в области ИИ, но и в квантовом компьютинге, роботах, синтетической биологии и новом поколении коммуникаций.
Попытки предостеречь Белый дом от скатывания к непоправимой стратегической ошибке утери технологического мирового лидерства делались неоднократно с самых разных сторон: от разведсообщества до университетов, от независимых экспертов до отдельных высокопоставленных чиновников. Пока все впустую.
«Последнее китайское предупреждение» Белому дому только что пришло от альянса бизнес-консалтинга и армии США. Это доклад «Инновации и национальная безопасность: сохранение нашего преимущества», выпущенный под эгидой Дирекции по кибербезопасности Совета по международным отношениям США. Авторы доклада - Джеймс Мэниика (James Manyika - Chairman and Director, McKinsey Global Institute, and Senior Partner McKinsey & Company) и Вильям Макрэвен (William H. McRaven – профессор национальной безопасности и четырехзвездочный адмирал ВМФ США в отставке).
Как это принято у топовых консультантов и четырехзвездочных адмиралов, - они зрят в корень.
Вот в чем корень проблемы:
– одним графиком
– или подробней пятиминутным видео.
А что из этого корня вырастет, если не переломить ситуацию, - см. на приложенном графике, в который я лишь добавил Россию, так сказать, для раскрытия полноты катастрофы (размер кружка – объем финансирования).
При уравнивании финансирования НИОКР у США и Китая, все остальное факторы – объемы данных, отсутствие регуляторных ограничений, большой пул талантов, - быстро решат вопрос о том, кто станет единственной сверхдержавой, в пользу Китая. И уже никто тогда что-либо сделать не сможет.
P.S. Про нас. Если США пока держатся на R&D бюджетах бизнеса - сейчас это 2% ВВП, то у нас это 0,7%.
В абсолютных цифрах еще хуже. У их чемпиона Amazon в 2018 R&D бюджет $22.6 млрд. У нашего - Яндекса $325 млн.
#Китай #США #НИОКР
На сей раз, от McKinsey и армии.
• Год назад мною был зафиксирован технологический паритет США и Китая в области ИИ и показано, что США начинают проигрывать в ИИ-гонке (1)
• В феврале 2019 тема была продолжена так - Китай обходит США в ИИ-гонке. США сдаваться не намерены, но переломить ситуацию пока не могут (2)
• Развивая тему, в конце мая появился мой пост о том, что США близки к проигрышу ИИ-гонки Китаю (3)
Спустя 4 месяца ситуация становится критической уже не только для нацбезопасности США, но и для всего мира. Ведь речь теперь идет о надвигающемся технологическом доминировании Китая не только в области ИИ, но и в квантовом компьютинге, роботах, синтетической биологии и новом поколении коммуникаций.
Попытки предостеречь Белый дом от скатывания к непоправимой стратегической ошибке утери технологического мирового лидерства делались неоднократно с самых разных сторон: от разведсообщества до университетов, от независимых экспертов до отдельных высокопоставленных чиновников. Пока все впустую.
«Последнее китайское предупреждение» Белому дому только что пришло от альянса бизнес-консалтинга и армии США. Это доклад «Инновации и национальная безопасность: сохранение нашего преимущества», выпущенный под эгидой Дирекции по кибербезопасности Совета по международным отношениям США. Авторы доклада - Джеймс Мэниика (James Manyika - Chairman and Director, McKinsey Global Institute, and Senior Partner McKinsey & Company) и Вильям Макрэвен (William H. McRaven – профессор национальной безопасности и четырехзвездочный адмирал ВМФ США в отставке).
Как это принято у топовых консультантов и четырехзвездочных адмиралов, - они зрят в корень.
Вот в чем корень проблемы:
– одним графиком
– или подробней пятиминутным видео.
А что из этого корня вырастет, если не переломить ситуацию, - см. на приложенном графике, в который я лишь добавил Россию, так сказать, для раскрытия полноты катастрофы (размер кружка – объем финансирования).
При уравнивании финансирования НИОКР у США и Китая, все остальное факторы – объемы данных, отсутствие регуляторных ограничений, большой пул талантов, - быстро решат вопрос о том, кто станет единственной сверхдержавой, в пользу Китая. И уже никто тогда что-либо сделать не сможет.
P.S. Про нас. Если США пока держатся на R&D бюджетах бизнеса - сейчас это 2% ВВП, то у нас это 0,7%.
В абсолютных цифрах еще хуже. У их чемпиона Amazon в 2018 R&D бюджет $22.6 млрд. У нашего - Яндекса $325 млн.
#Китай #США #НИОКР
Нейрокод шахида.
Готовность сражаться и умереть сидит в каждом. И если уметь ее активировать …
В недавнем посте «Русский боится холода, а немец — тесноты. Нейрокод эмоций у разных народов разный» я писал:
«Далеко не только инстинкты, но и сложные поведенческие акты основаны на выполнении заложенных в человека нейропрограмм. Кто «написал» этот нейрокод — некий гипер-умный Творец или природа за миллионы лет эволюции — спорить не будем (пост не об этом)».
Сегодня продолжение этой темы. Новейшие исследования на стыке когнитивной и эмоциональной нейробиологии открывают все новые поразительные сюрпризы.
• Каким образом устроена в человеке мотивация заплатить за что-либо собственной жизнью – т.н. «готовность сражаться и умереть» (Willingness to fight and die)?
• Какая логика или рациональная оценка может подвигнуть человека отдать жизнь за некие абстрактные идеалы?
• Куда при этом девается рациональное сопоставление приобретаемой выгоды и уплаченной цены?
• Почему, черт возьми, в таких ситуациях молчит разум?
Новое исследование показало.
При принятии решения заплатить за что-либо собственной жизнью, в мозге работает другая область, чем при повседневных решениях.
Обычно это область, которую можно условно назвать «область сопоставления затрат и выгод» (dlPFC), а когда ставка – жизнь, работает, условно называемая «область субъективных ценностей» (vmPFC), вообще не заморачивающаяся сопоставлением «приобретений» от поступка и его «цены».
Готовый пожертвовать жизнь делает это за «идел», за «праведность», которые областью мозга vmPFC относятся к субъективным ценностям, не подлежащим сравнительной оценке.
Вот ведь природа отчудила нейрокодик!
Но как много это объясняет в истории человечества.
И каким ужасом для мира может стать очередной шаг в этих исследованиях. Когда простым переключением области исполняемого нейрокода, можно будет мозг священника превратить в мозг шахида.
#ЭволюционнаяПсихология #Нейронаука
Готовность сражаться и умереть сидит в каждом. И если уметь ее активировать …
В недавнем посте «Русский боится холода, а немец — тесноты. Нейрокод эмоций у разных народов разный» я писал:
«Далеко не только инстинкты, но и сложные поведенческие акты основаны на выполнении заложенных в человека нейропрограмм. Кто «написал» этот нейрокод — некий гипер-умный Творец или природа за миллионы лет эволюции — спорить не будем (пост не об этом)».
Сегодня продолжение этой темы. Новейшие исследования на стыке когнитивной и эмоциональной нейробиологии открывают все новые поразительные сюрпризы.
• Каким образом устроена в человеке мотивация заплатить за что-либо собственной жизнью – т.н. «готовность сражаться и умереть» (Willingness to fight and die)?
• Какая логика или рациональная оценка может подвигнуть человека отдать жизнь за некие абстрактные идеалы?
• Куда при этом девается рациональное сопоставление приобретаемой выгоды и уплаченной цены?
• Почему, черт возьми, в таких ситуациях молчит разум?
Новое исследование показало.
При принятии решения заплатить за что-либо собственной жизнью, в мозге работает другая область, чем при повседневных решениях.
Обычно это область, которую можно условно назвать «область сопоставления затрат и выгод» (dlPFC), а когда ставка – жизнь, работает, условно называемая «область субъективных ценностей» (vmPFC), вообще не заморачивающаяся сопоставлением «приобретений» от поступка и его «цены».
Готовый пожертвовать жизнь делает это за «идел», за «праведность», которые областью мозга vmPFC относятся к субъективным ценностям, не подлежащим сравнительной оценке.
Вот ведь природа отчудила нейрокодик!
Но как много это объясняет в истории человечества.
И каким ужасом для мира может стать очередной шаг в этих исследованиях. Когда простым переключением области исполняемого нейрокода, можно будет мозг священника превратить в мозг шахида.
#ЭволюционнаяПсихология #Нейронаука
ЛЮДИ, БОГИ, БОТЫ.
Как выжить среди богов и сверхразумных алгоритмов.
Новая книга Харари еще пишется. Но о чем она, уже можно догадаться.
О троице из людей, богов и ботов (сверхразумных алгоритмах), взаимодействие которых кардинально изменит мир в ближайшие десятилетия.
Приятно, когда «на разогреве» 3й (важнейшей) части поста «Большой Брат – сын Большого Бога» могу выпустить лучшего на сегодня "интеллектуального шоумена" (в хорошем и уважительном смысле) Юваля Ноя Харари.
Вчера в сеть выложили его видео с русскими титрами, озаглавленное, как этот мой пост.
https://www.youtube.com/watch?v=jqx3hic_3oE
Это видео пока что успели посмотреть лишь 787 человек. И я очень надеюсь, что теперь посмотрит куда больше.
Вопрос 1. С какого же бока Харари приплел к людям и алгоритмам еще и богов?
Вопрос 2. И где же здесь место «глобального большого брата»?
Вот мои 3 соображения, отвечающие на оба вопроса.
1) Одна из самых главных фикций, позволивших человечеству стать «чемпионом по сотрудничеству» миллиардов людей и, в результате, «царем природы» - это религия Больших Богов.
2) Спустя несколько тысячелетий такого супер-сотрудничества люди скоро превзойдут по могуществу Больших Богов:
- элита научится, путем технологических апгрейтов, превращать себя в «новых богов», обретя сверхчеловеческие возможности здоровья и интеллекта;
- остальная биомасса для «новых богов» станет просто ненужным обременением. Эту биомассу нужно будет тщательно контролировать и управлять ее потребностями, дабы создать им иллюзию счастья.
3) Обеспечить устойчивость социума в этом «дивном новом мире» может лишь глобальный «большой брат». Только он будет в состоянии обеспечить:
- контроль биомассы путем технологий тотального отслеживания (анализа действий и биомониторинга) миллиардов людей;
- управление материальными и духовными потребностями миллиардов людей, максимизирующего их иллюзию счастья за счет знания, понимания и формирования желаний и мотивации людей супер-интеллектуальными, но не обладающими сознанием алгоритмами.
Такова неполиткорректная трактовка сказанного Харари.
Подробней читайте в его новой книге и в 3й завершающей части моего поста «Большой Брат – сын Большого Бога».
#БольшойБрат #БольшиеБоги #Харари
Как выжить среди богов и сверхразумных алгоритмов.
Новая книга Харари еще пишется. Но о чем она, уже можно догадаться.
О троице из людей, богов и ботов (сверхразумных алгоритмах), взаимодействие которых кардинально изменит мир в ближайшие десятилетия.
Приятно, когда «на разогреве» 3й (важнейшей) части поста «Большой Брат – сын Большого Бога» могу выпустить лучшего на сегодня "интеллектуального шоумена" (в хорошем и уважительном смысле) Юваля Ноя Харари.
Вчера в сеть выложили его видео с русскими титрами, озаглавленное, как этот мой пост.
https://www.youtube.com/watch?v=jqx3hic_3oE
Это видео пока что успели посмотреть лишь 787 человек. И я очень надеюсь, что теперь посмотрит куда больше.
Вопрос 1. С какого же бока Харари приплел к людям и алгоритмам еще и богов?
Вопрос 2. И где же здесь место «глобального большого брата»?
Вот мои 3 соображения, отвечающие на оба вопроса.
1) Одна из самых главных фикций, позволивших человечеству стать «чемпионом по сотрудничеству» миллиардов людей и, в результате, «царем природы» - это религия Больших Богов.
2) Спустя несколько тысячелетий такого супер-сотрудничества люди скоро превзойдут по могуществу Больших Богов:
- элита научится, путем технологических апгрейтов, превращать себя в «новых богов», обретя сверхчеловеческие возможности здоровья и интеллекта;
- остальная биомасса для «новых богов» станет просто ненужным обременением. Эту биомассу нужно будет тщательно контролировать и управлять ее потребностями, дабы создать им иллюзию счастья.
3) Обеспечить устойчивость социума в этом «дивном новом мире» может лишь глобальный «большой брат». Только он будет в состоянии обеспечить:
- контроль биомассы путем технологий тотального отслеживания (анализа действий и биомониторинга) миллиардов людей;
- управление материальными и духовными потребностями миллиардов людей, максимизирующего их иллюзию счастья за счет знания, понимания и формирования желаний и мотивации людей супер-интеллектуальными, но не обладающими сознанием алгоритмами.
Такова неполиткорректная трактовка сказанного Харари.
Подробней читайте в его новой книге и в 3й завершающей части моего поста «Большой Брат – сын Большого Бога».
#БольшойБрат #БольшиеБоги #Харари
YouTube
Как выжить среди богов и сверхразумных алгоритмов - Ювал Ной Харари (русские субтитры) - krym
В списке «100 лучших книг XXI века», который недавно составила британская The Guardian, Sapiens Юваля Ноя Харари (43 года) занимает знаковое XXI-е место. Втиснуть историю Вселенной и Земли в четыре абзаца, а историю человечества в 500+ страниц - достижение…
Секрет главного когнитивного искажения.
Зачем сознанию кривое зеркало самооценки.
Надо привыкнуть смело, в глаза людям, говорить о своих достоинствах. Кому же, как не нам самим, знать, до какой степени мы хороши?
Венедикт В. Ерофеев
Проверить, «до какой степени мы хороши», довольно легко.
Например:
• Как вы думаете, с точки зрения навыков вождения, вы относитесь к лучшей (топ 50%) или худшей половине водителей?
• А по части воспитания детей: к лучшей или худшей половине родителей?
• По интеллекту, как думаете, вы в топ 50% населения входите или, увы, нет?
• А по внешности, доброте, понятливости, порядочности …?
Ответы на эти и подобные вопросы показывают абсолютную правоту эпиграфа.
90% людей практически по любому позитивному критерию относят себя к топ 50%. Хотя любой при этом понимает, насколько статистически маловероятно, чтобы все люди, думающие, что они выше среднего, на самом деле входили в топ 50% лучших.
- Но ничего поделать с подобной завышенной самооценкой нельзя: ни воспитанием, ни тренингом, ни гипнозом.
- Это самое глубоко зашитое и тотальное (зашито буквально в каждого) когнитивное искажение – завышенная по отношению к реальности самооценка.
Но зачем?
Ведь подобное кривое зеркало самооценки в корне искажает всю картину окружающей реальности. И это не может не снижать приспосабливаемость особи - адаптационные возможности и конкурентоспособность.
Получается, - это кривое зеркало противоречит принципам эволюции?
И какая польза от этого?
Ну польза, скажем, есть. И немалая. Это кривое зеркало – основа и источник постоянного счастья – «атомная батарейка» самопозитивности, особенно мощная в молодости и теряющая заряд лишь в весьма зрелом возрасте. Но как это устроено?
Связь между эмоциями и самооценкой лежит в основе человеческого благополучия. Знание механизмов этих сложных отношений имеет решающее значение для понимания мотивации, обучения и принятия решений, как у здоровых людей, так и при психоневрологических расстройствах. Поэтому так важно изучать когнитивные и нейронные механизмы, с помощью которых создается и поддерживается самооценка. Новое функциональное исследование MRI (fMRI) экспериментально продемонстрировало механизм взаимодействия между эмоциональной валентностью и само-релевантностью. Этот механизм работает в области мозга, которая классически связана с самостью: медиальная префронтальная кора (mPFC) (1).
Данное исследование предоставило доказательства, что когнитивное искажение самопозитивности является прямым следствием того, как в мозге устроен механизм автоматического восприятия информации о самом себе.
Т.е. самопозитивность возникает автоматом, вследствие организации работы мозга.
Но почему так?
Возможны варианты. И все зависит от того, что такое сознание.
Например, есть весьма распространенная концепция, что сознание – это эмергентное явление более высокого уровня, возникающее при обработке информации.
Тогда не исключено, что самопозитивность – это 5ое необходимое условие для возникновения сознания, наряду с информационным, динамическим, независимым и интегральным принципами, сформулированными Максом Тегмарком - стр. 116 в (2):
✔️ Сознательная система обладает абсолютной самопозитивностью.
N.B. Этот принцип согласуется с экспериментальным подтверждением, что самореференция возникает в мозге ДО появления эмоции. Сначала идентифицируется Я, а лишь затем формируется эмоция. Т.е. чувства в сознании появляются лишь ПОСЛЕ идентификации наличия самого себя (3)
#Сознание
Зачем сознанию кривое зеркало самооценки.
Надо привыкнуть смело, в глаза людям, говорить о своих достоинствах. Кому же, как не нам самим, знать, до какой степени мы хороши?
Венедикт В. Ерофеев
Проверить, «до какой степени мы хороши», довольно легко.
Например:
• Как вы думаете, с точки зрения навыков вождения, вы относитесь к лучшей (топ 50%) или худшей половине водителей?
• А по части воспитания детей: к лучшей или худшей половине родителей?
• По интеллекту, как думаете, вы в топ 50% населения входите или, увы, нет?
• А по внешности, доброте, понятливости, порядочности …?
Ответы на эти и подобные вопросы показывают абсолютную правоту эпиграфа.
90% людей практически по любому позитивному критерию относят себя к топ 50%. Хотя любой при этом понимает, насколько статистически маловероятно, чтобы все люди, думающие, что они выше среднего, на самом деле входили в топ 50% лучших.
- Но ничего поделать с подобной завышенной самооценкой нельзя: ни воспитанием, ни тренингом, ни гипнозом.
- Это самое глубоко зашитое и тотальное (зашито буквально в каждого) когнитивное искажение – завышенная по отношению к реальности самооценка.
Но зачем?
Ведь подобное кривое зеркало самооценки в корне искажает всю картину окружающей реальности. И это не может не снижать приспосабливаемость особи - адаптационные возможности и конкурентоспособность.
Получается, - это кривое зеркало противоречит принципам эволюции?
И какая польза от этого?
Ну польза, скажем, есть. И немалая. Это кривое зеркало – основа и источник постоянного счастья – «атомная батарейка» самопозитивности, особенно мощная в молодости и теряющая заряд лишь в весьма зрелом возрасте. Но как это устроено?
Связь между эмоциями и самооценкой лежит в основе человеческого благополучия. Знание механизмов этих сложных отношений имеет решающее значение для понимания мотивации, обучения и принятия решений, как у здоровых людей, так и при психоневрологических расстройствах. Поэтому так важно изучать когнитивные и нейронные механизмы, с помощью которых создается и поддерживается самооценка. Новое функциональное исследование MRI (fMRI) экспериментально продемонстрировало механизм взаимодействия между эмоциональной валентностью и само-релевантностью. Этот механизм работает в области мозга, которая классически связана с самостью: медиальная префронтальная кора (mPFC) (1).
Данное исследование предоставило доказательства, что когнитивное искажение самопозитивности является прямым следствием того, как в мозге устроен механизм автоматического восприятия информации о самом себе.
Т.е. самопозитивность возникает автоматом, вследствие организации работы мозга.
Но почему так?
Возможны варианты. И все зависит от того, что такое сознание.
Например, есть весьма распространенная концепция, что сознание – это эмергентное явление более высокого уровня, возникающее при обработке информации.
Тогда не исключено, что самопозитивность – это 5ое необходимое условие для возникновения сознания, наряду с информационным, динамическим, независимым и интегральным принципами, сформулированными Максом Тегмарком - стр. 116 в (2):
✔️ Сознательная система обладает абсолютной самопозитивностью.
N.B. Этот принцип согласуется с экспериментальным подтверждением, что самореференция возникает в мозге ДО появления эмоции. Сначала идентифицируется Я, а лишь затем формируется эмоция. Т.е. чувства в сознании появляются лишь ПОСЛЕ идентификации наличия самого себя (3)
#Сознание
Исчезнувшие с сайта NASA секретные материалы Google нашлись.
И что из этого следует – есть квантовое превосходство?
В позапрошлые выходные «Мир взорвался инфобомбой – Google достиг квантового превосходства». Мой комментарий на это был – «полагаю, это не совсем так, точнее, совсем не так»
На следующий день «китайцы расставили точки над i, и сомнения подтвердились».
Но мир продолжал хайповать на сенсации. Тема достижения квантового превосходства Google 2 недели была в топе. Все новые и новые статьи, комментарии экспертов, прогнозы аналитиков. Одни пишут – да, есть квантовое превосходство. Другие – превосходства нет. И это при том, что материалы Google на сайте NASA практически никто не видел.
Пора это как-то исправлять.
Вуаля!
Вот этот исчезнувший документ.
А это большое приложение к нему.
В дополнение пояснение того, что в документе и приложениях написано, выполненное Гилом Калай, разбирающимся в вопросе, как никто (не перевожу, т.к. переводчик есть у каждого читателя).
А заодно, тем кто хотел бы подробностей:
- две статьи Калай на эту тему (1) и (2);
- слайды его лекции по этой теме , прочтенной месяц назад в CERN
И какой из всего этого вывод?
Вот он на картинке.
#КвантовыйКомпьютинг
И что из этого следует – есть квантовое превосходство?
В позапрошлые выходные «Мир взорвался инфобомбой – Google достиг квантового превосходства». Мой комментарий на это был – «полагаю, это не совсем так, точнее, совсем не так»
На следующий день «китайцы расставили точки над i, и сомнения подтвердились».
Но мир продолжал хайповать на сенсации. Тема достижения квантового превосходства Google 2 недели была в топе. Все новые и новые статьи, комментарии экспертов, прогнозы аналитиков. Одни пишут – да, есть квантовое превосходство. Другие – превосходства нет. И это при том, что материалы Google на сайте NASA практически никто не видел.
Пора это как-то исправлять.
Вуаля!
Вот этот исчезнувший документ.
А это большое приложение к нему.
В дополнение пояснение того, что в документе и приложениях написано, выполненное Гилом Калай, разбирающимся в вопросе, как никто (не перевожу, т.к. переводчик есть у каждого читателя).
А заодно, тем кто хотел бы подробностей:
- две статьи Калай на эту тему (1) и (2);
- слайды его лекции по этой теме , прочтенной месяц назад в CERN
И какой из всего этого вывод?
Вот он на картинке.
#КвантовыйКомпьютинг
Импичмента не будет, а Трамп переизберется.
В США выявлен самоускоряющийся раскол, и единых США уже нет.
От того, кто станет следующим президентом США, зависит многое в мире. Вплоть до судьбы Украины и года смены президента в России.
Но предсказать исход попытки импичмента и следующих выборов в США не берется никто, - слишком сложный многофакторный прогноз с большим числом неопределенностей.
И вдруг выходит новый отчет Брукингского института (резюме, инфографика), в котором четко и неоспоримо выявлен сильнейший объективный тренд.
1. Единой страны США уже нет, а есть две разных страны, живущие в разных мирах с разными экономикой, культурой, ценностями и абсолютно разным будущим.
2. Действие самоускоряющегося тренда уже не раскола, а разбегания этих двух стран поразительным образом объединяет республиканцев и демократов лишь в одном – оставить Трампа президентом.
3. В основе этого противоречащего логике единения республиканцев и демократов простая, но практически непреодолимая мотивация:
- чем дольше Трамп сидит в президентах, тем лучше живется электорату демократов и хуже – электорату республиканцев;
- электорат республиканцев от этого еще более звереет, виня во всем противников Трампа, и увеличивая его поддержку;
- электорат демократов процветает и вовсе не хочет менять этот тренд, что заставляет их лишь яростней поносить Трампа, не покушаясь при этом на перспективы сохранения своего собственного благополучного статус-кво.
Дочитать и посмотреть графики (еще на пару мин.)
- на Medium http://bit.ly/2nkAM54
- на Яндекс Дзен https://clck.ru/JR4Ui
#Выборы #США
В США выявлен самоускоряющийся раскол, и единых США уже нет.
От того, кто станет следующим президентом США, зависит многое в мире. Вплоть до судьбы Украины и года смены президента в России.
Но предсказать исход попытки импичмента и следующих выборов в США не берется никто, - слишком сложный многофакторный прогноз с большим числом неопределенностей.
И вдруг выходит новый отчет Брукингского института (резюме, инфографика), в котором четко и неоспоримо выявлен сильнейший объективный тренд.
1. Единой страны США уже нет, а есть две разных страны, живущие в разных мирах с разными экономикой, культурой, ценностями и абсолютно разным будущим.
2. Действие самоускоряющегося тренда уже не раскола, а разбегания этих двух стран поразительным образом объединяет республиканцев и демократов лишь в одном – оставить Трампа президентом.
3. В основе этого противоречащего логике единения республиканцев и демократов простая, но практически непреодолимая мотивация:
- чем дольше Трамп сидит в президентах, тем лучше живется электорату демократов и хуже – электорату республиканцев;
- электорат республиканцев от этого еще более звереет, виня во всем противников Трампа, и увеличивая его поддержку;
- электорат демократов процветает и вовсе не хочет менять этот тренд, что заставляет их лишь яростней поносить Трампа, не покушаясь при этом на перспективы сохранения своего собственного благополучного статус-кво.
Дочитать и посмотреть графики (еще на пару мин.)
- на Medium http://bit.ly/2nkAM54
- на Яндекс Дзен https://clck.ru/JR4Ui
#Выборы #США
Кудесник и пророк, наконец, поговорили.
Состоялся диалог Пинкера и Харари.
«Глупые истории могут убедить миллиарды, тогда как истина имеет лишь незначительное количество последователей. Но тогда вопрос в том, что вы ищете в жизни: силу или правду?»
Юваль Харари
Этого разговора ждали интеллектуалы из разных стран мира. И даже заранее писали «рецензии» на этот еще не состоявшийся разговор. Лучшую из них написал Джон Фэйтфул Хеймер в марте 2018. И она настолько хороша, что, перечтя ее сегодня, сразу после прослушивания опубликованного вчера диалога Пинкера и Харари (видео, аудио), я однозначно решил – лучше и сегодня не напишешь.
В «Кудеснике и Пророке» (2018) Чарльз Манн утверждает, что интеллектуальная жизнь в 21-м веке определяется гражданской войной между Кудесниками, которые верят, что технологии спасут нас, и Пророками, которые видят на горизонте различные виды катастроф.
Стивен Пинкер – Кудесник. А Юваль Харари – Пророк.
Как и большинство Кудесников, Пинкер считает, что наши предки были по большей части добродушными идиотами. Как и большинство Пророков, Харари предполагает, что наши предки в некоторых отношениях были лучше нас.
Пинкер превозносит гуманизм. Для Харари гуманизм - это просто еще одна религия, породившая коммунизм и нацизм и превратившая современность в век интенсивного религиозного рвения, беспримерных миссионерских усилий и самых кровавых религиозных войн в истории.
Пинкер думает, что упадок идеалов Просвещения происходит из-за сохранения у некоторых граждан когнитивных предубеждений, типа эвристики доступности и негативизма. Харари думает, что мы вступаем в постгуманистическую эпоху, где Искусственный интеллект и биоинженерия меняют правила игры.
Пинкер - Кудесник, который не заставляет плохую девочку расплачиваться за свои грехи в конце своей истории. Он смеет предположить, что плохая девочка сможет найти счастье и жить долго и счастливо. Харари – Пророк, и признавая, что либеральный гуманизм в мире преуспел, он предполагает, что вечеринка может скоро закончиться. Дело в том, что гуманистическое движение слишком много думает о старых битвах, пренебрегая новыми битвами. Это очень опасно, потому что, несмотря на сохраняющиеся проблемы традиционных религий, судьба человечества и самой жизни будет зависеть от нашего отношения к биоинженерии и ИИ, а не от нашего отношения к Богу и Писанию.
Если верить Харари, либеральный гуманизм будет подорван через десятилетие или два тем же научным прогрессом, который Пинкер превозносит. Подобно тому, как научное изучение Библии непреднамеренно подрывает веру в христианского Бога, научное изучение разума непреднамеренно подрывает веру в либерального гуманистического Бога - свободно выбирающего человека. Алгоритмы, используемые Facebook и Google, уже знают вас лучше, чем ваши друзья и семья. Но алгоритмы будущего будут знать вас лучше, чем вы сами.
Наконец, этот разговор состоялся.
Как и предполагалось, Харари рассуждал, как неуверенный в себе интеллектуал, а Пинкер - как беспощадный президент дискуссионного клуба. Пинкер нарисовал радужную картину человеческого прогресса и его достижений в надежде на то, что он будет продолжаться. Харари наметил мрачное будущее в надежде, что это хоть как-то предотвратит его. Как и все пророки, он пророчествует, чтобы предотвратить пророчество, а не предсказывать его. А в итоге разговор получился так себе.
Настоящий же бой интеллектуалов получился год назад между Харари и Энди Норманом – «Смысл и наследие гуманизма: острый вызов от потенциального союзника». Весьма рекомендую. И особенно тем, кто ошибочно считает Харари легковесным поп-идолом, зарабатывающим на проповедях банальности.
#Харари
Состоялся диалог Пинкера и Харари.
«Глупые истории могут убедить миллиарды, тогда как истина имеет лишь незначительное количество последователей. Но тогда вопрос в том, что вы ищете в жизни: силу или правду?»
Юваль Харари
Этого разговора ждали интеллектуалы из разных стран мира. И даже заранее писали «рецензии» на этот еще не состоявшийся разговор. Лучшую из них написал Джон Фэйтфул Хеймер в марте 2018. И она настолько хороша, что, перечтя ее сегодня, сразу после прослушивания опубликованного вчера диалога Пинкера и Харари (видео, аудио), я однозначно решил – лучше и сегодня не напишешь.
В «Кудеснике и Пророке» (2018) Чарльз Манн утверждает, что интеллектуальная жизнь в 21-м веке определяется гражданской войной между Кудесниками, которые верят, что технологии спасут нас, и Пророками, которые видят на горизонте различные виды катастроф.
Стивен Пинкер – Кудесник. А Юваль Харари – Пророк.
Как и большинство Кудесников, Пинкер считает, что наши предки были по большей части добродушными идиотами. Как и большинство Пророков, Харари предполагает, что наши предки в некоторых отношениях были лучше нас.
Пинкер превозносит гуманизм. Для Харари гуманизм - это просто еще одна религия, породившая коммунизм и нацизм и превратившая современность в век интенсивного религиозного рвения, беспримерных миссионерских усилий и самых кровавых религиозных войн в истории.
Пинкер думает, что упадок идеалов Просвещения происходит из-за сохранения у некоторых граждан когнитивных предубеждений, типа эвристики доступности и негативизма. Харари думает, что мы вступаем в постгуманистическую эпоху, где Искусственный интеллект и биоинженерия меняют правила игры.
Пинкер - Кудесник, который не заставляет плохую девочку расплачиваться за свои грехи в конце своей истории. Он смеет предположить, что плохая девочка сможет найти счастье и жить долго и счастливо. Харари – Пророк, и признавая, что либеральный гуманизм в мире преуспел, он предполагает, что вечеринка может скоро закончиться. Дело в том, что гуманистическое движение слишком много думает о старых битвах, пренебрегая новыми битвами. Это очень опасно, потому что, несмотря на сохраняющиеся проблемы традиционных религий, судьба человечества и самой жизни будет зависеть от нашего отношения к биоинженерии и ИИ, а не от нашего отношения к Богу и Писанию.
Если верить Харари, либеральный гуманизм будет подорван через десятилетие или два тем же научным прогрессом, который Пинкер превозносит. Подобно тому, как научное изучение Библии непреднамеренно подрывает веру в христианского Бога, научное изучение разума непреднамеренно подрывает веру в либерального гуманистического Бога - свободно выбирающего человека. Алгоритмы, используемые Facebook и Google, уже знают вас лучше, чем ваши друзья и семья. Но алгоритмы будущего будут знать вас лучше, чем вы сами.
Наконец, этот разговор состоялся.
Как и предполагалось, Харари рассуждал, как неуверенный в себе интеллектуал, а Пинкер - как беспощадный президент дискуссионного клуба. Пинкер нарисовал радужную картину человеческого прогресса и его достижений в надежде на то, что он будет продолжаться. Харари наметил мрачное будущее в надежде, что это хоть как-то предотвратит его. Как и все пророки, он пророчествует, чтобы предотвратить пророчество, а не предсказывать его. А в итоге разговор получился так себе.
Настоящий же бой интеллектуалов получился год назад между Харари и Энди Норманом – «Смысл и наследие гуманизма: острый вызов от потенциального союзника». Весьма рекомендую. И особенно тем, кто ошибочно считает Харари легковесным поп-идолом, зарабатывающим на проповедях банальности.
#Харари
Quillette
The Wizard and the Prophet: On Steven Pinker and Yuval Noah Harari
Pinker reminds us of what we in the chattering classes too often forget: namely, that modernity has for the most part been a major upgrade for humanity.
Рулить миром будет не тот, у кого ИИ круче, а чей ИИ сможет делать «это».
США готовят ассиметричный ответ Китаю и России.
Речь идет о перевороте в «искусстве войны». Вводится новый смысл - Когнитивная эффективность военных действий. Это понятие революционизирует военное применение ИИ.
В июле Эрик Шмидт (председатель Комиссии по нацбезопасности ИИ и бывший CEO & Chairman Google/Alphabet) и Роберт О. Ворк (зам-председателя Комиссии по нацбезопасности ИИ и бывший Зам-министра обороны США) запустили национальный мозговой штурм по поиску идей, как с помощью ИИ обеспечить абсолютное военное преимущество США в мире.
На основе лучших таких идей Комиссия по нацбезопасности ИИ готовит доклад с предложениями Конгрессу и Белому дому.
Нужно признать, что поступающие Шмидту и Ворку идеи/предложения впечатляют. Это очень круто. Вот характерный пример - идея/предложение Брэда Дьюеса. Он майор ВВС США, тактический офицер воздушного управления 13-й воздушной эскадрильи в Форт-Карсон (штат Колорадо), выпускник стипендии Главного штаба ВВС по стратегическим наукам, получивший степень доктора наук в области принятия решений в Гарвардском университете.
Название идеи – ИЗМЕРЕНИЕ ВОЙНЫ: КОГНИТИВНЫЕ ЭФФЕКТЫ В ЭПОХУ ИИ.
Продолжить чтение на пару минут:
- на Medium http://bit.ly/31YRm9H
- на Яндекс Дзен https://clck.ru/JSheF
#ВоенныйИИ
США готовят ассиметричный ответ Китаю и России.
Речь идет о перевороте в «искусстве войны». Вводится новый смысл - Когнитивная эффективность военных действий. Это понятие революционизирует военное применение ИИ.
В июле Эрик Шмидт (председатель Комиссии по нацбезопасности ИИ и бывший CEO & Chairman Google/Alphabet) и Роберт О. Ворк (зам-председателя Комиссии по нацбезопасности ИИ и бывший Зам-министра обороны США) запустили национальный мозговой штурм по поиску идей, как с помощью ИИ обеспечить абсолютное военное преимущество США в мире.
На основе лучших таких идей Комиссия по нацбезопасности ИИ готовит доклад с предложениями Конгрессу и Белому дому.
Нужно признать, что поступающие Шмидту и Ворку идеи/предложения впечатляют. Это очень круто. Вот характерный пример - идея/предложение Брэда Дьюеса. Он майор ВВС США, тактический офицер воздушного управления 13-й воздушной эскадрильи в Форт-Карсон (штат Колорадо), выпускник стипендии Главного штаба ВВС по стратегическим наукам, получивший степень доктора наук в области принятия решений в Гарвардском университете.
Название идеи – ИЗМЕРЕНИЕ ВОЙНЫ: КОГНИТИВНЫЕ ЭФФЕКТЫ В ЭПОХУ ИИ.
Продолжить чтение на пару минут:
- на Medium http://bit.ly/31YRm9H
- на Яндекс Дзен https://clck.ru/JSheF
#ВоенныйИИ
Medium
Рулить миром будет не тот, у кого ИИ круче, а чей ИИ сможет делать «это»
США готовят ассиметричный ответ Китаю и России