1е открытие 2019 – возможности ИИ оказались небеспредельными.
Подобно человеческому разуму, ИИ ограничен парадоксами теории множеств.
До сих пор считалось, что самой фундаментальной проблемой развитии технологий ИИ является необъяснимость принимаемых им решений. В январе 2019 к этой проблеме добавилась еще одна, не менее фундаментальная проблема — принципиальная непредсказуемость, какие задачи ИИ может решить, а какие нет.
На пути триумфального развития технологий машинного обучения, как казалось, способных при наличии большого объема данных превзойти людей в чем угодно — в играх, распознавании, предсказаниях и т.д. — встала первая из 23 проблем, поставленных в докладе Давида Гильберта на международном математическом конгрессе в Париже еще в 1900-м году.
Первой в списке этих 23 проблем, решение которых до сих пор считается высшим достижением для математика, была так называемая гипотеза континуума (континуум-гипотеза или 1я проблема Гильберта), которую выдвинул и пытался решить (но потерпел неудачу) еще сам создатель теории множеств Георг Кантор.
И вот сейчас, на исходе второго десятилетия XXI века гипотеза континуума, будучи примененная к задачам машинного обучения, стала холодным отрезвляющим душем для всех технооптимистов ИИ.
• Машинное обучение оказалось не всесильно
• И что еще хуже, — в широком спектре сценариев обучаемость ИИ не может быть ни доказана, ни опровергнута.
Продолжить чтение можно
- на Medium https://clck.ru/F3wny
- на Яндекс Дзен https://goo.gl/mFqasZ
#ИИ #МашинноеОбучение
Подобно человеческому разуму, ИИ ограничен парадоксами теории множеств.
До сих пор считалось, что самой фундаментальной проблемой развитии технологий ИИ является необъяснимость принимаемых им решений. В январе 2019 к этой проблеме добавилась еще одна, не менее фундаментальная проблема — принципиальная непредсказуемость, какие задачи ИИ может решить, а какие нет.
На пути триумфального развития технологий машинного обучения, как казалось, способных при наличии большого объема данных превзойти людей в чем угодно — в играх, распознавании, предсказаниях и т.д. — встала первая из 23 проблем, поставленных в докладе Давида Гильберта на международном математическом конгрессе в Париже еще в 1900-м году.
Первой в списке этих 23 проблем, решение которых до сих пор считается высшим достижением для математика, была так называемая гипотеза континуума (континуум-гипотеза или 1я проблема Гильберта), которую выдвинул и пытался решить (но потерпел неудачу) еще сам создатель теории множеств Георг Кантор.
И вот сейчас, на исходе второго десятилетия XXI века гипотеза континуума, будучи примененная к задачам машинного обучения, стала холодным отрезвляющим душем для всех технооптимистов ИИ.
• Машинное обучение оказалось не всесильно
• И что еще хуже, — в широком спектре сценариев обучаемость ИИ не может быть ни доказана, ни опровергнута.
Продолжить чтение можно
- на Medium https://clck.ru/F3wny
- на Яндекс Дзен https://goo.gl/mFqasZ
#ИИ #МашинноеОбучение
Medium
1е открытие 2019 — возможности ИИ оказались небеспредельными
Подобно человеческому разуму, ИИ ограничен парадоксами теории множеств
По наводке от читателя, с интересом познакомился с превосходной медиапродукцией современного последователя Джеффа Питерса и Энди Таккера по имени Кли Ирвин.
Если Джефф и Энди 100 лет назад зарабатывали на жизнь с помощью довольно простого, но весьма творческого мошенничества (эксплуатируя человеческие жадность, глупость, страх и тщеславие), то Кли сегодня собирает на порядки больше, доведя мошенничество до такого уровня, что его предшественникам даже и не снился.
Вот классный ролик «Теория Симуляции - Взлом Реальности», сделанный на уровне Спилберга, если бы тот вдруг решил работать на National Geographic или на BBC Science.
Превосходно всё – от сценария до анимации, от монтажа до звука и т.д. (насладитесь - https://clck.ru/F4D6o))
Но больше всего поражает уровень популярной завлекательности в подаче и донесении «майн кампфа» Кли Ирвина – «Emergence Theory».
Это «теория точечного пространства-времени и реальности, как квазикристаллического точечного пространства, спроецированного из кристалла E8». Цель теории – создание единой и непротиворечивой концептуальной модели мира, объединяющей теорию относительности и квантовую механику с феноменами информации и сознания.
К чему я веду? А к тому, чтобы проиллюстрировать, до какого запредельного уровня привлекательности и убедительности для людей, не обладающих всей полнотой информации по какой-либо теме, может доходить фейковая медиареальность в руках талантливых и экстра-креативных мошенников.
Но это еще не самое страшное, а вот что.
Новое исследование «People use less information than they think to make up their minds» https://clck.ru/F4EKp подводит нас к довольно поразительному и неожиданному выводу.
1) Доступ ко всей полноте информации, способный, казалось бы, кардинально влиять на человека в наш информационный век, мало кого спасает.
2) Для подавляющего большинства доступ к обильной информации НЕ способствует формированию у них более информированных мнений и суждений.
3) В итоге, чем к большему объему информации люди имеют потенциальный доступ, тем менее объективно информированным становится большинство.
Результат очевиден:
Информационное общество XXI века обречено на расцвет фейковых новостей и псевдонаучных заманиловок, типа «Emergence Theory», проекта «Чистая вода» и много-много чего еще 🥺
#Псевдонаука #ФейковыеНовости #Психология
Если Джефф и Энди 100 лет назад зарабатывали на жизнь с помощью довольно простого, но весьма творческого мошенничества (эксплуатируя человеческие жадность, глупость, страх и тщеславие), то Кли сегодня собирает на порядки больше, доведя мошенничество до такого уровня, что его предшественникам даже и не снился.
Вот классный ролик «Теория Симуляции - Взлом Реальности», сделанный на уровне Спилберга, если бы тот вдруг решил работать на National Geographic или на BBC Science.
Превосходно всё – от сценария до анимации, от монтажа до звука и т.д. (насладитесь - https://clck.ru/F4D6o))
Но больше всего поражает уровень популярной завлекательности в подаче и донесении «майн кампфа» Кли Ирвина – «Emergence Theory».
Это «теория точечного пространства-времени и реальности, как квазикристаллического точечного пространства, спроецированного из кристалла E8». Цель теории – создание единой и непротиворечивой концептуальной модели мира, объединяющей теорию относительности и квантовую механику с феноменами информации и сознания.
К чему я веду? А к тому, чтобы проиллюстрировать, до какого запредельного уровня привлекательности и убедительности для людей, не обладающих всей полнотой информации по какой-либо теме, может доходить фейковая медиареальность в руках талантливых и экстра-креативных мошенников.
Но это еще не самое страшное, а вот что.
Новое исследование «People use less information than they think to make up their minds» https://clck.ru/F4EKp подводит нас к довольно поразительному и неожиданному выводу.
1) Доступ ко всей полноте информации, способный, казалось бы, кардинально влиять на человека в наш информационный век, мало кого спасает.
2) Для подавляющего большинства доступ к обильной информации НЕ способствует формированию у них более информированных мнений и суждений.
3) В итоге, чем к большему объему информации люди имеют потенциальный доступ, тем менее объективно информированным становится большинство.
Результат очевиден:
Информационное общество XXI века обречено на расцвет фейковых новостей и псевдонаучных заманиловок, типа «Emergence Theory», проекта «Чистая вода» и много-много чего еще 🥺
#Псевдонаука #ФейковыеНовости #Психология
Открыт допинг для интеллекта.
Последствия труднопредсказуемы, но одно очевидно, - грядет бум гаджетов-стимуляторов.
Транскраниальная стимуляция мозга в перспективе может заменить многие наркотики и ноотропы на пути обретения сверхчеловеческих когнитивных способностей. На рынке уже есть всевозможные гаджеты, обещающие улучшить настроение, снять страхи и депрессию, убирать боль, контролировать беспокойство и лечить бессонницу.
У всех этих гаджетов и лежащих в их основе методов есть два серьёзных ограничителя для их широкого распространения.
1) Аналогичного эффекта можно достичь и без них с помощью традиционной и нетрадиционной медицины, разрешенных и не совсем наркотиков, все расширяющегося спектра ноотропов, а также алкоголя, медитации, секса … да мало чего еще.
2) Все они обещают лишь убрать у человека какие-то неприятные ощущения или состояния (от депрессии до бессонницы), не даруя людям каких-либо важных и ценных для них качеств.
А вот если бы была возможность повысить свой интеллект!
Хочешь, например, изобретать или найти способ, как обойти конкурентов, или написать какую-то совершенно невообразимую ранее музыку, или …, - включил гаджет и вперёд.
Все современные «усилители интеллекта» - это всевозможные «таблетки для ума» (типа фенотропила) балансирующие на грани полной профанации или плацебо, т.к. никаких серьезных исследований, подтверждающих их эффективность, нет.
Что же до транскраниальных стимуляторов интеллекта, то их нет, поскольку никто не понимает, как можно повысить человеческий интеллект, толком не понимая, как он вообще работает.
И вот прорыв.
Новое исследование «Right temporal alpha oscillations as a neural mechanism for inhibiting obvious associations» (правосторонние альфа-волны, как нейронный механизм подавления очевидных ассоциаций):
- во-первых, показало, как можно повысить интеллект, даже не понимая, как он работает;
- во-вторых, проверило действенность предложенного метода на 4х независимых экспериментах.
Дочитать (еще на 2 мин) можно:
- на Medium http://bit.do/eFTS7
- на Яндекс Дзен http://bit.do/eFTSZ
P.S. из-за российской и украинской блокировок перешёл на бразильский сокращатель ссылок. Если и с ним у вас будут заморочки, - дайте знать плз.
#Креативность #АльфаВолны #СтимуляцияМозга
Последствия труднопредсказуемы, но одно очевидно, - грядет бум гаджетов-стимуляторов.
Транскраниальная стимуляция мозга в перспективе может заменить многие наркотики и ноотропы на пути обретения сверхчеловеческих когнитивных способностей. На рынке уже есть всевозможные гаджеты, обещающие улучшить настроение, снять страхи и депрессию, убирать боль, контролировать беспокойство и лечить бессонницу.
У всех этих гаджетов и лежащих в их основе методов есть два серьёзных ограничителя для их широкого распространения.
1) Аналогичного эффекта можно достичь и без них с помощью традиционной и нетрадиционной медицины, разрешенных и не совсем наркотиков, все расширяющегося спектра ноотропов, а также алкоголя, медитации, секса … да мало чего еще.
2) Все они обещают лишь убрать у человека какие-то неприятные ощущения или состояния (от депрессии до бессонницы), не даруя людям каких-либо важных и ценных для них качеств.
А вот если бы была возможность повысить свой интеллект!
Хочешь, например, изобретать или найти способ, как обойти конкурентов, или написать какую-то совершенно невообразимую ранее музыку, или …, - включил гаджет и вперёд.
Все современные «усилители интеллекта» - это всевозможные «таблетки для ума» (типа фенотропила) балансирующие на грани полной профанации или плацебо, т.к. никаких серьезных исследований, подтверждающих их эффективность, нет.
Что же до транскраниальных стимуляторов интеллекта, то их нет, поскольку никто не понимает, как можно повысить человеческий интеллект, толком не понимая, как он вообще работает.
И вот прорыв.
Новое исследование «Right temporal alpha oscillations as a neural mechanism for inhibiting obvious associations» (правосторонние альфа-волны, как нейронный механизм подавления очевидных ассоциаций):
- во-первых, показало, как можно повысить интеллект, даже не понимая, как он работает;
- во-вторых, проверило действенность предложенного метода на 4х независимых экспериментах.
Дочитать (еще на 2 мин) можно:
- на Medium http://bit.do/eFTS7
- на Яндекс Дзен http://bit.do/eFTSZ
P.S. из-за российской и украинской блокировок перешёл на бразильский сокращатель ссылок. Если и с ним у вас будут заморочки, - дайте знать плз.
#Креативность #АльфаВолны #СтимуляцияМозга
Каковы шансы войны, которая уничтожит большую часть человечества? Это более вероятно, чем вы думаете.
Пишу об этом уже 2 года. Последний раз всего 12 дней назад – 8го января (ссылка в конце).
Спрашивается, - сколько можно стращать, и зачем так чащу?
Да затем, что еще со времен Кассандры известно, что умное планирование подразумевает обязательный учет наихудшего сценария. И не делать это чревато …
Отклики читателей на мой пост от 8 января были разнообразны.
Оппоненты приводят, в основном, две группы контраргументов.
1) Будущее принципиально непредсказуемо, и потому все прогнозы мало чего стоят.
2) Статистические выкладки не заслуживают доверия, потому что (1) неполные данные и/или потому, что (2) тренды кардинально изменились – формальных доказательств этого нет, но статистика последних десятилетий обнадеживает (читайте Стивена Пинкера).
Что на это ответить? … Не знаю.
Но вот Уго Барди – автор работы, о которой я писал 8го января (профессор физической химии универа Флоренции, уже 10+ лет специализирующийся на матанализе экзистенциальных прогнозов) позавчера в своем блоге ответил оппонентам так.
«Недавно вместе со своими коллегами я занимался статистическим анализом войн за последние 600 лет. Результаты были отрезвляющими: война, похоже, является статистическим явлением, подобным землетрясениям и лесным пожарам.
Войны возникают в соответствии с четко определенными статистическими закономерностями, и с этим мало что можно поделать.
Аарон Клуазет - другой ученый, который работает над той же самой темой, в весьма отрезвляющем анализе рассчитал вероятности будущих войн.
По его подсчетам, крупная война масштаба 2й мировой имеет более 40% шансов произойти в течение ближайших 100 лет.
А война с более чем миллиардом погибших, которая может уничтожить большую часть человечества, с вероятностью 5% может произойти менее чем за 4 столетия.
Самое важное здесь то, что сказанное вовсе не значит, что мы можем расслабиться на ближайшие 4 века. Совсем нет.
Математически правильная трактовка этого прогноза - мы можем ожидать уничтожения значительной части человечества с 5%ной вероятностью в ЛЮБОЙ МОМЕНТ будущего, в течение ближайших 4 столетий».
Осталось осознать, что же представляет собой 5%ная вероятность.
Представьте такой вариант при игре в кости. Например, выпадает шестерка, а затем еще раз шестерка или пятерка. Вероятность того, что этот вариант может случиться при ваших 2х очередных бросках и есть примерно 5%.
Поставите судьбу человечества на кон, утверждая, что такой вариант крайне маловероятен?
Блог Уго Барди называется «Завет Кассандры – всегда планируйте возможность наихудшего сценария».
И это не алармизм, а житейская мудрость, которую люди всегда знали и никогда ей не следовали.
Как у Высоцкого:
Без умолку безумная девица
Кричала: "Ясно вижу Трою павшей в прах!"
Но ясновидцев - впрочем, как и очевидцев -
Во все века сжигали люди на кострах.
Допматериалы:
• Пост Уго Барди http://bit.do/eF2iz с «комментарием к нему» В.С.Высоцкого https://www.youtube.com/watch?v=PYHPS9tDsZo
• Мой пост «Окончательный диагноз — большой войны не миновать» http://bit.do/eF2ih
#БольшаяВойна
Пишу об этом уже 2 года. Последний раз всего 12 дней назад – 8го января (ссылка в конце).
Спрашивается, - сколько можно стращать, и зачем так чащу?
Да затем, что еще со времен Кассандры известно, что умное планирование подразумевает обязательный учет наихудшего сценария. И не делать это чревато …
Отклики читателей на мой пост от 8 января были разнообразны.
Оппоненты приводят, в основном, две группы контраргументов.
1) Будущее принципиально непредсказуемо, и потому все прогнозы мало чего стоят.
2) Статистические выкладки не заслуживают доверия, потому что (1) неполные данные и/или потому, что (2) тренды кардинально изменились – формальных доказательств этого нет, но статистика последних десятилетий обнадеживает (читайте Стивена Пинкера).
Что на это ответить? … Не знаю.
Но вот Уго Барди – автор работы, о которой я писал 8го января (профессор физической химии универа Флоренции, уже 10+ лет специализирующийся на матанализе экзистенциальных прогнозов) позавчера в своем блоге ответил оппонентам так.
«Недавно вместе со своими коллегами я занимался статистическим анализом войн за последние 600 лет. Результаты были отрезвляющими: война, похоже, является статистическим явлением, подобным землетрясениям и лесным пожарам.
Войны возникают в соответствии с четко определенными статистическими закономерностями, и с этим мало что можно поделать.
Аарон Клуазет - другой ученый, который работает над той же самой темой, в весьма отрезвляющем анализе рассчитал вероятности будущих войн.
По его подсчетам, крупная война масштаба 2й мировой имеет более 40% шансов произойти в течение ближайших 100 лет.
А война с более чем миллиардом погибших, которая может уничтожить большую часть человечества, с вероятностью 5% может произойти менее чем за 4 столетия.
Самое важное здесь то, что сказанное вовсе не значит, что мы можем расслабиться на ближайшие 4 века. Совсем нет.
Математически правильная трактовка этого прогноза - мы можем ожидать уничтожения значительной части человечества с 5%ной вероятностью в ЛЮБОЙ МОМЕНТ будущего, в течение ближайших 4 столетий».
Осталось осознать, что же представляет собой 5%ная вероятность.
Представьте такой вариант при игре в кости. Например, выпадает шестерка, а затем еще раз шестерка или пятерка. Вероятность того, что этот вариант может случиться при ваших 2х очередных бросках и есть примерно 5%.
Поставите судьбу человечества на кон, утверждая, что такой вариант крайне маловероятен?
Блог Уго Барди называется «Завет Кассандры – всегда планируйте возможность наихудшего сценария».
И это не алармизм, а житейская мудрость, которую люди всегда знали и никогда ей не следовали.
Как у Высоцкого:
Без умолку безумная девица
Кричала: "Ясно вижу Трою павшей в прах!"
Но ясновидцев - впрочем, как и очевидцев -
Во все века сжигали люди на кострах.
Допматериалы:
• Пост Уго Барди http://bit.do/eF2iz с «комментарием к нему» В.С.Высоцкого https://www.youtube.com/watch?v=PYHPS9tDsZo
• Мой пост «Окончательный диагноз — большой войны не миновать» http://bit.do/eF2ih
#БольшаяВойна
Грядет передача управления корпоративным олигархиям, обслуживающим новую аристократию
Этот сценарий сегодня видится весьма вероятным профессору Дереку Боундсу - одному из самых уважаемых мною интеллектуалов.
1) Западные правительства – импотенты.
Запад душит свою экономику, дестабилизирует политику и разрушает демократию. Правительства США, Великобритании и не только - бесполезны и едва ли способны управлять собой, не говоря уже о формировании мирового порядка. В отсутствие у правительств разума и воли, общество дрейфует к моменту цивилизационного самоотрицания. А в это время, не брезгующий самыми безжалостными средствами и обладающий огромными ресурсами Си Цзиньпин поднял знамя эффективного авторитаризма, как предпочтительной модели управления 21-го века.
Подробней по 1й ссылке в посте Дерека.
2) Вся надежда на мегакорпорации.
Это они, доминирующие в потоках капитала США и всего мира, становятся куда более устойчивым буфером против хаоса, чем любое отдельное правительство. И теперь их долг - выйти за целевые рамки получения прибыли и внести свой решающий вклад в развитие общества, служа социальным целям. С таким призывом к мегакорпорациям обратился сам Ларри Финк – глава крупнейшей в мире инвестиционной компании BlackRock.
Подробней по 2й ссылке в посте Дерека.
3) Но тогда вопрос – а на кого работают мегакорпорации?
И ответ на него крайне малоутешителен – на новую аристократию, составляющую сегодня 10% любого современного общества. У них не просто много денег. У них значительно ниже показатели сердечно-сосудистых заболеваний, диабета и ожирения. Они позже заключают браки, которые оказываются более стабильными. Они живут в богатых кварталах, имеют превосходный круг друзей и отличные образовательные возможности. И главное, - они могут все это передать детям, оставляя 90% остальных тщетно колупаться в пыли на дне общества.
Но ведь история показывает, что растущее неравенство имеет свои фазовые переходы. Превзойдя некую границу, оно порождает катастрофическое насилие (хотя бывали, хоть и редкие, но исключения).
Подробней по 3й ссылке в посте Дерека.
А если коротко за 3 мин, то вот видео https://www.youtube.com/watch?v=hb28kAavh0M, которое стоит посмотреть, даже если вы не будете дальше ничего читать по этой теме.
Пост Дерека Боундса
http://mindblog.dericbownds.net/2019/01/the-passing-of-governance-to-corporate.html
#Культура #Политика #Будущее
Этот сценарий сегодня видится весьма вероятным профессору Дереку Боундсу - одному из самых уважаемых мною интеллектуалов.
1) Западные правительства – импотенты.
Запад душит свою экономику, дестабилизирует политику и разрушает демократию. Правительства США, Великобритании и не только - бесполезны и едва ли способны управлять собой, не говоря уже о формировании мирового порядка. В отсутствие у правительств разума и воли, общество дрейфует к моменту цивилизационного самоотрицания. А в это время, не брезгующий самыми безжалостными средствами и обладающий огромными ресурсами Си Цзиньпин поднял знамя эффективного авторитаризма, как предпочтительной модели управления 21-го века.
Подробней по 1й ссылке в посте Дерека.
2) Вся надежда на мегакорпорации.
Это они, доминирующие в потоках капитала США и всего мира, становятся куда более устойчивым буфером против хаоса, чем любое отдельное правительство. И теперь их долг - выйти за целевые рамки получения прибыли и внести свой решающий вклад в развитие общества, служа социальным целям. С таким призывом к мегакорпорациям обратился сам Ларри Финк – глава крупнейшей в мире инвестиционной компании BlackRock.
Подробней по 2й ссылке в посте Дерека.
3) Но тогда вопрос – а на кого работают мегакорпорации?
И ответ на него крайне малоутешителен – на новую аристократию, составляющую сегодня 10% любого современного общества. У них не просто много денег. У них значительно ниже показатели сердечно-сосудистых заболеваний, диабета и ожирения. Они позже заключают браки, которые оказываются более стабильными. Они живут в богатых кварталах, имеют превосходный круг друзей и отличные образовательные возможности. И главное, - они могут все это передать детям, оставляя 90% остальных тщетно колупаться в пыли на дне общества.
Но ведь история показывает, что растущее неравенство имеет свои фазовые переходы. Превзойдя некую границу, оно порождает катастрофическое насилие (хотя бывали, хоть и редкие, но исключения).
Подробней по 3й ссылке в посте Дерека.
А если коротко за 3 мин, то вот видео https://www.youtube.com/watch?v=hb28kAavh0M, которое стоит посмотреть, даже если вы не будете дальше ничего читать по этой теме.
Пост Дерека Боундса
http://mindblog.dericbownds.net/2019/01/the-passing-of-governance-to-corporate.html
#Культура #Политика #Будущее
YouTube
The 99% Is a Myth—Here's How It Really Breaks Down
When it comes to the division of wealth, many Americans believe that the country is split between the 1%, which possesses a significant share of the country’s money, and the 99%, or “the people.” In reality, The Atlantic writer Matthew Stewart argues, 9.9%…
Возможно, придется отказаться от ИИ на основе машинного обучения, честно признают в Google. Конечно, не сейчас, когда вокруг ИИ так много шумихи и денег. Но со временем.
Некоторые из моих читателей (даже весьма продвинутых в ИИ) убеждены, что проблема черного ящика ИИ - это вчерашний день. Мол, задача объяснимости решений, принимаемых ИИ, говоря по Маяковскому, - «будет сделана и делается уже».
А ведь это совсем не так.
Проект DAPRA Explainable Artificial Intelligence (XAI) - Объяснимый ИИ (о котором я пишу в своем канале с 2016) - пока буксует. Только что закончившаяся 1я фаза проекта не принесла желаемого результата. 2я фаза продлится до мая 2021. Но как говорят участники проекта, хороших идей пока нет.
Компания Google (которая в вопросах ИИ точно не слабее DARPA), подобно Ленину, пошла другим путем. И путь этот окольный:
- вместо общего решения задачи построения объяснимого ИИ, способного в принципе устранить проблему черного ящика,
- Google решил построить инструментарий, позволяющий хотя бы исследовать, на какие факторы ИИ обращает внимание при решении задачи, а на какие нет, и насколько высокие веса при решении задачи ИИ присваивает тем или иным факторам.
Как и всякий окольный путь, подход Google - долгий и без гарантий не опоздать. Но зато можно было бы долго вешать лапшу на уши рынку.
Вот почему так поразительно откровенно смелое интервью Бин Ким (Been Kim), целенаправленно исследующей в Google Brain вопрос интерпретируемости ИИ.
Вот ответы Бин Ким на 2 ключевых вопроса.
1) Насколько важно сейчас решение проблемы интерпретируемости ИИ?
БК: «Сейчас для ИИ настал критический момент: человечество пытается решить, хороша эта технология для нас или нет. Если мы не решим проблему интерпретируемости, вряд ли мы возьмём эту технологию с собой в будущее. Может быть, человечество просто забудет про неё».
2) Если в принципе может случиться отказ от ставки на машинное обучение, как технологической базы ИИ разработок, когда это могло бы произойти?
БК: «Не думаю, что это произойдёт прямо сейчас, когда вокруг ИИ много шумихи и денег. Но я думаю, что в долгосрочной перспективе человечество может решить — возможно, из-за страха, возможно, из-за отсутствия доказательств [безопасности] — что эта технология не для нас. Может так случиться».
Это честное и смелое интервью Бин Ким https://www.quantamagazine.org/been-kim-is-building-a-translator-for-artificial-intelligence-20190110/ уже перевели и на русский https://22century.ru/popular-science-publications/understanding-machines.
В заключение отмечу.
Google – весьма серьезная мегокорпорация. И просто так её ведущие сотрудники в прессе не болтают. Тем более, о стратегических для компании вопросах.
Тогда что же стоит за столь откровенным интервью Бин Ким?
Возможно, это значит, что Google уже работает над альтернативным направлением и начала готовить для него почву в медиа.
Так что есть над чем задуматься убежденным технооптимистам, считающим, что задача устранения черного ящика ИИ «будет сделана и делается уже».
#ИИ
Некоторые из моих читателей (даже весьма продвинутых в ИИ) убеждены, что проблема черного ящика ИИ - это вчерашний день. Мол, задача объяснимости решений, принимаемых ИИ, говоря по Маяковскому, - «будет сделана и делается уже».
А ведь это совсем не так.
Проект DAPRA Explainable Artificial Intelligence (XAI) - Объяснимый ИИ (о котором я пишу в своем канале с 2016) - пока буксует. Только что закончившаяся 1я фаза проекта не принесла желаемого результата. 2я фаза продлится до мая 2021. Но как говорят участники проекта, хороших идей пока нет.
Компания Google (которая в вопросах ИИ точно не слабее DARPA), подобно Ленину, пошла другим путем. И путь этот окольный:
- вместо общего решения задачи построения объяснимого ИИ, способного в принципе устранить проблему черного ящика,
- Google решил построить инструментарий, позволяющий хотя бы исследовать, на какие факторы ИИ обращает внимание при решении задачи, а на какие нет, и насколько высокие веса при решении задачи ИИ присваивает тем или иным факторам.
Как и всякий окольный путь, подход Google - долгий и без гарантий не опоздать. Но зато можно было бы долго вешать лапшу на уши рынку.
Вот почему так поразительно откровенно смелое интервью Бин Ким (Been Kim), целенаправленно исследующей в Google Brain вопрос интерпретируемости ИИ.
Вот ответы Бин Ким на 2 ключевых вопроса.
1) Насколько важно сейчас решение проблемы интерпретируемости ИИ?
БК: «Сейчас для ИИ настал критический момент: человечество пытается решить, хороша эта технология для нас или нет. Если мы не решим проблему интерпретируемости, вряд ли мы возьмём эту технологию с собой в будущее. Может быть, человечество просто забудет про неё».
2) Если в принципе может случиться отказ от ставки на машинное обучение, как технологической базы ИИ разработок, когда это могло бы произойти?
БК: «Не думаю, что это произойдёт прямо сейчас, когда вокруг ИИ много шумихи и денег. Но я думаю, что в долгосрочной перспективе человечество может решить — возможно, из-за страха, возможно, из-за отсутствия доказательств [безопасности] — что эта технология не для нас. Может так случиться».
Это честное и смелое интервью Бин Ким https://www.quantamagazine.org/been-kim-is-building-a-translator-for-artificial-intelligence-20190110/ уже перевели и на русский https://22century.ru/popular-science-publications/understanding-machines.
В заключение отмечу.
Google – весьма серьезная мегокорпорация. И просто так её ведущие сотрудники в прессе не болтают. Тем более, о стратегических для компании вопросах.
Тогда что же стоит за столь откровенным интервью Бин Ким?
Возможно, это значит, что Google уже работает над альтернативным направлением и начала готовить для него почву в медиа.
Так что есть над чем задуматься убежденным технооптимистам, считающим, что задача устранения черного ящика ИИ «будет сделана и делается уже».
#ИИ
Quanta Magazine
A New Approach to Understanding How Machines Think
Neural networks are famously incomprehensible, so Been Kim is developing a “translator for humans.”
Почему он такой умный? Ему в детстве много читали.
Новое исследование измерило интеллектуальную фору, даваемую чтением маленьким детям.
Все знают – малышам нужно читать. Но в жизни много чего «нужно». А время у родителей не резиновое. И есть приоритеты поважнее чтения малышам. Посему, спел песенку на ночь и пошел. А читать ему времени нет, - пусть растет и сам читает.
Оказалось, что цена, которую придется заплатить ребенку за такой подход родителей, весьма высока.
Примерно восьмимесячное отставание от тех, кому много читали. А ведь 8 месяцев - это большая разница в языковых навыках, когда речь о детях в возрасте до 5 лет.
Причем:
1) речь идет об отставании буквально во всех языковых навыках:
- восприятие языка (понимание);
- экспрессия языка (как ребенок складывает свои мысли в слова, используя словарный запас и грамматику);
- навыки пред-чтения (например, структурирование слов).
2) отставание в языковых навыках (языковых аспектах интеллекта) предсказывает последующие социальные и образовательные трудности, которые, как показывают исследования, потом труднее всего изменить.
Резюме.
Читайте малышам как можно больше. Для их будущей жизни это важнее, чем унаследованный миллион баксов, который вы наивно хотели бы заработать, сэкономив время на чтении своим малышам.
Подробней: популярно + отчет исследования + материалы исследования
http://www.nuffieldfoundation.org/news/reading-pre-school-children-boosts-language-skills-eight-months
Общее руководство по развитию языковых навыков + спецотчет + плакат
https://educationendowmentfoundation.org.uk/tools/guidance-reports/preparing-for-literacy/
P.S. И даже если вам в детстве мало читали, не повторяйте этой ошибки сейчас, когда речь идет о ваших детях и внуках.
#ЯзыковыеНавыки
Новое исследование измерило интеллектуальную фору, даваемую чтением маленьким детям.
Все знают – малышам нужно читать. Но в жизни много чего «нужно». А время у родителей не резиновое. И есть приоритеты поважнее чтения малышам. Посему, спел песенку на ночь и пошел. А читать ему времени нет, - пусть растет и сам читает.
Оказалось, что цена, которую придется заплатить ребенку за такой подход родителей, весьма высока.
Примерно восьмимесячное отставание от тех, кому много читали. А ведь 8 месяцев - это большая разница в языковых навыках, когда речь о детях в возрасте до 5 лет.
Причем:
1) речь идет об отставании буквально во всех языковых навыках:
- восприятие языка (понимание);
- экспрессия языка (как ребенок складывает свои мысли в слова, используя словарный запас и грамматику);
- навыки пред-чтения (например, структурирование слов).
2) отставание в языковых навыках (языковых аспектах интеллекта) предсказывает последующие социальные и образовательные трудности, которые, как показывают исследования, потом труднее всего изменить.
Резюме.
Читайте малышам как можно больше. Для их будущей жизни это важнее, чем унаследованный миллион баксов, который вы наивно хотели бы заработать, сэкономив время на чтении своим малышам.
Подробней: популярно + отчет исследования + материалы исследования
http://www.nuffieldfoundation.org/news/reading-pre-school-children-boosts-language-skills-eight-months
Общее руководство по развитию языковых навыков + спецотчет + плакат
https://educationendowmentfoundation.org.uk/tools/guidance-reports/preparing-for-literacy/
P.S. И даже если вам в детстве мало читали, не повторяйте этой ошибки сейчас, когда речь идет о ваших детях и внуках.
#ЯзыковыеНавыки
Лишится персональной инфы, подобно девственности, можно лишь раз.
И если вы бывали в соцсетях, значит уже её лишились.
Многие трясутся за свою персональную информацию. А кому, собственно, она нужна и зачем?
1) Профессиональным жуликам.
Эти ребята её все равно украдут. И потому бойся - не бойся, - всё одно.
2) Держателям соцсетей и прочим продавцам персональных данных.
Тут нам действительно нужно держать ухо востро, поскольку все что они про нас найдут - обязательно продадут. Многократно и с удовольствием.
Ну а что особенно ценится у покупателей таких данных - так это данные, позволяющие прогнозировать наши поведенческие реакции и преференции. Т.е. то, что особенно нужно для производителей товаров и всякого рода полит/социо-технологов, чтобы втюхивать нам их товары, идеи, политиков и т.п.
Ну а теперь допустим, что вы решили лишить всех этих социосетевых жуков ваших персональных данных и вообще перестали заходить в ФБ и Вконтакте.
И вот тут вас ожидает большой сюрприз. Сведя в 0 свою активность в соцсетях, вы лишите их лишь 5% нужной им информации о вас.
Секрет в том, что 95% нужной им информации о вас содержится в ваших социальных связях, из которых с хорошей вероятностью вычисляются ваши поведенческие реакции и преференции. И даже если вы перестали активничать в соцсети, 95% нужной социосетевым жукам информации можно считать из оставшейся информации о ваших связях (а она то никогда не стирается у практичных владельцев соцсетей).
Таков вывод нового исследования "Information flow reveals prediction limits in online social activity", подошедшего весьма тщательно к описываемому вопросу путем исследования всех основных контентных и временных факторов, формирующих инфопотоки в соцсетях (авторская ссылка на исследование https://goo.gl/iCC62X).
Так что можно не париться. Если вы в соцсетях уже год-другой поварились, девственность ваших персональных данных уже утеряна. А социосетевые жуки будут ее еще не один год юзать, продавая кому попало, не смотря на ваш гордый (но бесполезный) уход.
Резюме:
Про опасения, что на ваших данных наживаются, можно забыть и забить, радостно продолжая сжигать самое дорогое, что у вас есть, - время в соцсетях.
#Соцсети
И если вы бывали в соцсетях, значит уже её лишились.
Многие трясутся за свою персональную информацию. А кому, собственно, она нужна и зачем?
1) Профессиональным жуликам.
Эти ребята её все равно украдут. И потому бойся - не бойся, - всё одно.
2) Держателям соцсетей и прочим продавцам персональных данных.
Тут нам действительно нужно держать ухо востро, поскольку все что они про нас найдут - обязательно продадут. Многократно и с удовольствием.
Ну а что особенно ценится у покупателей таких данных - так это данные, позволяющие прогнозировать наши поведенческие реакции и преференции. Т.е. то, что особенно нужно для производителей товаров и всякого рода полит/социо-технологов, чтобы втюхивать нам их товары, идеи, политиков и т.п.
Ну а теперь допустим, что вы решили лишить всех этих социосетевых жуков ваших персональных данных и вообще перестали заходить в ФБ и Вконтакте.
И вот тут вас ожидает большой сюрприз. Сведя в 0 свою активность в соцсетях, вы лишите их лишь 5% нужной им информации о вас.
Секрет в том, что 95% нужной им информации о вас содержится в ваших социальных связях, из которых с хорошей вероятностью вычисляются ваши поведенческие реакции и преференции. И даже если вы перестали активничать в соцсети, 95% нужной социосетевым жукам информации можно считать из оставшейся информации о ваших связях (а она то никогда не стирается у практичных владельцев соцсетей).
Таков вывод нового исследования "Information flow reveals prediction limits in online social activity", подошедшего весьма тщательно к описываемому вопросу путем исследования всех основных контентных и временных факторов, формирующих инфопотоки в соцсетях (авторская ссылка на исследование https://goo.gl/iCC62X).
Так что можно не париться. Если вы в соцсетях уже год-другой поварились, девственность ваших персональных данных уже утеряна. А социосетевые жуки будут ее еще не один год юзать, продавая кому попало, не смотря на ваш гордый (но бесполезный) уход.
Резюме:
Про опасения, что на ваших данных наживаются, можно забыть и забить, радостно продолжая сжигать самое дорогое, что у вас есть, - время в соцсетях.
#Соцсети
Nature
Information flow reveals prediction limits in online social activity
Nature Human Behaviour - An individual’s social ties contain up to 95% of the potential predictive accuracy achievable about that individual. In principle, a social platform may therefore...
Самая важная проблемная область современности.
Кто-то назовет в качестве оной экономику или экологию. А кто-то - политику или даже геополитику.
Но и те, и другие, наверное, согласятся, что мир всё более свергается в хаос роста рисков и непредсказуемости.
В этой связи крайне показательно, что самой скачиваемой статьей журнала «Хаос» (международный реферируемый журнал междисциплинарных исследований на стыках нелинейных наук) за 2018 год, стала статья о лидерстве - «Анатомия лидерства в коллективном поведении». https://aip.scitation.org/doi/10.1063/1.5024395
Именно лидерство, по мнению многих авторитетных экспертов, становится главной проблемной областью современного мира. Бывший председатель ЦБ Израиля проиллюстрировал это замечательной метафорой того мира, в котором мы сегодня живем.
«Представьте себе, что вы зашли в самолет. Вы летите 1м классом - чудные кресла, угощают хорошим шампанским. Всё готово к влету. И тут первый пилот говорит: господа, вы извините, у меня тут конфликт со вторым пилотом. Мы какое-то время поразбираемся друг с другом. И вам уже не интересно, что у вас отличное кресло, что у вас шампанское.
- Ну разберитесь друг с другом, прекратите это вот! Это же известно, чем кончится!»
Это и есть реальный вызов для глобального лидерства - способности договариваться. И это очень серьезная проблема, которая далеко уходит за экономические рамки. Это вообще не про экономику.
В итоге, именно лидерство становится сегодня самой проблемной областью и в госуправлении, и в бизнесе.
И при этом мы должны честно признать, что
сегодня лидерство – это самая малоизученная область, самое неформализованное и затасканное понятие, в хвост и в гриву эксплуатируемое лишь всевозможными бизнес-тренерами и коучами аля Тони Роббинс, стригущими бабло в залах размером со стадион, камлая, подобно шаманам, и заговаривая, подобно знахарям, недуги современного лидерства.
А самое скачиваемое исследование в мире по вопросам лидерства в России вообще не известно. Видно у нас с лидерством проблем нет, как минимум, на грядущую пару десятилетий.
О чем это исследование.
Суть проста.
1) Вся современная наука убеждает нас, что природа – гениальный перелицовщик – миллионы лет приспосабливающий уже найденные оптимальные решения на все новых и более высоких этапах эволюции. И если мы хотим понять, как функционирует человеческое общество, нужно искать аналоги среди стоящих ниже на эволюционной лестнице видов.
2) Принципиально новые технологические возможности последних лет (GPS датчики, видеосъемка с беспилотников и т.д.) уже позволили собрать океан ценнейшей информации, позволяющей наблюдать и анализировать всевозможные аспекты лидерства, проявляемые в среде животных.
3) Осталось (А) разработать формальный язык и многогранную структуру, описывающую многие аспекты лидерства, и (Б) подобрать матмодели, наиболее точно соответствующие динамике коллективного поведения, описываемого океанами собранных данных.
Что и было сделано авторами работы «Анатомия лидерства в коллективном поведении», задействовавшими математический аппарат причинно-следственного вывода и теории информации.
Среди прочего, авторы сумели дать ответы на многие важнейшие вопросы:
- какова структура лидерства и от чего зависят её изменения во времени?
- каковы различные источники и характеристики лидерства?
- как работают основные форматы лидерства (структурное, информационное, целевое …)?
- каковы механизмы распределения лидерства?
- каковы временные шкалы лидерства?
- как связаны досягаемость лидера и его достижения?
- какова роль наблюдаемости или, наоборот, незаметности лидера?
- как сочетаются влиятельность, лидерство, информационные потоки и причинно-следственные связи?
За отправную точку авторы взяли классическую модель стада – т.н. зональную модель коллективного движения – и сумели здорово её расширить и уточнить.
Так что шаманам и знахарям лидерских практик придется потесниться. В дело вступает междисциплинарная наука.
#Лидерство
Кто-то назовет в качестве оной экономику или экологию. А кто-то - политику или даже геополитику.
Но и те, и другие, наверное, согласятся, что мир всё более свергается в хаос роста рисков и непредсказуемости.
В этой связи крайне показательно, что самой скачиваемой статьей журнала «Хаос» (международный реферируемый журнал междисциплинарных исследований на стыках нелинейных наук) за 2018 год, стала статья о лидерстве - «Анатомия лидерства в коллективном поведении». https://aip.scitation.org/doi/10.1063/1.5024395
Именно лидерство, по мнению многих авторитетных экспертов, становится главной проблемной областью современного мира. Бывший председатель ЦБ Израиля проиллюстрировал это замечательной метафорой того мира, в котором мы сегодня живем.
«Представьте себе, что вы зашли в самолет. Вы летите 1м классом - чудные кресла, угощают хорошим шампанским. Всё готово к влету. И тут первый пилот говорит: господа, вы извините, у меня тут конфликт со вторым пилотом. Мы какое-то время поразбираемся друг с другом. И вам уже не интересно, что у вас отличное кресло, что у вас шампанское.
- Ну разберитесь друг с другом, прекратите это вот! Это же известно, чем кончится!»
Это и есть реальный вызов для глобального лидерства - способности договариваться. И это очень серьезная проблема, которая далеко уходит за экономические рамки. Это вообще не про экономику.
В итоге, именно лидерство становится сегодня самой проблемной областью и в госуправлении, и в бизнесе.
И при этом мы должны честно признать, что
сегодня лидерство – это самая малоизученная область, самое неформализованное и затасканное понятие, в хвост и в гриву эксплуатируемое лишь всевозможными бизнес-тренерами и коучами аля Тони Роббинс, стригущими бабло в залах размером со стадион, камлая, подобно шаманам, и заговаривая, подобно знахарям, недуги современного лидерства.
А самое скачиваемое исследование в мире по вопросам лидерства в России вообще не известно. Видно у нас с лидерством проблем нет, как минимум, на грядущую пару десятилетий.
О чем это исследование.
Суть проста.
1) Вся современная наука убеждает нас, что природа – гениальный перелицовщик – миллионы лет приспосабливающий уже найденные оптимальные решения на все новых и более высоких этапах эволюции. И если мы хотим понять, как функционирует человеческое общество, нужно искать аналоги среди стоящих ниже на эволюционной лестнице видов.
2) Принципиально новые технологические возможности последних лет (GPS датчики, видеосъемка с беспилотников и т.д.) уже позволили собрать океан ценнейшей информации, позволяющей наблюдать и анализировать всевозможные аспекты лидерства, проявляемые в среде животных.
3) Осталось (А) разработать формальный язык и многогранную структуру, описывающую многие аспекты лидерства, и (Б) подобрать матмодели, наиболее точно соответствующие динамике коллективного поведения, описываемого океанами собранных данных.
Что и было сделано авторами работы «Анатомия лидерства в коллективном поведении», задействовавшими математический аппарат причинно-следственного вывода и теории информации.
Среди прочего, авторы сумели дать ответы на многие важнейшие вопросы:
- какова структура лидерства и от чего зависят её изменения во времени?
- каковы различные источники и характеристики лидерства?
- как работают основные форматы лидерства (структурное, информационное, целевое …)?
- каковы механизмы распределения лидерства?
- каковы временные шкалы лидерства?
- как связаны досягаемость лидера и его достижения?
- какова роль наблюдаемости или, наоборот, незаметности лидера?
- как сочетаются влиятельность, лидерство, информационные потоки и причинно-следственные связи?
За отправную точку авторы взяли классическую модель стада – т.н. зональную модель коллективного движения – и сумели здорово её расширить и уточнить.
Так что шаманам и знахарям лидерских практик придется потесниться. В дело вступает междисциплинарная наука.
#Лидерство
AIP Publishing
Anatomy of leadership in collective behaviour
Understanding the mechanics behind the coordinated movement of mobile animal groups (collective motion) provides key insights into their biology and ecology, wh
Полное переосмысление супер-ИИ, меняющее всё – понимание феномена, сценариев развития, оценку рисков и перспективы безопасности.
Отчет Кима Эрика Дрекслера, опубликованный в январе 2019 FHI и University of Oxford, содержит 208 стр. и называется «Переосмысление Суперинтеллекта. Комплексные ИИ-сервисы, как Искусственный Общий Интеллект».
Этот отчет – плод 3х летней работы Дрекслера, чей визионерский дар был с блеском доказан еще 30+ лет назад, когда он стал «отцом молекулярной нанотехнологии», предложив концепцию нанотехнологического механосинтеза и разработав теорию создания молекулярных нанороботов (в 1992 его книга «Наносистемы: производство и вычисление молекулярных машин» получила награду Ассоциации американских издателей за лучшую книгу по компьютерным наукам).
Не смотря на феноменальную важность новой работы Дрекслера, мало кто прочтет 200+ страничный отчет https://www.fhi.ox.ac.uk/wp-content/uploads/Reframing_Superintelligence_FHI-TR-2019-1.1-1.pdf
Не готовым посвятить пару дней на этот подвиг, рекомендую краткое изложение отчета, выполненное Рохин Шахом на AI ALIGNMENT FORUM https://www.alignmentforum.org/posts/x3fNwSe5aWZb5yXEG/reframing-superintelligence-comprehensive-ai-services
Тем же, кому достаточно моего резюме, - вот оно.
1) На лицо парадокс.
• Все дискуссии о супер-интеллекте (общем ИИ, сильном ИИ и т.п.) ведутся, исходя из представления о нем, как о некоем интеллектуальном «супер-агенте», - возможно, и не имеющем сознания в человеческом понимании, но располагающем неким целеполаганием, пониманием доступных ему ресурсов и прочими атрибутами интеллектуального агента.
• В то же время, никто такого «супер-агента» не разрабатывает, поскольку никто пока толком не понимает, как лучше это делать, да и с практических соображений, - не больно это и нужно, чтобы зарабатывать в наши дни миллиарды на ИИ-технологиях.
• Вместо хоть каких-то попыток разработки интеллектуальных «супер-агентов», десятки самых крутых корпораций мира вбухивают огромные средства только в одно – разработку ИИ-сервисов (AI services), автоматизирующих решение конкретных задач, используя ограниченные вычислительные ресурсы (локальные, а чаще всего облачные).
2) Достигнув некоего уровня развития, ИИ-сервисы смогут выполнять проектирование и разработку новых ИИ-сервисов. Подобно тому, как пределом совершенствования шахматных ИИ систем, в итоге, стала передача этого на откуп самим ИИ-системам, аналогичная передача будет происходить во все новых и новых областях автоматизации интеллектуальных задач. Автоматизация R&D процессов создания новых ИИ-сервисов приведет к рекурсивному технологическому усовершенствованию. Важно понимать, что это будет не рекурсивное самосовершенствование интеллектуальных супер-агентов, поскольку усовершенствования будут появляться в результате автоматизации процессов создания улучшенных строительных блоков ИИ-сервисов и/или их новых интеграционных возможностей.
Главное же в том, что это должно произойти, прежде чем мы получим каких-либо супер-интеллектуальных агентов (общего ИИ, сильного ИИ и т.п.), способных на произвольные общие рассуждения и решение неограниченного круга задач.
3) Можно характеризовать такой уровень развития созданием «комплексных ИИ-сервисов» (comprehensive AI services - CAIS). И он существенно отличается от привычной нам картины Общего/Сильного ИИ.
Суть отличия в том, что CAIS в совокупности будет обладать супер-интеллектуальными возможностями, вовсе не являясь интеллектуальным агентом или даже единой системой.
Последующее развитие модели CAIS ведет к переосмыслению не только перспектив развития и природы возникновения машинного супер-интеллекта, но также и путей проблемной ориентации ИИ, а также фундаментальных соображений в области безопасности и стратегии минимизации ИИ-рисков.
Т.о. меняется вся диспозиция в области ИИ, заставляя задуматься о совсем иных новых рисках и возможностях.
#ИИ
Отчет Кима Эрика Дрекслера, опубликованный в январе 2019 FHI и University of Oxford, содержит 208 стр. и называется «Переосмысление Суперинтеллекта. Комплексные ИИ-сервисы, как Искусственный Общий Интеллект».
Этот отчет – плод 3х летней работы Дрекслера, чей визионерский дар был с блеском доказан еще 30+ лет назад, когда он стал «отцом молекулярной нанотехнологии», предложив концепцию нанотехнологического механосинтеза и разработав теорию создания молекулярных нанороботов (в 1992 его книга «Наносистемы: производство и вычисление молекулярных машин» получила награду Ассоциации американских издателей за лучшую книгу по компьютерным наукам).
Не смотря на феноменальную важность новой работы Дрекслера, мало кто прочтет 200+ страничный отчет https://www.fhi.ox.ac.uk/wp-content/uploads/Reframing_Superintelligence_FHI-TR-2019-1.1-1.pdf
Не готовым посвятить пару дней на этот подвиг, рекомендую краткое изложение отчета, выполненное Рохин Шахом на AI ALIGNMENT FORUM https://www.alignmentforum.org/posts/x3fNwSe5aWZb5yXEG/reframing-superintelligence-comprehensive-ai-services
Тем же, кому достаточно моего резюме, - вот оно.
1) На лицо парадокс.
• Все дискуссии о супер-интеллекте (общем ИИ, сильном ИИ и т.п.) ведутся, исходя из представления о нем, как о некоем интеллектуальном «супер-агенте», - возможно, и не имеющем сознания в человеческом понимании, но располагающем неким целеполаганием, пониманием доступных ему ресурсов и прочими атрибутами интеллектуального агента.
• В то же время, никто такого «супер-агента» не разрабатывает, поскольку никто пока толком не понимает, как лучше это делать, да и с практических соображений, - не больно это и нужно, чтобы зарабатывать в наши дни миллиарды на ИИ-технологиях.
• Вместо хоть каких-то попыток разработки интеллектуальных «супер-агентов», десятки самых крутых корпораций мира вбухивают огромные средства только в одно – разработку ИИ-сервисов (AI services), автоматизирующих решение конкретных задач, используя ограниченные вычислительные ресурсы (локальные, а чаще всего облачные).
2) Достигнув некоего уровня развития, ИИ-сервисы смогут выполнять проектирование и разработку новых ИИ-сервисов. Подобно тому, как пределом совершенствования шахматных ИИ систем, в итоге, стала передача этого на откуп самим ИИ-системам, аналогичная передача будет происходить во все новых и новых областях автоматизации интеллектуальных задач. Автоматизация R&D процессов создания новых ИИ-сервисов приведет к рекурсивному технологическому усовершенствованию. Важно понимать, что это будет не рекурсивное самосовершенствование интеллектуальных супер-агентов, поскольку усовершенствования будут появляться в результате автоматизации процессов создания улучшенных строительных блоков ИИ-сервисов и/или их новых интеграционных возможностей.
Главное же в том, что это должно произойти, прежде чем мы получим каких-либо супер-интеллектуальных агентов (общего ИИ, сильного ИИ и т.п.), способных на произвольные общие рассуждения и решение неограниченного круга задач.
3) Можно характеризовать такой уровень развития созданием «комплексных ИИ-сервисов» (comprehensive AI services - CAIS). И он существенно отличается от привычной нам картины Общего/Сильного ИИ.
Суть отличия в том, что CAIS в совокупности будет обладать супер-интеллектуальными возможностями, вовсе не являясь интеллектуальным агентом или даже единой системой.
Последующее развитие модели CAIS ведет к переосмыслению не только перспектив развития и природы возникновения машинного супер-интеллекта, но также и путей проблемной ориентации ИИ, а также фундаментальных соображений в области безопасности и стратегии минимизации ИИ-рисков.
Т.о. меняется вся диспозиция в области ИИ, заставляя задуматься о совсем иных новых рисках и возможностях.
#ИИ
Счастье для всех!
Такова цель самого влиятельного человека в Силиконовой долине.
И это вовсе не Илон Маск, Джефф Безос или Марк Цукерберг, а Масаёши Сoн,
✔️ обладающий самым смелым видением основанной на ИИ утопии, где машины управляют тем, как живут и работают люди;
✔️ разработавший дорожную карту воплощения своего видения будущего мира на 300 лет вперёд;
✔️ и тратящий сотни миллиардов долларов, чтобы «информационная революция принесла счастье для всех».
Это не фейковая сенсация. И не кликбейтовое заманилово. Всё написанное - сущее правда.
• Масаёши Сoн - один из немногих людей, способных принимать решения, которые могут иметь глобальные последствия для будущего технологий и общества на протяжении десятилетий, если не столетий.
• Он верит, что компьютеры будут управлять планетой более разумно, чем люди, и это принесет людям здоровье и счастье.
• В разработанном им 300-летнем плане важная контрольная точка – 2040 – прогнозируемая Рэйем Курцвейлом дата технологической «сингулярности». К этому году созданный им 2 года назад Фонд Vision должен поднять на крыло 100+ стартапов-единорогов в областях ИИ и машинного обучения, способных оптимизировать основные отрасли, определяющие нашу жизнь - от недвижимости до продуктов питания и транспорта.
• За прошедшие с момента создания 2 года, Фонда Vision не просто начал реализацию плана, но уже вложил беспрецедентные $100 млрд (и это с учетом, что ВЕСЬ мировой рынок венчурных инвестиций в 2018 был примерно $80 млрд – т.е. просто улет!)
Масштаб визионерских претензий Масаёши Сoн таков, что Илон Маск может отойти в сторонку курить канабис.
Мобилизуемые под реализацию планов Масаёши Сон финансовые ресурсы (среди его инвесторов такие институты, как Apple, Foxconn, Qualcomm, а среди физлиц – уже вложивший $45 млрд наследный принц Саудовской Аравии Мухаммед бен Салман) таковы, что и не снились многим развитым государствам.
Глобальная сеть личных деловых связей Масаёши Сон столь же обширна и глубока, как и его кошелёк. В эту сеть входят такие лидеры бизнеса, как Билл Гейтс, Уоррен Баффет и Джек Ма, а также мировые лидеры, такие как Си Цзиньпин, Нахендра Моди и Дональд Трамп.
«Вы должны помнить, кто помогал вам на этом пути, и преданность, которую нужно проявлять к своим партнерам, как в хорошие, так и в плохие времена», - говорит один весьма близкий к Масаёши Сон человек.
Резюмирую.
Сейчас на планете нет никого, кто мог бы влиять на следующую волну технологий как Масаёси Сон: ни Джефф Безос, ни Марк Цукерберг, ни Элон Маск. У них есть соизмеримые (но все же меньшие) деньги, но нет «гремучей смеси» из крышесрывательных амбиций, ничем не сдерживаемого воображения и стальных нервов (не говоря уж об яйцах – только на крахе доткомов он потерял $70 млрд и, похоже, даже этого не заметил).
Сеть компаний в рамках Vision Fund планирует изменить сразу несколько критических секторов экономики: рынок недвижимости на $228 трллн, глобальный транспортный рынок на $5,9 трллн и розничный бизнес на $25 трллн.
Масаёши Сон уверен, что люди уже не смогут отказаться от интеллектуальных сервисов на основе технологий Vision Fund, так, как мы можем сейчас выключить компьютеры и смартфоны. А у этих сервисов будут «собственные мысли» и четкий план, как обеспечить счастье для всех…
Но как тонко заметил Дмитрий Быков, комментируя слова «сталкера» у Стругацких: «Счастье для всех даром, и пусть никто не уйдет обиженный!», - у китайцев есть интересная версия конца света, - из заточения будет выпущен демон, исполняющий все желания.
Впрочем, будучи японцем корейского происхождения, Масаёши Сон с китайской версией конца света, наверняка, знаком.
В дополнение:
• лонгрид от Fastcompany https://www.fastcompany.com/90285552/the-most-powerful-person-in-silicon-valley
• био на русском https://vc.ru/story/18135-masayoshi-son-story
• преза 300летнего плана https://qz.com/1112317/softbank-ceo-masayoshi-son-gave-a-2010-investor-presentation-explaining-his-tech-vision/
• отчет за 2017 о «счастье для всех» https://cdn.group.softbank/en/corp/set/data/csr/pdf/csr2017_01.pdf
#ИИ
Такова цель самого влиятельного человека в Силиконовой долине.
И это вовсе не Илон Маск, Джефф Безос или Марк Цукерберг, а Масаёши Сoн,
✔️ обладающий самым смелым видением основанной на ИИ утопии, где машины управляют тем, как живут и работают люди;
✔️ разработавший дорожную карту воплощения своего видения будущего мира на 300 лет вперёд;
✔️ и тратящий сотни миллиардов долларов, чтобы «информационная революция принесла счастье для всех».
Это не фейковая сенсация. И не кликбейтовое заманилово. Всё написанное - сущее правда.
• Масаёши Сoн - один из немногих людей, способных принимать решения, которые могут иметь глобальные последствия для будущего технологий и общества на протяжении десятилетий, если не столетий.
• Он верит, что компьютеры будут управлять планетой более разумно, чем люди, и это принесет людям здоровье и счастье.
• В разработанном им 300-летнем плане важная контрольная точка – 2040 – прогнозируемая Рэйем Курцвейлом дата технологической «сингулярности». К этому году созданный им 2 года назад Фонд Vision должен поднять на крыло 100+ стартапов-единорогов в областях ИИ и машинного обучения, способных оптимизировать основные отрасли, определяющие нашу жизнь - от недвижимости до продуктов питания и транспорта.
• За прошедшие с момента создания 2 года, Фонда Vision не просто начал реализацию плана, но уже вложил беспрецедентные $100 млрд (и это с учетом, что ВЕСЬ мировой рынок венчурных инвестиций в 2018 был примерно $80 млрд – т.е. просто улет!)
Масштаб визионерских претензий Масаёши Сoн таков, что Илон Маск может отойти в сторонку курить канабис.
Мобилизуемые под реализацию планов Масаёши Сон финансовые ресурсы (среди его инвесторов такие институты, как Apple, Foxconn, Qualcomm, а среди физлиц – уже вложивший $45 млрд наследный принц Саудовской Аравии Мухаммед бен Салман) таковы, что и не снились многим развитым государствам.
Глобальная сеть личных деловых связей Масаёши Сон столь же обширна и глубока, как и его кошелёк. В эту сеть входят такие лидеры бизнеса, как Билл Гейтс, Уоррен Баффет и Джек Ма, а также мировые лидеры, такие как Си Цзиньпин, Нахендра Моди и Дональд Трамп.
«Вы должны помнить, кто помогал вам на этом пути, и преданность, которую нужно проявлять к своим партнерам, как в хорошие, так и в плохие времена», - говорит один весьма близкий к Масаёши Сон человек.
Резюмирую.
Сейчас на планете нет никого, кто мог бы влиять на следующую волну технологий как Масаёси Сон: ни Джефф Безос, ни Марк Цукерберг, ни Элон Маск. У них есть соизмеримые (но все же меньшие) деньги, но нет «гремучей смеси» из крышесрывательных амбиций, ничем не сдерживаемого воображения и стальных нервов (не говоря уж об яйцах – только на крахе доткомов он потерял $70 млрд и, похоже, даже этого не заметил).
Сеть компаний в рамках Vision Fund планирует изменить сразу несколько критических секторов экономики: рынок недвижимости на $228 трллн, глобальный транспортный рынок на $5,9 трллн и розничный бизнес на $25 трллн.
Масаёши Сон уверен, что люди уже не смогут отказаться от интеллектуальных сервисов на основе технологий Vision Fund, так, как мы можем сейчас выключить компьютеры и смартфоны. А у этих сервисов будут «собственные мысли» и четкий план, как обеспечить счастье для всех…
Но как тонко заметил Дмитрий Быков, комментируя слова «сталкера» у Стругацких: «Счастье для всех даром, и пусть никто не уйдет обиженный!», - у китайцев есть интересная версия конца света, - из заточения будет выпущен демон, исполняющий все желания.
Впрочем, будучи японцем корейского происхождения, Масаёши Сон с китайской версией конца света, наверняка, знаком.
В дополнение:
• лонгрид от Fastcompany https://www.fastcompany.com/90285552/the-most-powerful-person-in-silicon-valley
• био на русском https://vc.ru/story/18135-masayoshi-son-story
• преза 300летнего плана https://qz.com/1112317/softbank-ceo-masayoshi-son-gave-a-2010-investor-presentation-explaining-his-tech-vision/
• отчет за 2017 о «счастье для всех» https://cdn.group.softbank/en/corp/set/data/csr/pdf/csr2017_01.pdf
#ИИ
Fast Company
The most powerful person in Silicon Valley
Billionaire Masayoshi Son–not Elon Musk, Jeff Bezos, or Mark Zuckerberg–has the most audacious vision for an AI-powered utopia where machines control how we live. And he’s spending hundreds of billions of dollars to realize it. Are you ready to live in Masa…
Сокровенная мечта человека — вовсе не вечная жизнь или немерянное богатство. И даже не власть над миром. И уж тем более, — не обладание супер-интеллектом.
Чтобы проникнуться этой мечтой, достаточно одного — хотя бы несколько раз испытать нестерпимую боль. И тогда, чтобы оградить себя от новых волн страшной боли, человек отдаст что угодно, а дальнейшее избавление от боли станет его сокровенной мечтой.
Но боль — не только ощущение.
Боль — это сверхсложный феномен, позволяющий нам, если не понять, то хотя бы представить, насколько «созданный по образу и подобию» человек сложнее любой доступной нашему воображению «мыслящей машины». Мы легко представляем по-человечески разумную машину, подобную той, что Станислав Лем изобразил в шедевриальной повести «Маска». Но представить себе машину, испытывающую, подобно людям, боль, не удалось даже гению Лема.
Продолжить чтение (еще на 3 мин):
на Medium https://goo.gl/X8Xymw
на Яндекс Дзен https://goo.gl/AvLZqz
#Боль
Чтобы проникнуться этой мечтой, достаточно одного — хотя бы несколько раз испытать нестерпимую боль. И тогда, чтобы оградить себя от новых волн страшной боли, человек отдаст что угодно, а дальнейшее избавление от боли станет его сокровенной мечтой.
Но боль — не только ощущение.
Боль — это сверхсложный феномен, позволяющий нам, если не понять, то хотя бы представить, насколько «созданный по образу и подобию» человек сложнее любой доступной нашему воображению «мыслящей машины». Мы легко представляем по-человечески разумную машину, подобную той, что Станислав Лем изобразил в шедевриальной повести «Маска». Но представить себе машину, испытывающую, подобно людям, боль, не удалось даже гению Лема.
Продолжить чтение (еще на 3 мин):
на Medium https://goo.gl/X8Xymw
на Яндекс Дзен https://goo.gl/AvLZqz
#Боль
Medium
Боль останется, но больно не будет
Открыт новый метод, как побороть боль
Так получается, что о малоизвестном интересном, о котором пишет мой канал, больше не пишут почти нигде в Рунете. Поэтому, когда мой канал перестанет выходить, вы можете понести трудно восполнимую утрату и вам придется потратить кучу времени, чтобы найти для себя альтернативный удовлетворяющий вас инфопоток.
Чтобы этого не случилось, я решил заранее и постепенно рекомендовать вам некоторые дайджесты недельных новостей, которые вполне соответствуют критериям моего канала.
1й такой дайжест – от моих коллег из Numenta, пишущих о новостях нейробиологии и ИИ ровно в том же ключе, что и я на своем канале.
Так что рекомендую!
И вот для иллюстрации 3 из 10 новостей нового выпуска Numenta News Digest.
Технология, которая понимает, что на самом деле означает текст
28 января - Business Reporter UK В
N.B. Обратить внимание юротделам больших компаний и Сберу в частности 😳
В этой статье рассматривается подход партнера Numenta компании Cortical.io к пониманию естественного языка, при котором анализ ведется подобно тому, как мозг обрабатывает информацию, - то есть, не требуя большого количества обучающих данных и контроля за процессом обучения.
Ведь чтобы научить ребенка, что такое корова, маме не требуется показать ему 10 тыс. коров, контролируя при этом весь процесс обучения. Достаточно просто показать буренку и сказать – это корова.
Многие компании из Fortune 100 уже используют эту технологию для автоматизации анализа контрактов. Генеральный директор и соучредитель Франциско Уэббер пишет: «Если вы попросите людей извлечь такую же информацию из 300 000 контрактов, это займет вечность, а качество будет составлять около 50%. С помощью нашего инструмента анализа контрактов, процесс будет куда эффективней».
Если не верите, - вот описание кейса от PWC анализа контрактов с помощью Retina Engine производства Cortical.io.
Мы проанализировали 16 625 работ, чтобы выяснить, куда ИИ направится в следующем
январе -
Аналитик MIT Technology Review просмотрела более 16 000 исследований ИИ из arXiv и отследила динамику упоминаний ключевых слов, чтобы увидеть, как развивалась эта область с течением времени. Она обнаружила, что в области ИИ каждое десятилетие наблюдается смена доминирующей технологии - «нейронные сети в 50-х и 60-х гг, различные символические подходы в 70-х, системы на основе знаний в 80-х, байесовские сети в 90-х, SVM в 00-х и снова нейронные сети в 10-х.
Это может указывать на то, что нынешняя эра глубокого обучения подходит к концу вместе с десятилетием
Микробы в вашем кишечнике говорят с вашим мозгом. Хотелось бы знать, - о чем
28 января - New York Times
По словам автора этой статьи, все больше и больше ученых находят связи между мозгом и некоторыми штаммами кишечных бактерий, которые могут изменить наше поведение. В одном эксперименте мыши, которым давали штамм бактерий под названием Lactobacillus reuteri, стали более социальными. В другом эксперименте у мышей, которым давали кишечные бактерии, взятые у человека с депрессией, также впадали в депрессию – например, отказывались от выполнения даже легких задач и неподвижное тупо висели, когда их подвешивали за хвост. Ученые предполагают, что бактериальные трансплантаты могут быть использованы для лечения заболеваний мозга, таких как аутизм и деменция, но для подтверждения этой гипотезы все еще требуются дополнительные исследования.
Так что не болтайтесь безвольно, если вас подвесили за хвост. Активно сопротивляйтесь. И конечно же читайте дайджест Numenta и мой канал 😀
#ДайджестНейробиоИИ
Чтобы этого не случилось, я решил заранее и постепенно рекомендовать вам некоторые дайджесты недельных новостей, которые вполне соответствуют критериям моего канала.
1й такой дайжест – от моих коллег из Numenta, пишущих о новостях нейробиологии и ИИ ровно в том же ключе, что и я на своем канале.
Так что рекомендую!
И вот для иллюстрации 3 из 10 новостей нового выпуска Numenta News Digest.
Технология, которая понимает, что на самом деле означает текст
28 января - Business Reporter UK В
N.B. Обратить внимание юротделам больших компаний и Сберу в частности 😳
В этой статье рассматривается подход партнера Numenta компании Cortical.io к пониманию естественного языка, при котором анализ ведется подобно тому, как мозг обрабатывает информацию, - то есть, не требуя большого количества обучающих данных и контроля за процессом обучения.
Ведь чтобы научить ребенка, что такое корова, маме не требуется показать ему 10 тыс. коров, контролируя при этом весь процесс обучения. Достаточно просто показать буренку и сказать – это корова.
Многие компании из Fortune 100 уже используют эту технологию для автоматизации анализа контрактов. Генеральный директор и соучредитель Франциско Уэббер пишет: «Если вы попросите людей извлечь такую же информацию из 300 000 контрактов, это займет вечность, а качество будет составлять около 50%. С помощью нашего инструмента анализа контрактов, процесс будет куда эффективней».
Если не верите, - вот описание кейса от PWC анализа контрактов с помощью Retina Engine производства Cortical.io.
Мы проанализировали 16 625 работ, чтобы выяснить, куда ИИ направится в следующем
январе -
Аналитик MIT Technology Review просмотрела более 16 000 исследований ИИ из arXiv и отследила динамику упоминаний ключевых слов, чтобы увидеть, как развивалась эта область с течением времени. Она обнаружила, что в области ИИ каждое десятилетие наблюдается смена доминирующей технологии - «нейронные сети в 50-х и 60-х гг, различные символические подходы в 70-х, системы на основе знаний в 80-х, байесовские сети в 90-х, SVM в 00-х и снова нейронные сети в 10-х.
Это может указывать на то, что нынешняя эра глубокого обучения подходит к концу вместе с десятилетием
Микробы в вашем кишечнике говорят с вашим мозгом. Хотелось бы знать, - о чем
28 января - New York Times
По словам автора этой статьи, все больше и больше ученых находят связи между мозгом и некоторыми штаммами кишечных бактерий, которые могут изменить наше поведение. В одном эксперименте мыши, которым давали штамм бактерий под названием Lactobacillus reuteri, стали более социальными. В другом эксперименте у мышей, которым давали кишечные бактерии, взятые у человека с депрессией, также впадали в депрессию – например, отказывались от выполнения даже легких задач и неподвижное тупо висели, когда их подвешивали за хвост. Ученые предполагают, что бактериальные трансплантаты могут быть использованы для лечения заболеваний мозга, таких как аутизм и деменция, но для подтверждения этой гипотезы все еще требуются дополнительные исследования.
Так что не болтайтесь безвольно, если вас подвесили за хвост. Активно сопротивляйтесь. И конечно же читайте дайджест Numenta и мой канал 😀
#ДайджестНейробиоИИ
Campaign-Archive
Numenta
Numenta Email Forms
Новая парадигма ИИ требует революции в понимании памяти.
Иначе выход из тупика в области ИИ невозможен.
«Память о прошлом создана не для того, чтобы помнить прошлое, она создана для предотвращения будущего. Память - это инструмент предсказаний"
Alain Berthoz (французский нейробиолог)
Понятно, что для этой темы нужен лонг-лонгрид. Но это пока еще не он, а его тизер.
1) В чем, собственно, тупик?
Если коротко, то вот в чем.
а) Осознан потолок возможностей машинного обучения, - автоматизация интеллектуальной рутины.
б) Крепчает понимание того, что для выхода на качественно иной уровень интеллектуальности машин (не важно, как его называть - общий ИИ и т.п.) нужны не просто иные технологические подходы (кои и так меняются каждое десятилетие вот уже полвека), а смена парадигмы.
в) Эта смена парадигмы сдерживается вовсе не отсутствием перспективных альтернатив существующей парадигме, а необходимостью отбить десятки миллиардов уже сделанных инвестиций и прагматичным нежеланием менять даже не синицу, а несущую золотые яйца курицу на гипотетического журавля без гарантий коммерческой состоятельности его заоблачных полетов.
2) Альтернативная парадигма уже существует?
Да существует. Это смена представлений о цели и функциональной организации разума (избегаю здесь термина интеллект во избежание вечной путаницы).
В когнитивной науке вместо старой парадигмы мозга уже довольно прочно обосновалась новая.
Согласно старой парадигме, разум работает подобно традиционному компьютеру - мозг пассивно ждет «входной информации» для «обработки символических представлений» и создания «выходных управляющих сигналов»).
В новой парадигме, разум – это машина постоянных предсказаний. Мозг постоянно пытается делать выводы из несоответствий между сконструированными им моделями реальности и самого разумного агента и его чувствами, пытаясь выяснить причины этих несоответствий и минимизировать их путем корректировки моделей и/или практических действий в физической реальности.
3) В новой парадигме цель и механизм работы памяти принципиально иные, чем в старой.
- Цель памяти - не передавать информацию с высокой точностью во времени, а направлять разумное принятие мозгом правильных решений.
- При такой цели, ключевой функцией памяти становится вовсе не точность и длительность сохранения воспоминаний, а преднамеренное забвение - забывание информации, необходимое для ее генерализации.
- Главная проблема здесь в том, что чрезмерно точная память мешает использовать воспоминания для обобщения их в новых ситуациях. Если воспоминания слишком точны и перегружены, их трудно использовать, чтобы делать прогнозы на будущие ситуации.
Например, если в вашей памяти хранятся мельчайшие подробности того, как вас укусила собака в парке (характеристики собаки – её размер, цвет, длина шерсти, лапы, уши и т. д., и характеристики ситуации - на дорожке, возле скамейки, под большим деревом, у фонаря и т. д.), вполне возможно, что вы не будете распространять на других собак и другие места осторожный страх, который может позволить вам избежать нового покусания. А это избегание и есть ваша истинная цель для оптимальной адаптации!
Значит нужно все детали забыть, оставив и генерализовав лишь главное.
- Кроме того, среда постоянно меняется, и нужно уметь адаптировать воспоминания к этим изменениям. Воспоминания, которые слишком точно воспроизводят прошлое, могут ослабить способность представлять различные варианты будущего, делая поведение слишком негибким, чтобы справляться с изменяющимися условиями.
Посему:
1) Нужен механизм активного забывания, работающего на главную стратегию мозга – управление информацией через забывание.
2) Нужны разнообразные механизмы, позволяющие А) генерализовать воспоминания, Б) реструктурировать их, но при этом В) не затруднять доступ к ним.
#Память #СменаПарадигмыИИ
Иначе выход из тупика в области ИИ невозможен.
«Память о прошлом создана не для того, чтобы помнить прошлое, она создана для предотвращения будущего. Память - это инструмент предсказаний"
Alain Berthoz (французский нейробиолог)
Понятно, что для этой темы нужен лонг-лонгрид. Но это пока еще не он, а его тизер.
1) В чем, собственно, тупик?
Если коротко, то вот в чем.
а) Осознан потолок возможностей машинного обучения, - автоматизация интеллектуальной рутины.
б) Крепчает понимание того, что для выхода на качественно иной уровень интеллектуальности машин (не важно, как его называть - общий ИИ и т.п.) нужны не просто иные технологические подходы (кои и так меняются каждое десятилетие вот уже полвека), а смена парадигмы.
в) Эта смена парадигмы сдерживается вовсе не отсутствием перспективных альтернатив существующей парадигме, а необходимостью отбить десятки миллиардов уже сделанных инвестиций и прагматичным нежеланием менять даже не синицу, а несущую золотые яйца курицу на гипотетического журавля без гарантий коммерческой состоятельности его заоблачных полетов.
2) Альтернативная парадигма уже существует?
Да существует. Это смена представлений о цели и функциональной организации разума (избегаю здесь термина интеллект во избежание вечной путаницы).
В когнитивной науке вместо старой парадигмы мозга уже довольно прочно обосновалась новая.
Согласно старой парадигме, разум работает подобно традиционному компьютеру - мозг пассивно ждет «входной информации» для «обработки символических представлений» и создания «выходных управляющих сигналов»).
В новой парадигме, разум – это машина постоянных предсказаний. Мозг постоянно пытается делать выводы из несоответствий между сконструированными им моделями реальности и самого разумного агента и его чувствами, пытаясь выяснить причины этих несоответствий и минимизировать их путем корректировки моделей и/или практических действий в физической реальности.
3) В новой парадигме цель и механизм работы памяти принципиально иные, чем в старой.
- Цель памяти - не передавать информацию с высокой точностью во времени, а направлять разумное принятие мозгом правильных решений.
- При такой цели, ключевой функцией памяти становится вовсе не точность и длительность сохранения воспоминаний, а преднамеренное забвение - забывание информации, необходимое для ее генерализации.
- Главная проблема здесь в том, что чрезмерно точная память мешает использовать воспоминания для обобщения их в новых ситуациях. Если воспоминания слишком точны и перегружены, их трудно использовать, чтобы делать прогнозы на будущие ситуации.
Например, если в вашей памяти хранятся мельчайшие подробности того, как вас укусила собака в парке (характеристики собаки – её размер, цвет, длина шерсти, лапы, уши и т. д., и характеристики ситуации - на дорожке, возле скамейки, под большим деревом, у фонаря и т. д.), вполне возможно, что вы не будете распространять на других собак и другие места осторожный страх, который может позволить вам избежать нового покусания. А это избегание и есть ваша истинная цель для оптимальной адаптации!
Значит нужно все детали забыть, оставив и генерализовав лишь главное.
- Кроме того, среда постоянно меняется, и нужно уметь адаптировать воспоминания к этим изменениям. Воспоминания, которые слишком точно воспроизводят прошлое, могут ослабить способность представлять различные варианты будущего, делая поведение слишком негибким, чтобы справляться с изменяющимися условиями.
Посему:
1) Нужен механизм активного забывания, работающего на главную стратегию мозга – управление информацией через забывание.
2) Нужны разнообразные механизмы, позволяющие А) генерализовать воспоминания, Б) реструктурировать их, но при этом В) не затруднять доступ к ним.
#Память #СменаПарадигмыИИ
В дополнение
Подробней о нейробиологии активного забвения и названных механизмах см. отлично написанную и хорошо иллюстрированную новую статью Тома Зигфрида https://goo.gl/Sm6TNo со ссылками на источники.
А также мои предыдущие посты на эту тему.
- Сверхзадача памяти — не помнить, а забыть
Medium https://goo.gl/D54ysu
Яндекс Дзен https://clck.ru/F7wDs
- Сверхзадача памяти — не помнить, а забыть – 2
Medium https://goo.gl/jsxPiJ
Яндекс Дзен https://clck.ru/F7wG3
- Обучение бездействием
Medium https://goo.gl/DJxdb1
Яндекс Дзен https://clck.ru/F7wKd
Подробней о нейробиологии активного забвения и названных механизмах см. отлично написанную и хорошо иллюстрированную новую статью Тома Зигфрида https://goo.gl/Sm6TNo со ссылками на источники.
А также мои предыдущие посты на эту тему.
- Сверхзадача памяти — не помнить, а забыть
Medium https://goo.gl/D54ysu
Яндекс Дзен https://clck.ru/F7wDs
- Сверхзадача памяти — не помнить, а забыть – 2
Medium https://goo.gl/jsxPiJ
Яндекс Дзен https://clck.ru/F7wG3
- Обучение бездействием
Medium https://goo.gl/DJxdb1
Яндекс Дзен https://clck.ru/F7wKd
Knowable Magazine | Annual Reviews
Why forgetting may make your mind more efficient
Evidence builds for ways that the brain actively erases memories
ИИ как синтез 2го Пришествия и Апокалипсиса.
Выбор между ИИ-Добром и ИИ-Злом не однозначен для человечества.
В будущем о нашем времени будут говорить, как о времени «Пришествия ИИ»:
• поворотном моменте, определившем все последующие важнейшие события в истории человечества 21 века;
• воплотившем в себе одновременно и 2е Пришествие и Апокалипсис и переведшим стрелку дальнейшего пути человечества то ли на путь к немыслимым ранее высотам ИИ-Добра, то ли в эсхатологическую бездну ИИ-Зла.
60+ лет назад математик и философ Норберт Винер опубликовал книгу о месте машин в обществе, которая заканчивалась предупреждением: "Мы никогда не получим правильные ответы, если не будем ставить правильные вопросы....
В конце 2го десятилетия 21 века пришёл час поставить главный вопрос современности, поскольку выбор между дальнейшим движением в сторону ИИ-Добра или ИИ-Зла нужно делать сейчас, и этот выбор уже нельзя отложить.
Но разве выбор между ИИ-Добром и ИИ-Злом не однозначен для человечества?
Известный энтузиаст просвещения и основатель Edge Джон Брокман убедительно показывает нам:
✔️ выбор не просто неоднозначен, а в принципе неопределен;
✔️ траектория дальнейшего движения – это не выбор из 2х альтернатив;
✔️ это выбор в, как минимум, 25-мерном пространстве возможных вариантов, в чем-то похожих, а в чем-то принципиально разных.
Каждый из этих 25 вариантов – это видение одного из важных научных умов, посвятивших десятки лет изучению всевозможных аспектов ИИ: от математики до философии.
Они собрались вместе на импровизированный круглый стол не затем, чтобы найти единый правильный ответ, - такого ответа просто нет.
А затем, чтобы, как писал Винер, поставить правильные вопросы.
Вопросы о том:
- почему в распространении кибернетической идеи на людей концепции Винера не достигли своей цели?
- пора ли вводить законы против незаконно обучаемых машин?
- как человечеству ограничиться разработкой интеллектуальных инструментов, не ввергаясь в экзистенциальные риски разработки искусственных сознательных агентов?
- как ограничивать сверхускорение прогресса за счет широкого внедрения ИИ, чтобы этот безудержный процесс не достиг столь космических масштабов, что человечество просто не вынесет биологически?
- может ли развитие ИИ, подобно развитию человеческого разума, застрять в локальном минимуме?
И еще один, возможно, наиболее общий из вопросов, не формулируемый одним предложением.
• вот уже десятки веков человечество экспериментирует с гибридным суперинтеллектом в форме национальных государств и корпораций;
• этот опыт показывает, что все формы таких гибридных суперинтеллектов обладают свойством генерации собственных целей, не всегда соответствующих интересам людей, которые их создали;
• так неужели же этот вполне осязаемый и доступный для изучения опыт не останавливает нас от создания гибридного суперинтеллекта нового типа?
Через 2 недели книга «Possible Minds: Twenty-Five Ways of Looking at AI» будет опубликована.
https://goo.gl/cvi1Un
Прочтя многие из её рабочих заготовок по текстам участвовавших в книге авторов, смело рекомендую вам книгу в качестве бестселлера ближайшего будущего.
#БББ
Выбор между ИИ-Добром и ИИ-Злом не однозначен для человечества.
В будущем о нашем времени будут говорить, как о времени «Пришествия ИИ»:
• поворотном моменте, определившем все последующие важнейшие события в истории человечества 21 века;
• воплотившем в себе одновременно и 2е Пришествие и Апокалипсис и переведшим стрелку дальнейшего пути человечества то ли на путь к немыслимым ранее высотам ИИ-Добра, то ли в эсхатологическую бездну ИИ-Зла.
60+ лет назад математик и философ Норберт Винер опубликовал книгу о месте машин в обществе, которая заканчивалась предупреждением: "Мы никогда не получим правильные ответы, если не будем ставить правильные вопросы....
В конце 2го десятилетия 21 века пришёл час поставить главный вопрос современности, поскольку выбор между дальнейшим движением в сторону ИИ-Добра или ИИ-Зла нужно делать сейчас, и этот выбор уже нельзя отложить.
Но разве выбор между ИИ-Добром и ИИ-Злом не однозначен для человечества?
Известный энтузиаст просвещения и основатель Edge Джон Брокман убедительно показывает нам:
✔️ выбор не просто неоднозначен, а в принципе неопределен;
✔️ траектория дальнейшего движения – это не выбор из 2х альтернатив;
✔️ это выбор в, как минимум, 25-мерном пространстве возможных вариантов, в чем-то похожих, а в чем-то принципиально разных.
Каждый из этих 25 вариантов – это видение одного из важных научных умов, посвятивших десятки лет изучению всевозможных аспектов ИИ: от математики до философии.
Они собрались вместе на импровизированный круглый стол не затем, чтобы найти единый правильный ответ, - такого ответа просто нет.
А затем, чтобы, как писал Винер, поставить правильные вопросы.
Вопросы о том:
- почему в распространении кибернетической идеи на людей концепции Винера не достигли своей цели?
- пора ли вводить законы против незаконно обучаемых машин?
- как человечеству ограничиться разработкой интеллектуальных инструментов, не ввергаясь в экзистенциальные риски разработки искусственных сознательных агентов?
- как ограничивать сверхускорение прогресса за счет широкого внедрения ИИ, чтобы этот безудержный процесс не достиг столь космических масштабов, что человечество просто не вынесет биологически?
- может ли развитие ИИ, подобно развитию человеческого разума, застрять в локальном минимуме?
И еще один, возможно, наиболее общий из вопросов, не формулируемый одним предложением.
• вот уже десятки веков человечество экспериментирует с гибридным суперинтеллектом в форме национальных государств и корпораций;
• этот опыт показывает, что все формы таких гибридных суперинтеллектов обладают свойством генерации собственных целей, не всегда соответствующих интересам людей, которые их создали;
• так неужели же этот вполне осязаемый и доступный для изучения опыт не останавливает нас от создания гибридного суперинтеллекта нового типа?
Через 2 недели книга «Possible Minds: Twenty-Five Ways of Looking at AI» будет опубликована.
https://goo.gl/cvi1Un
Прочтя многие из её рабочих заготовок по текстам участвовавших в книге авторов, смело рекомендую вам книгу в качестве бестселлера ближайшего будущего.
#БББ
Со ссылкой на LePoint наши СМИ сообщают, что Эммануэль Макрон обвинил Россию во вмешательстве во внутриполитический кризис во Франции. Макрон уверен, что российские медиа-ресурсы через аккаунты в соцсетях, вбрасывают взрывоопасные темы политических дискуссий, которые затем подхватываются французскими СМИ, в том числе и финансируемыми государством.
Можно ли это доказать с помощью только что придуманного на Западе анализатора мемов «мемоскоп»?
И кстати, - ведь с помощью мемов можно не только массово заражать медиасферу, но и управлять ею, как это описано в книге руководителя Администрации Президента РФ А.Э.Вайно – одного из разработчиков российского инструмента «нооскоп».
Может ли ядерное сдерживание скоро дополниться противостоянием мемоскопа и нооскопа?
Об этом в моем новом посте на 4 мин.:
- на Medium https://goo.gl/daWWpg
- на Яндекс Дзен https://clck.ru/F9AAH
#Меметика #Вирусность #МассМедиа #СистемнаяДинамика
Можно ли это доказать с помощью только что придуманного на Западе анализатора мемов «мемоскоп»?
И кстати, - ведь с помощью мемов можно не только массово заражать медиасферу, но и управлять ею, как это описано в книге руководителя Администрации Президента РФ А.Э.Вайно – одного из разработчиков российского инструмента «нооскоп».
Может ли ядерное сдерживание скоро дополниться противостоянием мемоскопа и нооскопа?
Об этом в моем новом посте на 4 мин.:
- на Medium https://goo.gl/daWWpg
- на Яндекс Дзен https://clck.ru/F9AAH
#Меметика #Вирусность #МассМедиа #СистемнаяДинамика
Мужская привлекательность – снова тайна.
Новое весьма продвинутое и тщательное исследование дезавуировало основную научную версию того, почему мужественные мужчины наиболее привлекательны для женщин.
Этой версией была увязка мужественной внешности с т.н. иммунокомпетентностью – свойством иммунной системы, повышающим невосприимчивость к болезням и тем самым способствующим потенциальному репродуктивному успеху – возможности создания здорового потомства.
Предыдущие исследования проводились с использованием фотографий мужчин. Новое же исследование «Facial masculinity does not appear to be a condition-dependent male ornament and does not reflect MHC heterozygosity in humans», проводившееся уже на трёхмерных изображениях, не выявило никакой корреляции между степенью мужественности лица и гистосовместимостью – маркером иммунокомпетентности.
Т.о. источник мужской привлекательности – снова тайна. Казалось бы, вполне резонная версия, что эволюция вложила в женщин программу, заставляющую их выбирать более потенциально здорового партнера, - научно опровергнута.
Снова тупик.
- С одной стороны, заложенный в биохимию человека тестостерон, повышение уровня которого ответственно за появление мужественных черт лица в период полового созревания.
- С другой стороны - эволюционная переориентация наших предков на умение ухаживать и нравиться женщинам, постепенно взявшая верх над грубой силой (в результате этого у мужчин с привлекательными и неагрессивными лицами больше шансов оставить потомство).
- Наконец, с третьей стороны, непреложный факт – именно мужественные черты лица по-прежнему привлекают женщин.
Т.о. мы остаемся с набором ничем не объяснимых фактов повышенной мужской привлекательности для женщин (тем не менее подтвержденных исследованиями и до сих пор не опровергнутых).
1) 10 дневная щетина (не 5 и не 20, а именно 10ти!).
2) Высокий (но не слишком) рост.
3) Квадратная «североамериканская» челюсть.
4) Ну а если ничего из названного нет, тогда «то самое» выражение глаз, которое проще показать, чем описать словами
- отгадаете, кого a или b предпочтет большинство женщин https://goo.gl/sbiVHx ?
Плюс два совсем эзотерических (но железно проверенных) фактора, на время, но зато неимоверно повышающих (на десятки процентов) привлекательность мужчин в глазах прекрасного пола:
5) фортепьянная музыка
6) поездки на американских горках.
Научная статья «Facial masculinity does not appear to be a condition-dependent male ornament and does not reflect MHC heterozygosity in humans»
https://www.pnas.org/content/116/5/1633
#ЭволюционнаяПсихология
Новое весьма продвинутое и тщательное исследование дезавуировало основную научную версию того, почему мужественные мужчины наиболее привлекательны для женщин.
Этой версией была увязка мужественной внешности с т.н. иммунокомпетентностью – свойством иммунной системы, повышающим невосприимчивость к болезням и тем самым способствующим потенциальному репродуктивному успеху – возможности создания здорового потомства.
Предыдущие исследования проводились с использованием фотографий мужчин. Новое же исследование «Facial masculinity does not appear to be a condition-dependent male ornament and does not reflect MHC heterozygosity in humans», проводившееся уже на трёхмерных изображениях, не выявило никакой корреляции между степенью мужественности лица и гистосовместимостью – маркером иммунокомпетентности.
Т.о. источник мужской привлекательности – снова тайна. Казалось бы, вполне резонная версия, что эволюция вложила в женщин программу, заставляющую их выбирать более потенциально здорового партнера, - научно опровергнута.
Снова тупик.
- С одной стороны, заложенный в биохимию человека тестостерон, повышение уровня которого ответственно за появление мужественных черт лица в период полового созревания.
- С другой стороны - эволюционная переориентация наших предков на умение ухаживать и нравиться женщинам, постепенно взявшая верх над грубой силой (в результате этого у мужчин с привлекательными и неагрессивными лицами больше шансов оставить потомство).
- Наконец, с третьей стороны, непреложный факт – именно мужественные черты лица по-прежнему привлекают женщин.
Т.о. мы остаемся с набором ничем не объяснимых фактов повышенной мужской привлекательности для женщин (тем не менее подтвержденных исследованиями и до сих пор не опровергнутых).
1) 10 дневная щетина (не 5 и не 20, а именно 10ти!).
2) Высокий (но не слишком) рост.
3) Квадратная «североамериканская» челюсть.
4) Ну а если ничего из названного нет, тогда «то самое» выражение глаз, которое проще показать, чем описать словами
- отгадаете, кого a или b предпочтет большинство женщин https://goo.gl/sbiVHx ?
Плюс два совсем эзотерических (но железно проверенных) фактора, на время, но зато неимоверно повышающих (на десятки процентов) привлекательность мужчин в глазах прекрасного пола:
5) фортепьянная музыка
6) поездки на американских горках.
Научная статья «Facial masculinity does not appear to be a condition-dependent male ornament and does not reflect MHC heterozygosity in humans»
https://www.pnas.org/content/116/5/1633
#ЭволюционнаяПсихология
Война машин уже вовсю идет.
А люди наивно полагают, что это проблема будущего.
Скарлетт О’Хара — один из наиболее известных женских персонажей. Ее умению жить реальностью и не задумываться о последствиях своих решений можно только позавидовать. «Я не буду думать об этом сегодня, я подумаю об этом завтра» - стала самой знаменитой фразой легендарного романа.
Поразительно, но человечество ведет себя ровно так же, как Скарлетт О’Хара. И сказанное в заголовке пока не осознается ни обывателями, ни ЛПРами госуровня, ни даже военными. Все продолжают считать, что война машин – это пусть и очень важный элемент картины мира, но он относится к миру будущего, и, следовательно, у нас еще будет время подумать, как минимизировать связанные с этим риски.
На самом деле, уже поздно пить Боржоми. И либо мы, наконец осознав высший приоритет этой мега-проблемы, срочно начнем курс ее лечения с помощью интенсивной «фарма-терапии», либо через 3-5 лет потребуется уже «химиотерапия или хирургия», с неопределенными шансами на успех.
Под войной машин понимается полная передача ответственности за решение проблемы «снаряда и брони» (технологий защиты и нападения) на компьютерные ИИ технологии.
Вот конкретный живой и 100%но актуальный пример из невоенной области (про военную писать, сами понимаете, себе дороже) – война с визуальными фейками.
В этой войне
• у нападающей стороны стоит задача средствами ИИ сварганить такую визуальную обманку (например, человека, похожего на Трампа в абсолютно компрометирующей обстановке или компании), чтоб подавляющее число ее увидевших поверили в нее;
• у защищающейся стороны задача средствами ИИ максимально быстро раскусить обманку и доказать, что это обман;
• тогда у нападающей стороны стоит задача средствами ИИ обмануть средства ИИ защиты;
• тогда у стороны защиты стоит задача не дать средствам ИИ нападения обмануть свои ИИ средства защиты;
И т.д. и т.п.
Ситуация на сегодняшний день в войне с визуальными фейками такова.
1) Подобно играм в шахматы и го, человек уже отдыхает (как на стороне защиты, так и на стороне нападения). На обеих сторонах работают исключительно ИИ.
Люди даже на HD видео и большом экране физически не способны распознать 30% визуальных феков, произведенных средствами ИИ нападения (а для обычного фото и видео на смартфонах и планшетах – более 40%).
Как нетрудно догадаться, ИИ защита распознаёт все 100%.
2) В связи с войной машин,
- успех ИИ защиты теперь на 100% зависит от «использования дополнительных знаний о предметной области»;
- а успех ИИ нападения – от «использования дополнительных знаний о дополнительных знаниях ИИ защиты о предметной области».
Все. Приехали. В области борьбы с визуальными фейками война машин уже идет.
А теперь перенесите по аналогии, например, на самоуправляемые авто.
В роли нападения мошенники, требующие от автопроизводителя $10 млрд, иначе они подсунут самоуправляемым авто этого производителя фейковые образы, снижающие распознавательные возможности дорожных знаков на 40%.
В роли защиты – ИИ автопроизводитель.
Ну а теперь перенесите пример на войну машин у военных.
Так что, - продолжаем жить по принципу Скарлетт О’Хара - «I'll think about it tomorrow»?
Информация к размышлению: «FaceForensics++: Learning to Detect Manipulated Facial Images»
Новая база данных «лицевых фейков», позволяющая ИИ защите побеждать ИИ нападение, если последнее использует 3 методики создания фейков: Face2Face, FaceSwap, DeepFakes.
Как вы, наверняка, сами понимаете, ИИ нападение уже вовсю разрабатывает несколько новых методов, про которые ИИ защита еще не знает (пока не знает).
#Deepfakes
А люди наивно полагают, что это проблема будущего.
Скарлетт О’Хара — один из наиболее известных женских персонажей. Ее умению жить реальностью и не задумываться о последствиях своих решений можно только позавидовать. «Я не буду думать об этом сегодня, я подумаю об этом завтра» - стала самой знаменитой фразой легендарного романа.
Поразительно, но человечество ведет себя ровно так же, как Скарлетт О’Хара. И сказанное в заголовке пока не осознается ни обывателями, ни ЛПРами госуровня, ни даже военными. Все продолжают считать, что война машин – это пусть и очень важный элемент картины мира, но он относится к миру будущего, и, следовательно, у нас еще будет время подумать, как минимизировать связанные с этим риски.
На самом деле, уже поздно пить Боржоми. И либо мы, наконец осознав высший приоритет этой мега-проблемы, срочно начнем курс ее лечения с помощью интенсивной «фарма-терапии», либо через 3-5 лет потребуется уже «химиотерапия или хирургия», с неопределенными шансами на успех.
Под войной машин понимается полная передача ответственности за решение проблемы «снаряда и брони» (технологий защиты и нападения) на компьютерные ИИ технологии.
Вот конкретный живой и 100%но актуальный пример из невоенной области (про военную писать, сами понимаете, себе дороже) – война с визуальными фейками.
В этой войне
• у нападающей стороны стоит задача средствами ИИ сварганить такую визуальную обманку (например, человека, похожего на Трампа в абсолютно компрометирующей обстановке или компании), чтоб подавляющее число ее увидевших поверили в нее;
• у защищающейся стороны задача средствами ИИ максимально быстро раскусить обманку и доказать, что это обман;
• тогда у нападающей стороны стоит задача средствами ИИ обмануть средства ИИ защиты;
• тогда у стороны защиты стоит задача не дать средствам ИИ нападения обмануть свои ИИ средства защиты;
И т.д. и т.п.
Ситуация на сегодняшний день в войне с визуальными фейками такова.
1) Подобно играм в шахматы и го, человек уже отдыхает (как на стороне защиты, так и на стороне нападения). На обеих сторонах работают исключительно ИИ.
Люди даже на HD видео и большом экране физически не способны распознать 30% визуальных феков, произведенных средствами ИИ нападения (а для обычного фото и видео на смартфонах и планшетах – более 40%).
Как нетрудно догадаться, ИИ защита распознаёт все 100%.
2) В связи с войной машин,
- успех ИИ защиты теперь на 100% зависит от «использования дополнительных знаний о предметной области»;
- а успех ИИ нападения – от «использования дополнительных знаний о дополнительных знаниях ИИ защиты о предметной области».
Все. Приехали. В области борьбы с визуальными фейками война машин уже идет.
А теперь перенесите по аналогии, например, на самоуправляемые авто.
В роли нападения мошенники, требующие от автопроизводителя $10 млрд, иначе они подсунут самоуправляемым авто этого производителя фейковые образы, снижающие распознавательные возможности дорожных знаков на 40%.
В роли защиты – ИИ автопроизводитель.
Ну а теперь перенесите пример на войну машин у военных.
Так что, - продолжаем жить по принципу Скарлетт О’Хара - «I'll think about it tomorrow»?
Информация к размышлению: «FaceForensics++: Learning to Detect Manipulated Facial Images»
Новая база данных «лицевых фейков», позволяющая ИИ защите побеждать ИИ нападение, если последнее использует 3 методики создания фейков: Face2Face, FaceSwap, DeepFakes.
Как вы, наверняка, сами понимаете, ИИ нападение уже вовсю разрабатывает несколько новых методов, про которые ИИ защита еще не знает (пока не знает).
#Deepfakes
Коллективный разум побеждает глубокое обучение.
Уже понятно, что компьютеры сильнее человека, даже если этот человек – чемпион мира (шахматы, го и будет много чего еще). Но каков будет результат соревнования компьютеров с коллективным человеческим разумом, - до последнего времени было не понятно. И вот первый замечательный результат – коллективный разум оказался сильней.
В опубликованном вчера исследовании «Opinion Mining From Social Media Short Texts: Does Collective Intelligence Beat Deep Learning?» попытались с помощью краудсорсинга превзойти наилучшие компьютерные результаты, достигаемые глубоким обучением в области майнинга мнений в коротких сообщениях Твиттера и Фейсбука. И авторам это удалось.
Майнинг мнений – это по сути анализ тональности (сентимент-анализ) коротких текстов - твиттов и постов. Результат анализа – понимание настроения авторов в момент написания текстов и/или их отношения к тому, о чем они написали в своих текстах.
По сути – это задача классификации текста. Её можно решать по-разному. Например (и это сегодня наиболее распространенный подход), - анализ лексикона текстов с выделением в нем эмоционально окрашенных терминов (тегов, ключевых слов), показывающих полярность настроения (типа, отличный и ужасный).
Подход, основанный на лексиконе, довольно эффективен для классификации коротких текстов на два разных класса, например, позитивные и негативные настроения. Но по мере включения новых категорий эффективность классификации резко падает. Подходы машинного обучения используют пары текстов и соответствующие метки для обучения моделей классификации.
Авторам исследования удалось эмпирически доказать, что созданные коллективным разумом толпы индексы, названные авторами «лексиконом толпы» и основанные на тэгах, выделенных коллективным разумом, могут эффективно использоваться для обучения моделей классификации настроений для коротких текстов.
Более того! Эти модели, как минимум, так же эффективны, как и модели, разработанные с помощью глубокое обучение или даже лучше.
Особенно замечательно, что масштабированием (увеличением вычислительной мощности компьютеров) ситуацию принципиально не изменить, поскольку для коллективного разума краудсорсинговой платформы нарастить число участников куда проще и дешевле.
Таким образом показано, что при решении интеллектуальных задач, в основе которых есть хотя бы минимальное извлечение смысла (типа выявление новых пар полярно эмоционально окрашенных слов), коллективный разум оказывается сильнее машинного.
Так что эволюция не ошиблась, выбрав Homo Sapience. Хоть в играх человек слабее машин, но по жизни без понимания смысла приходится туго. И здесь человеческий разум сильнее. Если не индивидуальный, так коллективный.
https://www.frontiersin.org/articles/10.3389/frobt.2018.00138/full
#Краудсорсинг #СентиментАнализ
Уже понятно, что компьютеры сильнее человека, даже если этот человек – чемпион мира (шахматы, го и будет много чего еще). Но каков будет результат соревнования компьютеров с коллективным человеческим разумом, - до последнего времени было не понятно. И вот первый замечательный результат – коллективный разум оказался сильней.
В опубликованном вчера исследовании «Opinion Mining From Social Media Short Texts: Does Collective Intelligence Beat Deep Learning?» попытались с помощью краудсорсинга превзойти наилучшие компьютерные результаты, достигаемые глубоким обучением в области майнинга мнений в коротких сообщениях Твиттера и Фейсбука. И авторам это удалось.
Майнинг мнений – это по сути анализ тональности (сентимент-анализ) коротких текстов - твиттов и постов. Результат анализа – понимание настроения авторов в момент написания текстов и/или их отношения к тому, о чем они написали в своих текстах.
По сути – это задача классификации текста. Её можно решать по-разному. Например (и это сегодня наиболее распространенный подход), - анализ лексикона текстов с выделением в нем эмоционально окрашенных терминов (тегов, ключевых слов), показывающих полярность настроения (типа, отличный и ужасный).
Подход, основанный на лексиконе, довольно эффективен для классификации коротких текстов на два разных класса, например, позитивные и негативные настроения. Но по мере включения новых категорий эффективность классификации резко падает. Подходы машинного обучения используют пары текстов и соответствующие метки для обучения моделей классификации.
Авторам исследования удалось эмпирически доказать, что созданные коллективным разумом толпы индексы, названные авторами «лексиконом толпы» и основанные на тэгах, выделенных коллективным разумом, могут эффективно использоваться для обучения моделей классификации настроений для коротких текстов.
Более того! Эти модели, как минимум, так же эффективны, как и модели, разработанные с помощью глубокое обучение или даже лучше.
Особенно замечательно, что масштабированием (увеличением вычислительной мощности компьютеров) ситуацию принципиально не изменить, поскольку для коллективного разума краудсорсинговой платформы нарастить число участников куда проще и дешевле.
Таким образом показано, что при решении интеллектуальных задач, в основе которых есть хотя бы минимальное извлечение смысла (типа выявление новых пар полярно эмоционально окрашенных слов), коллективный разум оказывается сильнее машинного.
Так что эволюция не ошиблась, выбрав Homo Sapience. Хоть в играх человек слабее машин, но по жизни без понимания смысла приходится туго. И здесь человеческий разум сильнее. Если не индивидуальный, так коллективный.
https://www.frontiersin.org/articles/10.3389/frobt.2018.00138/full
#Краудсорсинг #СентиментАнализ
Frontiers
Frontiers | Opinion Mining From Social Media Short Texts: Does Collective Intelligence Beat Deep Learning?
The era of big data has, among others, three characteristics: the huge amounts of data created every day and in every form by everyday people, artificial int...
Think Tank – это лучший инструмент понимания сложностей мира в эпоху перемен.
И у России здесь вполне приличные шансы.
Заезженная пластинка про выдающиеся российские мозги обычно адресует нас
- либо к достижениям высоких умов прошлого (что приятно, но никак не помогает сегодня),
- либо к победителям матолимпиад и программистам (что тоже не сильно вдохновляет из-за массового бегства этих молодых умов из страны).
Во всех остальных позитивных страновых рейтингах места России более чем скромные, что не мешает нам, казалось бы, наперекор всему, оставаться во мнении, что уж с мозгами-то в России все обстоит весьма неплохо.
И вот к этому интуитивному убеждению добавляется серьезнейший аргумент:
✔️ Россия среди мировых лидеров по Think Tank – интеллектуальных центров, главной задачей которых является понимания и объяснение сложностей мира в эпоху перемен, собирающих под своей эгидой самые сильные профессиональные и экспертные мозги науки, бизнеса и госуправления.
Трудно поверить? Думаете, это очередная пропагандистская агитка?
Так нет! И возражать бессмысленно. Ибо такой вывод следует из анализа только что вышедшего отчета The 2018 Global Think Tank Report, опубликованного самым авторитетным в мире центром по изучению и рейтингованию «мозговых центров» - Think Tank & Civil Societies Program of the Lauder Institute at the University of Pennsylvania, занимающийся этим уже 30 лет.
Итак, вот результаты России.
1) КОЛИЧЕСТВО.
Россия не просто в числе лучших, а занимает 7е место с 215 «мозговыми центрами» из 8162 в мире, и не так уж и сильно отставая, например, от Германии (218), Великобритании (321) и Китая (507), но, как и все они, изрядно отстав от США (1871).
2) КАЧЕСТВО.
В числе лучших мировых «мозговых центров» За пределами США:
• Carnegie Endowment for International Peace Moscow Center (№21)
• Primakov Institute of World Economy and International Relations (IMEMO) (№36)
• Moscow State Institute of International Relations (MGIMO) (№93)
Эти 3 лучших российских «мозговых центра» занимают в Центральной и Восточной Европе: 5, 9 и 16 места.
Среди лучших центров в Центральной и Восточной Европе (чтобы не занимать ваше внимание) еще более 20 российских «мозговых центров».
Какой вывод? А такой.
Все же правильно считается, что с мозгами в России все ОК. Проблемы возникают там, где нужно уже не мозгами работать, а руками – делать, а не просто понимать, что нужно делать.
Проблем же и вызовов в России, как и во всем мире, хватает. И вот 4 главные:
• переопределяющая реальность (экономику, бизнес, политику, технологии) сила социальных сетей, искусственного интеллекта и больших данных;
• резкое увеличение темпов технологических изменений;
• глобальная информационная взаимозависимость и
• увеличение скорости информационных и политико-социальных потоков изменений.
Оригинал отчета (260 стр) https://repository.upenn.edu/think_tanks/16/
#ThinkTanks
И у России здесь вполне приличные шансы.
Заезженная пластинка про выдающиеся российские мозги обычно адресует нас
- либо к достижениям высоких умов прошлого (что приятно, но никак не помогает сегодня),
- либо к победителям матолимпиад и программистам (что тоже не сильно вдохновляет из-за массового бегства этих молодых умов из страны).
Во всех остальных позитивных страновых рейтингах места России более чем скромные, что не мешает нам, казалось бы, наперекор всему, оставаться во мнении, что уж с мозгами-то в России все обстоит весьма неплохо.
И вот к этому интуитивному убеждению добавляется серьезнейший аргумент:
✔️ Россия среди мировых лидеров по Think Tank – интеллектуальных центров, главной задачей которых является понимания и объяснение сложностей мира в эпоху перемен, собирающих под своей эгидой самые сильные профессиональные и экспертные мозги науки, бизнеса и госуправления.
Трудно поверить? Думаете, это очередная пропагандистская агитка?
Так нет! И возражать бессмысленно. Ибо такой вывод следует из анализа только что вышедшего отчета The 2018 Global Think Tank Report, опубликованного самым авторитетным в мире центром по изучению и рейтингованию «мозговых центров» - Think Tank & Civil Societies Program of the Lauder Institute at the University of Pennsylvania, занимающийся этим уже 30 лет.
Итак, вот результаты России.
1) КОЛИЧЕСТВО.
Россия не просто в числе лучших, а занимает 7е место с 215 «мозговыми центрами» из 8162 в мире, и не так уж и сильно отставая, например, от Германии (218), Великобритании (321) и Китая (507), но, как и все они, изрядно отстав от США (1871).
2) КАЧЕСТВО.
В числе лучших мировых «мозговых центров» За пределами США:
• Carnegie Endowment for International Peace Moscow Center (№21)
• Primakov Institute of World Economy and International Relations (IMEMO) (№36)
• Moscow State Institute of International Relations (MGIMO) (№93)
Эти 3 лучших российских «мозговых центра» занимают в Центральной и Восточной Европе: 5, 9 и 16 места.
Среди лучших центров в Центральной и Восточной Европе (чтобы не занимать ваше внимание) еще более 20 российских «мозговых центров».
Какой вывод? А такой.
Все же правильно считается, что с мозгами в России все ОК. Проблемы возникают там, где нужно уже не мозгами работать, а руками – делать, а не просто понимать, что нужно делать.
Проблем же и вызовов в России, как и во всем мире, хватает. И вот 4 главные:
• переопределяющая реальность (экономику, бизнес, политику, технологии) сила социальных сетей, искусственного интеллекта и больших данных;
• резкое увеличение темпов технологических изменений;
• глобальная информационная взаимозависимость и
• увеличение скорости информационных и политико-социальных потоков изменений.
Оригинал отчета (260 стр) https://repository.upenn.edu/think_tanks/16/
#ThinkTanks
repository.upenn.edu
2018 Global Go To Think Tank Index Report
The Think Tanks and Civil Societies Program (TTCSP) of the Lauder Institute at the University of Pennsylvania conducts research on the role policy institutes play in governments and civil societies around the world. Often referred to as the “think tanks’…