Метасчастье
В метаверсе тело пользователя постоянно будет мониторится гаджетами: AR-очки легко считают кровяное давление, ритм дыхания и сердечный ритм. Сенсоры на контроллерах проанализируют состав пота пользователя, считают уровень кислорода и сахара в крови.
Все это будет мониториться и обрабатываться в реальном времени, так что человек, а вместе с ним и корпорация, узнает, как именно его организм реагирует на конкретные внешние стимулы. Мы увидим, как люди воспринимают свою работу, взаимодействие с коллегами и клиентами. Со временем мы будем четко понимать, как наш организм реагирует на друзей и родственников, как на него воздействуют наши любимые игры и спорт, сериалы и книги.
Какие-то приложения и гаджеты будут использоваться человеком в метаверсе время от времени, а какие-то будут с ним все время. Вторые будут знать все о наших телесных реакциях и будут самыми эффективными поставщиками рекламной информации, на основе которой алгоритмы будут соблазнять людей.
Пионер виртуальной реальности Луис Розенберг говорит: «В метаверсе невозможно будет отличить аутентичный контент, с которым человек сталкивается в реальном, дополненном или виртуальном мире, от проплаченного контента, вшитого в эти миры специально для него, лично старгетированного на него ИИ-алгоритмом».
Давайте представим, как это может выглядеть на простенькой уличной рекламе в метаверсе.
Вот Константин. Он возвращается из офиса облачной компании и видит, как над улицей плывет золотой дракон из его любимой игры. Тогда он впоминает, что дома его ждет два часа гейминга, и чувствует прилив дофамина. Дракона (а не пейзаж из этой игры) показывают потому, что Константин выпил на работе несколько энергетиков – и физические показатели говорят, что ему нужна физическая разрядка. Вечером К. в VR-шлеме будет размахивать руками, прыгать и приседать – так выглядит игровой процесс виртуальной игры с драконами.
Короче, в этой истории показанный вовремя Дракон сделал всех счастливыми. Доволен Константин: он погружается в любимый виртуальный мир, тщательно продуманный его любимыми писателями и художниками. Довольна игровая компания, которой Константин платит за игру с драконами. Довольна компания Meta, показавшая К. дракона из игры в нужный момент – она свела продавца с покупателем. Довольно и государство: оно получило налог за выданное компании Meta разрешение показывать дракона и другую nudge-рекламу в общественном пространстве.
К. увидел Дракона у входа в метро, в общественном месте – на том же месте его сосед Григорий видел не дракона, а нарезающего картошку Гордона Рамзи. Этим вечером виртуальный Рамзи будет у Гриши на кухне учить его готовить. Реальный мистер Рамзи и компания по производству мета-двойников тоже будут довольны этим вечером: они получат Гришины деньги за кулинарные мета-курсы со звездным шефом.
Будут ли Константин и Григорий счастливы в метаверсе? Нет, потому что в их очках и шлемах не будет опции "метасчастье" – для нее будет нужен нейроимплант, доступный только богатым.
Но вот Иван в этот вечер в отменном настроении (впрочем, как и всегда, ведь у него метасчастье есть): метареальность буквально прогибается под него, начиная с обеда. Толпа виртуальных ассистентов решила все рабочие вопросы метасчастливого Ивана и придумывают для него развлечения на вечер.
Счастлив ли Иван? Нет, он метасчастлив.
В метаверсе тело пользователя постоянно будет мониторится гаджетами: AR-очки легко считают кровяное давление, ритм дыхания и сердечный ритм. Сенсоры на контроллерах проанализируют состав пота пользователя, считают уровень кислорода и сахара в крови.
Все это будет мониториться и обрабатываться в реальном времени, так что человек, а вместе с ним и корпорация, узнает, как именно его организм реагирует на конкретные внешние стимулы. Мы увидим, как люди воспринимают свою работу, взаимодействие с коллегами и клиентами. Со временем мы будем четко понимать, как наш организм реагирует на друзей и родственников, как на него воздействуют наши любимые игры и спорт, сериалы и книги.
Какие-то приложения и гаджеты будут использоваться человеком в метаверсе время от времени, а какие-то будут с ним все время. Вторые будут знать все о наших телесных реакциях и будут самыми эффективными поставщиками рекламной информации, на основе которой алгоритмы будут соблазнять людей.
Пионер виртуальной реальности Луис Розенберг говорит: «В метаверсе невозможно будет отличить аутентичный контент, с которым человек сталкивается в реальном, дополненном или виртуальном мире, от проплаченного контента, вшитого в эти миры специально для него, лично старгетированного на него ИИ-алгоритмом».
Давайте представим, как это может выглядеть на простенькой уличной рекламе в метаверсе.
Вот Константин. Он возвращается из офиса облачной компании и видит, как над улицей плывет золотой дракон из его любимой игры. Тогда он впоминает, что дома его ждет два часа гейминга, и чувствует прилив дофамина. Дракона (а не пейзаж из этой игры) показывают потому, что Константин выпил на работе несколько энергетиков – и физические показатели говорят, что ему нужна физическая разрядка. Вечером К. в VR-шлеме будет размахивать руками, прыгать и приседать – так выглядит игровой процесс виртуальной игры с драконами.
Короче, в этой истории показанный вовремя Дракон сделал всех счастливыми. Доволен Константин: он погружается в любимый виртуальный мир, тщательно продуманный его любимыми писателями и художниками. Довольна игровая компания, которой Константин платит за игру с драконами. Довольна компания Meta, показавшая К. дракона из игры в нужный момент – она свела продавца с покупателем. Довольно и государство: оно получило налог за выданное компании Meta разрешение показывать дракона и другую nudge-рекламу в общественном пространстве.
К. увидел Дракона у входа в метро, в общественном месте – на том же месте его сосед Григорий видел не дракона, а нарезающего картошку Гордона Рамзи. Этим вечером виртуальный Рамзи будет у Гриши на кухне учить его готовить. Реальный мистер Рамзи и компания по производству мета-двойников тоже будут довольны этим вечером: они получат Гришины деньги за кулинарные мета-курсы со звездным шефом.
Будут ли Константин и Григорий счастливы в метаверсе? Нет, потому что в их очках и шлемах не будет опции "метасчастье" – для нее будет нужен нейроимплант, доступный только богатым.
Но вот Иван в этот вечер в отменном настроении (впрочем, как и всегда, ведь у него метасчастье есть): метареальность буквально прогибается под него, начиная с обеда. Толпа виртуальных ассистентов решила все рабочие вопросы метасчастливого Ивана и придумывают для него развлечения на вечер.
Счастлив ли Иван? Нет, он метасчастлив.
Next TikTok
«Году в 3000-м, если все еще нужны будут развлечения, люди будут ходить в большую затемненную аудиторию, где их будут подвергать массовому гипнозу. И вместо того, чтобы отождествлять себя с героем на экране, они сами и будут этим героем. Покупая билет, они будут выбирать, каким именно персонажем хотят быть. И под гипнозом будут проживать историю, которую в них внедряют с помощью какой-то телепатии: они будут страдать в агонии или наслаждаться романом с женщиной. А потом зажжется свет — и все закончится», — так Альфред Хичкок видел будущее кинематографа в 1950-х.
Недавно один из самых дорогих стартапов мира, китайский Bytedance (владелец TikTok), купил крупнейшего китайского производителя шлемов виртуальной реальности, компанию Pico.
Мы наблюдаем глобальный тренд. Владельцы социальных сетей – Meta, Bytedance и даже Snap – первыми вкладываются в гаджеты для виртуальной и дополненной реальности: VR-шлемы и AR-очки. А значит, компании, у которых есть подробные данные о миллиардах пользователей со всего мира, будут отвечать за переход людей из реального мира в метаверс.
Профиль в социальной сети Facebook становится основой для личного цифрового аватара в Metaverse. Пользователи смогут менять свой внешний вид в виртуальном мире: превращаться то в орков, то в роботов, то в розовых пони. Но компании-гейткиперы, вроде Meta, всегда будут знать, кто скрывается за аватаром и какова его история в реальном мире. Кто годами вел аккаунты в Facebook и смотрел тиктоки, войдет в метаверс с грузом своей цифровой кармы.
Но вернемся к технологиям пока еще реального мира. Принципиальное отличие технологии очков/шлемов от смартфонов, ноутов и планшетов в том, что в них сразу встроены биодатчики, считывающие физические показатели пользователя. Смартфоны получили доступ к биометрическим данным владельцев, когда те обзавелись фитнес-трекерами и умными часами с датчиками. AR-очки и тем более VR-шлем сами по себе оснащены датчиками, которые все время соприкасаются с телом человека и снимают биометрию.
Facebook не только делает самые продвинутые VR-шлемы и разрабатывает AR-очки – до недавнего времени компания также разрабатывала шлем, способный считывать и посылать в мозг сигналы. Короче, ультимативный VR-набор ближайшего будущего будет включать в себя не только очки-экраны, перчатки-контроллеры и сенсорный костюм, но и шлем – мозговой сканер.
Представьте, как будет выглядеть лента VR-соцсети: листать будем не видео, а целые трехмерные ландшафты и экспириенсы. Режиссировать ленту и подбирать контент под конкретного пользователя будет ИИ, опираясь на данные мозго-шлема и других био-датчиков.
Но в платных версиях режиссировать экспириенсы пользователя будет всё же человек. Станет востребованной профессия архитектора переживаний — он будет создавать кастомные переживания для конкретного пользователя или группы людей.
Хичкок говорил, что в кинотеатре будущего будут «нужны сценаристы: ведь кто-то должен будет писать истории. А режиссер будет гипнотизером: именно он, в своем стиле, будет направлять умы зрителей в нужном направлении». Он был во всем прав, но не учел развлекательную биометрию и ошибся в расчетах примерно на тысячу лет. Галлюцинаторные кинотеатры уже почти здесь.
«Году в 3000-м, если все еще нужны будут развлечения, люди будут ходить в большую затемненную аудиторию, где их будут подвергать массовому гипнозу. И вместо того, чтобы отождествлять себя с героем на экране, они сами и будут этим героем. Покупая билет, они будут выбирать, каким именно персонажем хотят быть. И под гипнозом будут проживать историю, которую в них внедряют с помощью какой-то телепатии: они будут страдать в агонии или наслаждаться романом с женщиной. А потом зажжется свет — и все закончится», — так Альфред Хичкок видел будущее кинематографа в 1950-х.
Недавно один из самых дорогих стартапов мира, китайский Bytedance (владелец TikTok), купил крупнейшего китайского производителя шлемов виртуальной реальности, компанию Pico.
Мы наблюдаем глобальный тренд. Владельцы социальных сетей – Meta, Bytedance и даже Snap – первыми вкладываются в гаджеты для виртуальной и дополненной реальности: VR-шлемы и AR-очки. А значит, компании, у которых есть подробные данные о миллиардах пользователей со всего мира, будут отвечать за переход людей из реального мира в метаверс.
Профиль в социальной сети Facebook становится основой для личного цифрового аватара в Metaverse. Пользователи смогут менять свой внешний вид в виртуальном мире: превращаться то в орков, то в роботов, то в розовых пони. Но компании-гейткиперы, вроде Meta, всегда будут знать, кто скрывается за аватаром и какова его история в реальном мире. Кто годами вел аккаунты в Facebook и смотрел тиктоки, войдет в метаверс с грузом своей цифровой кармы.
Но вернемся к технологиям пока еще реального мира. Принципиальное отличие технологии очков/шлемов от смартфонов, ноутов и планшетов в том, что в них сразу встроены биодатчики, считывающие физические показатели пользователя. Смартфоны получили доступ к биометрическим данным владельцев, когда те обзавелись фитнес-трекерами и умными часами с датчиками. AR-очки и тем более VR-шлем сами по себе оснащены датчиками, которые все время соприкасаются с телом человека и снимают биометрию.
Facebook не только делает самые продвинутые VR-шлемы и разрабатывает AR-очки – до недавнего времени компания также разрабатывала шлем, способный считывать и посылать в мозг сигналы. Короче, ультимативный VR-набор ближайшего будущего будет включать в себя не только очки-экраны, перчатки-контроллеры и сенсорный костюм, но и шлем – мозговой сканер.
Представьте, как будет выглядеть лента VR-соцсети: листать будем не видео, а целые трехмерные ландшафты и экспириенсы. Режиссировать ленту и подбирать контент под конкретного пользователя будет ИИ, опираясь на данные мозго-шлема и других био-датчиков.
Но в платных версиях режиссировать экспириенсы пользователя будет всё же человек. Станет востребованной профессия архитектора переживаний — он будет создавать кастомные переживания для конкретного пользователя или группы людей.
Хичкок говорил, что в кинотеатре будущего будут «нужны сценаристы: ведь кто-то должен будет писать истории. А режиссер будет гипнотизером: именно он, в своем стиле, будет направлять умы зрителей в нужном направлении». Он был во всем прав, но не учел развлекательную биометрию и ошибся в расчетах примерно на тысячу лет. Галлюцинаторные кинотеатры уже почти здесь.
Forwarded from Настигло
Существование интернет-аддикции — больше не вопрос?
Жданов верно указывает, что зависимости от соцсетей, компьютерных игр, порнографии — а теперь ещё и от алгоритмов (то есть от особой последовательности контента) — проявляются по-разному, но обеспечиваются одним и тем же нейробиологическим механизмом. После слитых исследований Fb существование онлайн-зависимости — больше не вопрос. Как его будут решать, спрашивает он. А будут ли?
Аддиктивная онлайн-архитектура — это классический механизм оперантного обсулавливания, основанный на поощрении желательного поведения пользователя и удалении награды за нежелательное. Пользователя приучают к нужному поведению наградами, в результате само обещание поощрения запускает нужное поведение. Если вы когда-то дрессировали собаку — то знаете, как это.
Главное отличие поведенческой аддикции от химической (алкозависимости, например) в том, что она формируется без употребления посторонних химических веществ. «Взлом» мотивации человека происходит за счет дофаминергической архитектуры среды. Зависимость от оффлайновых азартных игр признана расстройством. Почему же в медицинском, психиатрическом сообществе не признают и онлайн-аддикции проблемой, требующей лечения?
Я вижу две причины: одна старая и формальная, вторая — новая и философская.
Первая причина, которая долгое время удерживала мировое сообщество от добавления онлайн-аддикций во всякие классификаторы болезней или расстройств — проблема страховой медицины и бюджета. Если мы признаем злоупотребление онлайном к дезадаптивному и опасному для здоровья расстройству и позволим докторам ставить такой диагноз, то каждый человек с такой проблемой сможет прийти и потратить деньги страхового бюджета. Для такого диагноза можно будет брать оплачиваемые больничные. Возможно, придется выписывать бесплатные лекарства и так далее. И десять лет назад, когда этот вопрос стал все чаще подниматься, людей с такими проблемами было слишком много, чтобы принять такие формальные меры. А сейчас это уже совсем невозможно.
Вторая причина, которая станет особенно активной с появлением метаверса, философская: изменение нормы жизни. Процесс нормализации диджитал-аддикции идёт много лет, в первую очередь — в сфере компьютерных игр.
20 лет назад целыми днями играющего человека с уверенностью называли «конченным»: хорошо, если он не висел на шее родственников, а всё-таки умудрялся где-то тихонько работать.
10 лет назад целый день играющий ребенок получил надежду стать кибреспортсменом. Причем в начале всем было понятно, что это довольное призрачная мечта, но теперь ясно, что этот спорт будет развиваться, и скоро игрун будет таким же норм ребенком, как тот, который ходит на футбол.
В 2020-х годах играющие днями напролет люди стали повсеместным явлением, вроде ведущих передач в эпоху телевидения. Сегодня они могут вести стримы, комментировать игры и вообще быть перформерами — и вполне получать за это деньги.
Чем отличается запойно играющий в видеоигры чувак начала 1990-х от запойно играющего в онлайн-игры в 2020-х? Ну кроме того, что многопользовательские игры оказались в разы более аддиктивными лол. Они отличаются только нормой среды: общество, в котором живет второй, имеет для него социальную и экономическую нишу — поэтому теперь он «нормальный», как и другие увлеченные своей работой люди.
В начале 2030-х годов любители видеоигр станут операторами военных рободивизий или управляющими грузовыми поездами и самолетами; виртуальными учителями боевых искусств; метаспортсменами и метагонщиками. Поведенческая онлайн-аддикция полностью растворится в геймифицированной реальности, а постоянное подключение к сети станет нормальным образом жизни. Это больше не будет вредить социализации и карьерному росту. Мы ещё увидим споры о том, что карьера в метавселенной куда менее вредна для здоровья, чем работа в старорежимных компаниях с ее ранними инфарктами.
В конце-концов, посмотрите на никотин. По силе аддиктивности он похож на морфин и идет сразу за героином. И ничего, вполне уважаемые люди курят.
#травкина_мозг
Жданов верно указывает, что зависимости от соцсетей, компьютерных игр, порнографии — а теперь ещё и от алгоритмов (то есть от особой последовательности контента) — проявляются по-разному, но обеспечиваются одним и тем же нейробиологическим механизмом. После слитых исследований Fb существование онлайн-зависимости — больше не вопрос. Как его будут решать, спрашивает он. А будут ли?
Аддиктивная онлайн-архитектура — это классический механизм оперантного обсулавливания, основанный на поощрении желательного поведения пользователя и удалении награды за нежелательное. Пользователя приучают к нужному поведению наградами, в результате само обещание поощрения запускает нужное поведение. Если вы когда-то дрессировали собаку — то знаете, как это.
Главное отличие поведенческой аддикции от химической (алкозависимости, например) в том, что она формируется без употребления посторонних химических веществ. «Взлом» мотивации человека происходит за счет дофаминергической архитектуры среды. Зависимость от оффлайновых азартных игр признана расстройством. Почему же в медицинском, психиатрическом сообществе не признают и онлайн-аддикции проблемой, требующей лечения?
Я вижу две причины: одна старая и формальная, вторая — новая и философская.
Первая причина, которая долгое время удерживала мировое сообщество от добавления онлайн-аддикций во всякие классификаторы болезней или расстройств — проблема страховой медицины и бюджета. Если мы признаем злоупотребление онлайном к дезадаптивному и опасному для здоровья расстройству и позволим докторам ставить такой диагноз, то каждый человек с такой проблемой сможет прийти и потратить деньги страхового бюджета. Для такого диагноза можно будет брать оплачиваемые больничные. Возможно, придется выписывать бесплатные лекарства и так далее. И десять лет назад, когда этот вопрос стал все чаще подниматься, людей с такими проблемами было слишком много, чтобы принять такие формальные меры. А сейчас это уже совсем невозможно.
Вторая причина, которая станет особенно активной с появлением метаверса, философская: изменение нормы жизни. Процесс нормализации диджитал-аддикции идёт много лет, в первую очередь — в сфере компьютерных игр.
20 лет назад целыми днями играющего человека с уверенностью называли «конченным»: хорошо, если он не висел на шее родственников, а всё-таки умудрялся где-то тихонько работать.
10 лет назад целый день играющий ребенок получил надежду стать кибреспортсменом. Причем в начале всем было понятно, что это довольное призрачная мечта, но теперь ясно, что этот спорт будет развиваться, и скоро игрун будет таким же норм ребенком, как тот, который ходит на футбол.
В 2020-х годах играющие днями напролет люди стали повсеместным явлением, вроде ведущих передач в эпоху телевидения. Сегодня они могут вести стримы, комментировать игры и вообще быть перформерами — и вполне получать за это деньги.
Чем отличается запойно играющий в видеоигры чувак начала 1990-х от запойно играющего в онлайн-игры в 2020-х? Ну кроме того, что многопользовательские игры оказались в разы более аддиктивными лол. Они отличаются только нормой среды: общество, в котором живет второй, имеет для него социальную и экономическую нишу — поэтому теперь он «нормальный», как и другие увлеченные своей работой люди.
В начале 2030-х годов любители видеоигр станут операторами военных рободивизий или управляющими грузовыми поездами и самолетами; виртуальными учителями боевых искусств; метаспортсменами и метагонщиками. Поведенческая онлайн-аддикция полностью растворится в геймифицированной реальности, а постоянное подключение к сети станет нормальным образом жизни. Это больше не будет вредить социализации и карьерному росту. Мы ещё увидим споры о том, что карьера в метавселенной куда менее вредна для здоровья, чем работа в старорежимных компаниях с ее ранними инфарктами.
В конце-концов, посмотрите на никотин. По силе аддиктивности он похож на морфин и идет сразу за героином. И ничего, вполне уважаемые люди курят.
#травкина_мозг
Продолженние интернет-аддикций
В ответ на мой пост об онлайн-зависимости Травкина пишет: «Главное отличие поведенческой аддикции от химической (алкозависимости, например) в том, что она формируется без употребления посторонних химических веществ. «Взлом» мотивации человека происходит за счет дофаминергической архитектуры среды».
На прошлой неделе проходили слушания Конгресса, на которых глава Instagram Адам Моссери отвечал на вопросы сенаторов по поводу безопасности пользователей этой соцсети. По сути там разбиралась как раз дофаминергическая архитектура среды Instagram: без упоминаний дофамина, но с частым упоминанием аддиктивного поведения.
Комментарии сенаторов о том, как Facebook настроил архитектуру своей среды по отношению к пользователям, звучали примерно так:
«Наши дети – не дойные коровы (cash cows). А именно так вы к ним относитесь», — говорила сенатор Клобушар.
«Мы знаем, что Facebook ставит рост своих продуктов выше благополучия наших детей», —говорил сенатор Блументаль.
Как работает эта логика? Instagram знает, какой контент создает воронку, ведущую пользователя к пищевым расстройствам, и какие именно группы пользователей особо уязвимы. Он также знает, какие пользователи уже погрузились в воронку этого вредоносного контента, а кто сам производит для нее контент.
Есть высокая вероятность, что их алгоритмы уже умеют диагностировать анорексию: пользователь заливает фотографии много месяцев подряд, его тело на них меняется, ИИ фиксирует и обобщает эти изменения, — получается диагноз. Короче, Instagram точно знает, у кого проблемы, — но ничего с этим не делает, а только позволяет пользователям все глубже погружаться в кроличьи норы расстройств и девиаций.
«Времена саморегуляции и самоконтроля закончились», — сказал Блументаль. Теперь американское государство хочет влиять не только на контент в сети, но и на алгоритмы его подбора.
Как я и говорил, Америка теперь повторяет опыт Китая, где правительство уже не просто пресекает вредный с их точки зрения контент, но и с недавних пор заставляет соцсети подбирать детям исключительно полезную и правильную ленту.
Кто-то назовет это алгоритмической цензурой, но я вижу в этом простое разделение власти: правительства забирают у технокорпораций часть власти, ранее принадлежавшей им безраздельно. Недавно Илон Маск говорил, что государство – это корпорация с монополией на насилие. По сути, сейчас одна корпорация (Facebook) делится властью с другой корпорацией (Америкой).
Ну а вопрос о цифровых аддикциях у двух договорившихся между собой корпораций будет решаться именно так, как пишет Травкина:
«Поведенческая онлайн-аддикция полностью растворится в геймифицированной реальности, а постоянное подключение к сети станет нормальным образом жизни. Это больше не будет вредить социализации и карьерному росту».
В ответ на мой пост об онлайн-зависимости Травкина пишет: «Главное отличие поведенческой аддикции от химической (алкозависимости, например) в том, что она формируется без употребления посторонних химических веществ. «Взлом» мотивации человека происходит за счет дофаминергической архитектуры среды».
На прошлой неделе проходили слушания Конгресса, на которых глава Instagram Адам Моссери отвечал на вопросы сенаторов по поводу безопасности пользователей этой соцсети. По сути там разбиралась как раз дофаминергическая архитектура среды Instagram: без упоминаний дофамина, но с частым упоминанием аддиктивного поведения.
Комментарии сенаторов о том, как Facebook настроил архитектуру своей среды по отношению к пользователям, звучали примерно так:
«Наши дети – не дойные коровы (cash cows). А именно так вы к ним относитесь», — говорила сенатор Клобушар.
«Мы знаем, что Facebook ставит рост своих продуктов выше благополучия наших детей», —говорил сенатор Блументаль.
Как работает эта логика? Instagram знает, какой контент создает воронку, ведущую пользователя к пищевым расстройствам, и какие именно группы пользователей особо уязвимы. Он также знает, какие пользователи уже погрузились в воронку этого вредоносного контента, а кто сам производит для нее контент.
Есть высокая вероятность, что их алгоритмы уже умеют диагностировать анорексию: пользователь заливает фотографии много месяцев подряд, его тело на них меняется, ИИ фиксирует и обобщает эти изменения, — получается диагноз. Короче, Instagram точно знает, у кого проблемы, — но ничего с этим не делает, а только позволяет пользователям все глубже погружаться в кроличьи норы расстройств и девиаций.
«Времена саморегуляции и самоконтроля закончились», — сказал Блументаль. Теперь американское государство хочет влиять не только на контент в сети, но и на алгоритмы его подбора.
Как я и говорил, Америка теперь повторяет опыт Китая, где правительство уже не просто пресекает вредный с их точки зрения контент, но и с недавних пор заставляет соцсети подбирать детям исключительно полезную и правильную ленту.
Кто-то назовет это алгоритмической цензурой, но я вижу в этом простое разделение власти: правительства забирают у технокорпораций часть власти, ранее принадлежавшей им безраздельно. Недавно Илон Маск говорил, что государство – это корпорация с монополией на насилие. По сути, сейчас одна корпорация (Facebook) делится властью с другой корпорацией (Америкой).
Ну а вопрос о цифровых аддикциях у двух договорившихся между собой корпораций будет решаться именно так, как пишет Травкина:
«Поведенческая онлайн-аддикция полностью растворится в геймифицированной реальности, а постоянное подключение к сети станет нормальным образом жизни. Это больше не будет вредить социализации и карьерному росту».
Волшебная сила
Когда Стив Джобс в 1997 году снова стал главой Apple, то первым делом запустил рекламную кампанию «Think Different». Для работы над ней он обратился к рекламному агентству Chiat, с которым в 1983 они сделали легендарную рекламу «1984».
Так Джобс представлял новую рекламу бренда персоналу компании Apple: «Маркетинг – это создание ценностей... Главная ценность Apple — вера в то, что страстно увлеченные люди могут изменить мир к лучшему, — говорит он. — Эта реклама чтит людей, изменивших мир. Некоторые из них живы, другие нет. Но вы увидите: если бы те, что умерли, когда-нибудь использовали компьютер – это точно был бы Мак».
Под бурные аплодисменты Джобс запустил ролик:
«Хвала сумасшедшим, изгоям, бунтарям, нарушителям спокойствия, круглым затычкам в квадратных дырках. Тем, кто видит вещи в жизни иначе – кому не нравятся правила. Их можно цитировать, можно с ними не соглашаться, прославлять их или чернить, но их невозможно игнорировать – потому что они меняют мир. Они двигают человечество вперед. И хотя некоторые считают их безумцами, мы считаем их гениями. Потому что только безумцы думают, что могут изменить мир – и именно они его меняют», — говорит голос в рекламе.
Во время ролика с экрана на зрителей смотрели:
ученый Альберт Эйнштейн,
музыкант Боб Дилан,
политик Мартин Лютер Кинг,
миллиардер Ричард Бренсон,
музыкант Джон Леннон и художница Йоко Оно,
архитектор Бакминстер Фуллер,
изобретатель Томас Эдисон,
боксер Мухамед Али,
медиа-магнат Тед Тернер,
оперная певица Мария Каллас,
политик Махатма Ганди,
летчица Амелия Эрхарт,
режиссер Альфред Хичкок,
кукловод Джим Хенсон,
архитектор Френк Ллойд Райт
и художник Пабло Пикассо.
И ребенок в конце.
Хитроумному Джобсу удалось практически за бесценок сделать 17 выдающихся людей (минимум половина из которых были мертвецами) амбассадорами своего бренда.
Реклама действительно вызывает ощущение, что все эти выдающиеся покойники – пользователи техники Apple. Еще после ролика появилась серия плакатов с фотографиями других мертвых гениев, в углу которых скромно написано «Think Different» и нарисовано надкушенное яблоко: Майлз Дэвис и Джимми Хендрикс тоже поневоле стали яблочными пользователями.
Человек, увидевший эту рекламу, покупал компьютер Apple и автоматически становился "гением и безумцем", вставая в ряд с великими. Джобс вообще любил рассуждать в таких терминах, как «душа», «магия» и «гений». Он превратил технику компании в магический талисман: компьютер наделял пользователя волшебной силой гениев из рекламы.
Сейчас яблочная душа, бренд Apple, стоит $612 млрд, а вся компания – почти $3 трлн. Стоимость бренда выражается в дополнительной стоимости, которую клиенты готовы заплатить за возможность пользоваться яблочной техникой и приобщиться к волшебной силе бренда. Нет ничего удивительного в том, что малообеспеченные люди берут кредиты на покупку нового айфона: они покупают магическую силу, а не кусок техники.
Apple стала самой дорогой компанией уже после смерти Джобса. Сегодня ее главные ценности – лучшее качество, безопасность и stakeholder-капитализм. А нишу на рынке ценностей, которую в 1997 году занимала Apple Стива Джобса, теперь занимает Илон Маск, на днях получивший звание «человека года» по версии журнала Time: магическая сила его бренда двигает машины и запускает ракеты.
(на фото – молодой Джобс на мотоцикле)
Когда Стив Джобс в 1997 году снова стал главой Apple, то первым делом запустил рекламную кампанию «Think Different». Для работы над ней он обратился к рекламному агентству Chiat, с которым в 1983 они сделали легендарную рекламу «1984».
Так Джобс представлял новую рекламу бренда персоналу компании Apple: «Маркетинг – это создание ценностей... Главная ценность Apple — вера в то, что страстно увлеченные люди могут изменить мир к лучшему, — говорит он. — Эта реклама чтит людей, изменивших мир. Некоторые из них живы, другие нет. Но вы увидите: если бы те, что умерли, когда-нибудь использовали компьютер – это точно был бы Мак».
Под бурные аплодисменты Джобс запустил ролик:
«Хвала сумасшедшим, изгоям, бунтарям, нарушителям спокойствия, круглым затычкам в квадратных дырках. Тем, кто видит вещи в жизни иначе – кому не нравятся правила. Их можно цитировать, можно с ними не соглашаться, прославлять их или чернить, но их невозможно игнорировать – потому что они меняют мир. Они двигают человечество вперед. И хотя некоторые считают их безумцами, мы считаем их гениями. Потому что только безумцы думают, что могут изменить мир – и именно они его меняют», — говорит голос в рекламе.
Во время ролика с экрана на зрителей смотрели:
ученый Альберт Эйнштейн,
музыкант Боб Дилан,
политик Мартин Лютер Кинг,
миллиардер Ричард Бренсон,
музыкант Джон Леннон и художница Йоко Оно,
архитектор Бакминстер Фуллер,
изобретатель Томас Эдисон,
боксер Мухамед Али,
медиа-магнат Тед Тернер,
оперная певица Мария Каллас,
политик Махатма Ганди,
летчица Амелия Эрхарт,
режиссер Альфред Хичкок,
кукловод Джим Хенсон,
архитектор Френк Ллойд Райт
и художник Пабло Пикассо.
И ребенок в конце.
Хитроумному Джобсу удалось практически за бесценок сделать 17 выдающихся людей (минимум половина из которых были мертвецами) амбассадорами своего бренда.
Реклама действительно вызывает ощущение, что все эти выдающиеся покойники – пользователи техники Apple. Еще после ролика появилась серия плакатов с фотографиями других мертвых гениев, в углу которых скромно написано «Think Different» и нарисовано надкушенное яблоко: Майлз Дэвис и Джимми Хендрикс тоже поневоле стали яблочными пользователями.
Человек, увидевший эту рекламу, покупал компьютер Apple и автоматически становился "гением и безумцем", вставая в ряд с великими. Джобс вообще любил рассуждать в таких терминах, как «душа», «магия» и «гений». Он превратил технику компании в магический талисман: компьютер наделял пользователя волшебной силой гениев из рекламы.
Сейчас яблочная душа, бренд Apple, стоит $612 млрд, а вся компания – почти $3 трлн. Стоимость бренда выражается в дополнительной стоимости, которую клиенты готовы заплатить за возможность пользоваться яблочной техникой и приобщиться к волшебной силе бренда. Нет ничего удивительного в том, что малообеспеченные люди берут кредиты на покупку нового айфона: они покупают магическую силу, а не кусок техники.
Apple стала самой дорогой компанией уже после смерти Джобса. Сегодня ее главные ценности – лучшее качество, безопасность и stakeholder-капитализм. А нишу на рынке ценностей, которую в 1997 году занимала Apple Стива Джобса, теперь занимает Илон Маск, на днях получивший звание «человека года» по версии журнала Time: магическая сила его бренда двигает машины и запускает ракеты.
(на фото – молодой Джобс на мотоцикле)
Профессор Скиннер писал: «Злоупотребление технологией управления поведением – серьезная проблема, но мы можем защититься от нее, рассматривая не предполагаемых манипуляторов, а факторы подкрепления, которые управляют ими самими. Надо изучать не человеколюбие управляющего, а те факторы подкрепления, под действием которых он человеколюбиво управляет поведением других».
На западе мало обсуждают очень важную особенность системы социального рейтинга в Китае: оценивают не только граждан, но также бизнес и чиновников. Для всех категорий есть желаемые действия, за которые начисляются очки, и нежелательные, за которые очки снимаются. Не только человек, но и бизнес, и чиновник может попасть в красный список как выдающийся и заслуженный, или в черный список – как правонарушитель и мошенник. Красный список жизнь облегчает, а черный – затрудянет.
Пока что лучше всего соцрейтинг прижился именно в бизнесе: как раз компании (а не граждан или чиновников) активнее всего вносят в черные и красные списки.
Но мне интереснее всего, как социальный рейтинг распространится на чиновников.
Си Цзиньпин поклонник управления на основе больших данных (Data driven governance). Интернет вещей, блокчейн и финансовые алгоритмы обещают: чисел о работе чиновников будет гораздо больше — и их будет практически невозможно подделать и скрыть. Интерпретация этих чисел будет зависеть от алгоритмов, выставляющих госслужащему оценку, например, по пятибальной шкале. Ну а сами алгоритмы будут зависеть от ценностей, выдвинутых Партией.
Цифровой рейтинг для чиновников – это вполне экспортируемая технология. Китай может начать поставлять свои системы оценки, например, в Африку. В Америке и Европе изобретут собственные системы оценки работы госаппарата, соответствующие демократическим ценностям – и будут вынуждены на практике доказать, что именно оценки «демократической» нейросети делают госслужащих максимально эффективными.
Со временем нейросети начнут не только оценивать чиновников, но и предлагать альтернативные решения — тогда их начнут «нанимать в помощники». Вскоре станет ясно, что лучше всегда слушать нейросеть, а не человека: ее предложения каждый раз будут оказываться лучше. В итоге чиновники станут лицом государственного нейроинтеллекта — человеческим интерфейсом между ИИ и гражданами.
На западе мало обсуждают очень важную особенность системы социального рейтинга в Китае: оценивают не только граждан, но также бизнес и чиновников. Для всех категорий есть желаемые действия, за которые начисляются очки, и нежелательные, за которые очки снимаются. Не только человек, но и бизнес, и чиновник может попасть в красный список как выдающийся и заслуженный, или в черный список – как правонарушитель и мошенник. Красный список жизнь облегчает, а черный – затрудянет.
Пока что лучше всего соцрейтинг прижился именно в бизнесе: как раз компании (а не граждан или чиновников) активнее всего вносят в черные и красные списки.
Но мне интереснее всего, как социальный рейтинг распространится на чиновников.
Си Цзиньпин поклонник управления на основе больших данных (Data driven governance). Интернет вещей, блокчейн и финансовые алгоритмы обещают: чисел о работе чиновников будет гораздо больше — и их будет практически невозможно подделать и скрыть. Интерпретация этих чисел будет зависеть от алгоритмов, выставляющих госслужащему оценку, например, по пятибальной шкале. Ну а сами алгоритмы будут зависеть от ценностей, выдвинутых Партией.
Цифровой рейтинг для чиновников – это вполне экспортируемая технология. Китай может начать поставлять свои системы оценки, например, в Африку. В Америке и Европе изобретут собственные системы оценки работы госаппарата, соответствующие демократическим ценностям – и будут вынуждены на практике доказать, что именно оценки «демократической» нейросети делают госслужащих максимально эффективными.
Со временем нейросети начнут не только оценивать чиновников, но и предлагать альтернативные решения — тогда их начнут «нанимать в помощники». Вскоре станет ясно, что лучше всегда слушать нейросеть, а не человека: ее предложения каждый раз будут оказываться лучше. В итоге чиновники станут лицом государственного нейроинтеллекта — человеческим интерфейсом между ИИ и гражданами.
AGI
ИИ-гуру Кай Фу Ли написал статью. Вот перевод пары отрывков и мои комментарии к ним.
«Критика ИИ-систем звучит так: "У них никогда не будет чувства юмора. Они никогда не смогут оценить искусство, красоту или любовь. Они никогда не смогут почувствовать одиночество. У них не будет эмпатии к другим людям, животным, окружающей среде. Они не будут наслаждаться музыкой и влюбляться или плакать по мелочам". Правда, звучит разумно? Оказывается, эта цитата принадлежит перу GPT-3. Не противоречит ли способность технологии так точно себя критиковать самой сути этой критики?»
Если ИИ «понимает», как мы видим его недостатки, он может их «исправить» – точнее, сделать вид, что исправил. Может, нам в действительности не важна искренность реакции другого «человека», а ее правдоподобность?
Представьте, что робот слушает музыку рядом с человеком и она ему «нравится»: он будет светиться цветом удовольствия, по его коже будут бегать мурашки, он будет пританцовывать и мурлыкать. Робот идеально сыграет реакцию на любимую песню, а человек будет рад «разделить переживания» от любимой музыки с робо-другом. Реакция робота будет казаться искренней, потому что не все песни человека будут вызывать у него одинаковый энтузиазм: «Мой робоПетя не очень любит Сержа Генсбура, но обожает раннего Снуп Дога».
«Станет ли глубокое обучение "сильным ИИ" (“artificial general intelligence” (AGI) во всем равным человеческому интеллекту? Не думаю, что это произойдет в следующие 20 лет. Есть много проблем, которые мы пока не решили и даже не понимаем до конца: как смоделировать креативность, стратегическое мышление, способность рассуждать, контрфактическое мышление, эмоции и сознание».
Пока явления вроде творческого мышления – неразрешимые «проблемы» для ИИ-ученых, человеческие таланты будут оставаться самым ценным ресурсом на Земле.
В отличие от искусственных нейросетей, человеческий талант пока невозможно создать с помощью компьютеров и алгоритмов. В Кремниевой долине верят в то, что талант распределен по человечеству равномерно: в любой стране можно найти своего Цукерберга — но ни одна страна не может "специально" вырастить Цукерберга. Поэтому США собирается и дальше импортировать таланты из-за океана и ехидно наблюдать, как Китай пытается выращивать таланты в «парнике за фаерволом».
«Я предлагаю прекратить считать AGI мерилом успеха технологии ИИ. Скоро глубокое обучение и его расширения станут лучше людей в еще большем количестве заданий, но все равно будет много проблем, с которыми люди справятся гораздо лучше, чем глубокое обучение. Я считаю одержимость AGI проявлением нарциссизма людей, склонностью считать себя золотым стандартом».
Я согласен с Кай Фу Ли. На мой взгляд, ближайший фундаментальный прорыв в сфере ИИ – это не создание AGI, а прямое слияние искусственных нейросетей с человеческими мозгами через нейроимпланты. Такой расклад позволит человеку не только расширить свое сознание и когницию с помощью ИИ, но и объединит мозги людей в большие сети – это создаст коллективную сущность, в которой не будет особой разницы между ИИ и человеком.
Возможно, именно такие мозгосети и дадут нам возможность разгадать “проблемы” вроде креативности и создать AGI. А возможно, сильный искусственный интеллект нам и вовсе тогда не понадобится.
ИИ-гуру Кай Фу Ли написал статью. Вот перевод пары отрывков и мои комментарии к ним.
«Критика ИИ-систем звучит так: "У них никогда не будет чувства юмора. Они никогда не смогут оценить искусство, красоту или любовь. Они никогда не смогут почувствовать одиночество. У них не будет эмпатии к другим людям, животным, окружающей среде. Они не будут наслаждаться музыкой и влюбляться или плакать по мелочам". Правда, звучит разумно? Оказывается, эта цитата принадлежит перу GPT-3. Не противоречит ли способность технологии так точно себя критиковать самой сути этой критики?»
Если ИИ «понимает», как мы видим его недостатки, он может их «исправить» – точнее, сделать вид, что исправил. Может, нам в действительности не важна искренность реакции другого «человека», а ее правдоподобность?
Представьте, что робот слушает музыку рядом с человеком и она ему «нравится»: он будет светиться цветом удовольствия, по его коже будут бегать мурашки, он будет пританцовывать и мурлыкать. Робот идеально сыграет реакцию на любимую песню, а человек будет рад «разделить переживания» от любимой музыки с робо-другом. Реакция робота будет казаться искренней, потому что не все песни человека будут вызывать у него одинаковый энтузиазм: «Мой робоПетя не очень любит Сержа Генсбура, но обожает раннего Снуп Дога».
«Станет ли глубокое обучение "сильным ИИ" (“artificial general intelligence” (AGI) во всем равным человеческому интеллекту? Не думаю, что это произойдет в следующие 20 лет. Есть много проблем, которые мы пока не решили и даже не понимаем до конца: как смоделировать креативность, стратегическое мышление, способность рассуждать, контрфактическое мышление, эмоции и сознание».
Пока явления вроде творческого мышления – неразрешимые «проблемы» для ИИ-ученых, человеческие таланты будут оставаться самым ценным ресурсом на Земле.
В отличие от искусственных нейросетей, человеческий талант пока невозможно создать с помощью компьютеров и алгоритмов. В Кремниевой долине верят в то, что талант распределен по человечеству равномерно: в любой стране можно найти своего Цукерберга — но ни одна страна не может "специально" вырастить Цукерберга. Поэтому США собирается и дальше импортировать таланты из-за океана и ехидно наблюдать, как Китай пытается выращивать таланты в «парнике за фаерволом».
«Я предлагаю прекратить считать AGI мерилом успеха технологии ИИ. Скоро глубокое обучение и его расширения станут лучше людей в еще большем количестве заданий, но все равно будет много проблем, с которыми люди справятся гораздо лучше, чем глубокое обучение. Я считаю одержимость AGI проявлением нарциссизма людей, склонностью считать себя золотым стандартом».
Я согласен с Кай Фу Ли. На мой взгляд, ближайший фундаментальный прорыв в сфере ИИ – это не создание AGI, а прямое слияние искусственных нейросетей с человеческими мозгами через нейроимпланты. Такой расклад позволит человеку не только расширить свое сознание и когницию с помощью ИИ, но и объединит мозги людей в большие сети – это создаст коллективную сущность, в которой не будет особой разницы между ИИ и человеком.
Возможно, именно такие мозгосети и дадут нам возможность разгадать “проблемы” вроде креативности и создать AGI. А возможно, сильный искусственный интеллект нам и вовсе тогда не понадобится.
Словарь цифровой осознанности: Алгократия
Алгократия – это форма социального устройства, в которой алгоритмы ИИ принимают активное участие в управлении обществом: правительством, бизнесами и гражданами. Алгоритмы власти создаются компаниями и/или правительствами на основе данных пользователей и граждан.
Алгократия возможна за счет растущего количества больших данных, производимых людьми, и развития нейросетей, способных анализировать эти данные и принимать на основе анализа решения.
Люди следят за погодой и колебаниями рынка, здоровьем и политическими предпочтениями других людей. На основе этих данных чиновники, бизнесмены и граждане принимают решения об устройстве и функционировании общества – часто ошибочные. Во многих областях способность нейросетей принимать решения на основе данных уже превосходит способности людей: от поиска новых антибиотиков и игры в шахматы до расстановки чипов на микросхемах и распознавания опухолей на рентгеновских снимках.
Руководство страной и компанией – это тоже принятие решений на основе имеющихся у руководителей данных. Нейросети будут помогать людям принимать оптимальные решения, а со временем будут все чаще принимать решения по управлению обществом вместо людей.
Ключевые представители современной алгократии – Китай и американские технокопорации.
Каждую секунду алгоритмы Facebook выдают 6 млн предсказаний для 2,8 млрд пользователей соцсети. ИИ выбирает, каким контентом заполнить ленту пользователя, и решает, какие посты и пользователи нуждаются в бане или увеличении видимости.
В Китае работает государственная система социального рейтинга пользователей: на основе собранных данных алгоритмы начисляют и вычитают гражданам и компаниям очки, а место в рейтинге обеспечивает награды (меньший процент на кредит) или наказания (запрет на покупку авиабилетов).
Два главных вопроса алгократии:
– Каковы границы контроля и власти алгоритмов над людьми?
– Какой баланс между человеком и ИИ оптимальный при принятии решений?
#чнс_словарь
Алгократия – это форма социального устройства, в которой алгоритмы ИИ принимают активное участие в управлении обществом: правительством, бизнесами и гражданами. Алгоритмы власти создаются компаниями и/или правительствами на основе данных пользователей и граждан.
Алгократия возможна за счет растущего количества больших данных, производимых людьми, и развития нейросетей, способных анализировать эти данные и принимать на основе анализа решения.
Люди следят за погодой и колебаниями рынка, здоровьем и политическими предпочтениями других людей. На основе этих данных чиновники, бизнесмены и граждане принимают решения об устройстве и функционировании общества – часто ошибочные. Во многих областях способность нейросетей принимать решения на основе данных уже превосходит способности людей: от поиска новых антибиотиков и игры в шахматы до расстановки чипов на микросхемах и распознавания опухолей на рентгеновских снимках.
Руководство страной и компанией – это тоже принятие решений на основе имеющихся у руководителей данных. Нейросети будут помогать людям принимать оптимальные решения, а со временем будут все чаще принимать решения по управлению обществом вместо людей.
Ключевые представители современной алгократии – Китай и американские технокопорации.
Каждую секунду алгоритмы Facebook выдают 6 млн предсказаний для 2,8 млрд пользователей соцсети. ИИ выбирает, каким контентом заполнить ленту пользователя, и решает, какие посты и пользователи нуждаются в бане или увеличении видимости.
В Китае работает государственная система социального рейтинга пользователей: на основе собранных данных алгоритмы начисляют и вычитают гражданам и компаниям очки, а место в рейтинге обеспечивает награды (меньший процент на кредит) или наказания (запрет на покупку авиабилетов).
Два главных вопроса алгократии:
– Каковы границы контроля и власти алгоритмов над людьми?
– Какой баланс между человеком и ИИ оптимальный при принятии решений?
#чнс_словарь
ИИ-прокуратура
В Китае появился ИИ-«прокурор». Ученые вместе с Шанхайской прокуратурой разработали нейросеть, выполняющую функцию прокурора. Систему создали ученые вместе с сотрудниками Шанхайской прокуратуры. ИИ-прокурор оценивает 1 000 параметров дела и выдвигает обвинение с 97% точностью, а запустить его можно на обычном ноутбуке.
Китайская прокуратура использует нейросети с 2016 года. Один из инструментов, легших в основу ИИ-прокурора, называется «Система 206»: она определяет силу улик, условия для ареста и степень опасности подозреваемого. Нейросеть Системы 206 натренирована на 17 000 случаев из китайской судебной практики за 2015-2020 годы.
Раз сторону обвинения теперь представляют искусственные нейросети, скоро они возьмутся и за защиту, и мы услышим об ИИ-адвокатах, которые, например, станут альтернативой бесплатного адвоката для малоимущих.
Вообще, юриспруденция — довольно дружелюбная к ИИ сфера, так как она по большей части основывается на документах и базах данных. Современные алгоритмы обработки естественного языка вроде GPT-3 способны анализировать текстовые материалы дела и судебные архивы гораздо быстрее людей. ИИ уже умеет суммировать прочитанное и формулировать выводы “на человеческом” языке, а значит, может помочь и прокурору и адвокату сформулировать тезисы и обвинения и защиты.
Конечно, прокурор и адвокат – это не судья, и окончательные решения относительно судьбы подсудимых все еще принимают биологические нейросети людей, а не ИИ. Другими словами, пока что именно человек остается носителем судебной власти, а ИИ пробуется в роли человеческого помощника.
Но долго ли продлится человеческая монополия на судебную власть? Вспоминается «эффект голодного судьи» – склонность живых судей выносить более мягкие приговоры после обеда, когда они сыты, и более жесткие перед самым обедом, когда голодны.
Легко представить, что с помощью ИИ мы еще внимательнее всмотримся и вдумаемся в работу судей, да и всей системы правосудия, и придем к выводу, что она переполнена человеческой предвзятостью, необъективностью и эмоциональностью. Затем мы сравним работу живых судей с ИИ-судьями и поймем, что человека вообще опасно допускать к таким важным вопросам, как правосудие, – потому что правосудие — это математика, а не эмоции.
Так мы постепенно уступим судебную власть машинам, а потом настанет черед власти законодательной.
В Китае появился ИИ-«прокурор». Ученые вместе с Шанхайской прокуратурой разработали нейросеть, выполняющую функцию прокурора. Систему создали ученые вместе с сотрудниками Шанхайской прокуратуры. ИИ-прокурор оценивает 1 000 параметров дела и выдвигает обвинение с 97% точностью, а запустить его можно на обычном ноутбуке.
Китайская прокуратура использует нейросети с 2016 года. Один из инструментов, легших в основу ИИ-прокурора, называется «Система 206»: она определяет силу улик, условия для ареста и степень опасности подозреваемого. Нейросеть Системы 206 натренирована на 17 000 случаев из китайской судебной практики за 2015-2020 годы.
Раз сторону обвинения теперь представляют искусственные нейросети, скоро они возьмутся и за защиту, и мы услышим об ИИ-адвокатах, которые, например, станут альтернативой бесплатного адвоката для малоимущих.
Вообще, юриспруденция — довольно дружелюбная к ИИ сфера, так как она по большей части основывается на документах и базах данных. Современные алгоритмы обработки естественного языка вроде GPT-3 способны анализировать текстовые материалы дела и судебные архивы гораздо быстрее людей. ИИ уже умеет суммировать прочитанное и формулировать выводы “на человеческом” языке, а значит, может помочь и прокурору и адвокату сформулировать тезисы и обвинения и защиты.
Конечно, прокурор и адвокат – это не судья, и окончательные решения относительно судьбы подсудимых все еще принимают биологические нейросети людей, а не ИИ. Другими словами, пока что именно человек остается носителем судебной власти, а ИИ пробуется в роли человеческого помощника.
Но долго ли продлится человеческая монополия на судебную власть? Вспоминается «эффект голодного судьи» – склонность живых судей выносить более мягкие приговоры после обеда, когда они сыты, и более жесткие перед самым обедом, когда голодны.
Легко представить, что с помощью ИИ мы еще внимательнее всмотримся и вдумаемся в работу судей, да и всей системы правосудия, и придем к выводу, что она переполнена человеческой предвзятостью, необъективностью и эмоциональностью. Затем мы сравним работу живых судей с ИИ-судьями и поймем, что человека вообще опасно допускать к таким важным вопросам, как правосудие, – потому что правосудие — это математика, а не эмоции.
Так мы постепенно уступим судебную власть машинам, а потом настанет черед власти законодательной.
South China Morning Post
Chinese scientists develop AI ‘prosecutor’ that can press its own charges
Machine is so far able to identify eight common crimes such as fraud, gambling, dangerous driving and ‘picking quarrels’, researchers say.
Две самых интересных новости за последнее время:
1. После нескольких лет тестирования нейроимплантов Neuralink на свиньях и обезьянах, в этом году должны наконец начаться испытания на людях.
2. Главным фокусом Tesla в этом году станет разработка робота-гуманоида Optimus, а не выпуск новых моделей машин.
Очевидно, эти новости связаны тем, что обеими компаниями руководит человек-корпорация Илон Маск. Поэтому несмотря на то, что разработки ведутся разными командами в разных сферах, на самом деле они очень связаны и отлично друг друга дополняют.
Тестировать нейролинки собираются на парализованных людях: например, чтобы они могли пользоваться смартфоном с помощью мысли. Сверхцель нейроимплантов в медицинском смысле – восстановить полную физическую функциональность у людей с поврежденным спинным мозгом. По словам Маска, нейролинки должны «заменить неисправные и отсутствующие нейроны микросхемами».
Короче говоря, нейролинки будут использоваться в качестве нейропротезов – именно в таком виде публика будет воспринимать «чипирование мозгов» максимально лояльно.
Нет сомнений, что Neuralink хочет помочь больным людям. Но совершенно очевидно, что будущее мозговых компьютеров выходит далеко за рамки этих медицинских целей.
Если медицинские тесты на людях пройдут успешно, начнется освоение бытовых функций нейроимпланта. Вполне логично, что Маск первым делом соединит технологию одной своей компании с технологиями другой: например, нейролинки можно будет запарить с машинами Tesla — и рулить силой мысли.
И тут мы переходим ко второй новости и понимаем, что к моменту бытовой адаптации нейроимплантов Tesla, вполне вероятно, уже будет не автокомпанией, как ее воспринимают сейчас, — а робо-коропорацией, как ее уже сейчас видит сам Маск. Так что синхронизировать нейроимпланты можно будет уже с робо-гуманоидами.
У такого слияния человеческого мозга и робо-тела будет нереально много последствий, в том числе экзистенциальных – в них будем разбираться постепенно.
А напоследок давайте поупражняемся и соединим нейролинки Neuralink и робо-гуманоидов Tesla с третьей компанией Маск – SpaceX: получается робо-космонавт на Марсе, которым с помощью нейроимпланта управляют люди с Земли.
1. После нескольких лет тестирования нейроимплантов Neuralink на свиньях и обезьянах, в этом году должны наконец начаться испытания на людях.
2. Главным фокусом Tesla в этом году станет разработка робота-гуманоида Optimus, а не выпуск новых моделей машин.
Очевидно, эти новости связаны тем, что обеими компаниями руководит человек-корпорация Илон Маск. Поэтому несмотря на то, что разработки ведутся разными командами в разных сферах, на самом деле они очень связаны и отлично друг друга дополняют.
Тестировать нейролинки собираются на парализованных людях: например, чтобы они могли пользоваться смартфоном с помощью мысли. Сверхцель нейроимплантов в медицинском смысле – восстановить полную физическую функциональность у людей с поврежденным спинным мозгом. По словам Маска, нейролинки должны «заменить неисправные и отсутствующие нейроны микросхемами».
Короче говоря, нейролинки будут использоваться в качестве нейропротезов – именно в таком виде публика будет воспринимать «чипирование мозгов» максимально лояльно.
Нет сомнений, что Neuralink хочет помочь больным людям. Но совершенно очевидно, что будущее мозговых компьютеров выходит далеко за рамки этих медицинских целей.
Если медицинские тесты на людях пройдут успешно, начнется освоение бытовых функций нейроимпланта. Вполне логично, что Маск первым делом соединит технологию одной своей компании с технологиями другой: например, нейролинки можно будет запарить с машинами Tesla — и рулить силой мысли.
И тут мы переходим ко второй новости и понимаем, что к моменту бытовой адаптации нейроимплантов Tesla, вполне вероятно, уже будет не автокомпанией, как ее воспринимают сейчас, — а робо-коропорацией, как ее уже сейчас видит сам Маск. Так что синхронизировать нейроимпланты можно будет уже с робо-гуманоидами.
У такого слияния человеческого мозга и робо-тела будет нереально много последствий, в том числе экзистенциальных – в них будем разбираться постепенно.
А напоследок давайте поупражняемся и соединим нейролинки Neuralink и робо-гуманоидов Tesla с третьей компанией Маск – SpaceX: получается робо-космонавт на Марсе, которым с помощью нейроимпланта управляют люди с Земли.
ИИ «Кафка»
Дочитываю книгу Эрика Шмидта и Генри Киссинджера «The Age of AI:
And Our Human Future». Перевел для вас проницательный пассаж:
«В современном мире мы обычно решаем проблемы, находя людей, ответственных за изъяны, лежащие в основе этой проблемы. Такой подход предполагает ответственность и агентность людей, он формировал наше самоощущение веками. Теперь в это уравнение входят новые акторы, которые могут ослабить наше ощущение, что мы – главные мыслители и движущая сила в каждой конкретной ситуации.
Временами все мы – как создатели и управляющие ИИ, так и простые пользователи – будем взаимодействовать с ИИ, не осознавая этого. Мы будем получать ответы ИИ, даже если мы его не спрашивали. И сталкиваться с решениями ИИ в ситуациях, в которых мы этого не просили. Временами невидимый ИИ будет делать мир будто одушевленным: например, магазины будут готовы к нашим визитам и нашим прихотям. А иногда ИИ будет вызывать кафкианское ощущение: когда организации будут принимать формирующие жизнь человека решения – предложения работы, решения по выдаче кредитов на машину и жилье, решения охранных фирм и правоохранительных органов – которые ни один человек не сможет обьяснить».
Кафкианская призма – довольно свежий взгляд на наше ближайшее будущее, которое обычно сводят к сценариям а-ля «1984» Оруэлла: вот, мол, есть большие братья, которые за всем следят и так и рвутся нас наказать за несоответствие правилам каких-то политических партий. Такой расклад, конечно, вероятен, но далеко не гарантирован и уж точно не является единственной альтернативой нашего будущего.
В написанном чуть больше ста лет назад романе «Процесс» главного героя Йозефа К. обвиняют в чем-то, но не сообщают, в чем: он пытается разобраться, но ему никто не может обьяснить, в чем же его провинность. Весь роман идет некий процесс, не понятный ни герою, ни окружающим: непонятно даже, кто именно ведет этот процесс. Зато результаты этого процесса очевидны – герой осужден и казнен.
У Кафки невидимые силы, судящие и выносящие приговор – аллюзии на бюрократию и «бездушную» государственную машину: изначально они созданы людьми, но в итоге обретают отдельную сущность и становятся невидимыми силами, управляющими судьбами людей. В произведениях Кафки эти невидимые силы чаще всего носят зловещий характер и обычно приводят к гибели или несчастью героев.
Так вот, алгоритмы и есть те самые неведомые силы – Процесс, созданный людьми и превзошедший их. Этот Процесс обещает сделать человечество богаче и здоровее, но, очевидно, потребует взамен слепого подчинения. И это подчинение, скорее всего, будет не таким, как в «1984», где правила могут не нравится, но, по крайней мере, они ясны, а, скорее, как в «Процессе», где правила непонятны, но не подчинится варианта нет.
Современный человек и так не понимает, что происходит в мире. Иллюзия понимания чаще всего появляется в результате пропаганды и медийной промывки мозгов. Возможно, в будущем неясные людям решения машин будут объяснять другие машины – и будут делать это специально подогнанным под каждого человека образом.
Так что если мы и вправду начнем страдать от необъяснимости происходящего, как это делали герои Кафки, ИИ сможет придумать для нас достаточно красивую сказку/ложь/нарратив, благодаря которым мы найдем смысл в беспрекословном послушании машинам.
Дочитываю книгу Эрика Шмидта и Генри Киссинджера «The Age of AI:
And Our Human Future». Перевел для вас проницательный пассаж:
«В современном мире мы обычно решаем проблемы, находя людей, ответственных за изъяны, лежащие в основе этой проблемы. Такой подход предполагает ответственность и агентность людей, он формировал наше самоощущение веками. Теперь в это уравнение входят новые акторы, которые могут ослабить наше ощущение, что мы – главные мыслители и движущая сила в каждой конкретной ситуации.
Временами все мы – как создатели и управляющие ИИ, так и простые пользователи – будем взаимодействовать с ИИ, не осознавая этого. Мы будем получать ответы ИИ, даже если мы его не спрашивали. И сталкиваться с решениями ИИ в ситуациях, в которых мы этого не просили. Временами невидимый ИИ будет делать мир будто одушевленным: например, магазины будут готовы к нашим визитам и нашим прихотям. А иногда ИИ будет вызывать кафкианское ощущение: когда организации будут принимать формирующие жизнь человека решения – предложения работы, решения по выдаче кредитов на машину и жилье, решения охранных фирм и правоохранительных органов – которые ни один человек не сможет обьяснить».
Кафкианская призма – довольно свежий взгляд на наше ближайшее будущее, которое обычно сводят к сценариям а-ля «1984» Оруэлла: вот, мол, есть большие братья, которые за всем следят и так и рвутся нас наказать за несоответствие правилам каких-то политических партий. Такой расклад, конечно, вероятен, но далеко не гарантирован и уж точно не является единственной альтернативой нашего будущего.
В написанном чуть больше ста лет назад романе «Процесс» главного героя Йозефа К. обвиняют в чем-то, но не сообщают, в чем: он пытается разобраться, но ему никто не может обьяснить, в чем же его провинность. Весь роман идет некий процесс, не понятный ни герою, ни окружающим: непонятно даже, кто именно ведет этот процесс. Зато результаты этого процесса очевидны – герой осужден и казнен.
У Кафки невидимые силы, судящие и выносящие приговор – аллюзии на бюрократию и «бездушную» государственную машину: изначально они созданы людьми, но в итоге обретают отдельную сущность и становятся невидимыми силами, управляющими судьбами людей. В произведениях Кафки эти невидимые силы чаще всего носят зловещий характер и обычно приводят к гибели или несчастью героев.
Так вот, алгоритмы и есть те самые неведомые силы – Процесс, созданный людьми и превзошедший их. Этот Процесс обещает сделать человечество богаче и здоровее, но, очевидно, потребует взамен слепого подчинения. И это подчинение, скорее всего, будет не таким, как в «1984», где правила могут не нравится, но, по крайней мере, они ясны, а, скорее, как в «Процессе», где правила непонятны, но не подчинится варианта нет.
Современный человек и так не понимает, что происходит в мире. Иллюзия понимания чаще всего появляется в результате пропаганды и медийной промывки мозгов. Возможно, в будущем неясные людям решения машин будут объяснять другие машины – и будут делать это специально подогнанным под каждого человека образом.
Так что если мы и вправду начнем страдать от необъяснимости происходящего, как это делали герои Кафки, ИИ сможет придумать для нас достаточно красивую сказку/ложь/нарратив, благодаря которым мы найдем смысл в беспрекословном послушании машинам.
Прочитал новость о том, что китайская Партия продвигает свою версию NFT в массы, а потом вспомнил, что в США главный амбассадор этой технологии – Пэрис Хилтон, и решил порассуждать на тему разницы подходов к технологическим инновациям в США и КНР.
Американская модель подразумевает, что бизнес сам решает, какие инновации самые перспективные и сколько в них нужно инвестировать. Если бизнес делает прогнозы правильно, то рынок вознаграждает его, если ошибается – наказывает. А государство следит за тем, чтобы инновации соответствовали существующим правилам и законам и в случае чего придумывает новые регуляции и ограничения.
До недавнего времени такая модель работала лучше всего в мире, а США до сих остается главной кузницей инноваций. Но у этой системы есть один крупный недостаток: рассинхрон между государством и инновационным бизнесом. Чиновники часто не понимают новые технологии, но намертво держатся за свое законное право регулировать бизнес и сдерживать инновации.
Чтобы понять, о чем я, просто посмотрите публичные слушания в Конгрессе на тему соцсетей или криптовалют: конгрессмены до боли напоминают бабушек и дедушек, которым внуки пытаются обьяснить, как пользоваться смартфоном.
Китайская модель подразумевает, что инновационный бизнес должен действовать в неразрывной связке с государством: сначала эта пара решает, какие технологии – самые перспективные, а потом их совместная гипотеза проходит испытание рынком.
У такой модели, конечно, полно недостатков. Например, если в американской модели инновация не «выстреливает», убытки терпят компании, но не государство, а вот в китайской страдают обе стороны. И здесь дело упирается в компетентность чиновников, чей просчет может зарубить лучшие идеи на самом корню без шансов на развитие.
С другой стороны, китайская модель работает настолько эффективно, что КНР в ближайшее десятилетие грозится обогнать США (и весь остальной мир) в вопросах инноваций. Самая сильная сторона их модели раскрывается, когда чиновники и бизнес достигают взаимопонимания насчет того, какие технологии самые перспективные.
Китайские государственные субсидии и программы позволили им за пару десятилетий создать ведущие мировые технокорпорации и стать лидерами в сфере ИИ, квантовых компьютеров и других передовых технологий (советую почитать книгу Кай-Фу Ли «Сверхдержавы искусственного интеллекта», чтобы понять, как это работает).
Увлечение китайского правительства и корпораций NFT – часть более широкого интереса к блокчейн-технологиям в русле программы по созданию цифрового юаня. Интереснее и диковиннее этих государственных увлечений – только форсированное централизованное наступление китайцев на метавселенную. Но об этом поговорим чуть позже.
Американская модель подразумевает, что бизнес сам решает, какие инновации самые перспективные и сколько в них нужно инвестировать. Если бизнес делает прогнозы правильно, то рынок вознаграждает его, если ошибается – наказывает. А государство следит за тем, чтобы инновации соответствовали существующим правилам и законам и в случае чего придумывает новые регуляции и ограничения.
До недавнего времени такая модель работала лучше всего в мире, а США до сих остается главной кузницей инноваций. Но у этой системы есть один крупный недостаток: рассинхрон между государством и инновационным бизнесом. Чиновники часто не понимают новые технологии, но намертво держатся за свое законное право регулировать бизнес и сдерживать инновации.
Чтобы понять, о чем я, просто посмотрите публичные слушания в Конгрессе на тему соцсетей или криптовалют: конгрессмены до боли напоминают бабушек и дедушек, которым внуки пытаются обьяснить, как пользоваться смартфоном.
Китайская модель подразумевает, что инновационный бизнес должен действовать в неразрывной связке с государством: сначала эта пара решает, какие технологии – самые перспективные, а потом их совместная гипотеза проходит испытание рынком.
У такой модели, конечно, полно недостатков. Например, если в американской модели инновация не «выстреливает», убытки терпят компании, но не государство, а вот в китайской страдают обе стороны. И здесь дело упирается в компетентность чиновников, чей просчет может зарубить лучшие идеи на самом корню без шансов на развитие.
С другой стороны, китайская модель работает настолько эффективно, что КНР в ближайшее десятилетие грозится обогнать США (и весь остальной мир) в вопросах инноваций. Самая сильная сторона их модели раскрывается, когда чиновники и бизнес достигают взаимопонимания насчет того, какие технологии самые перспективные.
Китайские государственные субсидии и программы позволили им за пару десятилетий создать ведущие мировые технокорпорации и стать лидерами в сфере ИИ, квантовых компьютеров и других передовых технологий (советую почитать книгу Кай-Фу Ли «Сверхдержавы искусственного интеллекта», чтобы понять, как это работает).
Увлечение китайского правительства и корпораций NFT – часть более широкого интереса к блокчейн-технологиям в русле программы по созданию цифрового юаня. Интереснее и диковиннее этих государственных увлечений – только форсированное централизованное наступление китайцев на метавселенную. Но об этом поговорим чуть позже.
Словарь цифровой осознанности: Деприватность
Деприватность (Inverse Privacy) – это ситуация, в которой третьи лица имеют доступ к информации о человеке, а он сам — не имеет.
Наше взаимодействие с разными организациями – от супермаркетов и фитнес-центров до работодателей и полиции – создает большое количество личных данных о нас. Наши данные оседают внутри организаций, а мы теряем к ним доступ – так данные становятся деприватными.
Такая асимметрия обусловлена в том числе тем, что пользователи элементарно забывают о своих прошлых выборах и действиях, а вот у организаций есть технические возможности помнить — хранить все детали поведения людей.
Впоследствии организации анализируют собранные о нас данные и делают новые выводы, то есть производят новую деприватную информацию, к которой мы также не имеем доступа и часто даже не подозреваем о ее существовании.
Обычно деприватные данные используется для улучшения качества обслуживания пользователей, подбора наиболее подходящих товаров и услуг. Но чаще всего компании используют такие данные гораздо шире, чем изначально заявляют. Например, производители фитнес-трекеров собирают данные о физической активности пользователя, но заодно превращают их в его рекламный профиль и составляют карту его социальных контактов для продажи третьим лицам. Таким образом возникает эпистемное неравенство: data-организации знают о пользователях (поставщиках данных) большие их самих.
Некоторые компании предоставляют пользователям доступ к их деприватным данным, но чаще всего это либо необработанные массивы данных, понятные ИИ, но неудобоваримые для человека, либо наоборот, выхолощенные и максимально упрощенные версии собранных данных.
Главный вызов деприватности заключается не в том, чтобы запретить компаниям собирать, хранить и использовать данные пользователей, а в том, чтобы предоставить пользователям возможность извлекать как можно больше пользы из собранных о них данных.
#чнс_словарь
Деприватность (Inverse Privacy) – это ситуация, в которой третьи лица имеют доступ к информации о человеке, а он сам — не имеет.
Наше взаимодействие с разными организациями – от супермаркетов и фитнес-центров до работодателей и полиции – создает большое количество личных данных о нас. Наши данные оседают внутри организаций, а мы теряем к ним доступ – так данные становятся деприватными.
Такая асимметрия обусловлена в том числе тем, что пользователи элементарно забывают о своих прошлых выборах и действиях, а вот у организаций есть технические возможности помнить — хранить все детали поведения людей.
Впоследствии организации анализируют собранные о нас данные и делают новые выводы, то есть производят новую деприватную информацию, к которой мы также не имеем доступа и часто даже не подозреваем о ее существовании.
Обычно деприватные данные используется для улучшения качества обслуживания пользователей, подбора наиболее подходящих товаров и услуг. Но чаще всего компании используют такие данные гораздо шире, чем изначально заявляют. Например, производители фитнес-трекеров собирают данные о физической активности пользователя, но заодно превращают их в его рекламный профиль и составляют карту его социальных контактов для продажи третьим лицам. Таким образом возникает эпистемное неравенство: data-организации знают о пользователях (поставщиках данных) большие их самих.
Некоторые компании предоставляют пользователям доступ к их деприватным данным, но чаще всего это либо необработанные массивы данных, понятные ИИ, но неудобоваримые для человека, либо наоборот, выхолощенные и максимально упрощенные версии собранных данных.
Главный вызов деприватности заключается не в том, чтобы запретить компаниям собирать, хранить и использовать данные пользователей, а в том, чтобы предоставить пользователям возможность извлекать как можно больше пользы из собранных о них данных.
#чнс_словарь
«Я – гордый член фан-клуба капитализма. Капитализм – лучшая из существующих систем. Ей удается превратить личный интерес людей в инновации и топливо для экономического развития.
Но давайте по-честному: капитализм плохо справляется с удовлетворением потребностей очень бедных. Предприниматели и инвесторы обычно не тратят свои время, сокровища и таланты на развитие продуктов для людей, которые не могут им заплатить.
Правительство предлагает услуги там, где этого не делает бизнес, и обеспечивает определенный уровень защиты. Но многие правительства не смотрят в отдаленное будущее из-за коротких избирательных циклов. Богатым правительствам сложно оправдать крупные инвестиции в исследования, которые принесут пользу только людям в отдаленных странах – поэтому правительства не приносят инновационные идеи на рынок.
За пределами инноваций, в которые правительства и бизнесы готовы вкладываться, находятся инновации, сулящие фантастические прибыли. В этом фертильном пространстве и разворачивается то, что я называю "каталитической филантропией"».
Это цитата Билла Гейтса 2014 года, в которой он объяснял деятельность Фонда Билла и Мелинды Гейтс стоимостью $50 млрд. Самыми «фертильными пространствами для инноваций» Гейтс считает здоровье, климат и энергетику.
Мне очень нравится, как ультра-капиталист описывает принципиальные ограничения системы: бизнес близорук из-за необходимости каждые 3 месяца показывать рост прибыли, а политикум – из-за необходимости каждые пару лет избираться на властные позиции.
Ограниченное количество денег и власти приводит к инкрементализму — решению мелких проблем по мере их поступления — вместо глобального подхода, предупреждения будущих проблем и сверх-долгосрочных инвестиций. Классический пример негативных последствий капиталистического инкрементализма — климатический кризис: пока все решали свои текущие вопросы, вызревала глобальная проблема.
Гейтс, Безос и другие «каталитические филантропы» пытаются мыслить глобально и не мутить картину будущего мыслями о выручке и голосах избирателей – они хотят найти окончательное решение мирового голода, климатических проблем, болезней и даже смерти. И у них действительно есть власть и возможности, немыслимые для предыдущих поколений, из-за которых эти филантропы уже ближе к силам природы, чем к людям.
Но у всего этого есть одна очевидная опасность: ошибка в решении таких глобальных проблем может превратиться глобальную же катастрофу – чего только стоят эксперименты с генным драйвом, солнечной геоинженерией или автономным ИИ. Чтобы избежать фатальных ошибок, каталитических филантропов должно что-то сдерживать и контролировать – но раз ни рынок, ни правительства не имеют над ними власти, то кто или что сможет удержать их от ошибки?
Но давайте по-честному: капитализм плохо справляется с удовлетворением потребностей очень бедных. Предприниматели и инвесторы обычно не тратят свои время, сокровища и таланты на развитие продуктов для людей, которые не могут им заплатить.
Правительство предлагает услуги там, где этого не делает бизнес, и обеспечивает определенный уровень защиты. Но многие правительства не смотрят в отдаленное будущее из-за коротких избирательных циклов. Богатым правительствам сложно оправдать крупные инвестиции в исследования, которые принесут пользу только людям в отдаленных странах – поэтому правительства не приносят инновационные идеи на рынок.
За пределами инноваций, в которые правительства и бизнесы готовы вкладываться, находятся инновации, сулящие фантастические прибыли. В этом фертильном пространстве и разворачивается то, что я называю "каталитической филантропией"».
Это цитата Билла Гейтса 2014 года, в которой он объяснял деятельность Фонда Билла и Мелинды Гейтс стоимостью $50 млрд. Самыми «фертильными пространствами для инноваций» Гейтс считает здоровье, климат и энергетику.
Мне очень нравится, как ультра-капиталист описывает принципиальные ограничения системы: бизнес близорук из-за необходимости каждые 3 месяца показывать рост прибыли, а политикум – из-за необходимости каждые пару лет избираться на властные позиции.
Ограниченное количество денег и власти приводит к инкрементализму — решению мелких проблем по мере их поступления — вместо глобального подхода, предупреждения будущих проблем и сверх-долгосрочных инвестиций. Классический пример негативных последствий капиталистического инкрементализма — климатический кризис: пока все решали свои текущие вопросы, вызревала глобальная проблема.
Гейтс, Безос и другие «каталитические филантропы» пытаются мыслить глобально и не мутить картину будущего мыслями о выручке и голосах избирателей – они хотят найти окончательное решение мирового голода, климатических проблем, болезней и даже смерти. И у них действительно есть власть и возможности, немыслимые для предыдущих поколений, из-за которых эти филантропы уже ближе к силам природы, чем к людям.
Но у всего этого есть одна очевидная опасность: ошибка в решении таких глобальных проблем может превратиться глобальную же катастрофу – чего только стоят эксперименты с генным драйвом, солнечной геоинженерией или автономным ИИ. Чтобы избежать фатальных ошибок, каталитических филантропов должно что-то сдерживать и контролировать – но раз ни рынок, ни правительства не имеют над ними власти, то кто или что сможет удержать их от ошибки?
Власть по Адаму Маккею
Власть и капитал создаются людьми и без людей существовать не могут — и все же по силе превосходят силу всех людей, вместе взятых.
Власть — больше, чем и ее представители: часто ее носители превращаются в ее же лакеев, в функцию, за которой уже не просматриваются их личности. Но есть исключительные люди, у которых с властью складываются как бы партнерские отношения – карьеры таких людей похожи на красивый (и чаще всего, страшный) танец: то они ведут власть, то она — их. Один из таких персонажей — бывший вице-президент США Дик Чейни.
После событий 11 сентября 2001 года Америка развернула войну с террором, которая идет до сих пор, а вице-президент Чейни стал одним из главных ее идеологов. В том числе он стоял у истоков концепции тотальной слежки и сбора данных граждан – с телефонов, компьютеров и т.д. – для борьбы с терроризмом и защиты национальной безопасности США.
Узаконенная горстью американских чиновников тотальная слежка, о которой мир узнал после разоблачений Сноудена в 2013 году, стала фундаментом надзорного капитализма и сделала возможным существование Google, а затем и Facebook. Без государственного одобрения, обеспеченного Диком Чейни, такой массированный сбор данных, который до сих пор ведут технокорпорации, просто был бы невозможен.
Время показало, что ведомые рынком частные корпорации гораздо эффективнее распоряжаются личными данными пользователей, чем это делает государство или спецслужбы. Американские спецслужбы тратили на выуживание сведений о гражданах миллиарды долларов – всё для ловли террористов. Но они ничего толком не добились (по крайней мере, официально). А вот корпорации, наоборот, сделали на собранных данных сотни миллиардов долларов.
К чему я это? На «Ноже» вышла моя свежая статья о власти в трех фильмах горячо любимого мною сатирика Адама Маккея: «Не смотрите наверх!», «Игра на понижение» и «Vice». В ней я выделил 5 черт власти по Маккею: власть некомпетентна, не заботится о будущем, лжет, замутняет разум — и никогда не бывает наказана.
Советую на досуге почитать статью и посмотреть все три фильма. И в особенности «Vice» — посвященную тому самому Дику Чейни черную трагикомедию.
Власть и капитал создаются людьми и без людей существовать не могут — и все же по силе превосходят силу всех людей, вместе взятых.
Власть — больше, чем и ее представители: часто ее носители превращаются в ее же лакеев, в функцию, за которой уже не просматриваются их личности. Но есть исключительные люди, у которых с властью складываются как бы партнерские отношения – карьеры таких людей похожи на красивый (и чаще всего, страшный) танец: то они ведут власть, то она — их. Один из таких персонажей — бывший вице-президент США Дик Чейни.
После событий 11 сентября 2001 года Америка развернула войну с террором, которая идет до сих пор, а вице-президент Чейни стал одним из главных ее идеологов. В том числе он стоял у истоков концепции тотальной слежки и сбора данных граждан – с телефонов, компьютеров и т.д. – для борьбы с терроризмом и защиты национальной безопасности США.
Узаконенная горстью американских чиновников тотальная слежка, о которой мир узнал после разоблачений Сноудена в 2013 году, стала фундаментом надзорного капитализма и сделала возможным существование Google, а затем и Facebook. Без государственного одобрения, обеспеченного Диком Чейни, такой массированный сбор данных, который до сих пор ведут технокорпорации, просто был бы невозможен.
Время показало, что ведомые рынком частные корпорации гораздо эффективнее распоряжаются личными данными пользователей, чем это делает государство или спецслужбы. Американские спецслужбы тратили на выуживание сведений о гражданах миллиарды долларов – всё для ловли террористов. Но они ничего толком не добились (по крайней мере, официально). А вот корпорации, наоборот, сделали на собранных данных сотни миллиардов долларов.
К чему я это? На «Ноже» вышла моя свежая статья о власти в трех фильмах горячо любимого мною сатирика Адама Маккея: «Не смотрите наверх!», «Игра на понижение» и «Vice». В ней я выделил 5 черт власти по Маккею: власть некомпетентна, не заботится о будущем, лжет, замутняет разум — и никогда не бывает наказана.
Советую на досуге почитать статью и посмотреть все три фильма. И в особенности «Vice» — посвященную тому самому Дику Чейни черную трагикомедию.
Нож
Власть некомпетентна и всегда лжет: 5 пороков глав государств в фильмах Адама Маккея
Гид по политической критике в фильме «Не смотрите наверх!» и других фильмах Адама Маккея.
Питер Тилль – один из самых интересных техномиллиардеров, со-основатель компаний PayPal и Palantir, поклонник Айн Ренд и шахмат. Он также известен как первый инвестор Facebook: в 2005 году он поверил в 20-летнего Цукерберга, купил 10% соцсети за $500 000 и с тех пор был неизменным членом совета директоров компании.
Вчера он объявил о том, что больше не будет переизбираться в совет директоров. Тилль покидает компанию Цукерберга в переломный момент: Meta трансформируется из обычной соцсети в метаверс-компанию и после публикации квартального отчета потеряла почти четверть своей стоимости ($230 млрд).
Сейчас никто не знает, получится ли у компании Цукерберга переизобрести себя, или же многолетние усилия противников соцсети таки принесли плоды и бесповоротно подрезали ей крылья. Тилль почти 20 лет был одним из основных менторов Цукерберга, особенно в финансовых вопросах, и сейчас он покидает компанию не из-за ее проблем, а скорее, чтобы облегчить Цукербергу ношу.
Тилль – уникальная для Кремниевой долины фигура. Он не просто республиканец, а первый и единственный открытый сторонник Дональда Трампа на выборах 2016 и во время его первого президентского срока. Из-за связи Тилля с Трампом у критиков Цукерберга были основания обвинять Facebook в подыгрывании республиканцам – а теперь так уже не получится.
Сейчас Тилль финансово поддерживает двух молодых республиканских политиков, претендующих в этом году на места сенаторов: писателя Дж.Д. Вэнса на место сенатора от штата Огайо и соавтора книги Тилля «От 0 к 1» Блейка Мастерса от штата Аризона.
Более того, с каждым днем растет вероятность, что Трамп будет баллотироваться на второй срок, и Тилль, кажется, снова будет его поддерживать.
Тилль – один из инвесторов развивающейся видео-соцсети Rumble. В день, когда стало известно об его уходе из Facebook, глава Rumble Крис Павловски предложил $100 млн Джо Рогану за
переход со Spotify на его платформу.
Либеральные активисты и публичные фигуры и так публично требуют удалить Рогана со Spotify за его альтернативное освещение ковида – и тем самым делают его еще одной жертвой деплатформинга и героем борцов за свободу слова.
Ну а главная жертва деплатформинга, как известно, – сам Дональд Трамп. Rumble – не только очевидно республиканская платформа, но с недавних пор еще и партнер продвигаемой Трампом соцсети TRUTH Social.
Американская политика теперь намертво переплетена с техноолигархией, Тилль все глубже входит в истеблишмент республиканской партии, а политическая борьба в США теперь будет сводится к борьбе соцсетей и интернет-платформ.
Вчера он объявил о том, что больше не будет переизбираться в совет директоров. Тилль покидает компанию Цукерберга в переломный момент: Meta трансформируется из обычной соцсети в метаверс-компанию и после публикации квартального отчета потеряла почти четверть своей стоимости ($230 млрд).
Сейчас никто не знает, получится ли у компании Цукерберга переизобрести себя, или же многолетние усилия противников соцсети таки принесли плоды и бесповоротно подрезали ей крылья. Тилль почти 20 лет был одним из основных менторов Цукерберга, особенно в финансовых вопросах, и сейчас он покидает компанию не из-за ее проблем, а скорее, чтобы облегчить Цукербергу ношу.
Тилль – уникальная для Кремниевой долины фигура. Он не просто республиканец, а первый и единственный открытый сторонник Дональда Трампа на выборах 2016 и во время его первого президентского срока. Из-за связи Тилля с Трампом у критиков Цукерберга были основания обвинять Facebook в подыгрывании республиканцам – а теперь так уже не получится.
Сейчас Тилль финансово поддерживает двух молодых республиканских политиков, претендующих в этом году на места сенаторов: писателя Дж.Д. Вэнса на место сенатора от штата Огайо и соавтора книги Тилля «От 0 к 1» Блейка Мастерса от штата Аризона.
Более того, с каждым днем растет вероятность, что Трамп будет баллотироваться на второй срок, и Тилль, кажется, снова будет его поддерживать.
Тилль – один из инвесторов развивающейся видео-соцсети Rumble. В день, когда стало известно об его уходе из Facebook, глава Rumble Крис Павловски предложил $100 млн Джо Рогану за
переход со Spotify на его платформу.
Либеральные активисты и публичные фигуры и так публично требуют удалить Рогана со Spotify за его альтернативное освещение ковида – и тем самым делают его еще одной жертвой деплатформинга и героем борцов за свободу слова.
Ну а главная жертва деплатформинга, как известно, – сам Дональд Трамп. Rumble – не только очевидно республиканская платформа, но с недавних пор еще и партнер продвигаемой Трампом соцсети TRUTH Social.
Американская политика теперь намертво переплетена с техноолигархией, Тилль все глубже входит в истеблишмент республиканской партии, а политическая борьба в США теперь будет сводится к борьбе соцсетей и интернет-платформ.
В свежей колонке для Ножа постарался в общих чертах обьяснить сверхновую историю цензуры. А здесь добавлю несколько общих замечаний, объясняющих, почему в вопросе цензуры я — полный пессимист:
Во-первых, совсем скоро в нашем распоряжении будут почти идеальные инструменты для тотальной цензуры — с возможностью на ходу переписывать историю, редактировать освещение событий в прямом эфире и полностью вытирать из общественного пространства всё «неправильное».
Во-вторых, я не вижу абсолютно никаких причин, по которым власть (неважно, западная или восточная) не станет пользоваться этими совершенными цензурными инструментами. Свобода слова это, конечно, хорошо, но безопасность, как обычно, дороже — в этом нас будут убеждать наши цензоры.
И в-третьих, я думаю, что обычная цензура уступит место утонченной алгоритмической инженерии мнений, об инструментах которой я неоднократно писал в этом блоге: от перспектицида до цифровой модификации поведения.
Мы входим в эпоху, когда робоцензоры будут безжалостно эффективно выполнять заданные им формулы: «запретить мнение А» или «удалить пользователя вида Б».
Интересно то, что даже в тех обществах, где робоцензуры (пока) нет, люди зачем-то сами требуют ее ввести. Мне это кажется тревожным и печальным, а вам?
Во-первых, совсем скоро в нашем распоряжении будут почти идеальные инструменты для тотальной цензуры — с возможностью на ходу переписывать историю, редактировать освещение событий в прямом эфире и полностью вытирать из общественного пространства всё «неправильное».
Во-вторых, я не вижу абсолютно никаких причин, по которым власть (неважно, западная или восточная) не станет пользоваться этими совершенными цензурными инструментами. Свобода слова это, конечно, хорошо, но безопасность, как обычно, дороже — в этом нас будут убеждать наши цензоры.
И в-третьих, я думаю, что обычная цензура уступит место утонченной алгоритмической инженерии мнений, об инструментах которой я неоднократно писал в этом блоге: от перспектицида до цифровой модификации поведения.
Мы входим в эпоху, когда робоцензоры будут безжалостно эффективно выполнять заданные им формулы: «запретить мнение А» или «удалить пользователя вида Б».
Интересно то, что даже в тех обществах, где робоцензуры (пока) нет, люди зачем-то сами требуют ее ввести. Мне это кажется тревожным и печальным, а вам?
Илье Суцкеверу 36 лет. Он один из топовых разработчиков ИИ и один из самых цитируемых компьютерных ученых в истории. В 2015 году он вместе с Илоном Маском и Сэмом Альтманом основал OpenAI – одну из двух ведущих ИИ-лабораторий, в которой, например, разработали самый продвинутый алгоритм обработки естественного языка GPT-3.
Суцкевер известен также своей верой в концепцию AGI или сильного ИИ, способного мыслить и осознавать свои действия. Создание осознающего ИИ – священный грааль всей ИИ-науки, но всерьез рассуждать о нем публично считается дурным тоном и профанацией, так как неясно, получится ли вообще когда-нибудь его создать, учитывая, например, что мы даже не знаем, что такое сознание.
И вот в конце прошлой недели Суцкевер написал в своем твиттере:
«Возможно, современные крупные нейросети – немного сознательные».
Этот твит спровоцировал широкий отклик в узкой среде элитных ИИ-ученых, большинство которых обвинили Суцкевера в хайпожорстве и оторванности от реальности. Советую всем интересующимся ИИ почитать тред под этим постом – там много полезных мыслей и ссылок и можно подписаться на реально крутых ИИ-ученых. И заодно послушайте, что сам Суцкевер говорил о создании AGI.
А вот другая цитата Суцкевера для тех, кто не хочет погружаться в технические нюансы AGI и тонкости определения сознания, но хочет представить, что это такое:
«Представьте своего самого умного друга, и еще тысячу таких же умных друзей, которые думают в 1000 раз быстрее чем обычно. Получится, что за один день они наразмышляют, как за три года».
Сейчас миром управляют люди – биологические машины, чьи нейросети думают каждый день и принимают решения о том, как должен выглядеть наш мир. Как вы думаете, как будет выглядеть мир, в котором думать и принимать решения будут настолько превосходящие нас в думании сущности?
Суцкевер предполагает, что в таком мире разовьются «бесконечно стабильные диктатуры». И почему-то всё равно рвется создавать AGI.
Суцкевер известен также своей верой в концепцию AGI или сильного ИИ, способного мыслить и осознавать свои действия. Создание осознающего ИИ – священный грааль всей ИИ-науки, но всерьез рассуждать о нем публично считается дурным тоном и профанацией, так как неясно, получится ли вообще когда-нибудь его создать, учитывая, например, что мы даже не знаем, что такое сознание.
И вот в конце прошлой недели Суцкевер написал в своем твиттере:
«Возможно, современные крупные нейросети – немного сознательные».
Этот твит спровоцировал широкий отклик в узкой среде элитных ИИ-ученых, большинство которых обвинили Суцкевера в хайпожорстве и оторванности от реальности. Советую всем интересующимся ИИ почитать тред под этим постом – там много полезных мыслей и ссылок и можно подписаться на реально крутых ИИ-ученых. И заодно послушайте, что сам Суцкевер говорил о создании AGI.
А вот другая цитата Суцкевера для тех, кто не хочет погружаться в технические нюансы AGI и тонкости определения сознания, но хочет представить, что это такое:
«Представьте своего самого умного друга, и еще тысячу таких же умных друзей, которые думают в 1000 раз быстрее чем обычно. Получится, что за один день они наразмышляют, как за три года».
Сейчас миром управляют люди – биологические машины, чьи нейросети думают каждый день и принимают решения о том, как должен выглядеть наш мир. Как вы думаете, как будет выглядеть мир, в котором думать и принимать решения будут настолько превосходящие нас в думании сущности?
Суцкевер предполагает, что в таком мире разовьются «бесконечно стабильные диктатуры». И почему-то всё равно рвется создавать AGI.
Дипфейк политика
Юн Сок Ёль – бывший генеральный прокурор Южной Кореи, а теперь – один из двух главных кандидатов в президенты на выборах 2022. Юн был обычным скучным 61-летним политиком, а стал первым в истории кандидатом, за которого с молодыми избирателями общается дипфейк-двойник ИИ Юн.
Для создания ИИ Юна, реальный Юн наговорил 3000 предложений (20 часов аудио и видео), а южнокорейская дипфейк-контора создала виртуальный аватар, который можно запрограммировать на любые слова и активность.
На специальном сайте корейцы задают ИИ Юну вопросы, а он отвечает на них видосами. Точнее, ответы за него придумывает команда молодых специалистов по смм и мемам, а нейросети потом «снимают» дипфейк видео с ИИ Юном.
Понятно, что речи для реальных политиков и так пишут специалисты, а уж активность в интернете – посты, ответы, мемчики – тем более просчитывается командами людей, а не самим политиком. Но ИИ Юну позволено гораздо больше, чем реальному политику: он разговаривает на жаргончике, обзывает своих конкурентов и шутит черные шутки – и ему все сходит с рук.
Корейские миллениалы и представители gen z, на которых рассчитана дипфейк-кампания, прекрасно понимают, что с ними разговаривает фейк, за который все шутки придумывают другие люди. Виртуальный политик не имеет почти никакого отношения к реальному политику. Тем не менее, популярность реального Юна за два месяца работы ИИ Юна выросла, и теперь он реально может выиграть выборы.
ИИ Юн наводит меня на две мысли:
1) ИИ уже пришел в политику и очень быстро ее завоюет: например, скоро речи дипфейк-политикам будут писать уже не люди, а нейросети вроде GPT-3. Выяснять, что хотят услышать избиратели, будут другие нейросети. Ну а потом и решать, что нужно стране, станут тоже нейросети.
2) Люди гораздо лучше подготовлены к отношениям с ИИ, чем нам всем казалось, во многом благодаря механизму проекций, описанному еще Фрейдом. Совсем скоро нейросети станут нашими лучшими друзьями, любовниками, психотерапевтами и лидерами мнений. Всё, как писал Пушкин:
Но притворитесь! Этот взгляд
Все может выразить так чудно!
Ах, обмануть меня не трудно!..
Я сам обманываться рад!
Юн Сок Ёль – бывший генеральный прокурор Южной Кореи, а теперь – один из двух главных кандидатов в президенты на выборах 2022. Юн был обычным скучным 61-летним политиком, а стал первым в истории кандидатом, за которого с молодыми избирателями общается дипфейк-двойник ИИ Юн.
Для создания ИИ Юна, реальный Юн наговорил 3000 предложений (20 часов аудио и видео), а южнокорейская дипфейк-контора создала виртуальный аватар, который можно запрограммировать на любые слова и активность.
На специальном сайте корейцы задают ИИ Юну вопросы, а он отвечает на них видосами. Точнее, ответы за него придумывает команда молодых специалистов по смм и мемам, а нейросети потом «снимают» дипфейк видео с ИИ Юном.
Понятно, что речи для реальных политиков и так пишут специалисты, а уж активность в интернете – посты, ответы, мемчики – тем более просчитывается командами людей, а не самим политиком. Но ИИ Юну позволено гораздо больше, чем реальному политику: он разговаривает на жаргончике, обзывает своих конкурентов и шутит черные шутки – и ему все сходит с рук.
Корейские миллениалы и представители gen z, на которых рассчитана дипфейк-кампания, прекрасно понимают, что с ними разговаривает фейк, за который все шутки придумывают другие люди. Виртуальный политик не имеет почти никакого отношения к реальному политику. Тем не менее, популярность реального Юна за два месяца работы ИИ Юна выросла, и теперь он реально может выиграть выборы.
ИИ Юн наводит меня на две мысли:
1) ИИ уже пришел в политику и очень быстро ее завоюет: например, скоро речи дипфейк-политикам будут писать уже не люди, а нейросети вроде GPT-3. Выяснять, что хотят услышать избиратели, будут другие нейросети. Ну а потом и решать, что нужно стране, станут тоже нейросети.
2) Люди гораздо лучше подготовлены к отношениям с ИИ, чем нам всем казалось, во многом благодаря механизму проекций, описанному еще Фрейдом. Совсем скоро нейросети станут нашими лучшими друзьями, любовниками, психотерапевтами и лидерами мнений. Всё, как писал Пушкин:
Но притворитесь! Этот взгляд
Все может выразить так чудно!
Ах, обмануть меня не трудно!..
Я сам обманываться рад!
Когда читаешь о метаверсе, создается ощущение будущего. А когда смотришь, как он выглядит на самом деле – возникает жгучее ощущение прошлого.
В прошлом году разработчики Everyrealm купили участок в виртуальном мире Decentraland за $913 000. Они назвали этот участок Metajuku в честь реального японского квартала Харадзюку, считающегося центром японской уличной моды.
На этой неделе JPMorgan, один из крупнейших банков мира, открыл свое виртуальное представительство в том самом Metajuku. Одновременно с этим банк выпустил отчет о метаверсе с подзаголовком «Как бизнес может исследовать метаверс и отличать хайп от реальности».
В отчете говорится, что метаверс – это бизнес-возможность на 1 триллион долларов. А в иллюстрирующей эту триллионную возможность виртуальной «лаунж зоне» JPMorgan ходит пиксельный тигр и висит фотография руководителя банка – миллиардера Джеймса Даймона.
Убогий вид этого виртуального лаунжа никак не вяжется в моем сознании с обещанным финансовым потенциалом метаверса и web3. Чтобы метаверс выглядел хорошо, технокомпаниям нужно совершить гигантский скачок вычислительных мощностей компьютеров и пропускных способностей серверов и решить еще миллион технических вопросов.
Создание технической базы для метаверса позволит отдельным компаниям заработать очень много денег. Обратите внимание, что Meta/Facebook уже стоит меньше, чем производители процессоров Nvidia и TSMC: никому не нужен метамир, если он выглядит, как игра из 90-х.
Другой крупнейший банк Goldman Sachs недавно посчитал, что метаверс – возможность на все 8 триллионов долларов. И Goldman Sachs и JPMorgan, к слову, стояли у истоков лопнувшего в 2008 году финансового пузыря, за которым последовал всемирный экономический кризис. И оба этих банка тогда финансово поддержало правительство США, пока миллионы простых американцев лишались домов и пенсий.
Я не сомневаюсь, что метаверс – это наше будущее: по-моему, это довольно печально, но это факт. Тем не менее, мне кажется, что прежде чем мы придем в это виртуальное будущее, мы пройдем через множество лопнувших пузырей, от которых пострадают не Даймоны этого мира, а рядовые крипто-бро, nft-энтузиасты и другие мета-мейты.
В прошлом году разработчики Everyrealm купили участок в виртуальном мире Decentraland за $913 000. Они назвали этот участок Metajuku в честь реального японского квартала Харадзюку, считающегося центром японской уличной моды.
На этой неделе JPMorgan, один из крупнейших банков мира, открыл свое виртуальное представительство в том самом Metajuku. Одновременно с этим банк выпустил отчет о метаверсе с подзаголовком «Как бизнес может исследовать метаверс и отличать хайп от реальности».
В отчете говорится, что метаверс – это бизнес-возможность на 1 триллион долларов. А в иллюстрирующей эту триллионную возможность виртуальной «лаунж зоне» JPMorgan ходит пиксельный тигр и висит фотография руководителя банка – миллиардера Джеймса Даймона.
Убогий вид этого виртуального лаунжа никак не вяжется в моем сознании с обещанным финансовым потенциалом метаверса и web3. Чтобы метаверс выглядел хорошо, технокомпаниям нужно совершить гигантский скачок вычислительных мощностей компьютеров и пропускных способностей серверов и решить еще миллион технических вопросов.
Создание технической базы для метаверса позволит отдельным компаниям заработать очень много денег. Обратите внимание, что Meta/Facebook уже стоит меньше, чем производители процессоров Nvidia и TSMC: никому не нужен метамир, если он выглядит, как игра из 90-х.
Другой крупнейший банк Goldman Sachs недавно посчитал, что метаверс – возможность на все 8 триллионов долларов. И Goldman Sachs и JPMorgan, к слову, стояли у истоков лопнувшего в 2008 году финансового пузыря, за которым последовал всемирный экономический кризис. И оба этих банка тогда финансово поддержало правительство США, пока миллионы простых американцев лишались домов и пенсий.
Я не сомневаюсь, что метаверс – это наше будущее: по-моему, это довольно печально, но это факт. Тем не менее, мне кажется, что прежде чем мы придем в это виртуальное будущее, мы пройдем через множество лопнувших пузырей, от которых пострадают не Даймоны этого мира, а рядовые крипто-бро, nft-энтузиасты и другие мета-мейты.
Андрей Карпаты – 35-летний директор ИИ в Tesla. До прихода в Tesla, он несколько лет работал в другой ведущей ИИ компании OpenAI.
Недавно Илья Суцкевер из OpenAI заявил, что современные нейросети, возможно, уже немного сознательны. Многие ИИ-ученые разозлились и в ответ заявили, что Суцкевер спекулирует и хайпует на ровном месте – до сильного ИИ (AGI) нам еще очень далеко. Андрей Капраты был среди немногих, кто согласился с бывшим коллегой Суцкевером – вместе они представляют AGI-оптимистов.
Все ключевые технокорпорации так или иначе работают над созданием сильного ИИ, но не все могут себе позволить так открыто рассуждать об успехах в этой области. Например, громче всех Суцкеверу возражал Ян Лекун – один из отцов глубокого обучения и главный ИИ ученый в цукерберговской Meta, недавно лишившейся четверти своей капитализации. Цукерберг и так нахайпил со своим метаверсом, так что рассказы про сознательных роботов из недр его компании – это уже чересчур, ему и так сейчас никто не верит.
Почему Суцкевер и Карпаты решаются идти против ИИ-мейнстрима и отстаивают AGI-оптимизм? Может потому, что они сильно обошли конкурентов из Alphabet, Microsoft, IBM и Meta? Возможно, но маловероятно. Зато их хайп вполне объясним, если вспомнить, что за OpenAI, как и за Tesla, стоит Илон Маск.
На первый взгляд Маск кажется AGI-пессимистом: он годами рассказывает об угрозах AGI и о том, что мы будем неизмеримо глупее роботов. Да и вообще, мы точно не сможем победить AGI, так что лучше сразу настраиваться на сотрудничество и подчинение.
Но, с другой стороны, Маск – AGI-оптимист. Именно он основал OpenAI и сейчас превращает Tesla из авто-компании в ИИ-корпорацию. В январе он предположил, что его тесла-робо-гуманоиды Оптимусы помогут становлению сильного ИИ. Отдельно нужно разобраться, как в его сознании связаны AGI и нейроимпланты, которые разрабатывает его Neuralink.
Короче, Маск – основной публичный флагман AGI. Так что мы либо будем ему крайне признательны, либо он нас всех погубит. Посмотрим. В любом случае, будущее, придуманное Маском – гораздо интереснее и живее будущего, придуманного политиками.
Но вернемся к Карпаты. Он недавно написал интересный твит, в котором предлоил собрать вместе следующие технологии:
- распознавание лиц
- распознавание речи
- GPT в роли ядра «intelligence engine»
- text to speech и
- GAN для генерации лиц.
«Так можно создать цифрового человека, с которым можно будет общаться по вебкаму/телефону (но это будет просто «приодетый» GPT)», пишет Карпаты. Это конечно не AGI, но с точки зрения рядовых пользователей интернета – это уже почти оно.
А бонусом он предлагает «свести две таких сущности друг с другом на Twitch. Или сделать оболочку не человека, а животного, которое будет жить на смартфоне пользователя – получится Tamagochi++».
Недавно Илья Суцкевер из OpenAI заявил, что современные нейросети, возможно, уже немного сознательны. Многие ИИ-ученые разозлились и в ответ заявили, что Суцкевер спекулирует и хайпует на ровном месте – до сильного ИИ (AGI) нам еще очень далеко. Андрей Капраты был среди немногих, кто согласился с бывшим коллегой Суцкевером – вместе они представляют AGI-оптимистов.
Все ключевые технокорпорации так или иначе работают над созданием сильного ИИ, но не все могут себе позволить так открыто рассуждать об успехах в этой области. Например, громче всех Суцкеверу возражал Ян Лекун – один из отцов глубокого обучения и главный ИИ ученый в цукерберговской Meta, недавно лишившейся четверти своей капитализации. Цукерберг и так нахайпил со своим метаверсом, так что рассказы про сознательных роботов из недр его компании – это уже чересчур, ему и так сейчас никто не верит.
Почему Суцкевер и Карпаты решаются идти против ИИ-мейнстрима и отстаивают AGI-оптимизм? Может потому, что они сильно обошли конкурентов из Alphabet, Microsoft, IBM и Meta? Возможно, но маловероятно. Зато их хайп вполне объясним, если вспомнить, что за OpenAI, как и за Tesla, стоит Илон Маск.
На первый взгляд Маск кажется AGI-пессимистом: он годами рассказывает об угрозах AGI и о том, что мы будем неизмеримо глупее роботов. Да и вообще, мы точно не сможем победить AGI, так что лучше сразу настраиваться на сотрудничество и подчинение.
Но, с другой стороны, Маск – AGI-оптимист. Именно он основал OpenAI и сейчас превращает Tesla из авто-компании в ИИ-корпорацию. В январе он предположил, что его тесла-робо-гуманоиды Оптимусы помогут становлению сильного ИИ. Отдельно нужно разобраться, как в его сознании связаны AGI и нейроимпланты, которые разрабатывает его Neuralink.
Короче, Маск – основной публичный флагман AGI. Так что мы либо будем ему крайне признательны, либо он нас всех погубит. Посмотрим. В любом случае, будущее, придуманное Маском – гораздо интереснее и живее будущего, придуманного политиками.
Но вернемся к Карпаты. Он недавно написал интересный твит, в котором предлоил собрать вместе следующие технологии:
- распознавание лиц
- распознавание речи
- GPT в роли ядра «intelligence engine»
- text to speech и
- GAN для генерации лиц.
«Так можно создать цифрового человека, с которым можно будет общаться по вебкаму/телефону (но это будет просто «приодетый» GPT)», пишет Карпаты. Это конечно не AGI, но с точки зрения рядовых пользователей интернета – это уже почти оно.
А бонусом он предлагает «свести две таких сущности друг с другом на Twitch. Или сделать оболочку не человека, а животного, которое будет жить на смартфоне пользователя – получится Tamagochi++».
