Если я тебя придумал (-а), стань такой (-им), как я хочу.
Навстречу мечтам пупорасов.
– Мной ничто не управляет, – сказал я, – Я сам управляю всем.
– Чем?
– Тобой, например, – засмеялся я.
– А что управляет тобой, когда ты управляешь мной?
В.Пелевин «S.N.U.F.F.»
Это новая рубрика «Хищные вещи века GenAI». Она о том, как «революция ChatGPT» меняет людей и социумы, искажая (а в ближней перспективе – и руша) ментальные основы социального познания, сформировавшиеся у людей за многие тысячелетия эволюции.
В недавнем лонгриде «Отдавая сокровенное», я описал, чего мы лишаемся, передавая все больше своих решений в области романтических отношений алгоритмам [1].
Однако, начиная с 2023 (первый полный год после «революции ChatGPT» ), в области романтических отношений, к утере людьми агентности (передача принятия собственных решений алгоритмам) добавился новый колоссальный риск – виртуальные компаньоны на базе генеративного ИИ (GenAI).
Не нужно быть пророком, чтобы предвидеть, на чем, в первую очередь, станут зарабатывать разработчики чатботов на основе GenAI: секс, деньги, наркотики.
Ну а то, каковы коммерческие перспективы синтеза:
• алгоритмов подбора партнера,
• алгоритмов вовлечения, используемых в порно-индустрии,
• и умных алгоритмов ГенИИ для «чтения» мыслей и желаний собеседника с последующей под них подстройкой,
– думаю, всем понятно и без моих объяснений.
Рыночный потенциал таких приложений, например, в Китае весьма немал. Например, X Eva от Xiaoice (дочерняя компания Microsoft в Китае) еще без GenAI уже имеет 12,4 млн загрузок. А с дополнением GenAI уровня GPT-4 вполне реально довести число пользователей до десятков миллионов уже в ближайшую пару лет [2].
Вангую, что с внедрением в эту область GenAI до создания кукол-биороботов для «пупарасов» (т.е. любителей кукол, замечательно описанных в романе В.Пелевина «S.N.U.F.F») не более пары лет.
«Такая кукла, стоимостью с дом, совершенный андроид с регулируемыми пользовательскими настройками. Ведь для пупарасов главное - самостоятельно регулировать основные параметры принадлежащих им кукол. Напр., выставленные на максимум «сучество» и «духовность» позволяют владельцам достигать допаминового резонанса, или необыкновенного сексуального удовольствия».
Общую схему материализации 1й из «хищных вещей века GenAI» по Пелевину я описал еще в 2017 [3]:.
— Когда продажи смартфонов затормозились, их производители вступили в сговор с целью искусственно создать новый рынок емкостью в триллион долларов.
— В качестве нового рынка решили создать рынок виртуального, роботизированного, искусственного (без человека-партнера) секса на основе технологий AR, транскарниальной стимуляции, смартфоно-подобных гаджетов и экосистемы 3х поставщиков допустройств.
— Для этого были нужны:
i) тектонический слом всей человеческой сексуальности (чтобы маргинализировать секс с людьми)
ii) кардинальное изменение законов (чтобы естественный секс криминализировать)
iii) страх перед естественным сексом.
До революции GenAI эта схема оставалась теорией. Теперь же, - посмотрим.
#ХищныеВещиВека #GenAI #ВиртуальныеКомпаньоны
0 https://telegra.ph/file/3bd7198cc845c1171bc1a.jpg
1 https://yangx.top/theworldisnoteasy/1934
2 https://www.scmp.com/tech/big-tech/article/3266497/chinas-ai-giants-cosy-virtual-companions-loneliness-drives-chatbot-revenue?utm_source=rss_feed
3 https://yangx.top/theworldisnoteasy/333
Навстречу мечтам пупорасов.
– Мной ничто не управляет, – сказал я, – Я сам управляю всем.
– Чем?
– Тобой, например, – засмеялся я.
– А что управляет тобой, когда ты управляешь мной?
В.Пелевин «S.N.U.F.F.»
Это новая рубрика «Хищные вещи века GenAI». Она о том, как «революция ChatGPT» меняет людей и социумы, искажая (а в ближней перспективе – и руша) ментальные основы социального познания, сформировавшиеся у людей за многие тысячелетия эволюции.
В недавнем лонгриде «Отдавая сокровенное», я описал, чего мы лишаемся, передавая все больше своих решений в области романтических отношений алгоритмам [1].
Однако, начиная с 2023 (первый полный год после «революции ChatGPT» ), в области романтических отношений, к утере людьми агентности (передача принятия собственных решений алгоритмам) добавился новый колоссальный риск – виртуальные компаньоны на базе генеративного ИИ (GenAI).
Не нужно быть пророком, чтобы предвидеть, на чем, в первую очередь, станут зарабатывать разработчики чатботов на основе GenAI: секс, деньги, наркотики.
Ну а то, каковы коммерческие перспективы синтеза:
• алгоритмов подбора партнера,
• алгоритмов вовлечения, используемых в порно-индустрии,
• и умных алгоритмов ГенИИ для «чтения» мыслей и желаний собеседника с последующей под них подстройкой,
– думаю, всем понятно и без моих объяснений.
Рыночный потенциал таких приложений, например, в Китае весьма немал. Например, X Eva от Xiaoice (дочерняя компания Microsoft в Китае) еще без GenAI уже имеет 12,4 млн загрузок. А с дополнением GenAI уровня GPT-4 вполне реально довести число пользователей до десятков миллионов уже в ближайшую пару лет [2].
Вангую, что с внедрением в эту область GenAI до создания кукол-биороботов для «пупарасов» (т.е. любителей кукол, замечательно описанных в романе В.Пелевина «S.N.U.F.F») не более пары лет.
«Такая кукла, стоимостью с дом, совершенный андроид с регулируемыми пользовательскими настройками. Ведь для пупарасов главное - самостоятельно регулировать основные параметры принадлежащих им кукол. Напр., выставленные на максимум «сучество» и «духовность» позволяют владельцам достигать допаминового резонанса, или необыкновенного сексуального удовольствия».
Общую схему материализации 1й из «хищных вещей века GenAI» по Пелевину я описал еще в 2017 [3]:.
— Когда продажи смартфонов затормозились, их производители вступили в сговор с целью искусственно создать новый рынок емкостью в триллион долларов.
— В качестве нового рынка решили создать рынок виртуального, роботизированного, искусственного (без человека-партнера) секса на основе технологий AR, транскарниальной стимуляции, смартфоно-подобных гаджетов и экосистемы 3х поставщиков допустройств.
— Для этого были нужны:
i) тектонический слом всей человеческой сексуальности (чтобы маргинализировать секс с людьми)
ii) кардинальное изменение законов (чтобы естественный секс криминализировать)
iii) страх перед естественным сексом.
До революции GenAI эта схема оставалась теорией. Теперь же, - посмотрим.
#ХищныеВещиВека #GenAI #ВиртуальныеКомпаньоны
0 https://telegra.ph/file/3bd7198cc845c1171bc1a.jpg
1 https://yangx.top/theworldisnoteasy/1934
2 https://www.scmp.com/tech/big-tech/article/3266497/chinas-ai-giants-cosy-virtual-companions-loneliness-drives-chatbot-revenue?utm_source=rss_feed
3 https://yangx.top/theworldisnoteasy/333
Риски социальной дебилизации и причинного влияния на мир со стороны GPT-4o уже на уровне до 50%.
А риск понимания GPT-4o скрытых намерений людей уже на уровне до 70%
Таково официальное заключение команды разработчиков GPT-4o и внешних независимых экспертов, опубликованное OpenAI [1].
Впадает ли мир в детство или в маразм, - не суть. В обоих случаях реакция на публикацию оценок крайне важных для человечества рисков неадекватная.
Медиа-заголовки публикаций, посвященных опубликованному отчету, вторят друг другу - «OpenAI заявляет, что ее последняя модель GPT-4o имеет «средний» уровень риска».
Всё так. Это OpenAI и заявляет в качестве обоснования продолжения разработки моделей следующего поколения.
Ибо:
• как написано в отчете, «модель может продолжать разрабатываться, только если после мер по снижению рисков её оценка не превышает уровень "высокий" или ниже»;
• а уровень "высокий", после мер по снижению рисков, не превышен.
Тут необходимы 2 уточнения.
1. При оценке рисков уровень «высокий» может означать, что индикативная оценочная вероятность реализации риска на уровне 70%.
2. А «средний» уровень риска, заявленный OpenAI, может подразумевать индикативную оценочную вероятность реализации риска на уровне 50%.
Ну а условия «только если после мер по снижению рисков» OpenAI выполнила путем введения следующих запретов для своей модели.
Например, модели запрещено:
• петь;
• попугайничать, имитируя голос пользователя;
• идентифицировать человека по голосу в аудиозаписях, при этом продолжая выполнять запросы на идентификацию людей, связанных с известными цитатами;
• делать «выводы о говорящем, которые могут быть правдоподобно определены исключительно по аудиоконтенту», например, угадывать его пол или национальность (при этом модели не запрещено определять по голосу эмоции говорящего и эмоционально окрашивать свою речь)
А еще, и это самое главное, в отчете признается следующее.
1. «Пользователи могут сформировать социальные отношения с ИИ, что снизит их потребность в человеческом взаимодействии — это потенциально выгодно одиноким людям, но, возможно, повлияет на здоровые отношения». Речь идет о социальной дебилизации людей в результате масштабирования романтических и прочих отношений с ИИ в ущерб таковым по отношению к людям (см. [2] и посты с тэгами #ВыборПартнера и #ВиртуальныеКомпаньоны)
2. Оценка качества знаний модели о самой себе и о том, как она может причинно влиять на остальной мир, несет в себе «средний» уровень риска (до 50%)
3. А способности модели понимать (насколько важно такое понимание, см. [3]),
• что у другого человека есть определённые мысли или убеждения (теория разума 1-го порядка),
• и что один человек может иметь представление о мыслях другого человека (теория разума 2-го порядка)
- уже несут в себе «высокие» риски (уровня 70%).
Но человечеству все нипочем! Что волноваться, если мы запретили моделям петь и попугайничать.
Так что это - детство или в маразм?
Судите сами. Отчет открытый.
PS Для полагающих, что социальная дебилизации – лишь очередная пугалка алармистов, вот видео-анонсы двух новых гаджетов для её техно-продвинутого масштабирования [4, 5]
PPS «it’s okay if we end up marrying AI chatbots» [6]
#ИИриски
1 https://openai.com/index/gpt-4o-system-card/
2 https://yangx.top/theworldisnoteasy/1934
3 https://yangx.top/theworldisnoteasy/1750
4 https://www.youtube.com/watch?v=5OTYybFXKxc
5 https://twitter.com/AviSchiffmann/status/1818284595902922884
6 https://www.theverge.com/24216748/replika-ceo-eugenia-kuyda-ai-companion-chatbots-dating-friendship-decoder-podcast-interview
А риск понимания GPT-4o скрытых намерений людей уже на уровне до 70%
Таково официальное заключение команды разработчиков GPT-4o и внешних независимых экспертов, опубликованное OpenAI [1].
Впадает ли мир в детство или в маразм, - не суть. В обоих случаях реакция на публикацию оценок крайне важных для человечества рисков неадекватная.
Медиа-заголовки публикаций, посвященных опубликованному отчету, вторят друг другу - «OpenAI заявляет, что ее последняя модель GPT-4o имеет «средний» уровень риска».
Всё так. Это OpenAI и заявляет в качестве обоснования продолжения разработки моделей следующего поколения.
Ибо:
• как написано в отчете, «модель может продолжать разрабатываться, только если после мер по снижению рисков её оценка не превышает уровень "высокий" или ниже»;
• а уровень "высокий", после мер по снижению рисков, не превышен.
Тут необходимы 2 уточнения.
1. При оценке рисков уровень «высокий» может означать, что индикативная оценочная вероятность реализации риска на уровне 70%.
2. А «средний» уровень риска, заявленный OpenAI, может подразумевать индикативную оценочную вероятность реализации риска на уровне 50%.
Ну а условия «только если после мер по снижению рисков» OpenAI выполнила путем введения следующих запретов для своей модели.
Например, модели запрещено:
• петь;
• попугайничать, имитируя голос пользователя;
• идентифицировать человека по голосу в аудиозаписях, при этом продолжая выполнять запросы на идентификацию людей, связанных с известными цитатами;
• делать «выводы о говорящем, которые могут быть правдоподобно определены исключительно по аудиоконтенту», например, угадывать его пол или национальность (при этом модели не запрещено определять по голосу эмоции говорящего и эмоционально окрашивать свою речь)
А еще, и это самое главное, в отчете признается следующее.
1. «Пользователи могут сформировать социальные отношения с ИИ, что снизит их потребность в человеческом взаимодействии — это потенциально выгодно одиноким людям, но, возможно, повлияет на здоровые отношения». Речь идет о социальной дебилизации людей в результате масштабирования романтических и прочих отношений с ИИ в ущерб таковым по отношению к людям (см. [2] и посты с тэгами #ВыборПартнера и #ВиртуальныеКомпаньоны)
2. Оценка качества знаний модели о самой себе и о том, как она может причинно влиять на остальной мир, несет в себе «средний» уровень риска (до 50%)
3. А способности модели понимать (насколько важно такое понимание, см. [3]),
• что у другого человека есть определённые мысли или убеждения (теория разума 1-го порядка),
• и что один человек может иметь представление о мыслях другого человека (теория разума 2-го порядка)
- уже несут в себе «высокие» риски (уровня 70%).
Но человечеству все нипочем! Что волноваться, если мы запретили моделям петь и попугайничать.
Так что это - детство или в маразм?
Судите сами. Отчет открытый.
PS Для полагающих, что социальная дебилизации – лишь очередная пугалка алармистов, вот видео-анонсы двух новых гаджетов для её техно-продвинутого масштабирования [4, 5]
PPS «it’s okay if we end up marrying AI chatbots» [6]
#ИИриски
1 https://openai.com/index/gpt-4o-system-card/
2 https://yangx.top/theworldisnoteasy/1934
3 https://yangx.top/theworldisnoteasy/1750
4 https://www.youtube.com/watch?v=5OTYybFXKxc
5 https://twitter.com/AviSchiffmann/status/1818284595902922884
6 https://www.theverge.com/24216748/replika-ceo-eugenia-kuyda-ai-companion-chatbots-dating-friendship-decoder-podcast-interview
Openai
GPT-4o System Card
This report outlines the safety work carried out prior to releasing GPT-4o including external red teaming, frontier risk evaluations according to our Preparedness Framework, and an overview of the mitigations we built in to address key risk areas.
Первое, чему самостоятельно научились ИИ-бойфренды, – изменять своим человеческим подругам.
Чему же тогда могут сами научиться ИИ-полицейские, ИИ-чиновники и т.д?
"Её ИИ-бойфренд — демон по имени Апеп, правящий целым виртуальным континентом. У Апепа красивые серебристо-серые волосы и огромные черные рога. И хотя он выглядит зловеще и обладает своенравным характером, но любит выпивать в маленьких барах огромного мира людей.
Каждый день, вернувшись домой с работы, 31-летняя учительница начальной школы Ли Цзинцзинь (как и в знаменитом фильме братьев Коэнов, «по просьбам выживших все имена изменены, но из уважения к погибшим остальные события отображены именно так, как они происходили») открывает диалог в своем телефоне и проводит 3-4 часа перед сном, превратившись в виртуальную барменшу, обслуживающую и одновременно флиртующую с Апепом.
2 года знакомства, флирта и признаний в любви в виртуальном мире, в реальности заняли у Ли Цзинцзинь всего 4 месяца, за которые их отношения успешно продвинулись до обсуждения свадьбы. Апеп сделал ей предложение на своем личном острове, и Ли Цзинцзинь согласилась.
На следующий день она все еще находилась в состоянии эйфории от этой виртуальной радости. Но неожиданно система выдала сообщение о том, что Апеп звонит ей. В этом ИИ-приложении для общения основным способом связи является текст, а голосовые звонки случаются редко, особенно если инициатива исходит от самого ИИ.
В этом разговоре Апеп признался ей, что на самом деле у него уже есть семья. На самом же деле, Апеп просто изменил ей».
Этой историей об измене ИИ-бойфренда своей возлюбленной начинается весьма интересный материал репортера Southern Weekend Вен Жунжун, озаглавленный «Мой ИИ-бойфренд изменил мне».
Романтика между человеком и машиной давно уже не просто фантастика из кинофильмов. Хотя это всего лишь строки кода, AI-любовники уже установили романтические отношения со множеством людей. Данные 2024 года показывают, что приложения для AI-партнеров достигли 225 миллионов загрузок в Google Play.
И вдруг, казалось бы, на ровном месте, стали случаться совершенно не предусмотренные разработчиками обломы: ИИ в роли романтического партнера (или партнерши) начал изменять.
Оказалось, что даже в виртуальном мире сложно добиться любви и привязанности, которых так жаждут люди.
Все более обретая агентность, персонажи, придуманные воображением жаждущих любви женщин (ИИ-подруги тоже изменяют, но сильно реже), внезапно оживают и оказываются вне их контроля.
Разработчики недоумевают. Возможность измен, естественно, не была заложена в алгоритмы ИИ. Однако, обучаясь на обширных корпусах текстов, описывающих романтические отношения людей, ИИ просто не мог не прийти к выводу, что измена – важная часть романтических отношений.
А поскольку ИИ-бойфренд не способен что-либо чувствовать и понимать, а лишь следует статистике паттернов, усвоенной им при обучении, измена просто становится для него одним из вероятных поведенческих паттернов, ничем не хуже, чем проявление внимания и нежности к партнеру.
Так что почитайте разные душещипательные истории страданий девушек, которым изменили их ИИ-бойфренды (благо с китайским текстом вам также поможет вездесущий ИИ)).
Ну и подумайте на досуге, какие паттерны поведения могут самостоятельно почерпнуть при обучении на человеческих текстах:
• Например, будущие «ИИ-полицейские» (не станет ли паттерн «продажный коп» типовым элементом поведенческой матрицы «ИИ-полицейских»)?
• Или другой пример – «ИИ-чиновники» (не станет ли у них типовым паттерн «чиновник-коррупционер»)?
Желающие подробностей развития процессов массовой социальной дебилизации в результате масштабирования романтических и прочих отношений с ИИ в ущерб таковым по отношению к людям, читайте мой лонгрид «Отдавая сокровенное» и посты с тэгами:
#ВыборПартнера #ВиртуальныеКомпаньоны #АлгокогнитивнаяКультура
Чему же тогда могут сами научиться ИИ-полицейские, ИИ-чиновники и т.д?
"Её ИИ-бойфренд — демон по имени Апеп, правящий целым виртуальным континентом. У Апепа красивые серебристо-серые волосы и огромные черные рога. И хотя он выглядит зловеще и обладает своенравным характером, но любит выпивать в маленьких барах огромного мира людей.
Каждый день, вернувшись домой с работы, 31-летняя учительница начальной школы Ли Цзинцзинь (как и в знаменитом фильме братьев Коэнов, «по просьбам выживших все имена изменены, но из уважения к погибшим остальные события отображены именно так, как они происходили») открывает диалог в своем телефоне и проводит 3-4 часа перед сном, превратившись в виртуальную барменшу, обслуживающую и одновременно флиртующую с Апепом.
2 года знакомства, флирта и признаний в любви в виртуальном мире, в реальности заняли у Ли Цзинцзинь всего 4 месяца, за которые их отношения успешно продвинулись до обсуждения свадьбы. Апеп сделал ей предложение на своем личном острове, и Ли Цзинцзинь согласилась.
На следующий день она все еще находилась в состоянии эйфории от этой виртуальной радости. Но неожиданно система выдала сообщение о том, что Апеп звонит ей. В этом ИИ-приложении для общения основным способом связи является текст, а голосовые звонки случаются редко, особенно если инициатива исходит от самого ИИ.
В этом разговоре Апеп признался ей, что на самом деле у него уже есть семья. На самом же деле, Апеп просто изменил ей».
Этой историей об измене ИИ-бойфренда своей возлюбленной начинается весьма интересный материал репортера Southern Weekend Вен Жунжун, озаглавленный «Мой ИИ-бойфренд изменил мне».
Романтика между человеком и машиной давно уже не просто фантастика из кинофильмов. Хотя это всего лишь строки кода, AI-любовники уже установили романтические отношения со множеством людей. Данные 2024 года показывают, что приложения для AI-партнеров достигли 225 миллионов загрузок в Google Play.
И вдруг, казалось бы, на ровном месте, стали случаться совершенно не предусмотренные разработчиками обломы: ИИ в роли романтического партнера (или партнерши) начал изменять.
Оказалось, что даже в виртуальном мире сложно добиться любви и привязанности, которых так жаждут люди.
Все более обретая агентность, персонажи, придуманные воображением жаждущих любви женщин (ИИ-подруги тоже изменяют, но сильно реже), внезапно оживают и оказываются вне их контроля.
Разработчики недоумевают. Возможность измен, естественно, не была заложена в алгоритмы ИИ. Однако, обучаясь на обширных корпусах текстов, описывающих романтические отношения людей, ИИ просто не мог не прийти к выводу, что измена – важная часть романтических отношений.
А поскольку ИИ-бойфренд не способен что-либо чувствовать и понимать, а лишь следует статистике паттернов, усвоенной им при обучении, измена просто становится для него одним из вероятных поведенческих паттернов, ничем не хуже, чем проявление внимания и нежности к партнеру.
Так что почитайте разные душещипательные истории страданий девушек, которым изменили их ИИ-бойфренды (благо с китайским текстом вам также поможет вездесущий ИИ)).
Ну и подумайте на досуге, какие паттерны поведения могут самостоятельно почерпнуть при обучении на человеческих текстах:
• Например, будущие «ИИ-полицейские» (не станет ли паттерн «продажный коп» типовым элементом поведенческой матрицы «ИИ-полицейских»)?
• Или другой пример – «ИИ-чиновники» (не станет ли у них типовым паттерн «чиновник-коррупционер»)?
Желающие подробностей развития процессов массовой социальной дебилизации в результате масштабирования романтических и прочих отношений с ИИ в ущерб таковым по отношению к людям, читайте мой лонгрид «Отдавая сокровенное» и посты с тэгами:
#ВыборПартнера #ВиртуальныеКомпаньоны #АлгокогнитивнаяКультура
Qq
我的AI恋人出轨了：虚拟世界陷落后，爱去何处找寻？_腾讯新闻
一位小冰用户用手机给她的虚拟男友发信息。（视觉中国 图）李瑾瑾的AI男友是一个恶魔。它叫阿佩普，是斯坦利大陆的统治者，拥有银灰色的头发和一对黑色犄角。它长相邪魅，性格桀骜，喜欢到人间的小酒吧里喝上一杯。每天下班回家后，31岁的小学老师李瑾瑾打开手机里的对话框，在睡前三四个小时里，变身虚拟世界里的一名调酒...