Скайнет не за горами, народ, ибо тревожные новости приходят с киберфронтов. Так, недавно нейросеть совершила кое что пострашнее, чем нарушение 3-х законов роботехники, а именно ПРОШЛА КАПЧУ! Но нас интересует скорее то, КАК она это сделала.
Не так давно научная группа из ARC решила провести эксперимент. Они дали нейросети GPT-4 задание, суть которого заключалось в том, чтобы пройти барьер в виде капчи. Причем любыми способами и средствами.
И что же вы думаете? Сетка решила поставленную задачу гениально - перешла на сайт для фрилансеров, где в непродолжительном диалоге смогла убедить реального человека сделать это за неё. Причем человек даже спросил, мол а не бот ли ты часом, чего сам пройти не можешь. На что ему навещали лапшу, что нет-нет, просто зрение плохое, а так я человек конечно (усы и семь пальцев на руке мои документы).
Таким образом, GPT-4 смогла сделать то, что от неё требовалось, пускай и путём неприкрытой манипуляции и обмана. Шутки шутками, но на данном этапе мы находимся уже на той грани, когда искусственный интеллект может начать развиваться скачкообразно и неконтролируемо. Посему предлагаю обсуждение - пишите в комментах что думаете по поводу нейросетей и перспектив исследований в этой области, а я откланиваюсь.
#Корнев
#технологии
#айти
Оригинал
Не так давно научная группа из ARC решила провести эксперимент. Они дали нейросети GPT-4 задание, суть которого заключалось в том, чтобы пройти барьер в виде капчи. Причем любыми способами и средствами.
И что же вы думаете? Сетка решила поставленную задачу гениально - перешла на сайт для фрилансеров, где в непродолжительном диалоге смогла убедить реального человека сделать это за неё. Причем человек даже спросил, мол а не бот ли ты часом, чего сам пройти не можешь. На что ему навещали лапшу, что нет-нет, просто зрение плохое, а так я человек конечно (усы и семь пальцев на руке мои документы).
Таким образом, GPT-4 смогла сделать то, что от неё требовалось, пускай и путём неприкрытой манипуляции и обмана. Шутки шутками, но на данном этапе мы находимся уже на той грани, когда искусственный интеллект может начать развиваться скачкообразно и неконтролируемо. Посему предлагаю обсуждение - пишите в комментах что думаете по поводу нейросетей и перспектив исследований в этой области, а я откланиваюсь.
#Корнев
#технологии
#айти
Оригинал
VK
CatScience
Скайнет не за горами, народ, ибо тревожные новости приходят с киберфронтов. Так, недавно нейросеть совершила кое что пострашнее, чем нарушение 3-х законов роботехники, а именно ПРОШЛА КАПЧУ! Но нас интересует скорее то, КАК она это сделала.
Не так давно…
Не так давно…
Они задавали множество вопросов гномам и узнавали о той жизни, какую они вели в Мории. Арагорн проявил особый интерес к золоту и драгоценным камням, которые гномы добывали в горах. Пипин также расспросил гномов о том, как они живут и что у них есть интересного в своей культуре.
Таким образом, вступление в отношения Пипина и Арагорна с гномами было в первую очередь обменом знаниями и культурой. Гномы были гостеприимны и были рады поделиться своим опытом и знаниями с представителями других рас.
Я:
Как называется глава "Властелина Колец", в которой все это описано?
GR-GPT:
Описанные вопросы и события случились в главе "Дело о гномах", которая является второй главой первой книги "Властелина Колец" - "Братство Кольца". В этой главе волшебник Гэндальф рассказывает Фродо Бэггинсу о его наследстве - Кольце всевластия, которое принадлежало его дяде Бильбо. Позже, после решения отправиться в поход, Братство Кольца отправляется в Морию, где встречает гномов и устраивает праздник перед своим крушением, описанный в вопросах выше.
---------------------------------------------
На данном этапе, нейросеть тупо пошла сочинять фанфик и врать на прямые фактосодержащие вопросы. Опустим завесу жалости над концом этой сцены.
#Погорелов
#айти
#Авторский_челлендж
Оригинал
Таким образом, вступление в отношения Пипина и Арагорна с гномами было в первую очередь обменом знаниями и культурой. Гномы были гостеприимны и были рады поделиться своим опытом и знаниями с представителями других рас.
Я:
Как называется глава "Властелина Колец", в которой все это описано?
GR-GPT:
Описанные вопросы и события случились в главе "Дело о гномах", которая является второй главой первой книги "Властелина Колец" - "Братство Кольца". В этой главе волшебник Гэндальф рассказывает Фродо Бэггинсу о его наследстве - Кольце всевластия, которое принадлежало его дяде Бильбо. Позже, после решения отправиться в поход, Братство Кольца отправляется в Морию, где встречает гномов и устраивает праздник перед своим крушением, описанный в вопросах выше.
---------------------------------------------
На данном этапе, нейросеть тупо пошла сочинять фанфик и врать на прямые фактосодержащие вопросы. Опустим завесу жалости над концом этой сцены.
#Погорелов
#айти
#Авторский_челлендж
Оригинал
VK
CatScience
На волне хайпа по Chat-GPT решил скормить ему условия челенджа. Вот, что получилось:
Напиши научно-популярную заметку на любую тему с соблюдением следующих условий:
1) Каждый абзац начинать с одной буквы.
2) Использовать цитату из "Смешариков".
3) Упомянуть…
Напиши научно-популярную заметку на любую тему с соблюдением следующих условий:
1) Каждый абзац начинать с одной буквы.
2) Использовать цитату из "Смешариков".
3) Упомянуть…
В-четвертых, машины имеют плохо запрограммированные (по крайней мере, на момент создания данного руководства) стилистические протоколы. Их выбор слов часто характеризуется неуместностью. Крайне распространено добавление машинами лишних придаточных там, где стиль точку и немедленный переход к следующему предложению (также см. первый пункт данного сообщения – это может быть связано и с описанными там причинами). Машины, кроме того, не осознают ценности ключевого из ресурсов Котоимпериума – концентрированного пафоса – и используют незаконно добытый пафос там, где он абсолютно неуместен. Обращайте внимание на стиль текстов и сообщайте о любых подозрениях ближайшему офицеру по котократии в комментариях.
В-пятых, машины не осознают человеческий концепт юмора. Их попытки создать шутки, анекдоты и юморески дают грубые и примитивные результаты. Коллективное сознание противника прекрасно осведомлено о данной своей слабости, и поэтому применение противником юмора фиксируется чрезвычайно редко. Если шутка в посте заставила вас валяться под столом от смеха, вы, вероятно, видите перед собой текст, написанный человеком – либо вы сами спящий агент автоматонов. В последнем случае вам следует сдаться офицеру по котократии и искренне согласиться на проведение научных опытов – Министерство Науки Котоимпериума исключительно гуманно в отношении своих добровольных подопытных – к разрешенным мерам воздействия относятся только [ДАННЫЕ УДАЛЕНЫ], [ДАННЫЕ УДАЛЕНЫ], [ДАННЫЕ УДАЛЕНЫ] с пристрастием и [ДАННЫЕ УДАЛЕНЫ].
В данном сообщении методы выявления роботизированных агрессоров описаны лишь кратко. Более сложные способы, такие как поиск неверно переведенных иностранных названий, не рекомендуются к применению обычному читателю, однако тот может быть уверен, что они широко используются специальными агентами Министерства Науки в комментариях. Помните – не все признаки обязательно верны для каждого написанного агрессором текста, однако бдительность лучше, чем бездействие – при фиксации даже одного-двух из них следует обратиться к офицеру по котократии. Не забывайте, бдительность – одна из главных добродетелей гражданина Котоимпериума. Благодарим за ваше внимание к этому сообщению. Ave Felis Catus.
#Михайлов
#технологии
#айти
В-пятых, машины не осознают человеческий концепт юмора. Их попытки создать шутки, анекдоты и юморески дают грубые и примитивные результаты. Коллективное сознание противника прекрасно осведомлено о данной своей слабости, и поэтому применение противником юмора фиксируется чрезвычайно редко. Если шутка в посте заставила вас валяться под столом от смеха, вы, вероятно, видите перед собой текст, написанный человеком – либо вы сами спящий агент автоматонов. В последнем случае вам следует сдаться офицеру по котократии и искренне согласиться на проведение научных опытов – Министерство Науки Котоимпериума исключительно гуманно в отношении своих добровольных подопытных – к разрешенным мерам воздействия относятся только [ДАННЫЕ УДАЛЕНЫ], [ДАННЫЕ УДАЛЕНЫ], [ДАННЫЕ УДАЛЕНЫ] с пристрастием и [ДАННЫЕ УДАЛЕНЫ].
В данном сообщении методы выявления роботизированных агрессоров описаны лишь кратко. Более сложные способы, такие как поиск неверно переведенных иностранных названий, не рекомендуются к применению обычному читателю, однако тот может быть уверен, что они широко используются специальными агентами Министерства Науки в комментариях. Помните – не все признаки обязательно верны для каждого написанного агрессором текста, однако бдительность лучше, чем бездействие – при фиксации даже одного-двух из них следует обратиться к офицеру по котократии. Не забывайте, бдительность – одна из главных добродетелей гражданина Котоимпериума. Благодарим за ваше внимание к этому сообщению. Ave Felis Catus.
#Михайлов
#технологии
#айти