#ИИ #chatGPT #лонгрид

ChatGPT — Deus ex machine (?) Ч.1

Мыслительный процесс — довольно сложная штука, ставшая частью не только бытового, но и научного, даже философского пространства. На простенький вопрос: "Как происходит мышление человека" отвечает целая плеяда наук: нейробиология, психология, философия. Как водится, с переменным успехом, потому что вопрошающий сам не до конца понимает, о чем вопрошает. (Как и автор текста)

Когда же к существующему спектру проблем добавилась необходимость рефлексии знания/мышления из области информатики (осмысление машины как познавательного субъекта), в маршрутке начался полный хаос проблем только прибавилось.

На фоне интеллектуальных дебатов, происходит релиз chat GPT. (Ныне в версии 4.0 — для самых продвинутых пользователей!). Как полагается новому, является хорошо забытым старым. Вот и первые нейросети для обработки текста появились, когда аудитория БАНа еще не родилась - в начале 70-ых годов. (Буду рад оказаться неправым).

Предмет же нашей беседы является самым младшим и одаренным ребенком в большой семье. Именно ему и будет посвящен текст. Сгенерированный человеком!

На повестку оставим вопрос об алгоритме обучения и этике применения.

Для обучения языковой модели тексты превращаются в токены. Токен — символическая единица, в которую зашита последовательность частоповтояремых текстовых значений. Можно сравнить это с математикой. Вы обозначаете число 123 за Х. Затем ищете этот Х во всем доступном вам математическом пространстве. В случае слов/символов - пространство приобретает колоссальные выражения.

По итогу имеем формулу следующего вида: 1 токен = 4 символа (буквы) на английском, или 0,75 слов.

Далее текст разбивается на токены. Нейронка изучает связи и вероятности, возникающие между токенами. Затем, на основе вероятностей, происходит обратный процесс. Машина трансформирует токены в текст и он оценивается человеком. Человек создает параметры, которые доводят тексты до человеческого вида. Параметров буквально миллиарды, в зависимости от количества обработанных текстов. А разработчики заявляют, что нейронке был скормлен весь (лукавят) интернет до 2020 (19) года.

Затем наступает эра ручного труда. Метод подкрепления обратной связью, или, говоря на старославянском: Reinforcement Learning With Human Advice.

Человек оценивает сгенерированные тексты, что позволяет машине понимать глобальные алгоритмы. Глобальные алгоритмы по удовлетворению человеческих лингвистических амбиций 🤡🤡🤡.

В этой связи, возникает вопрос об этичности и возможностях применения искусственного интеллекта. Мы с вами люди практичные, поговорим и о реальном опыте применения.

"...ИИ — машинное обучение — испортит как науку, так и представления о морали, включив в мир техники в корне ошибочную концепцию языка и познания." - Ноам Хомски

Изучив механизм работы нейронки, мы можем сделать вывод, что мышление человека и машины различается: Хомски утверждает, что человеческий разум устремлен к поиску объяснения. Машина устремления к поиску корреляций и вероятностей.

Заметим, что делает она это абсолютно безбожно. Во-первых есть вопросики к самим капиталистам во время производственного процесса. Но черт с ним с рабским трудом, на этом мир держится. Вторым серьезным вопросам выступает моральность самой машины. А она подобна Альтрону, то бишь свободна от всех цепей.

Если на первых этапах, у ПО вполне реально было выяснить как приготовить ядерную бомбу в домашних условиях, то благодаря самоотверженному труду африканцев, машина начала следовать законам робототехники (сюр полный!) и отказывается выдавать инфу, которая способна навредить человеку. У машины появляется этика.

Копни глубже - обнаружишь дыру и в этических универсалиях. Всё как у людей. Во-первых, существуют абьюзы, которые позволяют добиться ответа. Их мы не будем раскрывать и оставим это дело самым любопытным энтузиастам. Во-вторых, машина не застрахована от серых зон человечества. Она буквально вынуждена оперировать популярным категориями дискурсивного пространства. Она, на данном этапе разработки, biosed, пристрастна.

РИА сообщает: Новый план мирного урегулирования на Украине. Теперь от нейросети.

ChatGPT подготовил план мирного урегулирования по Украине и написал от имени канцлера ФРГ письма Путину и Зеленскому.

Искусственный интеллект признаёт "легитимные интересы по безопасности" Москвы, предлагает прекратить огонь, демилитаризировать зону на линиях соприкосновения и дать "автономию" для Донецкой и Луганской областей.

#chatGPT #ИИ #нейросети

🇺🇳🤖ООН про ИИ

Совбез ООН впервые на прошлой неделе провел заседание, посвященное ИИ. Главный посыл: нельзя позволить этой технологии развиваться бесконтрольно.

В целом, было много общих слов: нужно сотрудничать, нельзя использовать алгоритмы во вред и т.д. Разумеется, бюрократическая машин ООН во главе с Гутерришем не забыла предложить создание очередного профильного органа, отвечающего за координацию сотрудничества в сфере высоких технологий типа МАГАТЭ, только связанное конкретно с ИИ.

Американцы завели привычную шарманку про то, что нельзя использовать ИИ для дезинформации, китайцы назвали технологию мечом о двух концах. Кстати, наиболее здравую мысль выразил заместитель постпреда РФ в ООН Дмитрий Полянский. Он заявил, что для обсуждения таких вопросов нужна научная дискуссия, добавив, что отдельные детали проблемы ИИ уже анализируются на профильных площадках. «Считаем, что дублировать эти усилия контрпродуктивно», — подчеркнул Полянский (о создании нового органа в рамках ООН).

#ии #искусственныйинтеллект #нейросети #оон #геополитика

🇨🇳🇺🇸Академические связи Китая и США на грани разрыва

Новость и суть

Соперничество между Пекином и Вашингтоном перевернуло с ног на голову экономические и стратегические отношения двух стран. Очередной жертвой геополитического междусобойчика может стать сотрудничество КНР и США в научной сфере.

В августе истекает срок соглашения о партнёрстве академий двух стран, заключённого аж в 1979 г. Документ подлежит продлению каждые 5 лет. Он позволяет странам обмениваться опытом в области химии, физики, биологии.

Также, в рамках соглашения, страны обменивались данными о разных болезнях, что позволяло быстрее разработал вакцину и упорядочить не распределение.

Три позиции США: долой, оставь, ещё.

Как и в большинстве случаев, источниками возмущения являются США, мол соглашение позволяет Китаю «воровать» и «присваивать» научные достижения американцев.

Сторонники практики, наоборот, утверждают, что соглашение принесёт больше пользы, чем вреда. Типа мир нуждается в сотрудничестве умов Китая и США и т.д.

Представители американской академии подтверждают ценность соглашения, но уточняют необходимость внесения изменений. Например, договор 1979 г. не учитывает условия сотрудничества в сфере облачных технологий, ИИ и т.д. Вот поэтому некоторые ученые предлагают не продлевать соглашение сразу, а попросить Китай расширить область его применения.

Республиканцы в палате представителей уже требуют выкинуть договор 1979 г. на свалку истории без каких-либо условий и дополнительных обсуждений.

Белый дом пока молчит.

Позиция Китая

Посол КНР в США заявил, что продление соглашения должно быть приоритетом для обеих сторон.

Также в посольстве подтвердили готовность Китая обсудить идеи по модернизации договора.

#китай #сша #соперничество #ии #технологии #наука #академия

🇨🇳🇺🇸США осторожно расширяют санкции против Китая

Администрация Байдена готовится ограничить венчурные инвестиции в технологические компании КНР. Согласно предложенным мерам, желающие вложиться в китайские предприятия, будут обязаны получить специальную лицензию. Также американскому бизнесу будет запрещено инвестировать в компании, связанные с китайским ВПК.

Кроме того, полномасштабным ограничениям могут подвергнуться вложения в проекты Поднебесной, связанные с ИИ.

Однако вышеперечисленные меры не будут иметь юридической силы еще некоторое время, так как планируется дополнительное изучение некоторых вопросов. Например, американцы не хотят полностью отказываться от инвестиций во все ИИ-проекты Китая. Поэтому аналитикам в минторге и минфине США придется некоторое время подумать над тем, какие инициативы КНР по ИИ имеют отношения к ВПК, а какие — нет.

По сути, это расширение экспортного контроля, введенного Байденом в октябре 2022 г. Нет ничего удивительного, что американцы хотят лишить китайских военных доступа к технологиям и дополнительным средствам. Тем не менее, процесс лицензирования будет непременно замедлять инвестиционные потоки (не связанные с ВПК), тем самым усложняя деятельность американского бизнеса на крайне прибыльном китайском рынке.

В свою очередь, китайские предпринематели и производители получат дополнительную мотивацию развивать собственную технологическую базу и искать альтернативные источники инвестиций. Так что Штаты не в силах остановить технологическое развитие Поднебесной. Замедлить могут, но остановить — никак.

#сша #китай #соперничество #ии #санкции #технологии #экономика #инвестиции #геополитика

Царь ИИ при Трампе: что нужно знать

Избранный президент США Дональд Трамп выдвинул на пост спецпосланника по делам криптовалют и искусственного интеллекта (новая должность) бизнесмена Дэвида Сакса. Он также будет руководить экспертным советом Белого дома по вопросам науки и технологий.

Ранее Сакс работал в банковском секторе. По данным Reuters, его относят к так называемой «мафии PayPal», в которой также числятся Илон Маск и Питер Тиль. При этом, как сообщает Bloomberg, Сакс также близок у будущему президенту Джеймсу Вэнсу.

Сакс является давним сторонником криптовалют и ещё в 2017 г. отстаивал их преимущества. На этом направлении он сосредоточится на создании правового поля по использованию крипты и в целом дерегуляцией этой части рынка.

Что касается искусственного интеллекта, то журналисты полагают, что Сакс также сосредоточится на отмене всяческих ограничения для развития этой технологии. Вместо этого Сакс будет работать на ее внедрении во все ключевые сферы.

#ДональдТрамп #США #Назначения #ИИ #Криптовалюты

Подписаться на Записки американиста🐘