#ИИ #chatGPT #лонгрид

ChatGPT — Deus ex machine (?) Ч.1

Мыслительный процесс — довольно сложная штука, ставшая частью не только бытового, но и научного, даже философского пространства. На простенький вопрос: "Как происходит мышление человека" отвечает целая плеяда наук: нейробиология, психология, философия. Как водится, с переменным успехом, потому что вопрошающий сам не до конца понимает, о чем вопрошает. (Как и автор текста)

Когда же к существующему спектру проблем добавилась необходимость рефлексии знания/мышления из области информатики (осмысление машины как познавательного субъекта), в маршрутке начался полный хаос проблем только прибавилось.

На фоне интеллектуальных дебатов, происходит релиз chat GPT. (Ныне в версии 4.0 — для самых продвинутых пользователей!). Как полагается новому, является хорошо забытым старым. Вот и первые нейросети для обработки текста появились, когда аудитория БАНа еще не родилась - в начале 70-ых годов. (Буду рад оказаться неправым).

Предмет же нашей беседы является самым младшим и одаренным ребенком в большой семье. Именно ему и будет посвящен текст. Сгенерированный человеком!

На повестку оставим вопрос об алгоритме обучения и этике применения.

Для обучения языковой модели тексты превращаются в токены. Токен — символическая единица, в которую зашита последовательность частоповтояремых текстовых значений. Можно сравнить это с математикой. Вы обозначаете число 123 за Х. Затем ищете этот Х во всем доступном вам математическом пространстве. В случае слов/символов - пространство приобретает колоссальные выражения.

По итогу имеем формулу следующего вида: 1 токен = 4 символа (буквы) на английском, или 0,75 слов.

Далее текст разбивается на токены. Нейронка изучает связи и вероятности, возникающие между токенами. Затем, на основе вероятностей, происходит обратный процесс. Машина трансформирует токены в текст и он оценивается человеком. Человек создает параметры, которые доводят тексты до человеческого вида. Параметров буквально миллиарды, в зависимости от количества обработанных текстов. А разработчики заявляют, что нейронке был скормлен весь (лукавят) интернет до 2020 (19) года.

Затем наступает эра ручного труда. Метод подкрепления обратной связью, или, говоря на старославянском: Reinforcement Learning With Human Advice.

Человек оценивает сгенерированные тексты, что позволяет машине понимать глобальные алгоритмы. Глобальные алгоритмы по удовлетворению человеческих лингвистических амбиций 🤡🤡🤡.

В этой связи, возникает вопрос об этичности и возможностях применения искусственного интеллекта. Мы с вами люди практичные, поговорим и о реальном опыте применения.

"...ИИ — машинное обучение — испортит как науку, так и представления о морали, включив в мир техники в корне ошибочную концепцию языка и познания." - Ноам Хомски

Изучив механизм работы нейронки, мы можем сделать вывод, что мышление человека и машины различается: Хомски утверждает, что человеческий разум устремлен к поиску объяснения. Машина устремления к поиску корреляций и вероятностей.

Заметим, что делает она это абсолютно безбожно. Во-первых есть вопросики к самим капиталистам во время производственного процесса. Но черт с ним с рабским трудом, на этом мир держится. Вторым серьезным вопросам выступает моральность самой машины. А она подобна Альтрону, то бишь свободна от всех цепей.

Если на первых этапах, у ПО вполне реально было выяснить как приготовить ядерную бомбу в домашних условиях, то благодаря самоотверженному труду африканцев, машина начала следовать законам робототехники (сюр полный!) и отказывается выдавать инфу, которая способна навредить человеку. У машины появляется этика.

Копни глубже - обнаружишь дыру и в этических универсалиях. Всё как у людей. Во-первых, существуют абьюзы, которые позволяют добиться ответа. Их мы не будем раскрывать и оставим это дело самым любопытным энтузиастам. Во-вторых, машина не застрахована от серых зон человечества. Она буквально вынуждена оперировать популярным категориями дискурсивного пространства. Она, на данном этапе разработки, biosed, пристрастна.

РИА сообщает: Новый план мирного урегулирования на Украине. Теперь от нейросети.

ChatGPT подготовил план мирного урегулирования по Украине и написал от имени канцлера ФРГ письма Путину и Зеленскому.

Искусственный интеллект признаёт "легитимные интересы по безопасности" Москвы, предлагает прекратить огонь, демилитаризировать зону на линиях соприкосновения и дать "автономию" для Донецкой и Луганской областей.

#chatGPT #ИИ #нейросети

🇺🇳🤖ООН про ИИ

Совбез ООН впервые на прошлой неделе провел заседание, посвященное ИИ. Главный посыл: нельзя позволить этой технологии развиваться бесконтрольно.

В целом, было много общих слов: нужно сотрудничать, нельзя использовать алгоритмы во вред и т.д. Разумеется, бюрократическая машин ООН во главе с Гутерришем не забыла предложить создание очередного профильного органа, отвечающего за координацию сотрудничества в сфере высоких технологий типа МАГАТЭ, только связанное конкретно с ИИ.

Американцы завели привычную шарманку про то, что нельзя использовать ИИ для дезинформации, китайцы назвали технологию мечом о двух концах. Кстати, наиболее здравую мысль выразил заместитель постпреда РФ в ООН Дмитрий Полянский. Он заявил, что для обсуждения таких вопросов нужна научная дискуссия, добавив, что отдельные детали проблемы ИИ уже анализируются на профильных площадках. «Считаем, что дублировать эти усилия контрпродуктивно», — подчеркнул Полянский (о создании нового органа в рамках ООН).

#ии #искусственныйинтеллект #нейросети #оон #геополитика

🇨🇳🇺🇸Академические связи Китая и США на грани разрыва

Новость и суть

Соперничество между Пекином и Вашингтоном перевернуло с ног на голову экономические и стратегические отношения двух стран. Очередной жертвой геополитического междусобойчика может стать сотрудничество КНР и США в научной сфере.

В августе истекает срок соглашения о партнёрстве академий двух стран, заключённого аж в 1979 г. Документ подлежит продлению каждые 5 лет. Он позволяет странам обмениваться опытом в области химии, физики, биологии.

Также, в рамках соглашения, страны обменивались данными о разных болезнях, что позволяло быстрее разработал вакцину и упорядочить не распределение.

Три позиции США: долой, оставь, ещё.

Как и в большинстве случаев, источниками возмущения являются США, мол соглашение позволяет Китаю «воровать» и «присваивать» научные достижения американцев.

Сторонники практики, наоборот, утверждают, что соглашение принесёт больше пользы, чем вреда. Типа мир нуждается в сотрудничестве умов Китая и США и т.д.

Представители американской академии подтверждают ценность соглашения, но уточняют необходимость внесения изменений. Например, договор 1979 г. не учитывает условия сотрудничества в сфере облачных технологий, ИИ и т.д. Вот поэтому некоторые ученые предлагают не продлевать соглашение сразу, а попросить Китай расширить область его применения.

Республиканцы в палате представителей уже требуют выкинуть договор 1979 г. на свалку истории без каких-либо условий и дополнительных обсуждений.

Белый дом пока молчит.

Позиция Китая

Посол КНР в США заявил, что продление соглашения должно быть приоритетом для обеих сторон.

Также в посольстве подтвердили готовность Китая обсудить идеи по модернизации договора.

#китай #сша #соперничество #ии #технологии #наука #академия

🇨🇳🇺🇸США осторожно расширяют санкции против Китая

Администрация Байдена готовится ограничить венчурные инвестиции в технологические компании КНР. Согласно предложенным мерам, желающие вложиться в китайские предприятия, будут обязаны получить специальную лицензию. Также американскому бизнесу будет запрещено инвестировать в компании, связанные с китайским ВПК.

Кроме того, полномасштабным ограничениям могут подвергнуться вложения в проекты Поднебесной, связанные с ИИ.

Однако вышеперечисленные меры не будут иметь юридической силы еще некоторое время, так как планируется дополнительное изучение некоторых вопросов. Например, американцы не хотят полностью отказываться от инвестиций во все ИИ-проекты Китая. Поэтому аналитикам в минторге и минфине США придется некоторое время подумать над тем, какие инициативы КНР по ИИ имеют отношения к ВПК, а какие — нет.

По сути, это расширение экспортного контроля, введенного Байденом в октябре 2022 г. Нет ничего удивительного, что американцы хотят лишить китайских военных доступа к технологиям и дополнительным средствам. Тем не менее, процесс лицензирования будет непременно замедлять инвестиционные потоки (не связанные с ВПК), тем самым усложняя деятельность американского бизнеса на крайне прибыльном китайском рынке.

В свою очередь, китайские предпринематели и производители получат дополнительную мотивацию развивать собственную технологическую базу и искать альтернативные источники инвестиций. Так что Штаты не в силах остановить технологическое развитие Поднебесной. Замедлить могут, но остановить — никак.

#сша #китай #соперничество #ии #санкции #технологии #экономика #инвестиции #геополитика