#ИИ #chatGPT #лонгрид

ChatGPT — Deus ex machine (?) Ч.1

Мыслительный процесс — довольно сложная штука, ставшая частью не только бытового, но и научного, даже философского пространства. На простенький вопрос: "Как происходит мышление человека" отвечает целая плеяда наук: нейробиология, психология, философия. Как водится, с переменным успехом, потому что вопрошающий сам не до конца понимает, о чем вопрошает. (Как и автор текста)

Когда же к существующему спектру проблем добавилась необходимость рефлексии знания/мышления из области информатики (осмысление машины как познавательного субъекта), в маршрутке начался полный хаос проблем только прибавилось.

На фоне интеллектуальных дебатов, происходит релиз chat GPT. (Ныне в версии 4.0 — для самых продвинутых пользователей!). Как полагается новому, является хорошо забытым старым. Вот и первые нейросети для обработки текста появились, когда аудитория БАНа еще не родилась - в начале 70-ых годов. (Буду рад оказаться неправым).

Предмет же нашей беседы является самым младшим и одаренным ребенком в большой семье. Именно ему и будет посвящен текст. Сгенерированный человеком!

На повестку оставим вопрос об алгоритме обучения и этике применения.

Для обучения языковой модели тексты превращаются в токены. Токен — символическая единица, в которую зашита последовательность частоповтояремых текстовых значений. Можно сравнить это с математикой. Вы обозначаете число 123 за Х. Затем ищете этот Х во всем доступном вам математическом пространстве. В случае слов/символов - пространство приобретает колоссальные выражения.

По итогу имеем формулу следующего вида: 1 токен = 4 символа (буквы) на английском, или 0,75 слов.

Далее текст разбивается на токены. Нейронка изучает связи и вероятности, возникающие между токенами. Затем, на основе вероятностей, происходит обратный процесс. Машина трансформирует токены в текст и он оценивается человеком. Человек создает параметры, которые доводят тексты до человеческого вида. Параметров буквально миллиарды, в зависимости от количества обработанных текстов. А разработчики заявляют, что нейронке был скормлен весь (лукавят) интернет до 2020 (19) года.

Затем наступает эра ручного труда. Метод подкрепления обратной связью, или, говоря на старославянском: Reinforcement Learning With Human Advice.

Человек оценивает сгенерированные тексты, что позволяет машине понимать глобальные алгоритмы. Глобальные алгоритмы по удовлетворению человеческих лингвистических амбиций 🤡🤡🤡.

В этой связи, возникает вопрос об этичности и возможностях применения искусственного интеллекта. Мы с вами люди практичные, поговорим и о реальном опыте применения.

"...ИИ — машинное обучение — испортит как науку, так и представления о морали, включив в мир техники в корне ошибочную концепцию языка и познания." - Ноам Хомски

Изучив механизм работы нейронки, мы можем сделать вывод, что мышление человека и машины различается: Хомски утверждает, что человеческий разум устремлен к поиску объяснения. Машина устремления к поиску корреляций и вероятностей.

Заметим, что делает она это абсолютно безбожно. Во-первых есть вопросики к самим капиталистам во время производственного процесса. Но черт с ним с рабским трудом, на этом мир держится. Вторым серьезным вопросам выступает моральность самой машины. А она подобна Альтрону, то бишь свободна от всех цепей.

Если на первых этапах, у ПО вполне реально было выяснить как приготовить ядерную бомбу в домашних условиях, то благодаря самоотверженному труду африканцев, машина начала следовать законам робототехники (сюр полный!) и отказывается выдавать инфу, которая способна навредить человеку. У машины появляется этика.

Копни глубже - обнаружишь дыру и в этических универсалиях. Всё как у людей. Во-первых, существуют абьюзы, которые позволяют добиться ответа. Их мы не будем раскрывать и оставим это дело самым любопытным энтузиастам. Во-вторых, машина не застрахована от серых зон человечества. Она буквально вынуждена оперировать популярным категориями дискурсивного пространства. Она, на данном этапе разработки, biosed, пристрастна.

РИА сообщает: Новый план мирного урегулирования на Украине. Теперь от нейросети.

ChatGPT подготовил план мирного урегулирования по Украине и написал от имени канцлера ФРГ письма Путину и Зеленскому.

Искусственный интеллект признаёт "легитимные интересы по безопасности" Москвы, предлагает прекратить огонь, демилитаризировать зону на линиях соприкосновения и дать "автономию" для Донецкой и Луганской областей.

#chatGPT #ИИ #нейросети