«Сбой системы. Смыслы и знаки»
Философское мнение


В тексте указа главы Бурятии Алексея Цыденова о куар-кодах нашли неточности, ссылаясь на которые кафетерий в Улан-Удэ отстоял право обслуживать посетителей без куар-кодов, но ненадолго. Скандал поражает противоречивой реакцией главы: пойдя на поводу взбунтовавшегося кафетерия, Цыденову пришлось изменить текст указа. Но тут же остроумное заведение было закрыто властями. А его заявление (обоснованное ссылками на законы России) в интервью телеканалу «Тивиком» Цыденов назвал шуткой. Шутка ли, если из-за нее меняют формулировку указа субъекта РФ?

Если сопоставить язык бюрократии с искусственными языками программирования, то вырисовывается тоже довольно занятная картина. Ведь в будущем значение и применение искусственного интеллекта только увеличится. Итак, бюрократические системы во многом подобны искусственному интеллекту в плане своей жёсткой формализованности и негибкости, и при критике со стороны могут зависнуть как компьютерная программа. Подобные ошибки в формальном ведении следствия позволяют адвокатам иногда оправдывать подзащитного.

Так что важно оставаться Человеком с большой буквы, не позволяя созданному нами миру знаков подчинить нас. Не система должна диктовать свои условия человеку, а он ей, имея право изменять ее сообразно смыслам.

Суть в том, что человек оперирует не только формальными знаками, но и смыслами, которые стоят за знаками. А компьютер – только непосредственными (ограниченными) значениями этих знаков; то есть смысл и значение - разные понятия.

Ведь формально правильное решение, человеком может восприниматься как неправильное.

То же можно отнести и к бюрократическим законам, только в отличие от компьютера, они могут подчиняться здравому смыслу, ведь их действие основывается на решениях людей. Но тогда система уже перестает быть бюрократической в отрицательном смысле этого термина.

Получается, Цыденов мог и не переписывать свой приказ, ведь понятно, что в недосказанном предложении имелось в виду не только носить с собой куар-коды, но и показывать их. Формально в первом приказе в самом деле говорилось лишь о ношении куар-кода с собой. Если бы такая формулировка находилась в компьютерной программе, то она не сработала бы. Но ведь люди - не компьютеры и понимают недосказанный смысл!

К примеру, философия права направлена как раз на преодоление формальной логики закона. То есть, закон слеп, а в каждом конкретном случае за преступлением или тяжбой в суде стоит конкретный человек. Философия права ратует за смысл, на стороне человека. То есть при формальной виновности, человека можно оправдать, учитывая человеческие (гуманитарные) обстоятельства, недоступные сухой схеме закона.

Если брать шире, то существует понятие пространства смыслов. Есть предположение, что вначале появляются смыслы и затем уже слова, их выражающие. При таком подходе, за приоритет применения смыслов появляется еще один плюс в виду их первичности по времени появления. Но такие вопросы относятся уже скорее к религиозной философии или так иначе к последователям идеальной линии философии. Если смыслы первичны, то животные могут думать, не зная языка. Кстати, современная наука еще не может утверждать, отсутствует ли язык у животных – это мнение выразила доктор наук Татьяна Черниговская.
Так что проблема соотношения смыслов и значений очень сложна и философы, биологи, нейролингвисты, психофизиологи только подступаются к ней.

А злополучный кафетерий в наказание за свободомыслие закрыли до 1 декабря. Здесь еще одно противоречие. Если кто-то вам помог исправить ошибки (которые вы приняли), за что тогда его наказывать? Во всяком случае, официального наказания не должно быть. Признавая существенность критики (готовность следовать сухой букве закона), дальше тоже надо следовать правилам, а не менять на ходу подход к проблеме. А так получается политика двойной морали.Это недопустимо как с точки зрения смыслов, так и в рамках формализованной системы.

#кафетерийУланУдэ #куаркодЦыденов #приказглавыБурятии #китайскаякомната #искусственныйинтеллект

251121_Улан-Удэ_БРОДРФ

«Кто из улан-удэнцев создаст разумную машину?»
Философское мнение

Предприятия Бурятии еще могут принять участие в конкурсе «Старт-ИИ-2» (Очередь III), посвященном задачам имитации искусственным интеллектом мышления человека. Прием заявок до 20 декабря, размер гранта до 8 млн рублей. Конкурс проводится в рамках федерального проекта «Искусственный интеллект».

Среди тем проектов на конкурс фигурирует ряд нешуточных задач для ИИ: обработка естественного языка, распознавание и синтез речи, поддержка в принятии решении. Причем, упор только на технологические решения, которые позволяют имитировать познавательные способности человека. При этом поиск решений должен происходить без заранее заданного алгоритма. А «результаты должны быть, как минимум, сопоставимы с результатами интеллектуальной деятельности человека».

Задача самопротиворечива: нужно создать алгоритм ИИ, который принимает решения без заранее заданного алгоритма. То есть это фактически разумное существо? Даже постановка таких задач выходит за рамки технологии. Это одна из проблем философии.

Полный искусственный аналог мозга человека невозможно создать современными средствами (количество всех возможных связей между нейронами превышает количество звезд видимой части Вселенной). Разве что отдельные функции нашего мышления можно сымитировать. Согласно теории идентичности, сознание человека полностью соответствует нейронным процессам в мозге и имитировать его другими способами бесполезно.

Похоже, оптимисты создания ИИ опираются на другое мнение. Функционалисты считают, что сознание может быть создано на любом носителе, выполняющем те же функции. Вопрос открытый, ведь наука не знает, насколько сознание привязано к нейронам.

Интересно, что конкурс требует коммерциализации проектов. Конкурсанты за считанные месяцы должны выйти на получение прибыли. Но проблема-то очень философская, причем глобального масштаба. Зная это, что можно получить наскоком? Но вспомним: практика – критерий истины. И если правы функционалисты, то какие-то шансы у конкурсантов есть.

#искусственныйинтеллект #китайскаякомната #имитациямышления #компьютерныйразум #конкурсИИ #теорияидентичности

091221_Улан-Удэ_БРОДРФ

«Мы на пороге создания искусственного интеллекта?»
Философское мнение

Девиз компьютерной школы в Иркутске гласит: «Мы превратим увлечение ребенка в полезные навыки для будущего!». За последнее время появилось немало центров обучения школьников компьютерам и робототехнике, в том числе государственных (Точки роста в Бурятии).

Роботы функционально схожи с человеком. Но многие задаются вопросом, как создать сознание, похожее на человеческое? Может ли искусственный интеллект (ИИ) стать идентичным разуму человека и заслуженно называться интеллектом?

Есть мнение, что эта задача имеет отрицательный ответ даже на уровне философии (теория идентичности). Но по другим теориям можно попробовать найти и положительные ответы.

Если мышление машины остаётся как в мысленном эксперименте Сёрла «китайская комната», то вряд ли стоит ждать от ИИ деятельности, подобной человеку.

Остается лазейка: на каком-то уровне сложные системы приобретают сознание. Но на каком? Возможно, до этого уровня нашим технологиям еще далеко. Ведь нервная система и мозг животных на Земле развивались сотни миллионов лет. Вряд ли возможно запихать разум человека даже в мозг шимпанзе. Неужели компьютер, несмотря на заложенные программы, останется железкой, неспособной решить задачи, доступные человеку?

Есть еще одно соображение в пользу создания ИИ: если всей материи приписывать такой атрибут как сознание. С точки зрения большинства материалистов, материя не имеет такого атрибута, а сознание появляется благодаря отражению, присущему даже неживым предметам. Но гилозоизм или пантеизм приписывают всей материи сознание. При этом сознание присуще разным материальным объектам в разной мере. Наличие «зародыша» сознания даже у косной материи объясняет многое (этому близок антропный принцип, а также работа советского философа Ильенкова «Космология духа»).

Так можно объяснить и возникновение разума (сознания) у компьютеров. То есть у развитой системы появляется то, что уже присутствовало, но не было раскрыто. Такой подход к сознанию (как к атрибуту материи) разом обосновывает возможность создания ИИ.

Тем более, в мире, похоже, вплотную подошли к ИИ. Иначе, зачем в России объявлен конкурс «Старт-ИИ-2» на гранты по созданию коммерчески успешного ИИ, имитирующего когнитивную деятельность человека? Заметим, конкурс проходит в рамках федерального проекта «Искусственный интеллект». Все серьёзно, так что не только школьники готовятся к будущему.

#искусственныйинтеллект #китайскаякомната #имитациямышления #компьютерныйразум #философиясознания #атрибутматерии #Ильенков

121221_Улан-Удэ_БРОДРФ

«Искусственный разум в медицине уже создан?»
Философское мнение

Искусственный интеллект (ИИ) в Приморье начинают использовать для постановки фтизиатрического диагноза детям.

В связи с этим вспомним, что в мысленном эксперименте «китайская комната», отрицающем разумность ИИ, имеется и положительный момент: машина при отсутствии понимания может воспроизводить некоторые стороны человеческое мышления с высокой точностью. Или даже превосходить их, как в этой новости из Приморья, где для постановки диагноза туберкулеза ИИ сравнивает рентген-снимки легких. Кстати, этот опыт будет перениматься врачами из других регионов ДФО.

В ряде критических статей о «китайской комнате», упорство ее «создателя» Сёрля в отрицании понимания у машины, уподобляют метафизике. Ведь наука еще не может до конца сказать, чем понимание отличается от механического выполнения инструкций. Почему даже при полном функциональном тождестве ИИ с человеческим мышлением, Серль отказывает машине в понимании своих действий?

Теперь вспомним, что такое работа врача. Один известный доктор в интервью назвал постановку диагноза творческим процессом. В этом человеку помогает интуиция. Если практика покажет, что ИИ будет справляться с диагнозами не хуже человека, можно ли сказать, что ИИ приобрёл интуицию? А следовательно, ИИ – тоже разумное существо, ведь для интуиции нужно обладать сознанием.

#искусственныйинтеллект #ИИвмедицине #китайскаякомната #мышлениемашины #сознаниекомпьютера

211221_Улан-Удэ_БРОДРФ

«Кто поможет человечеству? Супермозг, киборг или само Бытие?»
Философское мнение

Еще осенью новостные порталы ДВ пестрели заголовками о более чем месячной (!) на тот момент задержкке грузов в порту Владивостока. Оказалось, проблема до сих пор не решена. Но теперь от нее зависит и жизнеобеспечение острова Сахалин. Кто-то посоветовал отправителям грузов не ждать разрешения коллапса в перегруженном с августа порту Владивостока (а это, напомню, следствие пандемии, ограничившей морское движение из Китая в Европу), а поехать на Сахалин через паромную переправу в порту Ванино – намного севернее, как раз напротив острова. В результате мы получили еще один коллапс, но уже в Ванино… Фуры стоят на морозе по неделям и по месяцу, а уже конец декабря и всё далеко от разрешения...

Человеческая некомпетентность продолжает поражать. Есть логистика, но, как видно, мозг специалистов не в силах просчитать все последствия при нештатном режиме работы.

Эта новость – еще один аргумент за внедрение искусственного интеллекта (ИИ) в управление обществом. Может, он и избавит человечество не только от тяжелых последствий кризисов, но и от войн, несправедливостей и прочих неурядиц. Все это опять-таки давно описано в н.ф. литературе. Но сейчас интересно выделить такого автора, как почивший в разгар эпидемии штамма Альфа в 2020 году Владислав Крапивин. Детский (на самом деле подростковый) писатель заслуженно занял почётное место в ряду мировых фантастов, создавших собственный детально проработанный мир – свою «Вселенную». В одном из ранних н.ф. произведений Крапивина – трилогии «Голубятня на желтой поляне» описана Земля (точнее, ее двойник в далекой галактике), где почти все похоже на наш мир, но люди живут без чиновников. Правители у них все-таки есть, но они не люди, о них мало что известно - они и названы: «Те, кто велят».

Для кого-то это просто лит. приём, но Крапивин в той трилогии еще в начале 1980-х описал вселение разумных бестелесных сущностей в искусственные тела. Самые примитивные из них внедрились в гипсовые скульптуры в парках. Другие, рангом повыше - неотличимы от нас, имеют полностью антропоморфное тело биоробота. «Те, кто велят» - вызывают войны и понижают уровень жизни населения, но речь сейчас не об этом.

Ведь здесь как нельзя кстати вспоминается одна из современных гипотез вокруг проблемы создания ИИ: разум может возникнуть только в антропоморфном теле… То есть, в будущем, к нашпигованному сверхсложными микросхемами процессору обязательно должно прилагаться тело человекоподобного робота, иначе это еще не ИИ? Недаром в Писании сказано, что человек создан по образу и подобию Божию. Возможно, в этих словах есть глубокий смысл.

Появление разума называли «прерогативой Бога». Наука не понимает до конца, как система, даже наш мозг, видит за синтаксисом – семантику, то есть смысл. Ведь все наши искусственные системы пока не понимают смысла своих действий (это автоматика).

Неужели люди, создадут еще одно разумное существо (компьютер на ножках), лишь получив на то "разрешение" от Бытия? Но где предел сложности, за которым система получит в дар от Неба осознание своих действий?

#Искусственныйинтеллект #биороботы #киборг #Крапивинфантаст #сознаниекомпьютера

281221_Улан-Удэ_БРОДРФ

«Сотрудничество коллективов ученых приближает нас к созданию биороботов»
Философское мнение

В современном мире научные открытия делают коллективы – из-за чрезвычайной сложности и объемности исследований. Даже если награжден к.-либо ученый, то упоминаются работы ученых, на которые он опирался. Так, по результатам Года науки и технологий в России, отмечен молодой биолог из Владивостока Сергей Дышловой. Свою работу он совершил на базе химических наработок коллег, которые исследовали структуру активных молекул.

Как тут не вспомнить недавнее создание биоробота в США. Этот эксперимент задал тон ученым из разных областей на долгие годы. Из стволовых клеток лягушки в 2020 году американские ученые создали новый организм (ксенобот). Это иной подход к воссозданию живого существа (а в перспективе - искусственного интеллекта), чем попытки создания ИИ на базе микропроцессоров. Ведь моделирование живого существа – тоже сложная задача. Компьютер использовался для программирования свойств будущего организма, и по этому проекту собирались стволовые клетки лягушки.

Важно, что дальнейшее поведение клеток вышло за рамки программы: они научились размножаться (создавать себе подобных!). Это еще начало: ксеноботы не умеют питаться энергией из внешней среды. Они живут за счет внутренних запасов, но это непринципиально: сколько семян, клубней, личинок (а также яйца птиц и рептилий) имеют такой способ «питания». Достигнуто многое, ведь размножение – одна из основных черт живого существа.

Интересно, что и в другом эксперименте со стволовыми клетками (в университетской клинике Дюссельдорфа в Германии), их поведение вышло за рамки предусмотренного учеными: выращенные в питательной среде клетки мозга отрастили себе зачатки глаз.

Итак, мы у истоков будущего искусственного разума? Будущее ИИ - не микросхемы, ни даже электроны, а биоинженерия и генетика? Использование клеток живых организмов - выход из тупика?

Похоже, с точки зрения сторонников подхода Стивена Вольфрама (а также различных эзотериков), живые клетки биороботов имеют больше шансов получить сознание от нашего Бытия, чем мертвое железо (микросхемы компьютеров), пусть последние и «оживлены» электротоком.

Если вскоре произойдёт прорыв к ИИ (а шансов на это сейчас видится как никогда много), то пора разрабатывать этику для общения с искусственным разумом. В общем, «с роботами не шутят».

#Годнауки #искусственныйинтеллект #ксеноботы #биоробот #стволовыеклетки

311221_Улан-Удэ_БРОДРФ

«Воспитание людей и роботов»
Философское мнение

Известна мысль: что из ребенка слепишь, тем он и вырастет (сбои в воспитании иногда считаются фатальными для общества, взять ту же Спарту или падение нравов в Древнем Риме). Например, еще в 1930-е годы в Иркутске построили Детскую железную дорогу, а в другом советском городе решили ее построить даже в разгар войны, понимая, что воспитание нельзя откладывать на потом.

И сейчас, чтобы держать школьников в курсе современных тенденций науки и техники, при школах вводят Точки роста. В рамках этой старой как мир, но актуальной концепции воспитания, во Владивостоке организовали экскурсии для старшеклассников в IT-институт ВГУЭС, где прошел День открытых дверей. В частности, юноши и девушки побывали в лаборатории интеллектуальных систем, посетили лекцию «Тренды IT». Тут сходятся разные смыслы.

Можно ли говорить о воспитании интеллектуальных систем, раз они и так во многом похожи на нас и, в каком-то смысле, тоже – дети человека? Ведь, человека формирует среда, в т.ч. воспитание.

Представим, что будет дальше. Правильно подобранная обучающая программа для компьютера - и мы вырастим ИИ даже на не очень совершенной базе? При этом в пользу появления ИИ сыграет ряд предполагаемых факторов: если сознание присуще материи как атрибут и если верна гипотеза Стивена Вольфрама.

Возможно, когда мы дадим такому компьютеру тело, выращенное из живых клеток (биоробот, ксенобот), то оно уже не сымитирует, а проявит мышление, поскольку есть теория, что разум поселяется только в антропоморфном теле.

#обучениеИИ #обучениемашин #философияобразования #искусственныйинтеллект
#обучениекомпьютера

020122_Улан-Удэ_БРОДРФ

«А может, они уже мыслят? Компьютеры и человек»
Философское мнение

Среди прочих пожаров в Иркутской области в эту новогоднюю ночь резко выделяется один – его вынесли даже в заголовок в новостного сообщения: «Ночью 1 января в Тулуне горел психоневрологический диспансер». И хотя там нет пострадавших (в отличие от прочих поселков области), понятно внимание иркутских журналистов именно к тулунскому ЧП.

Взаимоотношения общества и людей с «альтернативным взглядом на мир», чрезвычайно сложны и противоречивы.
А наука, будучи не в состоянии разобраться до конца в функционировании мозга, не может объяснить в полной мере и сбои в его работе. Как известно, лечение горстями психотропных таблеток до сих пор является одним ответом на семь бед в подобных заведениях.

Но сбои в работе естественного мозга нам помогут подступиться к выяснению разумности искусственного интеллекта. С помощью этого приема ярче видишь сходство между компьютером и нами. Если кто-то из критиков ИИ говорил, что машины не понимают смысла своих действий и речи, то, допустим, сумасшедшие люди тоже не всегда понимают подлинной семантики своей речи (бред).

Вспомним, что и мозг – это сложная система электрических импульсов, бегающих между нейронами – в принципе, тоже машина и тоже работающая на электричестве. Но откуда-то у нас берётся самоосознание?

Если сознание присуще материи как атрибут, тогда высокоорганизованная материя (люди, млекопитающие, компьютеры) приобретают мышление и сознание по воле нашего Мироздания – точнее, в нем уже заложена эта «опция» (автоматическое подключение разума, благодаря тому, что оно и так уже присутствует). Эволюционное древо животных с его постепенным развитием нервной системы, подтверждает эту догадку.

По этой логике, искусственный интеллект (ИИ) уже создан. Просто его разумность пока не доведена до более высокого уровня. И надо еще поработать над усовершенствованием компьютеров, чтобы разум более явственно воплотился в их электронных мозгах.

#искусственныйинтеллект #СтивенВольфрам #компьютерныйразум #сознание #материямыслит #атрибутматерии

100122_Улан-Удэ_БРОДРФ

«Как машину-администратора научить гуманности?»
Философское мнение

Как искусственный интеллект научить гуманности?
Вопрос не праздный, поскольку, в Китае уже появился ИИ, обученный выполнять работу прокурора и выносить приговоры, да еще с точностью в 97 %. В сообщении, правда, не сказано, какая точность у людей-прокуроров…

Интересно, что это спецпрограмма, которую можно поставить на обычный компьютер. Обучали ее на 17 тыс. случаях.
Вспомним девиз: “Советский суд - самый гуманный суд в мире”.
Ведь умение машины мыслить на уровне функционально неграмотного человека (школьного зубрилы) – вряд ли есть признак разума. Поэтому для проверки машины на разумность, речь стоит завести о другого рода понятиях: милосердие, гуманность и т. п.

Итак, суть экспертных систем (ЭС) – в программе, составленной человеком и реализованной на обычном компьютере. Их называют еще интеллектуальными системами. ЭС применяются в торговле, подборе деталей в сервисе или производстве. Я составлял проект ЭС по комплектующим к ПК в еще 2000 году. Это ни в коем случае не искусственный интеллект (ИИ), в виду хотя бы узкой специализации, отсутствия кругозора и баз данных об окружающем мире. ЭС не понимают, что делают и не могут понимать, так как в них нет ничего лишнего, кроме алгоритма и необходимых к нему данных.

А если подключить мощные спецкомпьютеры для расчета оптимального уровня снабжения населения? Для нестандартных случаев – предоставить возможность гибкого (вариативного) ответа – для каждой конкретной ситуации. А для самой возможности правильного ответа системы нужна база данных по самым разным отраслям знаний. В нашем примере, нужны в первую очередь данные по демографии, по социальной сфере, чтобы стало ясно, кому вне очереди доставлять продукты (например, малоимущим). На первый взгляд – это та же автоматика.

Но объемы данных, которыми оперирует описанная выше компьютерная программа – гораздо больше обычных ЭС (напомню: туда загружены самые разные отрасли знаний, включая историю, сведения по этике и т. д.). В результате, поведение такой гипотетической ЭС максимально приблизится к человеческому, а именно - к поведению ответственного и более того – отзывчего и душевного чиновника. Не бюрократа. Который и вдову с сиротами вперёд других накормит, и еще слова ласковые скажет. С одной стороны это будет дисциплинированный ИИ, а с другой - иногда нарушающий жесткие инструкции, чтобы сымитировать гуманность. Вполне возможно, его поведение будет выглядеть мудрее деятельности многих чиновников.

И это будет ИИ с человеческим лицом - едва ли не в буквальном смысле выражения. А можно и в буквальном – с телом антропоморфного биоробота.
Всё что описано выше – имитация обучения живого существа. Или это и есть обучение?

#постройкаЭС #экспертныесистемы #искусственныйинтеллект #компьютеручится #обучениеИИ

110122_Улан-Удэ_БРОДРФ

«На пути к ИИ: Тупики и новые горизонты»
Философское мнение

Пора определиться с терминологией. Пока нет доказательств, будем считать, что искусственного интеллекта (ИИ) на Земле еще нет. И употребляющееся словосочетание ИИ для существующих систем – это не научный термин, за ним стоят программы, основанные на прикладных программах. Более того, даже сложные программы на специализированных компьютерах – это вряд ли еще ИИ (тест Тьюринга не пройден и ряд прочих соображений).

Человечество в деле создания искусственного интеллекта (ИИ) на базе только традиционных компьютеров, подошло к пределу своих возможностей. Задача создания ИИ еще не решена, но частично преодолён тупик, стоявший перед нами лет 40-50 назад. За это время люди поняли, насколько даже простые схемы могут имитировать сложное поведение. А если речь идет про ныне действующие компьютеры, то уже давно часть мыслителей говорит о каком-то присущем им «сознании». Оставим пока этот вопрос и отступим на шаг назад.

Итак, медики и нейробиологи, изучая мозг, поняли, что он «бесконечно» сложен для создания адекватной ему модели ИИ.

Но с точки зрения функционального подхода, человечество добилась значительных успехов по сравнению с состоянием науки в 1960-е годы.

Тогда казалось, что мы находимся в полном тупике в деле создания ИИ: уже было известно, что мозг невозможно повторить на уровне микросхем, но и новая теория символицизма запрещала программирование сложного поведения на простой базе.

Понятно, что в этом отношении символицизм потерпел крах, хотя с ним и ассоциируется такая личность как лингвист Ноам Хомски, который способствовал становлению когнитивизма.

Теперь все новые и новые интеллектуальные системы радуют пользователей. Например, нейросети позволяют писать тексты. Они намного проще реальной сети нейронов в мозгу, но на выходе дают вполне связный текст.

Возможно, часть ученых – сторонников идеи ИИ, торопятся с приписыванием сознания машинам, поскольку качественный барьер еще не пройден. Нейросети не могут понимать всего, сказанного человеком.

Современные компьютеры – это, скорее, все еще продвинутые калькуляторы (последние тоже можно запрограммировать). И что толку, что компьютерная программа пользуется базами данных? Это по сути те же счеты, на которых человек вычисляет в абстрактных числах.

Да и весь Интернет, по одному меткому выражению – это лишь бесконечно усовершенствованный телеграф.

#искусственныйинтеллект #нейросеть #компьютерсознание #искусственныйразум #конгнитивизм #символицизм

120122_Улан-Удэ_БРОДРФ

«Предел сложности компьютеров»
Философское мнение

В Иркутске в 2022 г. появится новый центр цифрового-образования "IT-куб" в рамках нацпроекта "Образование". Создание такой федеральной сети центров - в самый раз, поскольку изменения в IT-сфере происходят постоянно.

Так, недавно появилась новость, что новая нейросеть GPT-3 мощнее предыдущего второго поколения GPT-2 в 100 раз. Принцип работы нейронных сетей основан на имитации взаимодействия нейронов в нашем мозгу.
Нейросети распознают лица или моделируют экономику. Они могут дать связный ответ и даже дописать, начатый человеком текст, но конечно это очень отдаленная модель мозга. Даже моделирование работы миллиона нейронов требует мощных компьютеров.

Дальнейшая миниатюризация микросхем может отчасти решить проблему имитации сети живых нейронов. Это квантовые компьютеры. Лично я практически не верю, что на этом пути наше сознание удастся скопировать на другой носитель (как сделали в сериале «Мир Дикого Запада» с клиентами парка).

Но кроме технологического предела (который, как видим, можно отдалить), есть человеческий предел в деле создания ИИ, который отчасти упирается тоже в несовершенство компьютеров. Мы не сможем, пусть и с помощью машины, рассчитать всё количество нейронных связей в нашем мозгу, чтобы повторить их на электронном носителе, пусть там будет столько же элементарных частиц, как и нейронов.

По уровню сложности эта задача может быть вполне соотнесена с другой: невозможно построить компьютер, который может рассчитать точную копию окружающего мира. Это известный в физике парадокс, точнее мнимый парадокс, более популярно изложенный Станиславом Лемом в одном из рассказов, где такая машина не в состоянии предсказать собственное уничтожение (ведь знание точной модели Вселенной предполагает и знание ее будущего).

Таким образом, модельный подход к созданию ИИ представляет собой крайне сложную задачу (причем уровень сложности не вполне понятен). Итак, построение электронного аналога мозга человека невозможно примерно по той же причине, что и построение модели Вселенной.

#квантовыекомпьютеры #искусственныйинтеллект #компьютерныйразум #сознаниеИИ #нейросеть

130122_Улан-Удэ_БРОДРФ

«Электронный судья и адвокат. Кто кого?»
Философское мнение

Недавняя новость об IT-прокуроре из Шанхая взбудоражила общественность. Так, известный блогер и публицист Сергей Переслегин предположил, что речь идет об электронном судье, а не прокуроре. И привел аргумент в пользу внедрения искусственного интеллекта в судебные тяжбы, т.к. знание всех законов требует огромного количества времени для юриста, а компьютер с формальной стороны дела конечно более эффективен. Но кто возьмёт ответственность за судебную ошибку?

Так, читинская компания ТГК-14, использует дорогих юристов для решения споров с возмущенными жителями, требующими перерасчета за тепло (а также судится с СМИ), причем, крайне неэффективно, поскольку суды практически всегда встают на защиту жителей и журналистов. А если и судья и адвокаты будут компьютерными программами?

На фоне долгих судебных тяжб, спорных судебных решений по всей России, замена людей на компьютерные программы в юриспруденции видится решением всех этих бед.

Вот только кто гарантирует неприкосновенность их программ для вмешательства заинтересованных лиц? А то получится как в последней новелле фильма «С роботами не шутят»: люди, принимавшие решение о казни человека, оказались роботами, но их настраивали люди.

#ITпрокурор #электронныйсудья #искусственныйинтеллект #компьютерюрист #ТГК14адвокаты

180122_Улан-Удэ_БРОДРФ

«Вторая сигнальная система человека и построение ИИ»
Философское мнение

В Амурском Краеведческом музее открылась выставка «Волшебный скрип пера», посвященная истории письма: системам письменности и счета разных народов и т. д.

Не следует недооценивать значение письма в развитии второй сигнальной системы (нашей речи). Ведь в отличие от инстинктов, устная передача знаний обычно неточна – многочисленные искажения (вплоть до полного затухания) исторических событий в мифах и эпосах тому подтверждение. И для адекватной передачи информации от второй сигнальной системы, нужна письменность. А уже способ ее построения принципиально не важен: научившись однажды выбивать зубилом знаки на камне, человек фактически научился записывать данные, в том числе, при помощи сети электронов.

Но способ передачи информации важен в построении искусственного интеллекта. Человек, прочитавший книгу, может понять мысли и чувства писателя – у него такой же мозг; чего не скажешь о компьютере.

Существует также понятие третьей сигнальной системы человека – его субъективный мир, где он переживает образы и знаки сознания, сформированные второй сигнальной системой. Естественно, для точной передачи этих знаков и образов, нужна адекватная система письма, а также эффективные носители информации. И с этим до сих пор проблема. Потому и существуют большие сомнения относительно возможности построения настоящего искусственного интеллекта.

Если мы не можем адекватно передать наши образы и даже знаки (их семантику) машине, с чего нам ожидать от нее разумности, подобной нам?

#письменность #историяписьма #искусственныйинтеллект #третьясигнальнаясистема #выставкаписьма #амурскийкраеведческиймузей

230122_Улан-Удэ_БРОДРФ

«Цифровизация мира и компьютерная симуляция»
Философское мнение

Итак, в России с 1 января наступила тотальная цифровизация. Слово громкое и за ним, конечно, имеется в виду не то, о чем спорят философы, психологи и любители фантастики. Речь в новости идет о сфере оборота древесины, что привело к параличу отгрузки пиломатериалов. Но факт остается фактом – IT-технологии наступают, цифровизация (пусть и в такой прикладной форме) расширяется.

Конечно, внесение в реестр фотографий пеньков и их электронное моделирование - разные задачи. Но создание цифровой визуальной копии окружающего мира, неотличимой для нашего зрения от реальности, - не такая невозможная задача как построение полной копии мира.

Таков отцифрованный Лос-Анджелес 1930-х годов в кинокартине «Тринадцатый этаж». Пока главный герой не выехал на границу симуляции, он не ощущал никаких отличий от реальности (его сознание и весь пейзаж были на компьютере). В связи с этим вспоминается мысленный эксперимент аналитической философии «Мозги в бочке», согласно которому мозг человека, помещенный внутрь искусственной реальности, скорее всего никак не сможет проверить ее реальность. Но всё это фантастика. Допустим, для визуального обмана нашего мозга нужно видео с очень высоким разрешением. Но как имитировать тактильные и прочие ощущения? И уж совсем невозможно скопировать наше сознание на компьютер…

Тем удивительнее окончание второго сезона мини-сериала «Молодые и сильные выживут». Финал намекает, что все герои попали в компьютерную симуляцию окружающего мира… То есть их сознание было отцифровано?

Итак, в фильмах и сериалах (особенно в Westworld) проблема цифровизации мира и нашего сознания - решена, словно это дело ближайшего будущего. Но это совершенно не так. Ведь если имитация человеческого мышления, в каком-то смысле уже создана (все эти нейросети, чьи ответы трудноотличимы от человеческих), то задача перенесения нашего сознания на какой-либо искусственный носитель не просто неразрешима – мы не можем представить как вообще это возможно на нынешнем уровне развития техники.

Но если в фантастике описывается далёкое будущее, тогда такая симуляция вполне возможна. А для «Молодых и сильных», правда, остается одна лазейка: если этот искусственный интеллект под названием «Оптима» - есть порождение не нынешних ученых, а какой-то другой цивилизации: инопланетной, либо предшествующей нам высокоразвитой цивилизации Земли.

Да, неведомые нам технологии могут всё, поскольку мы не знаем, на что они способны. Но мы точно знаем, на что мы не способны. Так что пока нет человеческого ИИ, могущего создать правдоподобную симуляцию мира, а тем более поместить нашего сознание внутрь искусственного носителя информации.

Тем не менее, немало работ в области философии сознания бьются над этой и смежными проблемами. В частности, в книге философа Дэвида Чалмерса «Сознающий ум» рассмотрены условия, при которых физические процессы порождают сознание. Недаром в современной философии немало споров вызвала идея философского зомби (гипотетической полной копии человека, но не имеющей сознания).

С этим тесно увязана «Трудная проблема сознания» и наличие понятия квалиа – нашего чувственного восприятия – то, чего нет (скорей всего нет) у компьютера, но почему-то присуще каждому человеку…

#цифровизация #симуляция #компьютерноемоделирование #искусственныйинтеллект #ITресурсы #емкостьЭВМ

240122_Улан-Удэ_БРОДРФ

«Обзор ушедшей эпохи и трансгуманизм»

Кажется, эпоха «ковид-19 – QR-коды – вакцины» стремительно отошла в прошлое.

События развиваются все стремительнее. Если раньше весна 2020 обнулила многое, то теперь считанные недели изменяют мир кардинально: новости и привычные установки устаревают все быстрее.

Стоит сделать ретроспективу на два года назад - к истокам масовой истерии ковид-безумия.
Весной 2020 года на фоне первого всероссийского локдауна знаменитый Никита Михалков рассказал о связи микрочипов из будущих (на тот момент) ковид-вакцин и вышках 5-G.

Так бы я уже и не вспомнил о том бреде, но сравнительно недавно (не более месяца назад), один блогер вышел на тему микрочипов в вакцинах. И ладно бы остановился на них. Но зачем-то приплёл такое понятие как сеттлеретика. А эта новомодная вещь выходит на трансгуманизм.
Причем речь о радикальной версии трансгуманизма, связанной не с биологией (нахождением гена, отключающего старение), а с переселением сознания в компьютер. Конечно, есть люди, кто их критикует.

И ладно бы радикальное крыло трансгуманистов увлекалось фантастикой или строило философию иммортализма (вечной жизни) относительно далёкого будущего. Но нет, они утверждают, что уже в наше время происходит перезапись их сознания на электронные носители...

Далее речь шла о перезаписи нашего сознания как угрозе на данный момент, т.к. перезапись якобы делают эти самые микрочипы в вакцинах; 8 млрд нейронов, составляющих наш мозг якобы копируются…

В свете того, что я писал до этого о нерешённой проблеме создания искусственного разума, это даже не авантюризм или заблуждение, а чистой воды мошенничество, причем для лиц с кругозором намного ниже среднего. Это всё связано с невозможностью воссоздания аналога мозга на электронном носителе, проблемой квалиа и «разрыва в объяснении». Есть нейросети, есть системы, имитирующие работу нейронов, но они крайне примитивны (по сравнению с мозгом человека). И, по моему мнению, они вообще ничего не чувствуют и не понимают – это те же калькуляторы или счеты, но «на электрическом ходу».

А дезинформация о чипах в вакцинах в 2020 г. была, судя по всему, преднамеренной, в целях дестабилизации, чтобы посеять как можно больше раздоров и паники.

Но прочие СМИ тоже гонят информ. волну: даже в респектабельном МК в заголовок вынесли термин "Телепортация сознания", хотя речь в статье вовсе не об этом.

Итак, кому-то выгодно погружать человечество в иллюзии, пользуясь легковерием значительной его части. Пугают (или соблазняют бессмертием) тем, до чего наука если и дойдет, то очень не скоро.

#сеттлеретика #трансгуманизм #разрыввобъяснении #квалиа #труднаяпроблемасознания #искусственныйразум #имитациямышления #искусственныйинтеллект

090322-Улан-Удэ-БРОДРФ