Малоизвестное интересное
64K subscribers
91 photos
1 video
11 files
1.8K links
Авторский канал Сергея Карелова о самом важном на фронтирах науки и технологий, что кардинально изменит людей и общество в ближайшие 10 лет.




Рекламы, ВП и т.п. в канале нет.
Пишите на @karelovs
加入频道
Надеюсь, в 2020 это открытие не только станет широко обсуждаемой сенсацией, но и:
- положит начало научной революции в экономике, социологии и психологии;
- запустит кардинальный пересмотр многих практических направлениях, связанных с принятием решений и оценкой рисков.
Наука, наконец, откажется от концептуально упрощенной трактовки вероятности без учёта фактора времени.
Технологии больших данных пересмотрят существующие подходы их анализа, основанные на вероятности больших ансамблей.
Бизнес кардинально поменяет методики анализа рисков и прогнозирования для большинства видов человеческой деятельности.
И все мы будем вынуждены переосмыслить отношение к случайностям, из которых, собственно, и состоит наша жизнь.

Все это может произойти потому, что даже математически выверенные ожидания, базирующиеся на ансамблевых средних значениях - от выигрыша в казино до выгодности страховки, - оказываются ошибочными, если не учитывать фактор времени.

А может никакой такой революции не произойдёт: ни в 2020, ни даже через 3, 5 или 10 лет. Ведь человечество неоднократно доказывало, что способно веками прекрасно уживаться с наивными и несовершенными представлениями о мире. Что солнце вращается вокруг неподвижной земли, что камни не могут падать с неба, да и мало ли ещё было … ((

Но все же не думаю, что снова случится подобное. Слишком уж разогнался ход времени, чтобы продолжилась и дальше 300 летняя практика его неучета при оценке вероятности выигрыша в случайных процессах.

Кем бы вы ни были по профессии, и какова бы ни была сфера ваших интересов, данная тема - одна из самых важных. И разобраться в ней обязательно надо. Но это не просто. Чтобы объяснить на примерах, что здесь к чему, мне пришлось написать лонгрид на 19 мин чтения, да еще и с 20 картинками:
- на Medium https://bit.ly/3IAKJ4k
- на Яндекс Дзен https://clck.ru/L6YrP

И кстати. Если даже такая тема вас не заинтересовала и нет желания читать дальше (мол, время жалко), - вы правы! Не тратьте больше свое драгоценное время и смело отписывайтесь от этого канала.
В мире ведь так много другого - общеизвестного неинтересного.
#Вероятность #Эргодичность #ПринятиеРешений
Когнитивные иллюзии ведут к когнитивным ловушкам.
Начинается переосмысление: ИИ - это неизбежность, а не панацея.

Редакционная статья Nature «Почему ученые слишком доверяют ИИ - и что с этим делать» [1] впервые на столь высоком научном уровне кардинально смещает фокус видения ИИ-рисков для человечества:
Колоссальная и уже сейчас вполне реальная опасность развития ИИ-технологий - отнюдь не попадание людей под пяту Сверхразума, и влияние на наш разум этого супер-инструмента расширения когнитивных возможностей людей.

Также было и при освоении человеком огня: первоначальное примитивное понимания рисков смещалось по мере развития технологий использования огня: от риска ожога и сгоревшего шалаша к рискам огнеметов, напалма и хиросим.

С ИИ рисками происходит подобное, только много быстрее: от рисков несогласованных с людьми целей ИИ к рискам когнитивных иллюзий, - наших иллюзий, а не ИИ, - но миллиардократно им усугубленным.

Опираясь на данные антропологии и когнитивной науки, исследователи университетов Йеля и Принстона первой среди таких иллюзий называют иллюзию понимания (иллюзию глубины объяснения), когда люди, полагаясь на ИИ, считают свои знания глубже и точнее, чем на самом деле [2].

Итогом этого становятся когнитивные ловушки. Степень катастрофичности которых зависит от «впаянности» когнитивной иллюзии в нашу когнитивную практику и от её институализированности в научном дискурсе.

Об одной из самых поразительных когнитивных иллюзий, в плену которой человечество пребывает уже более 300 лет, я писал в лонгриде «300 лет в искаженной реальности» [3].

Новый лонгрид «Ловушка неэргодических целей. Самый технопродвинутый путь к катастрофическим решениям» - , как и следует из названия, о потенциальных катастрофических последствиях превращения, при применении ИИ, этой самой накрепко впаянной в нас когнитивной иллюзии в колоссальную когнитивную ловушку.

P.S. Не удивляйтесь, что этот и последующие мои лонгриды теперь на Boosty и Patreon
https://www.patreon.com/user?u=121753727
https://boosty.to/theworldisnoteasy
Иного способа понять, стоит ли время на написание лонгридов реального интереса к ним со стороны 140 тыс моих бесплатных подписчиков на 4-х существующих платформах, у меня нет.
Кроме того, для подписчиков на Boosty и Patreon:
• Открыт ТГ-чат для комментариев и обсуждений, где я планирую отвечать на вопросы читателей.
• Также планируется рассылка несколько раз в год тщательно отобранных подборок моих откомментированных текстов в виде электронных книг.
• Позже есть мысли сделать и подкаст


Так что, добро пожаловать в клуб «Малоизвестное интересное»!

И спасибо всем за поздравления с ДР!
😊

1 https://www.nature.com/articles/d41586-024-00639-y
2 https://www.nature.com/articles/s41586-024-07146-0
3 https://yangx.top/theworldisnoteasy/953
#Вероятность #Эргодичность #ПринятиеРешений