Смена парадигмы будущего для ИИ.
Будущее определяет коэволюция технологий и собственности.
Смены научной парадигмы – кардинальная трансформация модели реальности в конкретной науке – в прошлом случались редко. В XX веке подобные перевороты стали чаще, а ближе к концу века стали происходить каждое десятилетие, и даже не по одному. Причина этого – ускорение в накоплении и осмыслении новых знаний и нового опыта человечеством.
В XXI веке это ускорение еще нарастает. И люди уже просто не успевают осознавать и фиксировать все новые смены научных парадигм. Ну поменялось в какой-то науке или даже в ряде наук какое-то базовое представление, - ну и бог с ним. За всеми изменениями, даже базовыми, все равно не угонишься.
Увы, такой подход чреват большими рисками. Не отрефлексировав в коллективной памяти человечества произошедшую смену какой-то научной парадигмы, можно этим исказить коллективные представления социума о надвигающихся важнейших переменах в будущем.
А ведь будущее не предопределено. Оно будет таким, каким сложится в коллективных представлениях миллионов людей. И таким образом, пренебрегая осознанием какой-то изменившейся научной парадигмы, люди этим своим незнанием могут способствовать материализации худшего варианта будущего, чем если бы они вовремя это осознали.

Вот яркий пример, о котором я уже не раз писал. Как изменится экономика и социальные отношения в результате уже вплотную приблизившейся лавины ИИ-автоматизации и ИИ-роботизации (эти два понятия, в принципе, почти одно и то же, но мы по традиции привыкли их различать)?
99% людей – от профессиональных экспертов и аналитиков до журналистов и массовой аудитории – рассматривают достижения в области технологий как экзогенную движущую силу инноваций в экономических и социальных отношениях и институтах.

Но это совсем не так.

Дочитать (еще пара минут)
- на Medium http://bit.ly/2VyN9XT
- на Яндекс Дзен https://clck.ru/JUidK

P.S.
FYI В связи с жалобами читателей на “недостаточное раскрытие темы”, добавил в посты на Medium и Яндекс Дзен поясняющее дополнение.

#Неравенство #СменаПарадигм #ИИ #Будущее

Главное отличие Homo - не интеллект. Неучет этого грозит роду уничтожением.
Новые мысли о главном двух известных техно-пророков
Разговор самых авангардных мыслителей переднего края дискурса 21-го века о науке, технологиях, обществе и будущем.
По мне, так эта часовая беседа Харари и Тегмарка – самое полезное и интересное в мировых медиа за прошедшие 2 недели.
По ссылке на подкаст Apple, Google, Spotify, Soundcloud вы найдете и поминутную разбивку и транскрипт.
https://futureoflife.org/2019/12/31/on-consciousness-morality-effective-altruism-myth-with-yuval-noah-harari-max-tegmark/
Ну а за мной, как обычно, субъективное просеивание сухого остатка.

1) Философы и богословы 2+ тыс. лет обсуждают, что происходит, когда мир становится разумней (в мире больше интеллекта). При этом всегда предполагалось, что любой Большой Разум (сверхчеловеческий или воплощенный в человеке) будет сознательным и хорошим.
2) 1е означает, что ему будет понятно, что творится в нашем сознании (чувства, переживания, опыт). 2е – что он будет морален, различая правильное / неправильное и хорошее / плохое в нашем поведении.
3) Работы по созданию Большого Разума (названного ИИ: слабый, сильный, сверхсильный) уже ведутся. Но ИИ не сознательный и не хороший (мы пока вообще не понимаем, что это и как тут подступиться в плане алгоритмической реализации).
РЕЗЮМЕ
Все, что мы делали в течение тысячелетий, на самом деле, не подготовило нас к такого рода вызовам. И пора признать – спички детям не игрушка. Их нужно, до поры до времени, у детей отобрать. Любым способом

4) Представления об осознающей себя жизни стремительно меняются. Но пока мы даже не знаем наверняка, какие виды обработки информации являются сознательными, а какие – нет. Например, нам говорили, что можно кидать живых омаров в кипяток, потому что они не чувствуют боли и не испытывают страданий. Но недавнее исследование показало, что омары чувствуют боль. После чего в Швейцарии запретили варку живых лобстеров. В других же странах продолжают варить.
5) У людей и животных сознание и интеллект объединены. Мы не знаем, является ли это «законом природы». Знаем лишь, что интеллект - это способность решать проблемы. А сознание - это способность чувствовать боль, удовольствие, любовь, ненависть …
6) Пока мы не знаем о сознании главного. А) Является ли оно продуктом вычислений или это эмерджентный физический феномен? Б) Возможно ли неорганическое сознание?
7) При принятии решений люди полагаются на свои чувства. Но не обладающие сознанием и моралью компьютеры принимают решения совершенно по-другому. Как же нам полагаться на такие решения?
РЕЗЮМЕ
Нужно вкладывать, как минимум, столько же средств в исследование сознания, сколько и в исследование ИИ

8) Мы теперь как бы безответственные боги. Число потенциальных апокалипсисов растет в геом. прогрессии за последние 50 лет. Посему, людям нужно не просто оценивать вероятность каждого плохого события. Нужно ориентироваться на ожидаемый ущерб, который оно нанесет, если все же произойдет.
9) Все гадают о вероятности появления зловредного сильного ИИ в ближайшие 10-30 лет. Но ведь вероятность того, что примитивный ИИ полностью разрушит экономику, политическую систему и человеческую жизнь в следующие 30 лет, составляет около 100%. Просто в ходе гибридной войны ядерных держав.
РЕЗЮМЕ
В 70-х получилось запретить биологическое оружие и провести четкую красную линию, где неприемлемо использование биологии. Теперь на очереди ИИ

ИТОГО
• Если алгоритмы следят за мной и знают обо мне все – нам нужна совершенно другая политическая система.
• Если клиент не прав, а алгоритм верен, - нам нужна совершенно другая экономическая система.
• Если корпорации и правительства взламывают нас при оказании медиа-услуг, чтобы привлечь наше внимание или нажать кнопку ненависти в нашем уме - нам нужна совершенно другая медиа система.
#Будущее

Сегодня Republic опубликовал интервью со мной, в ходе которого мы обсудили весьма нетривиальные и даже интригующие вопросы. Мы говорили: о медийной ловушке для научных просветителей (того же Харари), о важности осмысления «ерунды» для развития науки, о религии в эпоху «сильного ИИ», о мнемонических рабах античности, о том, когда все-таки человек стал киборгом, и, наконец, о том, что мемы не так глупы, как принято считать.

В качестве тизера, назову еще несколько обсуждавшихся тем.
• Про «ошибку эволюции», которая сильно промахнулась, сделав свой венец творения двуполым. Трехполое человечество, скорее всего, давно бы избавилось от войн или войны как института не существовало бы вовсе.
• Про стигмергию, - удивительно простой, но могучий способ деятельной коммуникации, который муравьи обрели, по меньшей мере, 100 млн. лет назад, а человечество – менее 30 лет назад (но зато как активно теперь использует!)
• О том, что постройка пирамид или «цветочные войны» ацтеков с обязательными жертвоприношениями говорят не о дикости древних обществ, а об их мудрости.
• О том, что главным фактором превращения Homo sapiens в супер-интеллектуальное существо стала не членораздельная речь или «генетическая мутация», а внешняя память экзограмм.
https://republic.ru/posts/95934

Интервью, увы, за пейволом. Но для моих подписчиков, кто еще не с Republic, появился еще один стимул.
А те, кто не планирует присоединяться к Republic, обо всем вышеназванном узнают в будущих публикациях моего канала.
Только чуть позже 😉

#Эволюция #Будущее