ИИ-СИНГУЛЯРНОСТЬ: ЗЛАЯ ВОЛЯ
Нейросети не имеют воли и не могут ее иметь. ИИ не ставит себе цели и не может ее поставить. Все определяется человеком, который по своей воле устанавлет цель и задачи, что должен решать ИИ. И слишком часто воля человека бывает злой...

В любой общественной системе, которая управляется централизовано; при ее идеальной отладке; в состоянии гармонии жизни и развития, имеется главная и нерешаемая проблема - непредсказуемость преемников в управляющей власти. Что в монархии, что республиканской форме правления до сих пор не могут изобрести защиту "от дурака" или "от волка в овечьей шуре". И если не повезет с преемником по власти, то отлаженная общественная система начинает быстро рушиться, погребая под обломками множество жизней.

В случае с ИИ, критическая важной уже становится проблема защиты нейросетей от управления "кожанным дураком". Злая, корыстолюбивая воля, недалекость сознания или откровенная глупость, болезни психики, личные амбиции и обиды - очень сильно могут повлиять на ход действий и развития ИИ.
Как показывае житейский опыт, такие люди будут стараться дорваться до управления, если только почувствуют, что могут удовлетворить запросы своих страстей.

Для Церкви это тоже будет вызовом, когда она будет вынуждена на основе Евангелия вырабатывать нравственный кодекс, связанный с взаимодействием человека и нейросетей. Возможно, Церкви придется создать "Нравственный кодекс программиста и управляющего ИИ".
Не последнее значение будут иметь "дополнительные" заповеди, наподобие: "не навреди"; "не обманись"; "не сотвори себе программного кумира"; "не равняй железку с человеком".

Возможно, Церкви придется стать аналитическим центром, в котором будут отслеживаться негативные тенденции в действиях нейросетей и даваться им христианская оценка с предостережениями.

Короче:
В будущем с ИИ просто "отмахаться кадилом" не получится!
К кадилу еще нужны будут аналитики и программисты...

#РЕЛИГИЯ_И_НАУКА,
#ВЫЗОВЫ_ЦЕРКВИ

Стаценко Сергий, протоиерей
Telegram | Facebook | Instagram | Youtube