💥#ИИ
⚡️ГОЛОСОМ24НОВОСТИ

Большие начальники рассуждающие о том, что #ИИ (искусственный интеллект) заменит людей и будет принимать решения в различных сферах, от "образовательных траекторий развития, медицины и до судебных", как правило сами даже не в ладу с обычным компом, не говоря уж о программировании и знании хоть одного пригодного для этого языка.
Тем не менее, мы постоянно слышим, как они болтают своим, произнося заумные фразы на различных "брифингах, завтраках, ужинах и прочих форумах", для слушающих их таких же, как они сами.

В своих речах, они удивительно уверенно рассказывают, какие возможности нам открывает цифровизация и трансформация всего чего угодно и как не надо будет ничего решать и думать. При этом они почему, то не способны даже осознать простой факт, что в том будущем, которое они готовят нам, в первую очередь станут не нужны они сами!

Между тем, настоящие специалисты, отмечают подозрительные тенденции в саморазвитии созданных уже программ.

Например программа DALLE-2 (в сети есть даже ее художественные работы), создала свой секретный язык.

#DALLE-2 — это нейронная сеть, «обученная» исследовательской компанией OpenAI генерировать реалистичные изображения и искусство из текста.

Машина даже научилась правдоподобно комбинировать несвязанные понятия и создавать антропоморфизированные версии животных и объектов.

Это приводит нас к выводу, что даже сами программисты, использующие ИИ с машинным обучением часто не знают точно, как их алгоритмы решают проблемы, с которыми они сталкиваются.

Также с DALLE-2: не совсем ясно, какие процессы происходят внутри этого «черного ящика».

Система DALLE-2 может возвращать бессмысленные несуществующие слова, больше похожие на набор букв и сначала казалось, что это баг, но далее стало понятно, что последовательность букв не случайная, а некий язык DALLE-2
Загрузив слова на "машинном языке", получили ответ в виде картинок:
💬«Apoploe vesrreaitais» означает «птицы».
🗯«Contarra ccetnxniams luryca tanniounons» означает насекомых или вредителей.

Беспокоит то, что используя языка машины теперь может обойти фильтры безопасности и применить нейросеть для генерации запрещенного контента.

☝️Таким образом, от имени ИИ выдавать решения и свои установки может кто угодно, причем остановить или даже определить это будет весьма трудно или слишком поздно!
@golos_grajdanina

Чат @golosgrajdanina
Новости @Golosom24
@Golosom24digest