База медицинских знаний
383 subscribers
603 photos
33 videos
62 files
2.23K links
Канал Ассоциации "Национальная База Медицинских знаний" (www.nbmz.ru). Дайджест и новости о современных технологиях в практическом здравоохранении и его "цифровой трансформации". Контакт: @AndreiAlmazov
加入频道
Ошибки ИИ хуже преступлений.
Когда они неподконтрольны и неисправимы.

Это главная современная проблема человечества при использовании ИИ.
Как только ИИ перестает быть инструментом (повышающим скорость и эффективность решений людей) и автоматизирует (полностью берет на себя) выполнение каких-то функций, люди оказываются в ловушке. Большинство ошибок современных автономных ИИ систем практически неподконтрольны и неисправимы.


Представьте, что банкоматы время от времени не выдают вам деньги, а лишь списывают с вашего счета средства с пометкой о якобы произошедшей выдаче наличных. При этом реальных способов опротестовать этот ужас и вернуть свои деньги нет.

Если это пока не происходит, то лишь потому, что банкоматами пока что не управляет ИИ, принимающий решения о выдаче наличных.
А вот решения о штрафах на дорогах система уже принимает самостоятельно. И результат известен любому водителю. Можно, конечно, судиться. Но кто пробовал, знает, насколько это бесперспективно.

Практически всюду, где люди переложили на ИИ ответственность за принятия решений (автоматизировали этот процесс), подобное происходит налево и направо.
• Более 20 000 случаев ложных обвинений людей алгоритмом MIDAS в мошенничестве с пособиями по безработице.
• А вот пример работы алгоритма RealPage, отвечающего на проверку надежности потенциальных арендаторов:
- кража со взломом и домашнее насилие в Миннесоте;
- продажа метамфетамина и уклонение от залога в Кентукки;
- вождение без страховки в Арканзасе;
- в еще хулиганство, кража, ложь полицейскому, множество обвинений в наркотиках и какие-то «неуточненные преступления».
И вся эта 100%ная ложь и ахинея – результат работы алгоритма RealPage, отказавшего в аренде Саманте Джонсон. А таких как она - ошибочно оклеветанных алгоритмом, - тысячи.
• Людей арестовывают по ложному совпадению распознавания лиц.
• Люди теряю критический доступ к медицинским пособиям.
• Алгоритмы распределения больничных коек ставят в очереди здоровых пациентов выше больных.
• ИИ неправильно распределяют рецепты, неправильно интерпретируют медицинские снимки, неправильно ставят диагнозы …
Проблема не в том, что ИИ системы ошибаются. Все системы могут ошибаться.
Проблема в том, что по большинству протоколов внедрения и эксплуатации ИИ систем, их ошибки остаются практически неподконтрольными и неисправимыми.

✔️Именно функциональность ИИ систем - сегодня главная проблема политики в области ИИ.
✔️Именно функциональность ИИ систем должна быть первым шагом в защите конкретных людей и всего общества от алгоритмического вреда при их внедрении.
✔️Сегодняшние главные приоритеты при внедрении ИИ - справедливость, подотчетность и прозрачность, - являются вторичными приоритетами.
✔️Главным приоритетом внедрения ИИ должна быть его функциональность.


Подробней в одном из центральных докладов крупнейшей международной организации в IT «Ассоциация вычислительной техники (ACM)», посвященной справедливости, подотчетности и прозрачности ИИ.

Хотя бы взгляните на перечень из 207 ссылок этого исследования, отсылающего к вопиющим примерам ошибочных решений алгоритмов ИИ, которые люди годами пытаются опротестовать по суду.
https://doi.org/10.1145/3531146.3533158
#ИИ
Forwarded from Medical Ксю
#инновации #медтех #ихнравы #ПМП

В США создан пластырь для УЗИ-диагностики на дому

Ученые из Массачусетского технологического института (MIT) изобрели пластырь, который способен заменить оборудование для УЗИ. Один из создателей устройства, Сюаньхэ Чжао, считает, что миниатюрное устройство сможет упростить доступ к процедуре. Ученые хотят доработать изобретение, чтобы его можно было использовать как носимый гаджет для постоянного мониторинга здоровья.

Для создания ультразвукового датчика ученые использовали 3D-печать, лазерную микрообработку и фотолитографию, в которых свет используется для создания рисунка на светочувствительном материале. Затем устройство покрывается слоем эпоксидной смолы, что помогает защитить его от повреждения водой, например, от пота.

По словам ученых, один гаджет может быть изготовлен примерно за две минуты. Технология позволяет настраивать глубину изображения и обеспечивать непрерывную визуализацию внутренних органов в течение 48 часов.

@medicalksu
Forwarded from Medical Ксю
#медтех #ПМП #ихнравы #ИИ

Разработан жилет, контролирующий функцию легких

Пациенты с тяжелыми респираторными или легочными заболеваниями нуждаются в интенсивном лечении и постоянном контроле функции легких.

В рамках проекта Pneumo.Vest исследователи Общества Фраунгофера разработали технологию, при которой шумы в легких регистрируются с помощью текстильного жилета со встроенными акустическими датчиками.

Затем сигналы преобразуются и отображаются визуально с помощью программного обеспечения. Таким образом, пациенты вне отделений интенсивной терапии могут находиться под постоянным наблюдением. Технология расширяет возможности диагностики и улучшает качество жизни пациента.

Наряду с акустическими датчиками, преимуществом устройства является уникальное ПО, использующее технологии машинного обучения. Алгоритмы цифровой обработки сигналов позволяют целенаправленно оценивать акустические сигналы. Это означает, что можно, например, отфильтровывать сердечные сокращения или усиливать характерные частотные диапазоны, делая звуки в легких, такие как шорохи или хрипы, более слышимыми.

@medicalksu
Forwarded from FSCP
Технологии виртуальной реальности, применяемые в том числе в метавселенных, позволяют собирать огромное количество персональных данных в рекордные сроки, выяснили специалисты Мюнхенского технического университета (Technical University of Munich) и Калифорнийского университета в Беркли (UC Berkeley).
При помощи 30 добровольцев исследователи создали и протестировали игру в виртуальной реальности в жанре эскейп-рум — в таких играх пользователю предлагается найти выход из какого-либо здания или помещения.
Оказалось, что подобная игра способна предоставить злоумышленнику ПД пользователя по 25 параметрам — от антропометрической информации до демографической, включая возраст и пол пользователя, родной язык, когнитивные способности, — всего за несколько минут, проведённых в игре.
_______
Источник | #Persdata
Национальный стандарт (ГОСТ Р) «Системы искусственного интеллекта в клинической медицине. Часть 1. Клиническая оценка» утвержден и вступает в силу 1 сентября 2022 года. Принятый ГОСТ определяет методологию и порядок проведения клинических испытаний систем искусственного интеллекта, содержит термины и определения, включает показатели эффективности таких систем в рамках клинической валидации и рекомендованную форму отчета о клинической составляющей испытаний, описывает контроль качества процедуры проведения клинических испытаний. Источник - https://www.mos.ru/news/item/110822073/
Forwarded from Medical Ксю
#инновации #медтех #врачам

«Ростех» разработал тренажер для хирургов

Самарский электромеханический завод (входит в «Ростех») разработал тренажер-симулятор «виртуальный хирург», позволяющий отрабатывать сложные эндоскопические операции, говорится в сообщении госкорпорации.

«Ростех» разработал виртуальный тренажер для обучения хирургов и отработки сложных операций... Отрабатывать сценарий хирургического вмешательства помогает компьютерная система генерации изображений в виртуальном пространстве и имитаторы реальных хирургических и рентгенографических инструментов», — отмечается в сообщении.

В госкорпорации рассказали, что стимулятор эндоскопической хирургии создан в партнерстве с Самарским государственным медицинским университетом (СамГМУ). Производственные мощности Самарского электромеханического завода позволяют выпускать более 100 тренажеров «виртуальный хирург» в год.

Аппаратно-программный комплекс позволяет обучать студентов медицинских вузов базовым навыкам эндоскопии — проведению осмотра внутренних органов пациента с целью постановки диагноза. Также с помощью тренажера можно познакомиться с нюансами лапароскопии — операции на внутренних органах, которые проводят через небольшие разрезы размером 0,5-1,5 сантиметра.

Опытным врачам-профессионалам симулятор дает отработать сценарий проведения операции, выбрать стратегию для каждого конкретного клинического случая. Таким образом, «виртуальный хирург» позволяет исключить возможность врачебной ошибки, снижая риск для здоровья и жизни пациентов, подчеркнули в «Ростехе».

@medicalksu
Forwarded from FSCP
​​Бенефис Homo в роли Творца провалился.
Экспериментально доказано – способностей обрести здравый смысл у современных ИИ нет.

Опубликованное психологами Гарварда исследование – это холодный душ для техноэнтузиастов ИИ. Серия простых, но весьма убедительных психологических экспериментов показала:
1) полное отсутствие у DALL-E 2 (одной из наиболее продвинутых современных нейросетей, имитирующих интеллектуально-творческие способности людей) хоть намека на понимание результатов своей деятельности, многими людьми ошибочно воспринимаемых, как творчество ИИ;
2) полное отсутствие у DALL-E 2 элементарных базовых когнитивных способностей, без которых невозможна трансформация опыта взаимодействия с миром в «здравый смысл» об его устройстве;
3) (как следствие пп 1-2):, подобные DALL-E 2 ИИ-системы, при всех своих выдающихся инструментальных возможностях, не просто «отстает в развитии» от двухлетнего ребенка, а в принципе не способны подняться до его когнитивного уровня.


Нейросеть DALL-E 2 всего за нескольку месяцев обрушила представления человечества о границах творческих возможностей машин. Эта нейросеть иллюстрирует стихи Бродского, дорисовывает картины классиков, научила героев своих картин разговаривать на совершенно непонятном людям языке, создала расширенную версию полотна «Сотворение Адама», способна изображать бессмысленные предложения, типа «бесцветные зеленые идеи яростно спят» или «куриный наггетс курит под дождем», а давеча создала галерею «последние селфи на Земле».

После всех этих подвигов DALL-E 2 и прочих подобных её нейросетей, имитирующих интеллектуально-творческие способности людей, пришло время поставить вопрос ребром:
✔️ так что ж, эти ИИ-системы начинают приближаться в своих имитациях к способностям людей?

Ответ ИИ-скептиков (типа Гэри Маркуса и меня) - категорическое нет. Нынешний путь не ведет к человекоподобному ИИ. Потребуются иные пути.

Но одно дело, дискуссии энтузиастов и скептиков. И совсем другое дело – грамотный научный эксперимент, поставленный психологами Гарварда.

Авторы исследования пошли тем же путем, что и Гэри Маркус, поймавший нейросеть на том, что “астронавт верхом на лошади” она изображает блестяще, а “лошадь верхом на астронавте” — получается чёрте как.

Авторы провели систематическую проверку 15-и отношений, необходимых для трансформации опыта взаимодействия с миром в «здравый смысл» об его устройстве.
• 8 физических отношений объектов: внутри, на, под, рядом …;
• 7 отношений агентов: толкать, тянуть, трогать ….
В сценах, запрашиваемых нейросеть изобразить их, фигурировали 6 объектов (коробка, цилиндр, чашка …) и 6 агентов (мужчина, женщина, ребенок …).

А потом исследователи:
• Давали на вход нейросети простенькие задания, описывающие сцены из объектов, агентов и их отношений (типа «ложка в чашке» - см. рис), с тем, чтобы нейросеть генерировала изображения этих сцен;
• Показывали эти изображения людям для их вердикта, насколько каждое из изображений соответствует словесному описанию в задании.

Детальное объяснение методики, собранной статистики, выявленных проблем и предложений по их устранению – читатель найдет в отчете исследования.

Мне же остается лишь резюмировать.
Попытка людей уподобиться Творцу (Богу, природе, эволюции …), создав из «праха земного» (а конкретно, из кремния) разумного агента, обладающего здравым смыслом и способностью познавать мир через его понимание, пока провалилась.

PS 1) Это не умаляет высочайшей значимости ИИ в качестве инструмента для людей.
2) Не исключает создания человекоподобного ИИ, если пойти иным путем.
PPS Когда нам кажется, что нейросеть понимает сложные описания, это лишь статистическая иллюзия (доказано этим экспериментом).
#AGI
_______
Источник | #theworldisnoteasy
https://antidepressiya.ru/ и таких приложений все больше, пока кто-то пытается делать сложное, кто-то двигает простое и зарабатывает
Коллеги, к нам стали обращаться с предложениями сотрудничества разного рода (разместить рекламу на нашем канале или наоборот - чтобы мы там разместили и увеличили аудиторию), это показывает, что канал как-то существует, но (!) я думаю интересным дайждестом вокруг цифровой медицины для самих себя же мы можем сделать его только совместно.

Предлагаю всем, кто что-то нашел интересное по нашей теме и готов это сопроводить личными комментариями активнее публиковать это тут... Ну или и без них... дайджест чужого контента тоже полезен в концентрированном виде.
Forwarded from Medical Ксю
#инновации #ихнравы #mhealth

Технология на базе беспроводных наушников может диагностировать заболевания уха

Команда ученых из Университета Буффало использовала беспроводные наушники и нейросеть для диагностики заболеваний уха с помощью простого, неинвазивного аудиотеста, который использует для картирования структуры уха звуковой сигнал, похожий на звук сонара.

В систему под названием EarHealth входит комплект наушников, оснащенных направленными внутрь микрофонами и подключенных к приложению для смартфона. Технология посылает в ухо аудиосигнал, а микрофоны записывают, как он отражается от слуховых проходов. Это позволяет системе создать уникальный образ внутреннего уха пациента.

Первоначально данные записываются, когда человек здоров. Это необходимо для составления контрольного профиля. Впоследствии эта процедура может выполняться в течении определенных периодов времени, для диагностики различных нарушений. В ходе испытаний на людях с участием 92 добровольцев система смогла поставить диагноз трех распространенных состояний и заболеваний (закупорка уха серой, разрыв барабанных перепонок и острый средний отит), которые изменяют геометрию уха. При этом точность обнаружения изменений геометрии внутреннего уха составила 82,6%.

В данный момент исследователи работают над повышением точности системы. Несмотря некоторые сложности, система выглядит достаточно доступной и удобной для пользователя и, в будущем, может быть использована в качестве диагностического теста.

@medicalksu
https://www.mos.ru/news/item/110827073/ - из серии "без комментариев".... но может кому-то интересно. Свидетелей эффекта от внедрения живьем пока не видел, но это не значит, что их нет. Заявляются весьма эффектные цифры как то - "сервис на основе искусственного интеллекта помог врачам-терапевтам поставить более 6,5 миллиона предварительных диагнозов, при этом более половины — с начала этого года." Или "время назначения диагностических исследований сократилось в среднем в 10 раз" (что такое "время назначения диагностических исследований, нажатие нескольких кнопок в МИС или что-то еще?). "Также сервис позволяет избежать повторного направления на исследования" - тоже интересно как именно, но про это ничего и нет....

"Внедрением системы поддержки принятия врачебных решений занимается Департамент информационных технологий совместно с Московским центром инновационных технологий в здравоохранении комплекса социального развития. Московский центр инновационных технологий в здравоохранении — место совместной работы московских врачей, научных команд и стартапов для ускорения внедрения инновационных решений в систему здравоохранения города. Ранее центр открыл собственный медицинский технопарк на проспекте Вернадского (дом 96). Резидентами становятся компании, разрабатывающие медицинские технологии, которые в перспективе могут быть применены в городских медицинских организациях." Ждем со временем и большей конкретики, как минимум все это раскачивает и развивает рынок будоража мысли и в перспективе спрос.
Forwarded from Medical Ксю
#стартапам

Запустите пилот своего DigitalHealth | MedTech стартапа! Участвуйте в питч-сессии «Персональные медицинские помощники»

Дата: 20 августа | онлайн

Успейте подать заявку до 17 августа!

Цель проекта – создание системы дистанционного наблюдения и диагностики людей, страдающих хроническими заболеваниями. В том числе с помощью персональных носимых устройств.

Сайт питч-сессии с возможностью подать заявку для участия:
https://kazandigitallegends.com/digital_assistants

Зачем участвовать?

💊Возможность провести пилотное внедрение в медицинском учреждении

💊Возможность масштабирования решения после успешного пилота

💊Нетворкинг и обратная связь от экспертов Минздрава РТ, СК АкБарс-мед, Медицинского информационно-аналитического центра РТ, Диспетчерского центра Минздрава Татарстана, Единого Телемедицинского Центра РТ, стартап-экосистемы Сбера

💊Возможность презентовать свой проект на DemoDay международного форума «Kazan Digital Week» перед венчурными фондами и представителями бизнес-среды

💊Призовой фонд 300 000 рублей для лучших проектов и возможность презентовать свой проект перед Минздравом России!

❗️Ждём проекты высокой степени готовности в области персональных медицинских помощников

Более подробная информация на сайте: https://kazandigitallegends.com/digital_assistants.
Forwarded from Medical Ксю
#ИИ #диагностика

Ученые из Сеченовского университета разработали алгоритмы, позволяющие оценить реакцию организма пациента на лечение

Как пишут РИА Новости с ссылкой на пресс-службу вуза, разработанные алгоритмы моделируют прогноз реакции отдельного организма на лечение и помогают точно определить, как прием назначенной лечащим врачом терапии влияет на заболеваемость и смертность.

В основе алгоритмов — данные аппаратов компьютерной томографии, кардиостимуляторов, инсулиновых измерителей, аппаратов МРТ, кардиорегистраторов и другого медицинского оборудования, которые позволили составить представление о каждом конкретном пациенте как о функционирующей биологической и химической системе.

Разработанная технология позволит сократить время лечения не менее чем на 20% процентов и даст возможность врачам уделять больше времени для больных по другим направлениям, подчеркнули в университете. Кроме того, методика позволяет минимизировать человеческий фактор.

@medicalksu
Вот так освещается в прессе
Forwarded from FSCP
В России может заработать экспериментальный правовой режим, в рамках которого фитнес-трекеры, браслеты и умные часы будут собирать информацию о здоровье своих владельцев и передавать сведения в специальную информационную систему для профилактики заболеваний. Оператором хочет выступить "Ростех", в проекте участвует "Сколково".
_______
Источник | #Persdata
???_354-???_???????? ние на ЭГ по ЭПР.pdf
4.4 MB
А вот тут заявка и приглашение на экспертную группу