Forwarded from The Idealist
The Guardian: цифровая антиутопия. Как компьютерные алгоритмы наказывают бедных
Что такое «цифровизация бедности» - новое модное понятие в речи прогрессивных политологов и политспикеров на Западе? Это когда размер социальной помощи, пособия по безработице, выплаты по уходу за ребёнком устанавливается индивидуально, с учётом многих факторов, причём оценку "нужды" и соответствующую выплату определяет автоматизированная система. В теории программа может максимально объективно и справедливо подойти к вопросу, но на практике такие решения могут оказаться весьма непрозрачными для конечных получателей подобной помощи. Кроме того, никакая автоматизация не является гарантией отсутствия ошибок, которые могут иметь самые печальные последствия.
«Мотка Манджи пришлось заплатить жизнью за компьютерный сбой, в ходе которого система не распознала его отпечаток большого пальца - ключ к Аадхаару. В результате ему прекратили выдавать продовольственные пайки, а 22 мая он упал возле своего дома и умер. Его семья убеждена, что Мотка умер от голода».
https://theidealist.ru/digitaldystopia/
#TheGuardian #технологии #общество #бедность #ии #компьютеры #социальнаяпомощь
Что такое «цифровизация бедности» - новое модное понятие в речи прогрессивных политологов и политспикеров на Западе? Это когда размер социальной помощи, пособия по безработице, выплаты по уходу за ребёнком устанавливается индивидуально, с учётом многих факторов, причём оценку "нужды" и соответствующую выплату определяет автоматизированная система. В теории программа может максимально объективно и справедливо подойти к вопросу, но на практике такие решения могут оказаться весьма непрозрачными для конечных получателей подобной помощи. Кроме того, никакая автоматизация не является гарантией отсутствия ошибок, которые могут иметь самые печальные последствия.
«Мотка Манджи пришлось заплатить жизнью за компьютерный сбой, в ходе которого система не распознала его отпечаток большого пальца - ключ к Аадхаару. В результате ему прекратили выдавать продовольственные пайки, а 22 мая он упал возле своего дома и умер. Его семья убеждена, что Мотка умер от голода».
https://theidealist.ru/digitaldystopia/
#TheGuardian #технологии #общество #бедность #ии #компьютеры #социальнаяпомощь
Forwarded from The Idealist
Aeon: у технологии распознавания лиц и френологии много общего
Распознавание лиц по праву можно считать уже технологией не будущего, но настоящего. В ближайшие 10 лет она будет буквально везде. Но наряду с очевидными плюсами за спиной этого эффективного инструмента скрывается зловещая тень лженаук прошлого: френологии и евгеники. Некоторые критики вообще ставят знак равенства по разрушительным последствиям между бесконтрольным распространением распознавания лиц и оборотом плутония. Конечно, камера на подъезде не убьёт вас радиацией, однако вы всё равно неиллюзорно рискуете вследствие ошибки машины оказаться, например, в списке потенциальных преступников. И дело не только в ошибках: сам подход мало того, что технологически несовершенен и научно не обоснован, так ещё и весьма неоднозначен с моральной точки зрения.
"В последние годы алгоритмы машинного обучения дают возможность правительствам и частным компаниям собирать все виды информации о внешнем виде людей. Несколько стартапов сегодня утверждают, что могут использовать искусственный интеллект (ИИ) для помощи в определении личностных качеств кандидатов на работу на основе их лиц. В Китае правительство первым использовало камеры наблюдения для выявления и отслеживания передвижений этнических меньшинств. Между тем некоторые школы используют камеры, которые отслеживают внимание детей во время уроков, засекая особенности движения лица и бровей. А несколько лет назад исследователи Сяолинь Ву и Си Чжан заявили, что разработали алгоритм идентификации преступников по форме лица, обеспечивающий точность 89,5%. Весьма напоминает идеи 19 века, в частности, работы итальянского криминолога Чезаре Ломброзо, который утверждал, что преступников можно распознать по скошенным, «звериным» лбам и ястребиным носам".
https://theidealist.ru/phrenology/
#Aeon #общество #технологии #ИИ #МашинноеОбучение #френология
Распознавание лиц по праву можно считать уже технологией не будущего, но настоящего. В ближайшие 10 лет она будет буквально везде. Но наряду с очевидными плюсами за спиной этого эффективного инструмента скрывается зловещая тень лженаук прошлого: френологии и евгеники. Некоторые критики вообще ставят знак равенства по разрушительным последствиям между бесконтрольным распространением распознавания лиц и оборотом плутония. Конечно, камера на подъезде не убьёт вас радиацией, однако вы всё равно неиллюзорно рискуете вследствие ошибки машины оказаться, например, в списке потенциальных преступников. И дело не только в ошибках: сам подход мало того, что технологически несовершенен и научно не обоснован, так ещё и весьма неоднозначен с моральной точки зрения.
"В последние годы алгоритмы машинного обучения дают возможность правительствам и частным компаниям собирать все виды информации о внешнем виде людей. Несколько стартапов сегодня утверждают, что могут использовать искусственный интеллект (ИИ) для помощи в определении личностных качеств кандидатов на работу на основе их лиц. В Китае правительство первым использовало камеры наблюдения для выявления и отслеживания передвижений этнических меньшинств. Между тем некоторые школы используют камеры, которые отслеживают внимание детей во время уроков, засекая особенности движения лица и бровей. А несколько лет назад исследователи Сяолинь Ву и Си Чжан заявили, что разработали алгоритм идентификации преступников по форме лица, обеспечивающий точность 89,5%. Весьма напоминает идеи 19 века, в частности, работы итальянского криминолога Чезаре Ломброзо, который утверждал, что преступников можно распознать по скошенным, «звериным» лбам и ястребиным носам".
https://theidealist.ru/phrenology/
#Aeon #общество #технологии #ИИ #МашинноеОбучение #френология
Forwarded from Шугаева
Финансовый тоталитаризм💳
Начну неделю #ЭтоИнтересно с устрашающей новости.
Социальный рейтинг — это техноутопическое будущее, которое пугающе быстро становится настоящим. В Китае уже активно практикуется. Государство собирает данные о гражданах, анализирует их и выделяет или урезает бонусы: даёт или не даёт кредиты, разрешает или запрещает свободно передвигаться по стране и тд.
В западном мире, с его идеалами свободы, такой тоталитаризм, казалось бы, прижиться не может. «Мы же не послушные китайцы», - думаем мы.
🆘 НО он уже здесь! И я не про мониторинг.
Компания Karat недавно представила кредитную карту нового формата. Лимит назначается на основе данных о доходах и ‼️ активности в соцсетях. Чем лучше метрики, конверсия, солидность страницы, тем выше кредитный лимит.
Такой вот Оруэлл с капиталистическим лицом.
И будьте уверены, после собеседования сотрудник HR изучит ваши соцсоцсети...💯
#технологии #ИИ
Начну неделю #ЭтоИнтересно с устрашающей новости.
Социальный рейтинг — это техноутопическое будущее, которое пугающе быстро становится настоящим. В Китае уже активно практикуется. Государство собирает данные о гражданах, анализирует их и выделяет или урезает бонусы: даёт или не даёт кредиты, разрешает или запрещает свободно передвигаться по стране и тд.
В западном мире, с его идеалами свободы, такой тоталитаризм, казалось бы, прижиться не может. «Мы же не послушные китайцы», - думаем мы.
🆘 НО он уже здесь! И я не про мониторинг.
Компания Karat недавно представила кредитную карту нового формата. Лимит назначается на основе данных о доходах и ‼️ активности в соцсетях. Чем лучше метрики, конверсия, солидность страницы, тем выше кредитный лимит.
Такой вот Оруэлл с капиталистическим лицом.
И будьте уверены, после собеседования сотрудник HR изучит ваши соцсоцсети...💯
#технологии #ИИ
WIRED
A New Card Ties Your Credit to Your Social Media Stats
Founded by Instagram and finance alums, Karat wants to be the black card in every influencer’s wallet.