​​В телеграме появился бот Voices of Strangers. Вы отправляете боту любое голосовое сообщение. В ответ он присылает вам чужое голосовое сообщение от неизвестного человека. Ваше голосовое сообщение также позже может услышать другой человек, который воспользуется ботом.

«Афиша» опубликовала интервью с создателем этого бота Евгением Кудашевым. Он считает, что бот стал завоевывать популярность (за первые 10 часов набралось 10 тыс. сообщений), потому что людям или скучно или одиноко, или и то и другое.

Я прослушала 3 сообщения. В одном кто-то делал 8 секунд «фырфырфыр», в другом девушка предложила делиться постыдными секретами, а в третьем меня послали матом.

«К сожалению, наряду с людьми, которые пользуются этим проектом так, как задумывалось, — рассказывают искренние личные истории и всячески вовлекаются в общение с незнакомцами — другие люди засоряют это пространство тишиной, бессмысленными глупостями, оскорблениями, и так далее. Это репрезентация того, как себя ведет общество». Похоже, это отлично демонстрирует то, как одурманивающе действует на нас анонимность и безнаказанность.

Король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.
Франсуа Шолле из Google написал правду, которую его компания не может пока открыто признать.
Принципиальная ошибка современной науки и технологий ИИ в том, что они развиваются в условиях, когда:
- мы так и не договорились, что понимаем под ИИ;
- у нас нет способа сравнить ИИ между собой и с интеллектом человека.
В результате
(1) мы разрабатываем нечто, что помогает нам решать конкретные задачи, но, возможно, не является при этом интеллектом: ни подобием человеческого (об определении которого мы не договорились), ни искусственным (поскольку невозможно сделать искусственную сепульку, не договорившись, что такое натуральная сепулька);
(2) мы не в состоянии реально оценивать прогресс в создании ИИ, поскольку:
- не определились с направлением «куда плывем»;
- не договорились, как оценивать достигнутое (сравнивать разные интеллекты по «интеллектуальности»).
В итоге мы подобны морякам, отправившимся в далекое плавание, не договорившись, куда плывут, и не имея средств определения текущего местоположения.
В общем, ситуация тупиковая, не смотря на явный прогресс в прикладном использовании машинного обучения.
Ибо:
- с машинным обучением все ОК;
- а с созданием ИИ полная Ж.
И поэтому существующую парадигму ИИ необходимо кардинально менять.

Все вышесказанное - не просто мой очередной призыв к читателям канала «Малоизвестное интересное». Это преамбула к 60ти страничному «манифесту» On the Measure of Intelligence, на днях опубликованном Франсуа Шнолле – известным исследователем ИИ в компании Google, создателем библиотеки глубокого обучения Keras и соразработчиком фреймворка машинного обучения TensorFlow.

Шнолле сделал то, что не может позволить себе Google: открыто заявить – король ИИ голый, и ему нужно либо трусы надеть, либо крестик снять.

Ну а теперь о главном.
Главная ценность «Манифеста Шолле» не в его смелости и точности формулировок. А в том, что предложена четкая альтернатива, детально сформулировавшая (1) куда плыть и (2) как измерять свое местоположение на пути к цели (как сравнивать создаваемые интеллекты между собой и человеком).

Дочитать, что конкретно предложил Франсуа Шолле - на 90 сек. чтения в моем посте
- на Medium http://bit.do/fji34
- на Яндекс Дзен https://clck.ru/KZuPs
#ИИ

К кому после работы ходит ваша жена? Где находится сын, когда не берет трубку? Кто смотрит в камеру, когда вы открываете дверь подъезда? Каждый из нас ежедневно попадает в объективы сотен городских камер, но кто имеет к ним доступ?

Журналист Андрей Каганских провел для «МБХ медиа» проверку доступности московской системы видеонаблюдения «Безопасный город» и выяснил, что доступ к персональным данным может получить каждый

https://youtu.be/gbxqjrPqKJA

Вот это красивое киберпреступление.

Хакеры получили доступ к почтовой переписке сотрудников израильского стартапа, в которой обсуждались подробности предстоящего раунда инвестиций от китайского венчурного фонда.

Затем они создали почтовые адреса на доменах, которые отличались от оригинальных на одну букву, и отправили каждой из сторон новое письмо о сделке. С этого момента израильские стартаперы и китайские инвесторы отправляли письма не друг другу, а хакерам-посредникам.

Те, в свою очередь, добросовестно ретранслировали сторонам содержание полученных писем, при этом подменив банковские реквизиты стартапа на свои.

В определенный момент руководитель стартапа и представитель китайской стороны договорились о встрече в Шанхае. Хакерам удалось отменить встречу, отправив обеим сторонам письмо с извинениями — мол, извините, не получается встретиться, давайте продолжим обсуждение по почте.

В итоге китайские инвесторы перевели на подставной счёт миллион долларов.

У Motherboard вышел лонгрид о компании Ring, которая начиналась как невинный стартап DoorBot для гиков, а потом – с легкой руки Amazon – превратилась в воплощение зловещего надзор-капитализма.

Об этом уже написано немало (если интересно – 1, 2 и 3). Но Motherboard заинтересовала предыстория – кто основал Ring и как стартап пришел к успеху?

Основатель компании Джейми Симинофф – мечтатель, который восхищался Гейтсом и Джобсом и верил в священную силу капитализма. В 2012 он придумал и собрал DoorBot – умный домофон, который работал в связке со смартфоном. Продукт выглядел как примочка для гиков и сразу провалился.

Но Симинофф поменял дизайн и выпустил девайс под брендом Ring. Нарратив тоже поменялся: теперь это был не гаджет для энтузиастов, а залог безопаности – защита от грабителей и убийц.

Спустя пару лет стартап купила Amazon – с одной стороны, чтобы бороться с похитителями посылок, а с другой, чтобы тренировать свои алгоритмы и налаживать связи с правоохранителями.

С тех пор Ring заключила более 600 партнерств с отделами полиции по всей Америке. Полицейские пообещали пиарить устройства, а в обмен компания давала им доступ к карте наблюдения – через нее можно было запрашивать данные с любой камеры в городе без специального ордера.

Еще они совместно организовывали спецоперации и поощряли граждан, которые заявляли на соседей. А предполагаемых преступников показывали в рекламе Ring на Facebook.

Параллельно компании работали над системой распознавания лиц и “черным списком” для идентификации нежелательных лиц. При этом ранее за распознавание объектов отвечали сотрудники из Украины – они занимались разметкой данных и помогали тренировать алгоритмы.

Парадоксально, но Ring поднялся благодаря всеобщему недоверию к полиции. Паранойя в обществе нарастает, люди не чувствуют себя в безопасности, но на полицейских полагаться нельзя.
Горожане решили взять надзор в свои руки и стали массово устанавливать домашние камеры наблюдения, покупая смарт-устройства со скидкой.

Они даже не заметили, как сами построили гигантскую сеть слежки, о механизмах которой практически ничего неизвестно. А потом сами же согласились сотрудничать с полицией – из соображений все той же безопаности.

Теперь сеть слежки разраслась настолько, что на нее уже обратили внимание активисты и журналисты. Картина действительно пугающая: крупнейшая американская корпорация заведует масштабной системой надзора, и никто ничего не может сделать.
Более того – люди сами хотят следить и карать нарушителей. Например, в Балтиморе желающих купить камеры столько, что на всех просто не хватает устройств.

Предприниматель Джоэль Гасконь, когда описывал свой опыт отказа от новостей, сказал, что не понимает, откуда вообще взялось это убеждение, что мы должны их читать. Все-таки новости редко касаются нас самих и, как правило, они негативны — ежедневно на нас выливаются потоки информации о катастрофах, авариях и конфликтах. Можно ли оставаться профессионалом своего дела, интересным и ответственным человеком, если отказаться от новостей полностью?


Опыт венчурного инвестора Алексея Соловьева показал, что строгая информационная диета (нет — новостям, соцсетям и большинству рассылок) почти ничего не меняет. Об основных событиях он узнавал и так, а отсутствие мелких новостей освободило время для семьи и обдумывания новых идей. Если ему нужно было узнать положение дел в какой-то сфере, хватало прямых запросов поисковику. Вот здесь подробности эксперимента Соловьева.

В лаборатории ИИ MIT научили нейросеть воссоздавать видео по тому, какие тени отбрасывает экран с этим видео. Точное изображение с помощью такой обработки не получишь, но цвет и движения нейросеть воспроизводит довольно неплохо, особенно если на видео простые объекты.

В будущем такой подход может помочь беспилотным машинам лучше ориентироваться на дороге: к примеру, замечать движущиеся объекты до того, как они попадут в поле зрения машины.

Что если поместить “жучок” в старый ЖК-монитор и проследить, куда он попадет после “смерти”? Американская организация BAN решила провести небольшой эксперимент, а в итоге вскрыла огромный теневой рынок по транспортировке электронных отходов.

Крупная компания-ресайклер Total Reclaim, которая собирала технику по всей Америке, нелегально вывезла 3600 тонн мониторов в Гонконг. Мошенники придумали хитрую схему: они свозили электрониу на искусственный остров Харбор, а потом фальсифицировали документы и отправляли отходы на гонконгские свалки.

Там китайские работники без защитной экипировки и спецподготовки демонтировали ЖК-мониторы, в том числе трубки, содержащие ртуть. Рабочим не выдавали маски, а большинство даже не знало, что работает с токсичными отходами.

Оказалось, что в некоторых случаях гаджеты просто сжигают – так можно быстро избавиться от лишних компонентов и добыть самое ценное: кусочки меди или золота – тех самых металлов, которые добывают рабочие из Конго, Колумбии и Китая, рискуя жизнью. Вот такой замкнутый цикл ресайклинга.

Компанию, которая нелегально свозила старые мониториы в Гонконг, осудили за мошенничество. Доказать, что она причиняла вред здоровью, не удалось.

Но интересно другое – даже активисты признают, что нормально организовать утилизацию в принципе нельзя, и виной тому дизайн электроники. Современные девайсы в принципе не предназначены для переработки – от этого все проблемы.

Американец, страдающий лейкемией, прошёл через процедуру пересадки костного мозга и стал химерой — так называют организмы с несколькими наборами ДНК. Спустя четыре года после трансплантации ДНК донора полностью вытеснила его собственную ДНК в крови и сперме. Слюна содержит оба набора ДНК, а вот волосы на груди и голове сохранили старую ДНК.

Этим случаем заинтересовались криминалисты. Анализ ДНК — один из методов идентификации личности в криминалистике. И подобные случаи с химерами уже сбивали с толку специалистов. Однажды анализ тканей с места убийства указал на человека, который уже сидел в тюрьме на момент убийства — убийцей оказался его брат, ставший ранее для него донором костного мозга. В другом случае анализ биоматериала с места изнасилования выдал два набора ДНК, тогда как потерпевшая заявляла об одном нападавшем. В Корее анализировали останки жертвы аварии и обнаружили в мужском теле женскую ДНК — в этом случае донором костного мозга была дочь погибшего мужчины.

Было бы очень интересно узнать, что случится с ребенком в таком случае — покажет ли генетический анализ отцовство донора? Опрошенные журналистами трансплантологи сходятся во мнении — даже с чужой ДНК американец не мог бы зачать "чужого" ребенка. Но он и не собирается — после рождения второго ребенка он сделал вазектомию; что, кстати, вполне могло поспособствовать замене ДНК в половых клетках.

Вот такие интересные истории бывают с генетическим материалом. И это мы ещё не начали массово редактировать геном!

https://www.nytimes.com/2019/12/07/us/dna-bone-marrow-transplant-crime-lab.html

Наткнулся на красивый проект – физическую карту интернета. На визуализированы ней дата-центры, IXP (точки обмена трафиком), подводные кабели как карта мира! Авторы проекта предлагают такое описание: 

«Physical Internet is not something on the cloud, but rather a structure made of physical objects: routers, cables, antennas, internet exchange points and data centers are just some of the elements that make this communication possible. The visualization focuses on showing the physical structure and the actual number of three main objects: data centers, where data is organized and stored; internet exchange points, that allow different service providers to exchange internet traffic; and, submarine cables, that carry telecommunication signals across oceans and seas. By looking at the visualization, one can easily see the difference between the countries who are connected and the ones which are being left out» 

По мнению авторов, карта помогает понять экономическую и политическую ситуацию. Казалось бы, мы смотрим всего лишь на инфраструктуры, а видим социальные отношения – просто сравните северную и южную части карты.

​​Нейросеть от NVIDIA генерирует по изображению объекта его трехмерную модель. С птичками, машинами и мебелью справляется неплохо. Для расширения репертуара, как я понял, её надо дообучать на дополнительных датасетах.

Британские ученые (извините) провели опрос молодых англичан и выяснили, что важно для современного этикета.

Вот какой список Top-10 бестактностей составили миллениалы:

1. мусорить — 72%
2. слушать музыку слишком громко — 56%
3. слишком громко разговаривать в транспорте — 53%
4. пользоваться телефоном за обеденным столом — 52%
5. читать чужие сообщения — 50%
6. занимать слишком много места в переполненном транспорте — 49%
7. смотреть в телефон, а не на собеседника — 47%
8. разговаривать с кем-то, не вынимая наушников — 42%
9. заварить себе чай и не предложить присутствующим — 36%
10. листать чей-то фотоальбом в социальных сетях без спроса — 33%

Как минимум 6 пунктов можно отнести к цифровому этикету и использованию гаджетов. Современный этикет, кажется, становится, все более цифровым.

Electronic Frontier Foundation опубликовала большой отчёт о том, как коммерческие компании собирают и используют данные о пользователях. Как сайты идентифицируют отдельных пользователей и устройства, как работает фингерпринтинг браузера, трекеры, куки, таргетированная реклама и всё остальное. Это мастрид для медленного чтения — добавьте в закладки или скачайте, чтобы разобраться без спешки.

Текст / PDF / перевод

​Парни из «Стафори» прислали пример, как работает их нейронка, которая подделывает голоса. Надо сказать, что звучит очень похоже. И, вроде как, ее можно обучить на любой голос, который говорит на русском языке.

https://youtu.be/WyU-gJ2NTGc

@TheEdinorogBlog

А вот целый сериал про жизнь, алгоритмы и технологический колониализм от телеканала Al-Jazeera.

Пример видео – https://www.youtube.com/watch?v=_fC7acShZkg&feature=youtu.be

Тут полный комплект роликов: https://interactive.aljazeera.com/aje/2019/hail-algorithms/index.html

Американские хакеры научились взламывать домашние камеры наблюдения от Ring. Софт для взлома продавали на форуме, а записи пранков транслировали через Discord — как включают через взломанные камеры музыку, троллят владельцев камер и пугают их детей дурными голосами. После того как взломами заинтересовалась полиция, пранки прекратились, а форум с обсуждением потерли — но журналисты успели всё зафиксировать.

Вы всё ещё считаете домашнюю камеру наблюдения с управлением через интернет хорошей идеей? 👁

​​Если вы правильно распознаёте объкты на этих фото — вы круче ИИ

Алгоритмы компьютерного зрения всё ещё далеки от совершенства, несмотря на впечатляющие достижения последних лет. Немного изменив исходное изображение, можно заставить нейросеть видеть в нём совсем другой объект — к примеру, страуса вместо панды или один дорожный знак вместо другого. В этом посте я писал о таких "атаках" на нейросеть подробнее. Нейросеть можно обмануть, повернув фото объекта, изменив всего один пиксель и даже с помощью физического объекта: вот, к примеру, нейросеть видит вместо черепашки пистолет.

Даже самые крутые алгоритмы компьютерного зрения находятся на детском уровне развития по сравнению с человеком. Они не оперируют понятием "объекта", они не понимают, что им показывают — они сравнивают свойства изображения со свойствами картинок, которые им показывали при обучении.

Из-за этого нейросети могут поставить в тупик даже обычные фотографии без всякого подвоха. Американские исследователи собрали датасет из 7500 таких изображений (статья на Arxiv). Программы не могут правильно распознать объекты на этих фото: путают свет и тень, объект и фон или ключевой объект с второстепенным. К примеру, принимают кормушку за птицу, потому что в обучающем датасете были фото с кормушками. Этот датасет может помочь разработчикам лучше понять, как именно их алгоритмы ошибаются и как их можно улучшить.

Бонус: атлас активаций — интересная визуализация внутренних состояний нейросети при распознавании объекта.

Ещё один похожий датасет собрали исследователи из MIT. Он содержит 50 000 нестандартных изображений объектов — снятых с непривычных ракурсов и в необычных местах. Перевернутые стулья, скомканные футболки, чайники в ванной — всего больше 300 классов разных объектов. Для сравнения, в первой колонке — "обычные" изображения из стандартного датасета ImageNet.

Лучшие алгоритмы компьютерного зрения распознают объекты из этого датасета с точностью на 40-45% ниже, чем на привычных фотографиях. Это должно мотивировать разработчиков находить новые подходы к распознаванию объектов. Больше изображений для обучения не всегда значит лучше. Даже если обучить алгоритм компьютерного зрения на миллионе фотографий, в реальных условиях ему все равно придётся распознавать объекты в незнакомых контекстах и в новых ракурсах.

​Помните нейронку которая генерировала реалистично лица и другие предметы?

На днях вышла вторая версия этой нейронки, которая генерирует что угодно намного лучше.

Feel old yet?

Видео с другими возможностями, StyleGAN 2 выглядит правда офигенно:
https://youtu.be/c-NJtV9Jvp0