На днях корпорация Google в очередной раз стала героем драмы. Второго декабря ведущий специалист компании по вопросам этики в контексте искусственного интеллекта Тимнит Гебру заявила о своём увольнении. Её уход стал кульминацией конфликта с начальством, суть которого кроется в идеологических расхождениях по вопросам социальной справедливости; последней каплей стало нежелание менеджмента дать ход публикации очередной статьи Тимнит.

Публикации Тимнит Гебру в основном критиковали современные ИИ-технологии с этической точки зрения: самым известным её исследованием считается оценка точности систем распознавания лиц в зависимости от цвета кожи и прочих расовых черт: оказалось, современные классификаторы гораздо лучше справляются со светлокожими. В статье, послужившей поводом для конфликта, Тимнит и соавторы хотели рассказать, что тренировать большие нейросети для генеративных моделей текста долго, дорого и (о ужас!) вредно для окружающей среды, а результаты процесса пойдут на пользу большим компаниям, этот процесс контролирующим. Кроме того, масштабы тренировочных данных таковы, что, во-первых, в выборку попадает политически разное, и, во-вторых, не попадает политически правильное, в особенности, если политически правильное придумали в комитете по этике полгода назад. Кроме того, в статье приводится уже набивший оскомину аргумент «но этот алгоритм не понимает речь, это всего лишь машина» в поддержку тезиса о неверно избранном пути исследований.

Так как сама статья не опубликована, аргументы приходится воспринимать в перепевке MIT Technology Review. Но она, как сказано выше, была лишь поводом. Причиной конфликта с начальством была в первую очередь активная позиция самой Тимнит Гебру по вопросам социальной справедливости: по её мнению, начальство недостаточно ревностно преследовало цели «39% новых сотрудников — женщины» и в целом дискриминировало представителей меньшинств на рабочем месте, в частности, излишне критичным отношением к результатам их работы. Отказ в публикации статьи, по её мнению, так же стал результатом предвзятого отношения, так как ни о какой другой мотивации речи не может быть. В публичном ответе на её претензии со стороны одного из обвиняемых управленцев Гугла, конечно же, приводятся другие факты в другой очерёдности, что делает выяснение, кто же прав, для наблюдателя со стороны практически невозможным.

У Ватфора при ознакомлении с этой историей возникли смешанные чувства. Аргументативно работу Гебру и соавторов скорее можно отнести к технофилософии, чем к «жёсткой» математике и вычислительной технике, и аргументировать технически, не скатываясь в политику, практически невозможно. Политически же хочется сказать следующее. Большая часть из аргументов госпожи Гебру в той или иной мере известны, искажения в выборках данных, прямо следующие из проблем социальных, известны не год и не два (автор этих строк ещё четыре года назад писал статью, предлагавшую методику расчёта «беспристрастности» статистических моделей), а результаты приложения ресурсов в промышленных масштабах как правило пожинает прилагающая их организация, и было бы странно ожидать чего-то иного. Заявления, что большие нейросети — неверный путь развития, кажутся тоже мотивированными политически, потому что на данный момент эти штуки в целом работают, в отличие от гипотетически более маленьких и более социально-справедливых моделей, которые ещё предстоит довести до промышленного применения, да и ценность политически правильных языковых моделей, мягко говоря, политически неочевидна.

Также хочется заметить, что мы становимся свидетелями аппаратного конфликта внутри крупной организации в битве за политические ресурсы. Это всегда познавательно и интересно, в особенности когда происходит у кого-то другого. Кроме того, это означает, что Гугл окончательно дорос до аппаратно-бюрократической возни с применением политических аргументов; пожалуй, на этом можно окончательно распрощаться с представлением о Гугле как о компании, живущей молодостью и аджайлом головного мозга, и вспомнить Дилберта. К прочим техногигантам это тоже относится.

Пока мы с вами весело ржали над британцами, которые вели базу инфицированных Ковид в экселе и из за этого теряли часть больных... Наши соотечественники делали то же самое в гугл-таблицах и телеграм-чатах. Причём доступ к таблицам, а уж тем более к чатам, никоим образом не защищался. Поэтому, помимо АНБ, которые (потенциально) получили доступ к данным ещё в марте, сейчас они есть вообще у всех.

Можете потренировать свои навыки OSINT и в пару запросов найти их в Гугле. Приготовьтесь к тому, что от масштаба и глубины утечки вам станет плохо.

Но мы сейчас не об этом.

Когда изучаешь слитые материалы, очень хорошо видно, как их авторы в режиме острого цейтнота (у них вообще-то люди задыхаются и умирают) собирали этот самый "режим повышенной готовности" из подручных материалов. К коим однозначно относились "рабочие чаты" в телеграм и таблицы google-docs. Более промышленные системы в этот момент, судя по всему, только разворачивались, понимание, как они должны выглядеть, нарабатывалось на ходу. Среди файлов слива есть инструкции к этим промышленным системам в нескольких вариантах — дописывали "с колёс".

А все существующие регламенты на эту тему писались в глубоко доинтернетную эпоху и предполагали разворачивание КПП, санпропускников, просмотр диафильмов "умей работать в очаге поражения", заполнение и логистику бумажных медицинских карт, цифры на грифельной доске. Может, тогда и была какая нибудь АСУ "Эпидемия" Минздрава СССР" развёрнутая на Объекте 6063 (ЗАТО "Кузнецк-12"), но принимать (и вбивать в терминалы ЕС ЭВМ) данные предполагалось по городскому телефону. В прошлом, во время советских вспышек чумы, холеры, или знаменитой вспышки чёрной оспы в Москве, всё это неплохо работало. Вот только работать авторам экселек и гуглодоков надо было не в прошлом, а здесь и сейчас. Работали в меру своих возможностей. За это их критиковать рука не поднимается.

Был ли у них другой — хороший — вариант? Мы такого не знаем. Зато знаем, что это всё - март и апрель. Данные в сливе заканчиваются приблизительно первым мая. Потом это всё за собой, разумеется, надо было подчистить, вот только никто этим не озаботился.

Возможно, потому что люди, которые должны были озаботиться, о существовании этих чатов даже и не знали. А если бы знали, запретили бы. И отправили бы заполнять бумажные карты и диктовать их содержимое с городского телефона в Кузнецк-12. Вот в этом то и есть самая главная точка отказа.

Сейчас, конечно, сделают (уже сделали) специальный софт для будущих эпидемий, напишут регламенты, расставят по поликлиникам АРМы и будут проводить регулярные тренировки. А потом произойдёт вторжение квазиразумных четырёх-с-половиной-мерных осьминогов, или, там, катастрофическое изменение постоянной Планка (ввиду события, произошедшего вне нашего времени-пространства).

И всё по новой.

Прелестно: китайские товарищи на традиционном варгейм-соревновании уже успели отыграть свежее рубилово в Нагорном Карабахе. Причем участвовали и студенты гражданских ВУЗов, и слушатели военных.

А победили по итогам шестидневного мероприятия вообще медики. За кого играли — не уточняется.

В целом же данный факт лишний раз подтверждает внимание наших стратегичеаких партнёров к событиям на постсоветском пространстве.

http://eng.chinamil.com.cn/view/2020-12/08/content_9949512.htm

Пост любви к городу.

Гонконг — это небоскребы, неон и дождь. Гонконг — это паутины проводов, сверкающие витрины и мрачные подворотни. Гонконг — это запах азиатской еды и шум азиатской речи. Это толчея на улицах и совершенно пустые склоны гор. Это ультрафутуристический город, местами застрявший в восьмидесятых. Это лучший город Земли*

*После Москвы, разумеется =)

Полная версия ролика — в инстаграме у вашего автора.

Мы долго думали, что бы написать про отгремевшие, пусть и несколько жиденько, учения наших стратегических ядерных сил на этой неделе, а потом решили дать слово профессионалам:

"Это только кажется, что пламя из сопла стратегической ракеты обжигает землю. На деле оно как благодатный огонь оберегает землю Русскую от всякой скверны, от любых агрессивных поползновений извне".

И все же, хотелось бы пусков баллистических ракет подводных лодок ТОФ, а то какие-то грустные мысли уже не то, что закрадываются, а крепнут. Ну и отдельно хочется пожелать Минобороны перестать стеснятся называть используемые в учениях ракеты, смешно смотрится такая maskirovka.

Да, при всем при этом видео "Звезды" с пуском "Ярса" (возможно, "с буквой") очень замечательное, наслаждайтесь благодатным огнём: https://youtu.be/lpkgYod5VVQ

#стратдела

В следующем году наметилось международное учение с участием и наших военных моряков, и их коллег из натовских стран, да ещё и у пакистанских берегов. Сказали несколько слов по этому поводу для @baltnews: https://baltnews.lt/Russia_West/20201211/1020454468/Eto-ne-ottepel-Kak-Rossiya-i-NATO-sobralis-vmeste-postrelyat.html

Самое главное: поменьше пеара надо и побольше практического взаимодействия. От этого все только выиграют.

Кстати, коллега Крамник ещё вот тут по теме некоторые нюансы припомнил: https://yangx.top/kramnikcat/1232

#субботнеечтение

Солнечным третьим сентября одного далёкого года, ваш семнадцатилетний балбес-автор впервые оказался в огромной лекционной аудитории Б-304 Московского Инженерно-Физического Института. Вокруг были новые друзья, а в рюкзаке уже призывно позвякивали бутылки "балтики третьей", напоминая, каким прекрасным будет продолжение дня там — за проходной.

Прозвенел звонок, и пред новоявленными студентами предстал ярко рыжий кудрявый мужчина в очках, которые сразу делали его похожим на стереотипного институтского профессора из кино. Мужчина с ехидной улыбкой оглядел новоявленных студентов и ткнул пальцем в модную бейсболку вашего автора.

— Молодой человек, — сказал он, — снимите ваш головной убор. Вы, между прочим, в храме.

Звали его Валериан Иванович Гервидс, и он был одним из лучших лекторов, кого мне вообще доводилось встречать. Любые предвкушения Балтики с друзьями меркли, когда он начинал читать лекцию. А если лекция предполагала демонстрацию физического опыта из огромной коллекции, собранной кафедрой общей физики, мы шли туда, как на шоу настоящего мага.

Прежде чем покинуть наш мир, Валериан Иванович обогатил современную масс-культуру тремя сотнями роликов на ютубе, в которых в своей неподражаемой манере показывает магию физических явлений и объясняет их смысл. Даже если вы ничего не понимаете в физике, на этих роликах вы зависнете надолго, наслаждаясь тем, как он это рассказывает.

Магия тут.

Именины сердца: наконец-то тихоокеанский "Борей" отработал, да ещё и залпом.

Вот и видео: https://yangx.top/rbc_news/22020

А вообще, конечно, очень интересно, был ли единый сценарий учения стратегических сил...

UPD таки да, "Булава" из Охотского моря - "завершающий этап тренировки по управлению стратегическими наступательными силами".

https://tass.ru/armiya-i-opk/10241885

Ребзя, берем пасту и всех мажем.

Зыкенски будет.

Всё, что вам надо знать про затихшую, но не прекратившуюся войну в Сирии: непревзойдённая сирийская тактика наступления на опорные пункты в полный рост; и камеры, которые снимают каждую вылетевшую пулю. Давно пора бы к этому киберпанку привыкнуть, но нет, до сих пор завораживает.

P.S. Главный герой ролика обладает невероятно мощным везением. Только за три минуты экранного времени он избегает гибели трижды. Не говоря уже о самом артобстреле.

Мы ждали, и это случилось: подписано продление российско-китайского соглашения за уведомления о пусках баллистических ракет и ракет-носителей. Кто сказал, что китайцы не умеют в контроль над вооружениями?

Ждём официоз с нашей стороны, а также процедуру ратификации продления через наше Федеральное собрание. По тому, как пройдет эта самая ратификация, можно будет судить о перспективах и сроках продления ДСНВ с американцами.

#стратдела

Ватфор на радио попробовал пояснить за ядерное разоружение.

Пообличать тоталитарные подходы НАТО к дисциплине стран-членов в смысле борьбы с ДЗЯО и притопить за гибкость посконного ОДКБ не успели, но озвучили классическую формулу "мир без ядерного оружия" ≠ "сегодняшний мир" - "ядерное оружие". Помимо прочего.

Послушайте, в общем: https://radiosputnik.ria.ru/20201215/1589387948.html

#стратдела

С космодрома Плесецк выполнен испытательный пуск противоспутниковой ракеты.

Американское космическое командование так спешило нас порадовать, что даже твит толком не выверило — напихало лишних тегов и красную строку прямо посреди предложения. Сейчас-то конечно поправились и добавили, что злые русские милитаризуют космос своими агрессивными противоспутниковыми ракетами. Мы, добрые американцы, вынуждены, мол, защищаться и ставить свои мирные противоспутниковые ракеты.

МО РФ, как и в прошлый раз, вероятно, многозначительно промолчит.

А вот читали бы в Space Command российские околовоенные телеграм-каналы, знали бы всё ещё несколько дней назад и заготовили бы твит заранее. Шутим, конечно. Разумеется они знали. Джентльмены в современном мире о пусках друг-друга предупреждают во избежание.

Годы пройдут, эпохи сменятся, а этот ролик останется навсегда. Как память о той, волшебной Украине, в которой живут сказочные люди: немного рассеянные, слегка запинающиеся, но добрые, с открытой душой и мягким фрикативным «гэ».

Геннадий Кернес дает мастер-класс, как войти в историю, почти не появляясь в кадре.

Как мы недавно обещали, при администрации Байдена будет веселее, чем при Трампе, хотя казалось бы, куда там. Вот сегодня советником президента США по образованию стал... Стала... Стало.... Ну короче, новый советник по образованию — транс по имени Шарлота Клаймер. Если вы эстет и любите женщин, советуем воздержаться от поиска фотографий.

Впрочем, само по себе это не то, чтобы смешно. Как говорил по похожему поводу влюблённый в главного героя персонаж одной известной комедии: "у каждого свои недостатки". А вот, что сама новоназначенная советник по образованию пишет по этому поводу в твиттер...

Короче, ждём новых назначений. Жги, Джо! Жгите, парни и эээ... девчонки!

UPD: говорят, это был фейк, запущенный самой гражданкой (или все-таки гражданином?). Жаль, жаль, а мы так хотели верить.

В копилку оригинальных политических обложек. Идея хорошая, но, конечно, задумываешься, что же там такое у них в США, что первым лицам в химзащите надо передвигаться.

Вот тут, к слову, тексты из номера этого журнала: https://prospect.org/topics/nov-dec-2020-issue/

Многие коллеги полагают, что нынешние кибер-проблемы в американских компаниях и госорганах (ключевое слово — solarwinds, ну да уже поди из каждого утюга услышали) являются предвестником сохранения истерии в российско-американских отношениях при новой администрации в Белом доме (раз, два).

Вместе с тем, официальное заявление байденовских ребят по этой теме не содержит слова "Россия" от слова совсем.

Более того, от видных международников раздаются комментарии, что даже если там торчат русские уши (белые и пушистые), то все равно ничего сверхъестественного пока не произошло, все приличные люди так делают.

В общем, посмотрим, что да как будет в итоге. Кейс очень интересный.

Наш автор рассказывает молодежи про безопасность на постсоветском пространстве. Подключайтесь.

Для https://yangx.top/telegraficae

Есть такой феномен психологической слепоты. Вот как его описывает в "чернобыльской тетради" Григорий Медведев:

Нажал кнопку АЗ-5 и ключ обесточивания сервоприводов. Поздно. Зачем? Реактор разрушен... Но Анатолий Степанович Дятлов считал иначе: реактор цел, взорвался бак СУЗ в центральном зале. Реактор цел... Реактор цел...

<...>

Ночь. Гул и клекот бушующего наверху пожара. В красноватом отсвете огня виден страшный завал из строительных конструкций, балок, бетона и кирпича. На асфальте вокруг блока что-то валяется. Очень густо. Черным-черно... Но в сознание не шло, что это графит из реактора. Как и в машзале. Там тоже глаза видели раскаленные куски графита и топлива. Однако сознание не принимало страшный смысл увиденного.

Нечто подобное мы сейчас наблюдаем сразу с двух сторон.

Со стороны американского ИТ/ИБ коммьюнити, столкнувшегося, наверное, с самым масштабным инцидентом в истории, последствия которого ещё предстоит осознать.

Корень инцидента — софтверная компания SolarWinds, которая относилась к безопасности своих процессов, мягко говоря, расслабленно. Используя, например, для FTP с обновлениями пароль solarwinds123, да и тот можно было найти в их открытом репозитории на Github. Или требуя от пользователей отключать антивирусы на каталогах с обновлениями. через которые-то, собственно, троянец в системы пользователей и пришел. И прочая: новые прекрасные истории про то, как в SolarWinds всё было устроено, — появляются ежедневно.

Столп американского ИБ, компания FireEye (тоже пострадавшая в инциденте), а за ней и другие вендоры... Чиновники, журналисты, политические эксперты — описывают злоумышленников как невероятных профессионалов, гениев маскировки и талантливых организаторов, которые проделали огромной сложности работу, для того чтобы организовать эту атаку.

Но мы тут достали попкорн, заварили чай и готовимся к тому, что, как в истории со взломом Твиттера или с самой первой в истории DDOS-атакой, высококвалифицированный взломщик окажется семнадцатилетним школьником из Аризоны.

А пока этого не произошло, посмотрим на происходящее по нашу сторону океана. Здесь такую же восхитительную психологическую слепоту демонстрируют чиновники, журналисты, эксперты, аналитики.

Стоит с ними начать говорить о том, что чёрный рынок данных приобрёл в России характер национальной катастрофы... Что купить можно всё и про всех... Что новые базы данных лучше просто не заводить (помните, да, скандал вокруг начала сбора данных больных ковидом в Москве? Которые, руководство московского ДИТ зуб дало, никуда не попадут и будут торжественно уничтожены? Где они теперь, эти данные?)...

Так вот, стоит с ними начать об этом говорить, как в ответ: "Вы на чью мельницу льёте воду?! На кого, сволочи, работаете?!" И сразу рассказ про фейки. Про фотошоп. Про ЦРУ, если наличие какой-то информации в открытом доступе не удаётся подогнать под предыдущие два пункта. Про святых Роскомнадзор и ФСБ и их волшебный охраняющий информацию ворох бумаг, толщина которого вгоняет в уныние любого оператора персональных данных в стране...

В общем, здесь, увы, тоже не замечают, что проблема в них самих, а отнюдь не в коварных врагах. Реактор цел. Цел реактор.

Такая вот занимательная психология.

#СубботнееЧтение

«А из нашего окна площадь Красная видна» — это не фигура речи Михалкова, это про третий этаж ГУМа, который с 1928 по 1953 годы был отдан под жилые квартиры. Помимо удобств расположения и возможности запросто подружиться с детьми вождей из соседнего Кремля, проживание на Красной площади сопровождалось и рядом проблем.

По ссылке — весьма увлекательный фрагмент из книги «Главный Универсальный Магазин». М.: ТД «ГУМ», 2013.

Мысль* по мотивам большой пресс-конференции Владимира Путина: фраза "Вы же умные люди, почему вы считаете, что мы придурки?" является универсальной и применима любой стороной актуальных внутренних и внешних конфликтных ситуаций.

Никому не стоит планировать свою деятельность на основе предположения о тупизне контрагента.

*Будут и другие мысли.