В таблице 234793 записи. PostgreSQL и SQLite. Постгрес сила! 😁
main> select * from chatusers
[2020-04-08 10:37:41] 500 rows retrieved starting from 1 in 104 ms (execution: 29 ms, fetching: 75 ms)
main> select * from chatusers
[2020-04-08 10:37:47] 500 rows retrieved starting from -500 in 2 s 97 ms (execution: 5 ms, fetching: 2 s 92 ms)
test.public> select * from chatusers
[2020-04-08 10:36:48] 500 rows retrieved starting from 1 in 95 ms (execution: 7 ms, fetching: 88 ms)
test.public> select * from chatusers
[2020-04-08 10:36:54] 500 rows retrieved starting from -500 in 342 ms (execution: 324 ms, fetching: 18 ms)
main> select * from chatusers
[2020-04-08 10:37:41] 500 rows retrieved starting from 1 in 104 ms (execution: 29 ms, fetching: 75 ms)
main> select * from chatusers
[2020-04-08 10:37:47] 500 rows retrieved starting from -500 in 2 s 97 ms (execution: 5 ms, fetching: 2 s 92 ms)
test.public> select * from chatusers
[2020-04-08 10:36:48] 500 rows retrieved starting from 1 in 95 ms (execution: 7 ms, fetching: 88 ms)
test.public> select * from chatusers
[2020-04-08 10:36:54] 500 rows retrieved starting from -500 in 342 ms (execution: 324 ms, fetching: 18 ms)
Наблюдая за рассуждениями сограждан в социальных сетях о том, что никакого вируса нет, и что вирус придумали Путин с Сечиным, чтобы оправдать экономический спад, вспомнил похожее отношение людей к непонятному из своей лейтенантской юности.
Первым кораблём в моей офицерской жизни был большой атомный разведывательный корабль (БАРЗК) «Урал». Сосредоточение всех самых современных советских технологий, к моменту прибытия на службу инженера группы анализа и обработки информации лейтенанта Краснобаева, БАРЗК «Урал» был уже при смерти.
Корабль отстоя. Экипаж сокращённый до минимума, отсеки с аппаратурой разбиты и разграблены. Вся служба сводилась к поддержанию пожаробезопасности и нетопляемости, хотя в некоторые отсеки попасть уже было невозможно.
Как читатель понял из названия, корабль был атомный, с двумя реакторами. Реакторы были заглушены, но с топливом.
На второй день другой лейтенант (выпускник Пушкинского училища) гордо показал мне своё заведование, - реакторный отсек, закрытый на навесной замок с дужкой. Пару раз в день он мерял там фон, и в целом, следил за порядком.
Были на корабле и матросы. Списанные с ходовых кораблей негодяи, а также малограмотные призывники из горных районов Дагестана и Тувы.
Матросы занимались дедовщиной и воровством всего подряд, в основном цветного металла, микросхем, хладона, и всего имеющего ценность у техасских скупщиков краденного флотского имущества.
Корабль на тот момент был уже практически разграблен, поэтому у крыс ценились немногие отсеки, охраняемые офицерами.
Одним из них был реакторный.
Как то раз вестовые, подслушав разговор в кают-компании, узнали что в реакторном лежат отработанные палладиевые фильтры, которые все никак не получается сдать, так как нет спецтранспорта.
При слове «палладий» наша шайка пиратов оживилась, за детали с содержанием палладия скупщики платили очень хорошо.
- в реактором радиация, справедливо заметил годок, списанный с ГРКР «Варяг»
- Ты ее видел? - посмеялись тувинцы.
По их чоткому убеждению «радиацию» придумали офицеры, чтобы матросы не лезли туда где «самое вкусное».
Исходя из тувинско-пастушеской логики, если корабельный прибор не бьет током, не обжигает огнём, не выпускает едкий пар, то этот прибор безопасен, и его можно курочить на запчасти.
На следующий день дежурный обнаружил взломанную броняху кладовой в реактором и отсутсвие фильтров.
Экипаж построили по большому сбору. Годки ухмылялись, такое случалось не впервые, и краденое обычно найти не удавалось. С корабля оно выносилось после прекращения розысков через контрактников и мичманов, которые были в доле.
В этот раз было по другому. Начхим прошёл вдоль строя моряков с дозиметром, и вывел четверых. Офицеры к ним не подходили, прибор часто стучал.
Они признались, показали и их увезли в госпиталь. Говорили потом, что один умер.
А мы долго и муторно под присмотром специалистов занимались дезинфекцией корабля и сидели на карантине. Слава богу, было шило.
Сразу после этого я добился перевода на эсминец «Бесполезный», но это уже другая история.
#краснобайки
Оригинал
Первым кораблём в моей офицерской жизни был большой атомный разведывательный корабль (БАРЗК) «Урал». Сосредоточение всех самых современных советских технологий, к моменту прибытия на службу инженера группы анализа и обработки информации лейтенанта Краснобаева, БАРЗК «Урал» был уже при смерти.
Корабль отстоя. Экипаж сокращённый до минимума, отсеки с аппаратурой разбиты и разграблены. Вся служба сводилась к поддержанию пожаробезопасности и нетопляемости, хотя в некоторые отсеки попасть уже было невозможно.
Как читатель понял из названия, корабль был атомный, с двумя реакторами. Реакторы были заглушены, но с топливом.
На второй день другой лейтенант (выпускник Пушкинского училища) гордо показал мне своё заведование, - реакторный отсек, закрытый на навесной замок с дужкой. Пару раз в день он мерял там фон, и в целом, следил за порядком.
Были на корабле и матросы. Списанные с ходовых кораблей негодяи, а также малограмотные призывники из горных районов Дагестана и Тувы.
Матросы занимались дедовщиной и воровством всего подряд, в основном цветного металла, микросхем, хладона, и всего имеющего ценность у техасских скупщиков краденного флотского имущества.
Корабль на тот момент был уже практически разграблен, поэтому у крыс ценились немногие отсеки, охраняемые офицерами.
Одним из них был реакторный.
Как то раз вестовые, подслушав разговор в кают-компании, узнали что в реакторном лежат отработанные палладиевые фильтры, которые все никак не получается сдать, так как нет спецтранспорта.
При слове «палладий» наша шайка пиратов оживилась, за детали с содержанием палладия скупщики платили очень хорошо.
- в реактором радиация, справедливо заметил годок, списанный с ГРКР «Варяг»
- Ты ее видел? - посмеялись тувинцы.
По их чоткому убеждению «радиацию» придумали офицеры, чтобы матросы не лезли туда где «самое вкусное».
Исходя из тувинско-пастушеской логики, если корабельный прибор не бьет током, не обжигает огнём, не выпускает едкий пар, то этот прибор безопасен, и его можно курочить на запчасти.
На следующий день дежурный обнаружил взломанную броняху кладовой в реактором и отсутсвие фильтров.
Экипаж построили по большому сбору. Годки ухмылялись, такое случалось не впервые, и краденое обычно найти не удавалось. С корабля оно выносилось после прекращения розысков через контрактников и мичманов, которые были в доле.
В этот раз было по другому. Начхим прошёл вдоль строя моряков с дозиметром, и вывел четверых. Офицеры к ним не подходили, прибор часто стучал.
Они признались, показали и их увезли в госпиталь. Говорили потом, что один умер.
А мы долго и муторно под присмотром специалистов занимались дезинфекцией корабля и сидели на карантине. Слава богу, было шило.
Сразу после этого я добился перевода на эсминец «Бесполезный», но это уже другая история.
#краснобайки
Оригинал
СЛЕГ! <Z> ️
Ежедневный приток новых пользователей на карантине. Стабильно 1600 человек в сутки и более.
Прикрутил pandas для наглядности. Сегодня рекорд - всего 1100 человек. Народ явно узбагаивается.
/подвывая/ вы спрашивали, что такое задержка в умственном развитии? Не спрашивали? Но это она. Афтор канала @thisismyfacebook открывает для себя ортегу и кононенко. Весной 2020 года он увидел людей, которые не менялись последние лет 10 😂
И о выгрузке сообщений телеграм. Рано или поздно мы перейдём на эту дрянь :)
Телега никак не защищена от разграбления, скорость выгрузки 360 тысяч сообщений в час или 100 в секунду. То есть средний чат сливается за 20 минут, большой и старый, за пару часов.
Оптимальный по скорости вариант: запрос 1000 сообщений с паузой 3 секунды между ними. Дальше библиотека telethon все сделает сама, тройные пики на графике это выгрузка. А паузы нужной длинны проставляет телетон.
P.S. Постгрес это очень круто, mssql отдыхает :)
Телега никак не защищена от разграбления, скорость выгрузки 360 тысяч сообщений в час или 100 в секунду. То есть средний чат сливается за 20 минут, большой и старый, за пару часов.
Оптимальный по скорости вариант: запрос 1000 сообщений с паузой 3 секунды между ними. Дальше библиотека telethon все сделает сама, тройные пики на графике это выгрузка. А паузы нужной длинны проставляет телетон.
P.S. Постгрес это очень круто, mssql отдыхает :)
Но сохранять все подряд в неразобранном виде идея так себе. Для обучения парсера скачано 1,75М сообщений. Как видно на картинке, половина объёма это стикосы, гифки, и прочая дрянь. Получается 970 байт на среднее сообщение.
Поэтому рабочий вариант будет совсем другой.
Stay tuned :)
Поэтому рабочий вариант будет совсем другой.
Stay tuned :)
Эпической силы чтение получилось. Это окуклившийся сейчас чат "инвесторов", разорившихся в понедельник на нефти. Суть события в новостях. Рыночек порешал так, что самый счастливый должен брокеру 150к, самый несчастный под 10м рублей. Я его успел залить к себе и теперь выложу текстовую версию на память. Следующий пост ⬇️
invest.zip
393.6 KB
Архив чата инвесторов в текстовом формате. В несжатом виде 1,5Мб.
Когда подгребаешь уже остатки политоты (все основное собрано ещё в марте) получается смешное.
Первый проход скрипта по чату:
users - 578, dead - 179, bot - 2, phones - 4, written - 199, inchatwritten - 578
Новых пользователей только 199. Ещё 379 уже известны по другим чатам. 179 удалённых аккаунтов, 23% от общего числа. Да это же зомбиленд, Карл!
Первый проход скрипта по чату:
users - 578, dead - 179, bot - 2, phones - 4, written - 199, inchatwritten - 578
Новых пользователей только 199. Ещё 379 уже известны по другим чатам. 179 удалённых аккаунтов, 23% от общего числа. Да это же зомбиленд, Карл!
На днях переписал один из самых старых алгоритмов своих метрик. Ускорение в 280 раз. Оказалось, что сравнение строк в массивах в c++ стиле на питоне работает кое-как, а словари работают сверхбыстро. 🐍💙
P.s. В начале мая будут массивные обновления статистики, не переключайтесь
P.s. В начале мая будут массивные обновления статистики, не переключайтесь