👩‍💻 Бывший технический директор OpenAI Мира Мурати собирается привлечь $100 млн для cвоего ИИ-стартапа

Мира Муратти хочет привлечь более $100 млн для нового стартапа в области искусственного интеллекта. По данным источников Reuters, её новая компания будет разрабатывать продукты ИИ на основе собственных моделей, что потребует значительных инвестиций для их обучения. Сейчас бывший технический директор OpenAI активно общается с венчурными инвесторами, и её авторитет в отрасли может помочь ей достичь этой амбициозной цели. Как известно, ключевую роль в заключении многомиллиардного партнёрства между OpenAI и Microsoft сыграла именно Мира Муратти.

Муратти ранее курировала такие проекты, как ChatGPT и DALL-E в OpenAI, и покинула компанию в конце сентября 2024 год вместе с другими видными топ-менеджерами из OpenAI. В частности, её бывший коллега Барретт Зоф, вице-президент по исследованиям, также может присоединиться к её новому стартапу.

По одной из версий, причина ухода Мурати из OpenAI связана с конфликтом команд — 👺ИИ-безопасниками и 🤑коммерческим подразделением. Конфликт влиял прямым образом на выход новых продуктов на рынок. Коммерсы стремились к быстрому выпуску новых моделей — GPT-4 и других. Сотрудники по вопросам безопасности ИИ-моделей утверждали, что LLM вышли на рынок слишком рано и не были протестированы на безопасность должным образом​. Классика.

✋ @Russian_OSINT

🤖ИИ-детекторы ошибочно обвиняют cтудентов с аутизмом в читинге

С внедрением широко используемых ИИ-детекторов для выявления написанных текстов с помощью LLM (пример GPTZero и Copyleaks) некоторые студенты всё чаще сталкиваются с необоснованными обвинениями в свой адрес cо стороны университетов, хотя утверждают, что пишут работы собственноручно. По данным Bloomberg со ссылкой на центр какой-то там демократии, на западе около 2/3 преподавателей регулярно используют такие программы для проверки работ студентов.

Проблема в большей степени затрагивает тех, кто пишет в упрощенном стиле: например, студенты с аутизмом, люди с ментальным расстройствами или иностранцы, чей английский не является родным языком.

Ярким примером такого рода проблем стала ситуация с Моирой Олмстед, студентки из Central Methodist University. Её работа в виде реферата была ошибочно помечена как 🤖❗️"сгенерированная при помощи ИИ". Из-за ложного срабатывания ИИ-детектора академическое положение девушки пошатнулось. Ей дали оценку 0 за реферат. Закончиться всё могло плачевно — академическими санкциями вплоть до отчисления.

Как позже выяснилось, Олмстед страдает аутизмом и ей пришлось объясняться почему ИИ счёл упрощенный стиль письма в её работе "роботизированным". После долгих разбирательств преподаватели всё же изменили оценку и приняли работу, но предупредили — повторное нарушение, подразумевающее использование "упрощенного стиля письма", будет расцениваться как плагиат.

👆В некоторых ВУЗах на западе решили отказаться от ИИ-детекторов, так как процент ложных срабатываний на больших выборках cтудентов слишком велик. Им не хотят губить учёбу.

✋ @Russian_OSINT

🇮🇱Израильский поставщик шпионского ПО Paragon Solutions "забуксовал" в 🇺🇸Штатах

Подписанный контракт на сумму 2 миллиона долларов между Иммиграционной/таможенной службой США (ICE) и израильским поставщиком шпионского ПО Paragon Solutions временно ❄️заморожен для проверки на соответствие указу президента Байдена, который предусматривает ограничение использования шпионских технологий в госструктурах. Об этом сообщает WIRED.

Компания Paragon Solutions была основана в 2019 году бывшими сотрудниками израильской разведки — генеральный директор Идан Нурик, технический директор Игорь Богудлов и вице-президент по исследованиям Лиад Авраам, а также Эхуд Шнеорсон, бывший командир израильского аналога 🇺🇸 АНБ, известного как Unit 8200.

Это первый случай на практике, когда сделка попала под проверку надзорных органов — на соответствие исполнительному указу 14093. Особое внимание уделяется ПО под названием◾️Graphite, которое способно извлекать данные из 🌦 облачных резервных копий. Этичность использования данного ПО вызывает критику со стороны правозащитных организаций в США.

❔ Вмешаются ли влиятельные покровители из чиновничьего аппарата США в процесс для разрешения всех вопросов — таки неизвестно.

Как сообщал Wired, в 2019 году Paragon привлекла консультационную фирму WestExec Advisors для продвижения своих интересов, соучредителем которой является нынешний 🇺🇸 госсекретарь США Энтони Блинкен.

✋ @Russian_OSINT

🤖Meta* внедряет технологию распознавания лиц на своих платформах

Компания Meta* начала тестирование технологии распознавания лиц на своих платформах для борьбы с 🥷мошенническими рекламными объявлениями, где используются изображения знаменитостей — «celeb-bait». Об этом сообщила вице-президент по политике контента Моника Бикерт.

👁 Новая ИИ-проверка нацелена на размещённые рекламные объявления с изображениями, которые будут сопоставляться с профилями реальных знаменитостей в Facebook* и Instagram*. Если система подтвердит, что объявление фейк, то рекламное объявление заблокируется.

👁 Технология от Meta* будет анализировать лица людей в рекламе, обрабатывать их и якобы удалять сразу после верификации.

Компания также тестирует распознавание лиц для борьбы с поддельными аккаунтами ⭐️знаменитостей. Еще одной новинкой является использование 📹видеоселфи с применением распознавания лиц для упрощения восстановления аккаунтов, которые были взломаны. Такой метод якобы более безопасен, чем традиционная верификация через документы.

👆🤔Примечательно, что тестирование технологии распознавания не проводится в 🇬🇧Великобритании и 🇪🇺ЕС, где действуют строгие правила защиты данных, требующие обязательного согласия на использование биометрии. Получать очередной штраф корпорация не спешит.

Общая сумма штрафов у Meta* сейчас превышает 2,5 миллиарда евро.

*Деятельность Meta (соцсети Facebook, Instagram, Threads) запрещена в России как 🏴‍☠️ экстремистская.

✋ @Russian_OSINT

🇦🇺👮Австралийская федеральная полиция пришла с расспросами к сотруднику мессенджера Session

Приложение для обмена якобы 🔐шифрованными сообщениями Session объявило о смене своей юрисдикции. Теперь Session юридически переезжает из Австралии в Швейцарию после того, как федеральная полиция нагрянула в дом одного из сотрудников компании. По словам президента фонда Session Technology Foundation (STF) Алекса Линтона, решение было принято из-за усиливающегося давления со стороны правоохранительных органов Австралии.

Полиция решила допросить сотрудника компании по поводу работы приложения. Офицеры AFP спрашивали детали, относящиеся к расследованию, которое было связано c конкретным пользователем Session.

Линтон пояснил, что перед компанией встал выбор: остаться в Австралии или перенести свою деятельность в более лояльную к вопросам приватности юрисдикцию.

Теперь разработка и поддержка приложения будет осуществляться новым швейцарским фондом — Session Technology Foundation (STF). STF будет отвечать за управление репозиториями кода, публикацию приложений и контроль над криптографическими ключами​. Несмотря на трения с местными силовиками, приложение Session продолжит функционировать на территории Австралии.

Некоторые комментаторы-скептики посчитали такой ход со стороны STF PR-акций, чтобы привлечь к себя внимание и заманить пользователей, прикрывшись легендой о давлении со стороны полиции.

Является ли мессенджер "анонимным" и "суперзащищенным" — крайне спорный вопрос.

👆🤔Обратил внимание на то, что в их 📄 growth vision - присутствуют планы по внедрению:

💠Session Name Service (SNS): система уникальных имён внутри экосистемы мессенджера Session. Она позволяет пользователям регистрировать уникальные идентификаторы (имена). С их помощью пользователи смогут находить и добавлять друг друга в контакты, не прибегая к использованию длинных случайных чисел.
💠Session Wallets: планируется интегрировать в будущем кошельки внутри приложения для хранения и управления криптовалютными активами.
💠Маркетплейс SNS: в планах говорится о создании вторичных рынков для торговли предметами (items). Это могут быть как usernames, так и другие виды цифровых активов.

Как бы намекает....

По заявлению самого Session, cейчас их аудитория насчитывает около 1,2 млн пользователей.

💊И ещё, таблетка памяти по поводу "железобетонных" 🇨🇭швейцарских сервисов типа Proton Mail.

✋ @Russian_OSINT

🤖Является ли ИИ-бум "пузырем" в лучших традициях маркетологов?

На днях вышло интервью с 😁 Линусом Торвальдсом, одним из один из самых влиятельных программистов в мире IT. Он известен как создатель ядра операционной системы Linux.

🤖Торвальдс говорит, что ИИ изменит мир cо временем, но на сегодняшний день искусственный интеллект это на 90% маркетинг и только 10% это реальные проекты. Пройдет ещё 5 лет, прежде чем станет ясно, как ИИ действительно может быть полезен человечеству.

Относительно схожего мнения придерживается генеральный директор 🇨🇳 Baidu Робин Ли. По мнению предпринимателя, ИИ сегодня представляет собой "пузырь", чем то похожий на историю доткомов 1990-х годов.

По его прогнозам, выживет не более ☠️1% компаний, которые в конечном итоге станут лидерами отрасли и создадут реальную ценность для общества.

👷‍♀️ Гендиректор Baidu посоветовал государственным чиновникам, компаниям и гражданам готовиться к исчезновению рабочих мест благодаря автоматизации и ИИ. Это может занять по разным оценкам от 10 до 30 лет.

👆Из смелых высказываний можно выделить следующее: проблема 🧠"галлюцинаций" в больших языковых моделях в значительной степени решена за последние 18-20 месяцев. Со временем есть надежда, что LLM больше не будут глючить и выдавать некорректные/ложные ответы.

✋ @Russian_OSINT

👮 Американская DEA десантировалась в Нидерландах для проведения тайной операции по делу о зашифрованных телефонах

Как сообщает NRC.NL, американские агенты из DEA (Управление по борьбе с наркотиками) провели секретную операцию в Европе на территории 🇳🇱Нидерландов без уведомления местных блюстителей закона. Операция была частью расследования деятельности канадской компании Sky Global, которая продавала 📱зашифрованные телефоны преступникам

В частности, компания продавала телефоны с предустановленным зашифрованным мессенджером Sky ECC. Телефоны предусматривали end-to-end шифрование, самоуничтожение сообщений, "встроенную защиту от взлома", включая удаление всех данных после нескольких неудачных попыток ввода пароля, а также в нём отсутствовали 📹камера и 🧊 браузер, чтобы минимизировать риск взлома.

В 2019 году США обязались не вмешиваться в расследование по делу Sky Global, чтобы не мешать работе европейских 👮следственных органов. Однако в материалах дела говорится обратное: американские агенты без какого-либо разрешения всё же провели операцию, несмотря на обещание этого не делать.

Агенты DEA вступили в контакт с одним из продавцов Sky в Нидерландах и предложили ему обменять крупные суммы наличных денег на биткойны c целью отмывания. Они хотели вовлечь подозреваемого в незаконную деятельность для фиксации противоправной деятельности и установить с ним более тесный контакт для дальнейшего расследования.

В результате операции многие подозреваемые в Нидерландах были привлечены к ответственности на основании перехваченных сообщений. Теперь местные юристы задаются вопросом о правомерности американской операции в их стране.

Осведомленный адвокат по делу Sky Global Юстус Райзингер утверждает, что любые действия иностранных сил на территории Нидерландов должны быть санкционированы местной прокуратурой или судом. Однако документы, подтверждающие такое разрешение, не были представлены адвокатам в ходе судебных разбирательств в отношении подозреваемых. По его словам, это нарушает базовые принципы прозрачности.

В частности, он предполагает два возможных сценария: либо США действовали без разрешения нидерландских властей, что является cерьезным нарушением законов, либо голландская прокуратура знала об операции, но скрыла этот факт от защиты. Законность собранных доказательств в ходе операции может быть поставлена под сомнение.

✋ @Russian_OSINT

🖥 Реестр доверенного российского ПО от Минцифры.

⬇️ https://reestr.digital.gov.ru/reestr/

🛡 @Russian_OSINT

😍 Если ты еще не начал багхантить, то у нас есть весомый аргумент!
Очередной Standoff Хакс пройдет во Вьетнаме, и ты можешь полететь туда вместе с нами!

Standoff Хакс — это закрытое мероприятие для топовых белых хакеров и 30 ноября он пройдет во Вьетнаме.

Как попасть в топ? Найди и сдай до 29 октября как можно больше багов по этим публичным программам:

• Positive Technologies (все программы)
• Standoff 365
• VK (все программы)
• Т-Банк
• Азбука вкуса
• Ozon
• Okko
• Wildberries
• Rambler&Co
• ATI.SU

2️⃣ Двоих багхантеров, которые с момента публикации поста наберут суммарно больше всего очков по этим программам, берем с собой в Ханой (за наш счет!). Трое топовых исследователей по очкам и выплатам уже в списке приглашенных, не хватает только тебя.

Будем подводить промежуточные итоги, чтобы ты видел результаты и оценивал шансы — свои и конкурентов.

Ну что? 3, 2, 1… го багхантить!

🎖🇺🇸 Defense OSINT Strategy (DoD) 2024–2028 от 23 октября 2023

▪️Интеграция OSINT на всех уровнях управления и оперативной деятельности.
▪️Планируется повсеместное внедрение технологий ИИ/машинного обучения для сбора и обработки данных в рамках OSINT.
▪️Глобальная цифровая среда удваивается каждые 2 года, требуя новых методов обработки данных для DoD.
▪️Увеличение числа коммерческих партнёров и исследовательских организаций для помощи DoD в области анализа открытых данных.
▪️Инвестиции в подготовку высококвалифицированных OSINT-специалистов.
▪️Рост числа спам-ботов и фейковых аккаунтов в социальных сетях будет представлять серьёзную угрозу.

✋ @Russian_OSINT

📖 РБК: РКН думает об ограничении сбора персональных данных

Как пишет РБК, Роскомнадзор предлагает разработать и закрепить на законодательном уровне обязательные стандарты работы с персональными данными, которым должны будут следовать все участники оборота таких данных. Об этом РБК рассказал представитель ведомства. По его словам, эта инициатива — пока в стадии предложения.

Как следует из объяснения собеседника РБК, организации смогут собирать только те данные, которые действительно нужны для выполнения конкретных задач, и📖 сбор будет возможен только на основании закона, а не по согласию граждан, как это происходит сейчас. Вместо того чтобы получать данные напрямую от граждан, организации будут получать их от уполномоченных органов, если это необходимо.

Вместо того чтобы получать данные напрямую от граждан, организации будут получать их от уполномоченных органов, если это необходимо.

По словам представителя Роскомнадзора, сейчас нередко персональные данные собирают «на всякий случай», без четкой цели их дальнейшего использования. Оператором персональных данных является любой, кто их обрабатывает. А это более 5 млн юридических лиц в России, включая индивидуальных предпринимателей, говорил в октябре глава комитета Госдумы по информационной политике Александр Хинштейн.

✋ @Russian_OSINT