Будущее ИИ: ключевые идеи и риски по версии Anthropic

Недавно состоялось пятичасовое интервью, в котором были раскрыты многочисленные аспекты развития искусственного интеллекта. В беседе участвовали генеральный директор компании Anthropic Дарио Амодей, а также ведущие эксперты компании — Аманда Аскелл и Крис Олах. Anthropic, создатель языковой модели Claude, сегодня является одним из ключевых игроков на рынке ИИ, уступая по влиянию только OpenAI.

Особое внимание в интервью было уделено вопросам безопасности в контексте развития ИИ. Обсуждалось выступление Амодея в Сенате, где он предупредил о серьезных биологических рисках в ближайшие 2–3 года. Амодей также подчеркнул риски злоупотребления технологиями в кибернетической, химической и ядерной областях.

Одной из центральных тем стало влияние ИИ на рынок труда. Программирование находится под наибольшим риском автоматизации, поскольку ИИ может эффективно замкнуть цикл "написание кода — запуск — анализ результатов — интерпретация". За последний год способность ИИ решать задачи программирования выросла с 3% до 50%, и ожидается, что она достигнет 90% в течение следующих 10 месяцев. Аналогичные тенденции наблюдаются в сфере биотехнологий.

Технологическое развитие ИИ сталкивается с определёнными ограничениями. Критическим фактором является доступность графических процессоров, производство которых сконцентрировано на Тайване. Другим важным аспектом является потребность в качественных данных для обучения моделей, что привело к росту использования синтетических данных, генерируемых самими ИИ-системами.

В области регулирования Амодей подчеркнул фундаментальный принцип: человек должен сохранять контроль над ИИ, не допуская бесконтрольного развития систем и формирования ими собственных правил. Крис Олах поделился исследованиями в области механистической интерпретируемости, направленными на лучшее понимание и контроль работы нейронных сетей.

Прогнозы развития технологий предполагают значительные улучшения в работе языковых моделей уже в 2024 году, с более существенными прорывами в 2025–2026 годах. Эти изменения затронут как технические возможности систем, так и их практическое применение в различных областях.

🔒DARPA&CIA

RIDDL: новая фаза подготовки США к эпохе биологических войн

DARPA объявило о запуске программы RIDDL (Rapid Inhibitor Discovery and Development pipeLine) с бюджетом $17 млн, целью которой заявлена разработка быстродействующих ингибиторов технологий редактирования генома, таких как CRISPR. Хотя официально программа позиционируется как инструмент защиты от случайного или преднамеренного использования генных технологий, анализ технических требований и структуры программы указывает на возможное более широкое применение, включая сценарии стратегической подготовки.

RIDDL предусматривает создание платформы, способной за 24 часа выявлять и разрабатывать ингибиторы для новых систем редактирования генов. Ключевые требования к ингибиторам включают эффективность блокировки более 99%, отсутствие иммунного ответа, длительное действие (более 7 дней) и минимизацию заметных эффектов. Эти параметры идеально подходят для обеспечения защиты от генного оружия.

Программа состоит из трех фаз, в рамках которых технологии будут переданы военным структурам США для тестирования и последующего использования. Отсутствие исследований на животных и людях, вероятно, свидетельствует о том, что эти этапы уже реализованы в закрытых или параллельных проектах.

Зная долгосрочные стратегические интересы США, есть основания предполагать, что такие разработки могут использоваться не только для защиты собственного населения, но и для усиления влияния в сфере биотехнологий, включая наступательное применение генных технологий против других стран.

🔒DARPA&CIA

Новая платформа DARPA для обслуживания спутников

Военно-морская исследовательская лаборатория США (NRL) совместно с DARPA объявили о завершении разработки роботизированного комплекса для обслуживания спутников на геосинхронной орбите. Проект, начатый в 2016 году под названием RSGS (Robotic Servicing of Geosynchronous Satellites), вступает в финальную стадию подготовки к запуску.

Основное предназначение системы – обслуживание и модернизация коммерческих, гражданских и военных спутников непосредственно на орбите. Учитывая, что стоимость некоторых спутников превышает миллиард долларов, возможность их ремонта и обновления представляет значительный экономический интерес.
Разработанный комплекс, включающий два роботизированных манипулятора и электронные системы управления, передан компании SpaceLogistics (подразделение Northrop Grumman) для интеграции с космическим аппаратом MRV (Mission Robotics Vehicle). В настоящее время идет подготовка к проведению комплексных испытаний в условиях, имитирующих космическую среду.

Следует отметить, что несмотря на заявленные гражданские цели проекта, участие военных структур и DARPA может указывать на более широкий спектр потенциальных применений данной технологии. Возможность манипулировать объектами на геосинхронной орбите может иметь не только ремонтное, но и военное значение.
Запуск системы запланирован на 2026 год, после чего должен начаться период тестирования и калибровки, а затем – полномасштабное применение. Однако, учитывая сложность технологии и отсутствие аналогов, реальные сроки начала эффективной эксплуатации системы могут быть существенно более длительными.

Проект демонстрирует растущий интерес США к развитию технологий обслуживания космических аппаратов на орбите, что может существенно повлиять на экономику космической деятельности и военный потенциал в космическом пространстве.

🔒DARPA&CIA

Как отличить настоящий голос от синтетического?

Распространение технологий синтеза речи создало новую проблему в сфере информационной безопасности. Сегодня искусственный интеллект может создавать настолько точные копии человеческого голоса, что даже специалисты затрудняются определить подделку. Особенно острой эта проблема становится, когда речь идет о публичных заявлениях или конфиденциальной информации.

Рассмотрим патент, разработанный компанией SRI International в рамках программы DARPA SEMANTIC FORENSICS (SEMAFOR). Программа реализуется с 2020 по 2024 год с бюджетом около 12 миллионов долларов.

Технология, описанная в патенте, основана на посегментном анализе аудиозаписей. Система ищет специфические признаки искусственно сгенерированной речи - своего рода "цифровые отпечатки", которые оставляют программы-генераторы. Эти артефакты незаметны для человеческого слуха, но могут быть обнаружены с помощью специальных алгоритмов. Технология способна работать как с полностью синтезированными записями, так и с частично изменёнными файлами.

Потенциальные сферы применения:

• Информационная безопасность: Проверка достоверности публичных заявлений и предотвращение распространения дезинформации

• Правовая сфера: Верификация аудиодоказательств в судебных разбирательствах

• Государственная безопасность: Анализ материалов из непроверенных источников

• Бизнес: Защита конфиденциальной информации

Технология особенно ценна за счёт адаптивности. Она учитывает особенности различных генераторов речи и методов обхода защиты, что делает её устойчивой к новым типам поддельного контента.

🔒DARPA&CIA

AGI как новое супероружие: США готовят свой "Манхэттенский проект" в сфере ИИ

Сегодня был опубликован любопытный документ - свежий отчет американской Комиссии по отношениям с Китаем. На первый взгляд - обычная бюрократическая рутина. Но стоит копнуть глубже, и картина вырисовывается интересная.

Начинается все громко - с предложения запустить программу разработки Искусственного Общего Интеллекта (AGI) в духе "Манхэттенского проекта". Того самого, в рамках которого США создали первую атомную бомбу. Само сравнение весьма красноречиво показывает, насколько серьезно американский истеблишмент относится к гонке за AGI*.

Комиссия, подготовившая отчет, - не просто очередной аналитический центр. Созданная в 2000 году, она напрямую работает на Конгресс США, минуя исполнительную власть. 12 человек, меняющиеся каждые два года, регулярно выдают рекомендации, которые потом часто превращаются в реальные законы.

Любопытно взглянуть на частоту упоминаний разных тем в отчете:

• Россия - 493 раза
• Искусственный интеллект (AI) - 548 раз
• Война - 649 раз
• Военные действия - 84 раза
• Санкции - 299 раз
• NVIDIA - 73 раза
• AGI - 13 раз
• "Манхэттенский проект" - 3 раза

Казалось бы, отчет про Китай, но Россия упоминается почти 500 раз - похоже, в Вашингтоне всерьез обеспокоены сближением Москвы и Пекина.
Особенно показательно сравнение частоты упоминаний NVIDIA (73 раза) и AGI (13 раз). При том, что создание AGI объявлено приоритетом уровня "Манхэттенского проекта", гораздо больше внимания уделяется контролю над конкретными технологиями и компаниями. Это может говорить о том, что реальной целью является не столько технологический прорыв, сколько сохранение технологического доминирования США через контроль ключевых компонентов.

В целом, документ демонстрирует, что американские элиты всерьез обеспокоены утратой технологического лидерства и готовы использовать весь спектр инструментов - от масштабных государственных программ до санкций - для сохранения своих позиций.


*AGI (Artificial General Intelligence), или Искусственный Общий Интеллект, — это гипотетическая форма искусственного интеллекта, способная выполнять практически любые интеллектуальные задачи на уровне человека или даже лучше. Современные системы ИИ хорошо справляются только со специфическими задачами, тогда как AGI сможет, подобно человеку, обучаться новым навыкам и применять свои знания в различных областях.

🔒DARPA&CIA

Третья мировая война, которая уже началась

Вчера мы стали свидетелями применения новейших ракет России под кодовым названием «Орешник». Эти ракеты поразили подземный объект на заводе «Южмаш», который в советские времена производил до 100 межконтинентальных баллистических ракет (МБР) в год. Завод активно работал, но уже на нужды военной промышленности НАТО, представленной через их прокси — ВСУ.

Силы НАТО, включая их системы противоракетной обороны, не способны сбивать «Орешник». Даже такие комплексы, как Patriot, оказались бессильны перед этим оружием. Скорость ракет — до 10 Махов — делает их недосягаемыми для современных систем ПВО, развернутых на территории Украины.

Тем временем страны НАТО продолжают наносить удары по России. Недавний пример — массированный ракетный обстрел объекта в Курской области ракетами Storm Shadow. Несмотря на их относительно низкую скорость (около 0,8 Маха), они крайне сложны для перехвата. На радарах систем ПВО, таких как Тор-М2, эти ракеты появляются практически в последний момент, а перехват возможен лишь тогда, когда ракета поднимается перед финальной фазой атаки.

Однако важно понимать, что США и другие страны НАТО активно занимаются разработкой как гиперзвукового оружия, так и технологий его перехвата. Например, в США реализуются такие проекты, как DARPA Glide Breaker и Glide Phase Interceptor (GPI). Программа Glide Breaker нацелена на создание технологий для уничтожения гиперзвуковых целей в верхних слоях атмосферы, включая их наиболее маневренную глайдовую фазу, что требует высокой скорости перехватчика и точности наведения. В свою очередь, проект GPI, разрабатываемый Агентством противоракетной обороны (MDA), фокусируется на создании системы перехвата ракет именно на глайдовой фазе их полета, когда гиперзвуковые аппараты наиболее сложны для нейтрализации. Эти проекты находятся на разных стадиях готовности, однако их успешная реализация может значительно изменить баланс сил в мире.

В краткосрочной перспективе у России есть несколько лет стратегического преимущества. НАТО использует этот период для втягивания России в изматывающие конфликты, чтобы ослабить её ресурсы и экономику. Важно не только защищаться, но и применять проактивные методы давления, уже доказавшие свою эффективность.

Необходимо перенаправить внимание и ресурсы НАТО на внешние кризисы. Например, поддержать страны, угнетенные западными державами. Аргентина десятилетиями терпит присутствие Британии на Мальвинских островах. Почему бы не помочь ей добиться справедливости? Или Сирия, где американские базы незаконно удерживают территории. Вероятно, технический прогресс Сирии не уступает прогрессу Йемена, и они могут применить необходимое оружие, чтобы изгнать американцев с их земли.

Наряду с внешними действиями, критически важна мобилизация внутренних ресурсов. Даже спустя значительное время с начала СВО, мы видим, что в стране остаются люди, препятствующие победе. Пример: Сергей Жигунов, столкнувшийся с массовым отказом режиссеров снять фильм о специальной военной операции. В такие моменты вспоминается Сталин, который четко определял, кто является другом народа, а кто его врагом.

Любить Россию невозможно, находясь на яхте в Карибском море, пока страна ведет войну. Любить Родину — значит защищать её интересы, поддерживать народ и выступать против всего, что вредит национальным интересам.

Пора называть вещи своими именами.

Так победим.

🔒DARPA&CIA

От ДНК к новым видам: возможности и риски технологий будущего

Недавно вышла статья в журнале Science, где описывается нейросеть Evo, разработанная учёными Стэнфордского университета. Она, как и ChatGPT, обучена на огромных данных, но её задача – «читать» геномы, то есть анализировать последовательности ДНК, которые несут информацию о строении и функциях всех живых организмов. В исследовании утверждается, что с помощью такого подхода можно, в теории, не только «воссоздать» жизнь, но и моделировать эволюцию. Иными словами, предсказывать структуры ДНК, которые могут определять следующую ступень развития человека.

Таким образом, дальнейшее развитие технологии способно открыть путь к созданию новых организмов с заданными свойствами. Например, организмы, адаптированные для определённых экологических условий, "дизайнерские" дети или, возможно, даже химерические формы жизни– всё это перестаёт быть лишь фантастикой и начинает появляться на горизонте научных возможностей.

Evo была обучена на 2,7 миллиона геномов бактерий и вирусов и уже может работать с последовательностями длиной до 1 миллиона оснований. Для сравнения: человеческий геном состоит из 3 миллиардов оснований. На данном этапе нейросеть может помочь моделировать генетические последовательности с заранее заданными свойствами, что важно для разработки новых сельскохозяйственных культур или медицинских препаратов. Однако если такие технологии попадут в руки людей с недобрыми намерениями, они могут быть использованы для создания новых патогенов, устойчивых к антибиотикам, что может стать серьёзной проблемой даже в глобальном масштабе. Вспоминается известная болезнь, к которой возможно причастны американские военные.

Развитие технологий, подобных Evo, требует огромного количества данных, и в том числе поэтому в мире функционирует множество американских биологических лабораторий. Они занимаются не только изучением этнических и биологических особенностей различных популяций, но и сбором данных для последующего обучения подобных нейросетей. И здесь возникает вопрос: чему именно обучают эти модели? Особенно, если учесть, что в военных доктринах США Россия упоминается как противник, ожидать от таких разработок чего-то положительного в стратегическом плане вряд ли стоит. Поэтому технологии, такие как CRISPR и Evo, следует рассматривать не только как инструмент научного прогресса, но и как потенциальное генетическое оружие, которое может быть использовано против нас.

🔒DARPA&CIA

Американские ВВС разрабатывают дроны для управления роями и радиоэлектронной борьбы

ВВС США (если точнее - Управление разведки, наблюдения и специальных операций) разместили запрос на информацию (RFI) о возможностях промышленности в области беспилотных систем.

Американцы хотят создать такую систему:

• В воздух запускается средний беспилотник (3-го класса, размером примерно с небольшой самолет), который обладает низкой заметностью для радаров.

• Этот беспилотник обеспечивает управление роем малых дронов (2-го класса), находящихся в зоне его действия. Эти дроны могут быть запущены с земли, других платформ или, теоретически, с самого беспилотника.

• Основной беспилотник выполняет роль узла управления и связи (C2/DR) для роя, обеспечивая координацию их действий и передачу данных в условиях активного противодействия противника.

• Одновременно беспилотник выполняет функции радиоэлектронной борьбы (РЭБ), создавая помехи для систем связи и ПВО противника, что повышает выживаемость как роя дронов, так и собственно платформы.

• Даже если часть малых дронов будет выведена из строя или подавлена средствами противника, остальные смогут выполнить задачу благодаря распределенной системе управления.

Они хотят получить готовые решения за 24-36 месяцев. При этом требуют, чтобы системы были модульными (MOSA) и с высокой степенью готовности технологий (TRL/MRL). Планируют регулярные циклы обновления, во время которых могут заменять любые компоненты для максимизации боевых возможностей.

Часть требований засекречена (они их называют CUI - Controlled Unclassified Information) и доступна только после специального разрешения через систему SAM.gov.

Они заявляют о намерении использовать эти системы для "наступательных" операций (так и пишут - Offensive sUAS SPO). То есть для ведения боевых действий на территории противника. При этом специально подчеркивают заинтересованность в "нетрадиционных" и "инновационных" подходах от новых поставщиков, а не только от традиционных оборонных компаний.

🔒DARPA&CIA

Патент на апокалипсис: DARPA и её эксперименты со смертельными вирусами

21 ноября этого года в рамках программы PREEMPT который финансировался DARPA, был опубликован патент на создание универсальных вакцин против целого ряда смертельно опасных вирусов: Нипах, Хендра, Эбола, лихорадка Рифт-Валли, различные виды оспы, грипп A (H1N1, H3N2) и B. Кроме того, патент обсуждает использование систем с летучими мышами в контексте исследований и связанных с ними вирусов.

В 2018 году, за два года до глобальной пандемии COVID-19, DARPA запустило проект с названием PREEMPT (PREventing EMerging Pathogenic Threats). Официально его цель – предотвращение передачи опасных вирусов от животных к человеку. Основной фокус исследований был направлен на зоонозные вирусы, передающиеся от животных к людям. Особое внимание уделялось летучим мышам – природным резервуарам коронавирусов (включая MERS-CoV), филовирусов (например, Эбола), а также вирусов Зика, Ласса и гриппа.

В рамках проекта исследовались механизмы адаптации вирусов, включая выявление мутаций, которые позволяют вирусам передаваться от животных человеку. Уделялось внимание географическим "горячим точкам" — регионам с повышенным риском межвидовых переходов, таким как тропические зоны. Также разрабатывались методы вмешательства, включая генные технологии (CRISPR/Cas) для изменения вирусов.

Все эксперименты проводились в военных лабораториях США с высшим уровнем биозащиты (BSL-3 и BSL-4), где изучаются самые опасные патогены. Именно там, в условиях строжайшей секретности, велись работы с коронавирусами летучих мышей – за два года до начала пандемии COVID-19.

Военное агентство США, ведет масштабную работу с опаснейшими вирусами. Начав в 2018 году с изучения передачи коронавирусов от летучих мышей к человеку, они проводят эксперименты по генной модификации патогенов в секретных лабораториях. Через два года мир сотрясает пандемия COVID-19, предположительно связанная с летучими мышами. А теперь появляется патент на универсальную вакцину против целого спектра смертельных вирусов.

Возникает закономерный вопрос: не является ли программа PREEMPT прикрытием для разработки биологического оружия нового поколения? Ведь создание вакцины обычно следует за появлением вируса, а не наоборот. И если эти исследования действительно связаны с происхождением COVID-19, какие еще сюрпризы могут ожидать человечество в будущем?

🔒DARPA&CIA

QUEENS: Проект DARPA по квантовым суперсенсорам

DARPA выпустило новый запрос информации (RFI) под названием QUEENS, направленный на разработку принципиально новых сенсорных технологий с использованием квантовой физики.

Основная идея проекта — использовать квантовую запутанность, когда две связанные частицы мгновенно реагируют на изменения друг друга, даже находясь на огромном расстоянии. Такой принцип позволит создать сенсоры с беспрецедентной точностью, способные обнаруживать объекты и работать в экстремальных условиях, недоступных для традиционных технологий: под землей, под водой или в условиях сильных электромагнитных помех.

Проект предлагает два подхода. Первый - как конструктор: ученые будут собирать сенсоры из разных квантовых "деталей", создавая универсальные устройства. Второй - взять существующие квантовые сенсоры и научно их «допилить» до совершенства.

Потенциальные области применения включают военную разведку, навигацию и обнаружение объектов. Сенсоры могут использоваться для обнаружения подводных лодок, скрытой военной техники, улучшения навигации беспилотников и анализа электромагнитных сигналов.

Ещё одна грань возможного применения – это квантовая связь. Если объединить сенсоры и квантовые коммуникации, можно создать неуловимую систему передачи данных, которую невозможно перехватить или взломать.

🔒DARPA&CIA

The Guardian опубликовал любопытный материал, раскрывающий легкую панику в рядах западных спецслужб. Причина проста - возвращение Дональда Трампа в Белый дом может поставить крест на их амбициозных планах по вербовке российских чиновников и силовиков.

Последние три года ЦРУ развернуло беспрецедентную по своей наивности кампанию. Американцы всерьез решили, что смогут переманить недовольных российских госслужащих с помощью красивых видеороликов на Youtube и цитат из Толстого. В их представлении, достаточно показать "красивую картинку западной жизни" и намекнуть на недовольство спецоперацией, чтобы российские патриоты выстроились в очередь за американским паспортом.

Реальность оказалась куда прозаичнее. По признанию самих западных источников, успешность вербовки составляет около 1%.

Особенно показательна реакция "союзников" США на грядущее возвращение Трампа. Британская MI6 и другие западные спецслужбы уже открыто признают, что боятся делиться с американцами секретной информацией по России. Они помнят, как Трамп в свой первый срок относился к гостайне, и опасаются, что все их наработки окажутся скомпрометированы.

Отдельная головная боль для западных разведок - возможное назначение Тулси Габбард на пост руководителя национальной разведки США. Её "преступление" в глазах ястребов - признание того, что у России могут быть законные интересы в сфере безопасности. Такой "еретический" взгляд приводит в ужас западный разведывательный истеблишмент.

Самое забавное в этой ситуации - то, как статья, задуманная для нагнетания страха перед "российской угрозой", фактически демонстрирует провал западных спецслужб. Они расписываются в собственном бессилии, признавая неспособность противостоять российской контрразведке и страх перед изменением политического курса США.

🔒DARPA&CIA

Американцы разрабатывают радары, которые смогут "видеть" в сложных условиях

DARPA разместило новый запрос на проведение исследований в области радиолокации. Главная цель — придумать новые методы, которые позволят радару "видеть" больше и лучше, используя сложные свойства электромагнитного поля.

Обычные радары работают, отправляя сигналы с плоской волной. DARPA хочет использовать новые типы сигналов, которые описывают как "скрученные" или "сложные". Считается, что такие сигналы помогут извлекать больше информации о цели, например, о её форме, поверхности или материалах. Для этого планируют применять технологии, которые ранее использовались в оптике, но теперь хотят перенести их в радиолокацию.

Американцы надеются, что новые радары смогут:

• Обнаруживать объекты, которые раньше было сложно заметить.

• Лучше работать в сложных условиях, например, при наличии помех или в плохую погоду.

• Распознавать несколько целей одновременно, даже если они близко друг к другу.

Исследования будут проходить в два этапа. Сначала учёные создадут теоретическую основу: как такие сигналы работают, какие формы лучше использовать и как интерпретировать их отражение. Затем они построят экспериментальную систему, чтобы проверить идеи на практике. DARPA рассчитывает, что такие радары можно будет сделать на основе недорогих технологий, например, автомобильных радаров или Wi-Fi-систем. Таким образом, DARPA явно делает акцент на использовании уже доступного и недорогого оборудования для ускорения разработки и снижения стоимости.

🔒DARPA&CIA

США готовят морские рои: стартап за полгода создал автономные подводные комплексы

Американский стартап Vatn Systems, основанный в 2023 году, активно развивает программу автономных подводных аппаратов (AUV). Всего за шесть месяцев компания прошла путь от концепции до прототипа. Быстрое развитие компании, по словам её представителей, обусловлено сочетанием нескольких ключевых факторов: командой основателей с военно-морским опытом, эффективным сотрудничеством с профильными государственными структурами и существенными инвестициями из оборонного сектора.

Разработанные системы представляют собой гибрид разведывательных дронов и ударных комплексов, способных действовать на дистанции до 1000 морских миль. Технология базируется на искусственном интеллекте, позволяющем аппаратам автономно выполнять боевые задачи даже при отсутствии связи и подавлении GPS-сигнала. Особое внимание уделяется возможности роевого применения.

Показательно быстрое привлечение $13 млн от ключевых представителей военно-промышленного комплекса США, включая Lockheed Martin Ventures, RTX Ventures (Raytheon Technologies) и In-Q-Tel - инвестиционный фонд ЦРУ. Такая концентрация крупных инвесторов указывает на особую заинтересованность американских силовых структур в проекте.

Системы уже проходят испытания в ВМС и Корпусе морской пехоты США, что указывает на приоритетность данного направления для Пентагона. Технология позволяет решать широкий спектр задач - от разведки до нанесения ударов, при относительно низкой стоимости производства.

🔒DARPA&CIA