Forwarded from Спутник ДЗЗ
Американский “План действий по искусственному интеллекту”
“Америка участвует в гонке за глобальное доминирование в области искусственного интеллекта (ИИ)” — сообщает введение к американскому Плану действий по ИИ (America’s AI Action Plan).
Главным соперником в этой гонке считается Китай. “Тот, кто создаст крупнейшую экосистему ИИ, будет устанавливать глобальные стандарты ИИ и получит широкие экономические и военные преимущества”, — продолжает введение. “Как мы победили в космической гонке, так для Соединённых Штатов и их союзников крайне важно выиграть эту гонку”.
План действий включает длинный список задач для Министерства обороны США. Часть из них касается внутренней работы ведомства. Рекомендуемые меры исходят из того, что Пентагону будет предоставлена ведущая или даже главенствующая роль в установлении стандартов и координации усилий исполнительной ветви власти.
По мнению разработчиков Плана, DARPA, призвана возглавить межведомственную “программу технологического развития” для решения фундаментальной проблемы передового ИИ: даже его создатели не до конца понимают, как он работает. Это особенно актуально для генеративных ИИ, таких как большие языковые модели (Large Language Model, LLM), которые могут обобщать огромные массивы данных и даже генерировать неожиданные идеи, но также часто “галлюцинируют” и выдают ложные данные непредсказуемым образом. “Эта непредсказуемость… может затруднять использование передового ИИ в обороне, национальной безопасности или других сферах, где на кону стоят жизни”. Это делает генеративный ИИ ненадёжным инструментом даже в менее критических ситуациях, как предупреждает свежее полевое руководство Корпуса морской пехоты.
Помимо программы под руководством DARPA, раздел “Интерпретируемость, контроль и устойчивость ИИ” Плана призывает Пентагон координировать с министерствами энергетики, торговли, внутренней безопасности и другими ведомствами проведение “хакатонов ИИ” — по сути, открытых конкурсов для проведения (нередко разрушительных) атак на их системы и сообщения о результатах.
Ещё одна инициатива Пентагона, продвигаемая в сегодняшнем Плане, использует лозунг эпохи Байдена — “Ответственный ИИ” (Responsible AI). И хотя Трамп отменил многие директивы Байдена по ИИ, инициатива “Ответственный ИИ” сохранилась и, похоже, получила одобрение Белого дома. Федеральные ведомства, “возглавляемые Минобороны”, должны “продолжать совершенствовать рамки, дорожные карты и инструментарий ответственного ИИ и генеративного ИИ Минобороны”, — рекомендует План действий.
План также отводит Минобороны ведущую или значительную роль в нескольких инициативах по безопасности ИИ. Минобороны должно возглавить межведомственные усилия по “созданию новых технических стандартов для центров ИИ с высоким уровнем безопасности” и по оценке прогресса противников в области ИИ.
Минобороны должно поддерживать Управление директора национальной разведки в создании “Стандарта по обеспечению ИИ” для разведывательного сообщества, большинство сотрудников которого работают в Пентагоне. Министерство должно сотрудничать с другими ведомствами по множеству вопросов — от стимулирования отечественного высокотехнологичного производства до совершенствования экспортного контроля.
Одной из рекомендаций по модернизации Пентагона является предложение о создании “виртуального полигона для ИИ и автономных систем”.
Министерству обороны США также поручено превратить свои военные колледжи в “центры исследований ИИ”, повысить квалификацию персонала и определить “рабочие процессы”, которые можно автоматизировать с помощью ИИ.
План действий рекомендует обеспечить Пентагону приоритетный доступ к облачным провайдерам и другим вычислительным сервисам, чтобы использовать их в военное время.
Источник
#США #ИИ #война
“Америка участвует в гонке за глобальное доминирование в области искусственного интеллекта (ИИ)” — сообщает введение к американскому Плану действий по ИИ (America’s AI Action Plan).
Главным соперником в этой гонке считается Китай. “Тот, кто создаст крупнейшую экосистему ИИ, будет устанавливать глобальные стандарты ИИ и получит широкие экономические и военные преимущества”, — продолжает введение. “Как мы победили в космической гонке, так для Соединённых Штатов и их союзников крайне важно выиграть эту гонку”.
План действий включает длинный список задач для Министерства обороны США. Часть из них касается внутренней работы ведомства. Рекомендуемые меры исходят из того, что Пентагону будет предоставлена ведущая или даже главенствующая роль в установлении стандартов и координации усилий исполнительной ветви власти.
По мнению разработчиков Плана, DARPA, призвана возглавить межведомственную “программу технологического развития” для решения фундаментальной проблемы передового ИИ: даже его создатели не до конца понимают, как он работает. Это особенно актуально для генеративных ИИ, таких как большие языковые модели (Large Language Model, LLM), которые могут обобщать огромные массивы данных и даже генерировать неожиданные идеи, но также часто “галлюцинируют” и выдают ложные данные непредсказуемым образом. “Эта непредсказуемость… может затруднять использование передового ИИ в обороне, национальной безопасности или других сферах, где на кону стоят жизни”. Это делает генеративный ИИ ненадёжным инструментом даже в менее критических ситуациях, как предупреждает свежее полевое руководство Корпуса морской пехоты.
Помимо программы под руководством DARPA, раздел “Интерпретируемость, контроль и устойчивость ИИ” Плана призывает Пентагон координировать с министерствами энергетики, торговли, внутренней безопасности и другими ведомствами проведение “хакатонов ИИ” — по сути, открытых конкурсов для проведения (нередко разрушительных) атак на их системы и сообщения о результатах.
Ещё одна инициатива Пентагона, продвигаемая в сегодняшнем Плане, использует лозунг эпохи Байдена — “Ответственный ИИ” (Responsible AI). И хотя Трамп отменил многие директивы Байдена по ИИ, инициатива “Ответственный ИИ” сохранилась и, похоже, получила одобрение Белого дома. Федеральные ведомства, “возглавляемые Минобороны”, должны “продолжать совершенствовать рамки, дорожные карты и инструментарий ответственного ИИ и генеративного ИИ Минобороны”, — рекомендует План действий.
План также отводит Минобороны ведущую или значительную роль в нескольких инициативах по безопасности ИИ. Минобороны должно возглавить межведомственные усилия по “созданию новых технических стандартов для центров ИИ с высоким уровнем безопасности” и по оценке прогресса противников в области ИИ.
Минобороны должно поддерживать Управление директора национальной разведки в создании “Стандарта по обеспечению ИИ” для разведывательного сообщества, большинство сотрудников которого работают в Пентагоне. Министерство должно сотрудничать с другими ведомствами по множеству вопросов — от стимулирования отечественного высокотехнологичного производства до совершенствования экспортного контроля.
Одной из рекомендаций по модернизации Пентагона является предложение о создании “виртуального полигона для ИИ и автономных систем”.
Министерству обороны США также поручено превратить свои военные колледжи в “центры исследований ИИ”, повысить квалификацию персонала и определить “рабочие процессы”, которые можно автоматизировать с помощью ИИ.
План действий рекомендует обеспечить Пентагону приоритетный доступ к облачным провайдерам и другим вычислительным сервисам, чтобы использовать их в военное время.
Источник
#США #ИИ #война
🙈1