Группа разработчиков Московского физико-технического института (МФТИ) разработала человекоподобного робота, который может работать среди людей под управлением искусственного интеллекта.

Робот может создавать карту и ориентироваться в пространстве, используя видеоданные, полученные через компьютерное зрение. Ему не потребуется специальная планировка офиса или другого рабочего места — он адаптируется к любым производственным и технологическим процессам.

Кроме того, сейчас проводится тестирование голосового ассистента робота, чтобы он мог общаться с людьми. В будущем учёные планируют обучить его поведенческому интеллекту для работы, например, курьером или кладовщиком.

Как утверждает Роман Горбачев, заведующий лабораторией волновых процессов и систем управления Центра прикладных систем ИИ МФТИ, крупные мировые производители и представители цифрового ритейла уже начали тестировать человекоподобных роботов на своих заводах и складах. Это делается не для того, чтобы заменить людей, а для обучения нейросетей решению более сложных задач.

#МирРобототехники #робототехника #робот #разработка #исследование #тестирование #МФТИ

В США создали систему оценки рисков для ИИ-алгоритмов

Национальный институт стандартов и технологий (NIST) в составе Министерства торговли США, занимающийся разработкой и тестированием технологий для американского правительства, компаний и общественности, представил обновленный тестовый стенд Dioptra. Этот стенд предназначен для оценки влияния вредоносных атак, включая те, что направлены на "отравление" больших языковых моделей данных, на снижение производительности ИИ-систем.

Обновленное программное обеспечение поможет разработчикам ИИ-моделей и пользователям этих алгоритмов оценивать, анализировать и отслеживать риски, связанные с ИИ. В NIST подчеркнули, что Dioptra может использоваться для бенчмаркинга и исследования ИИ-моделей, а также в качестве общей платформы для симуляции воздействия на модели различных угроз.

Вместе с Dioptra разработчики опубликовали ряд документов, в которых изложены способы уменьшения рисков, связанных с ИИ-моделями. Это программное обеспечение было создано в рамках инициативы, поддержанной президентом США Джо Байденом, которая предписывает NIST, помимо прочего, оказывать поддержку в тестировании ИИ-систем. Инициатива также устанавливает ряд стандартов безопасности в сфере ИИ, включая требования к компаниям, разрабатывающим ИИ-алгоритмы, об уведомлении федерального правительства и передачи данных по итогам оценки рисков безопасности до того, как ИИ станет доступен широкому кругу пользователей.

Проведение эталонной оценки ИИ является сложной задачей, в том числе потому, что сложные алгоритмы в настоящее время представляют собой "черные ящики", инфраструктура которых, данные для обучения и другие ключевые детали держатся разработчиками в секрете.

#МирРобототехники #искусственныйинтеллект #ИИ #алгоритмы #оценкарисков #разработка #тестирование