Новый подход к морали ИИ от Anthropic

ИИ-стартап Anthropic, основанный выходцами из OpenAI и проинвестированный Alphabet, рассказал о принципах в обучении и привнесении морально-этических ценностей в «конституциональный» ИИ чат-бота Claude («Клод»).

Подход направлен на решение проблем прозрачности, безопасности и принятия решений в системах ИИ, и не полагается на отзывы людей для оценки ответов.

Вместо этого Anthropic стремится привести ответы модели к соответствию набору неких базовых принципов, взятых из разных источников — Декларации прав человека ООН, части условий обслуживания Apple и других документов.

Модель, когда критикует, пересматривает или оценивает свои ответы, не отдает приоритет конкретным принципам, а выбирает их каждый раз случайным образом. «ИИ не смотрит на каждый принцип каждый раз, но видит каждый принцип много раз во время обучения», — поясняют Anthropic.

Такой подход, по мнению разработчиков, позволит сделать обучение модели более прозрачным и расширить набор базовых ценностей ИИ в сторону большего разнообразия — для включения «незападных» культурных норм, например.

https://www.anthropic.com/index/claudes-constitution


#ИИ #стартапы #обучениеИИ

Сэм Альтман, OpenAI, призывает к регулированию искусственного интеллекта на слушаниях в Сенате

Генеральный директор компании выступил перед членами подкомитета и предложил создать агентство, которое бы лицензировало разработку крупномасштабных моделей ИИ и определяло бы правила безопасности и тесты, которые должны пройти модели перед выходом в свет.

Конгресс США собирается провести дополнительный ряд подобных слушаний в течение лета, прежде чем принять окончательное решение о регулировании ИИ.

Налицо признаки растущего тренда на всё большее регулирование ИИ. Так, Китай планирует начать проверять на безопасность сервисы генеративного ИИ, прежде чем разрешать им выходить на рынок. Это вызывает неопределенность в отношении дальнейшей работы сервисов — конкурентов ChatGPT, представленных крупнейшими технологическими компаниями страны, включая Baidu и Alibaba.

Параллельно с этим ЕС также рассматривает возможность лицензирования больших моделей и введения нормативных правил для их разработки, обучения и применения.

#ИИ #регулирование #Китай

https://www.nytimes.com/2023/05/16/technology/openai-altman-artificial-intelligence-regulation.html

Hugging Face начнет обучать чужие ИИ-модели на коммерческой основе

Недавно получивший $235 млн инвестиций от Google, Amazon, Nvidia и других бигтехов стартап представил услугу Training Cluster, которая позволит сторонним компаниям использовать вычислительные мощности Hugging Face для обучения своих моделей искусственного интеллекта.

Тарифы начинаются с «простых» текстовых моделей: обучение модели на 7 млрд параметров обойдётся в $43 тыс. и займёт 4 дня.

За $18,5 млн можно обучить мультимодальную модель, способную генерировать тексты и изображения, на 70 млрд параметров и 7 трлн токенов.

Обучение займёт 184 дня, будет задействовано 1000 видеокарт Nvidia H100. Это первый в своём роде публичный сервис для обучения чужих моделей.

#ИИ #стартапы

https://huggingface.co/training-cluster

Ежегодная презентация Apple: ИИ на устройстве

Apple представила обновления линейки смартфонов и умных часов. Теперь у часов новый чип, который позволяет запускать ИИ-ассистента прямо «на борту», а iPhone, произведённые в Индии, впервые поступят в продажу одновременно со сделанными в Китае.

🍏Apple Watch Series 9
Новинка представлена в алюминиевом и стальном корпусах. Из изменений: ещё более мощная графика на базе процессора S9, яркость экрана увеличена до 2000 нит. Наиболее важный аспект нового процессора — возможность обрабатывать запросы к голосовому помощнику Siri на устройстве, а не в облаке, как было ранее.

Благодаря новым сенсорам Apple Watch смогут распознавать жесты: чтобы взять трубку или сбросить звонок, достаточно дважды стукнуть указательным пальцем по большому.

🍏Apple Watch Ultra 2
Устройство позиционируют как спортивное, оно выдерживает погружения на глубину до 40 м и подъём на высоту до 9 км. От прежнего поколения его отличают S9, увеличенная до 3000 нит яркость экрана, поддержка жестов. Заявлена автономность до 36 ч или 72 ч в режиме энергосбережения.

Теперь Siri будет соединена с данными о здоровье — с помощью Apple Watch пользователь сможет задать вопросы о состоянии своего организма: спросить, сколько длился сон, какой пульс или когда нужно принимать лекарство.

🍏iPhone 15 и 15 Plus
Внутри прежний процессор A16 Bionic, как и в iPhone 14 Pro. Яркость экрана увеличена до 2000 нит, сам экран защищён стеклом Ceramic Shield и имеет защиту от воды. Корпус на 75% состоит из переработанного алюминия.

Телефон оснащён двумя камерами — на 48 Мп и 12 Мп. Разработчики улучшили качество ночной фотосъемки, а в режиме портрета фокус на фотографии можно менять после того, как снимок уже сделан. Также в телефоне есть ИИ-функция шумоподавления при разговоре. У всей линейки iPhone 15 разъём теперь стандарта USB-C. AirPods Pro и EarPods тоже обновили, но кроме разъёма в них ничего не поменялось.

🍏iPhone 15 Pro и 15 Pro Max
Старшие модели iPhone 15 Pro и iPhone 15 Pro Max изготовлены из титана и являются самыми легкими моделями iPhone за всю историю. Дизайн, как и у iPhone 15, но у Pro-версии есть настраиваемая кнопка Action, на которую можно установить любые действия. У нового iPhone 15 Pro три камеры: основная, телескопическая (позволяет увеличивать в пять раз) и макро. Разрешение прежнее — 48 Мп, добавили 5-кратный зум для версии Pro Max, в версии Pro —только 3-кратный.

Из необычного: появилась возможность снимать Spatial Video для шлема Apple Vision Pro, который несколько раз мелькал во время презентации. Также теперь можно снимать видео сразу на внешний жесткий диск, что будет полезно при производстве фильмов.
Телефон оснащён высокопроизводительным 3-нм процессором А17 Pro с оптимизацией под мобильные игры, в частности — с поддержкой трассировки лучей. В 2023-24 гг. на iPhone 15 Pro, как следует из анонса, выйдут игры популярных франшиз: ремейк Resident Evil 4, Resident Evil Village и Assassin's Creed Mirage.

#Apple #презентация #ИИ

https://www.apple.com/newsroom/2023/09/apple-unveils-iphone-15-pro-and-iphone-15-pro-max/

OpenAI рассматривает вопрос выпуска собственных процессоров

По словам источников в компании, OpenAI заинтересован в покупке бизнеса по проектированию чипов для ИИ. Вопрос, однако, не решен окончательно, и компания рассматривает другие варианты, например, углублять кооперацию с производителями — в первую очередь с Nvidia, или диверсифицировать поставщиков.

Главным мотивом для создания собственных чипов глава OpenAI Сэм Альтман называет высокие цены на ГПУ от Nvidia — а этой компании принадлежит 80% рынка высокопроизводительных чипов для ИИ — что очень сильно ограничивает возможности масштабирования ChatGPT и других сервисов OpenAI.

Многие гиганты индустрии — Amazon, Alphabet, Apple и другие — уже перешли на чипы собственной разработки в ключевых для себя сегментах бизнеса, так что инициативу OpenAI можно рассматривать как свидетельство широких амбиций стартапа.

#ИИ #чипы #бигтехи

https://www.reuters.com/technology/chatgpt-owner-openai-is-exploring-making-its-own-ai-chips-sources-2023-10-06/
 

Корейский производитель коллаборативных роботов провёл успешное IPO

Компания Doosan Robotics, крупнейший в Южной Корее производитель коллаборативных роботов (коботов), привлекла в ходе размещения $310 млн — это было крупнейшее IPO в стране в текущем году.

Коботы Doosan применяются в основном в сфере услуг: от приготовления кофе до подачи пива и обработки багажа. Несмотря на сильный тренд на разработку человекоподобных роботов, Doosan делает ставку не создание разнообразных роботизированных «рук»-ассистентов.

Сейчас в портфеле компании 13 моделей манипуляторов разной грузоподъёмности и размера.

Средства от IPO планируется направить на зарубежную экспансию и на покупку технологии автономной движущейся платформы, которая бы превратила манипуляторы из статичных в мобильные. Это, по мнению руководства компании, откроет новые возможности для коботов в промышленности и складском хозяйстве.

Doosan также экспериментирует с ИИ: в августе 2023 г. компания заключила соглашение с Microsoft об использовании её службы Azure OpenAI для системы управления роботами на основе GPT.

Благодаря интеграции GPT коботы стали понимать простые голосовые команды пользователей.
Республика Корея является мировым лидером по уровню роботизации промышленности (1012 роботов на 10 тыс. сотрудников в 2022 г. по данным IFR) и наблюдается рост применения роботов — в первую очередь коллаборативных — в сфере услуг.

#роботы #ии

https://www.bloomberg.com/news/articles/2023-10-04/beer-serving-robots-drive-robust-demand-for-korea-s-biggest-ipo
 

Аналитики прогнозируют охлаждение рынка генеративного ИИ в 2024 году

Консалтинговая компания CCS Insight в непубличном отчёте о перспективах генеративного ИИ прогнозирует замедление роста индустрии в 2024 году. Среди причин отмечают:

• Уровень хайпа вокруг технологии опережает реальные возможности её масштабирования как продукта и развёртывания необходимых вычислительных мощностей.
• Высокая цена новых вычислительных мощностей — бум генеративного ИИ создаёт повышенный спрос на наиболее мощные чипы, которых начинает не хватать. Средние компании уже не могут позволить наращивать собственные мощности. А крупные разработчик генеративного ИИ — Amazon, Google, OpenAI — начинают разрабатывать собственные чипы.

• Растущие призывы к регулированию индустрии. Лицензирование поставщиков услуг и другие ограничительные меры, например, независимая экспертиза ИИ-моделей, не способствуют ускорению роста.

При этом, по мнению аналитиков, регулирование ИИ будет неминуемо отставать от темпов развития технологии. Из наиболее вероятных и заметных шагов, которые мы можем увидеть в ближайшем будущем, будет повсеместное маркирование ИИ-генерированного контента в поисковых выдачах.

Аналогичная маркировка уже применялась медиаплатформами и поисковиками в отношении материалов о COVID-19 во время пандемии.

Также прогнозируется расширение уголовного преследования за неправомерное использование генеративного ИИ. В первую очередь, речь о дипфейк-подделках голоса и изображения, позволяющих выдать себя за другого человека. Первые примеры такой практики уже имели место в США в 2023 г. и их число явно будет расти по мере развития средств выявления.

#ИИ #прогнозы

https://www.cnbc.com/2023/10/10/generative-ai-will-get-a-cold-shower-in-2024-analysts-predict.html

AMD приобретёт разработчика ПО для ИИ, стремясь догнать NVIDIA

Компания покупает стартап Nod.AI, который разрабатывает ПО с открытым исходным кодом для систем ИИ, в основном обучения с подкреплением. Это ПО для разработчиков признано AMD одним из приоритетных в конкурентной борьбе с лидером рынка NVIDIA.

Генеральный директор Nod.AI Ануш Элангован (Anush Elangovan) до основания стартапа работал в команде Chromebook в Google, а также был ведущим инженером в Cisco. Соучредитель и технический директор Nod Харш Менон (Harsh Menon) ранее работал в Kitty Hawk, компании по производству электрических самолетов, закрывшейся в 2022 году.

#ИИ #стартапы

https://www.cnbc.com/2023/10/10/amd-acquires-nodai-ai-startup-as-it-seeks-to-catch-up-with-nvidia.html

👉 СЭМ АЛЬТМАН: ВЕК ИИ

Сэм Альтман, известный технологический предприниматель и инвестор, опубликовал в своем блоге статью под названием The Intelligence Age, где размышляет о будущем влиянии искусственного интеллекта на общество.

📍 В ближайшие несколько десятилетий мы сможем делать то, что нашим прародителям казалось бы волшебством. Это явление не ново, но оно будет ускоряться ещё больше. Со временем люди стали значительно более способными; мы уже можем совершить то, что наши предшественники считали невозможным.

📍 Благодаря этим новым способностям мы можем добиться совместного процветания до такой степени, которая сегодня кажется невообразимой; в будущем жизнь каждого может быть лучше, чем жизнь кого-либо сейчас.

📍 Вот один из способов узкого взгляда на историю человечества: после тысяч лет смешения научных открытий и технического прогресса мы научились плавить песок, добавлять некоторые примеси, с поразительной точностью компоновать его в чрезвычайно крошечных масштабах в компьютерные чипы, пропускать энергию через него и в конечном итоге получать системы, способные создавать все более способный искусственный интеллект.

📍 Вполне возможно, что через несколько тысяч дней у нас появится суперинтеллект; это может занять больше времени, но я уверен, что мы доберемся до цели.

📍 Как мы оказались на пороге следующего скачка в процветании? В трёх словах: глубокое обучение сработало (имеется в виду Deep Learning, обучение нейронных сетей). В 15 словах: глубокое обучение сработало, оно предсказуемо улучшалось с масштабированием, и мы выделяли на него все больше ресурсов.

📍 Это действительно вот так просто; человечество открыло алгоритм, который может выучить любое распределение данных (или, по сути, основные «правила», которые производят любое распределение данных)

📍 С шокирующей степенью точности, чем больше вычислений и данных доступно, тем лучше ИИ помогает людям решать сложные проблемы. Я понял, что сколько бы времени я ни размышлял об этом, я никогда не смогу осознать, насколько это важно.

📍 Если мы хотим передать ИИ в руки как можно большего числа людей, нам необходимо снизить стоимость вычислений и сделать их доступными (что требует много энергии и чипов). Если мы не построим достаточную инфраструктуру, ИИ станет очень ограниченным ресурсом, из-за которого будут вестись войны, и который станет в основном инструментом для богатых людей.

#ИИ @FINANCEkaz