Наш геном похож на генеративную модель ИИ
MIT Technology Review
26 июля 2024
Автор - Джессика Хамзелоу, старший репортер издания.
Когда я учился в школе, меня учили, что геном - это, по сути, компьютерный код для организма. В нем содержатся инструкции, необходимые для производства различных белков, используемых для построения наших клеток и тканей и поддержания их работоспособности. В рамках этого подхода имело смысл думать о геноме человека как о чем-то вроде программы для человека.
Но эта метафора разваливается, как только вы начинаете использовать ее на практике, говорит Кевин Митчелл, нейрогенетик из Тринити-колледжа в Дублине, Ирландия.
Компьютерная программа - это, по сути, последовательность шагов, каждый из которых контролирует определенную часть работы. С точки зрения человека, это все равно что иметь набор инструкций, с помощью которых можно начать с создания мозга, затем головы, а затем шеи и так далее. Но так все не работает!
Еще одна популярная метафора сравнивает геном со схемой, чертежом тела. Но схема - это, по сути, план того, как должна выглядеть структура, когда она будет полностью построена, причем каждая часть схемы представляет собой часть конечного продукта. Наши геномы так тоже не работают.
Далее следует метафора рецепта. В некотором смысле это более точно, чем аналогия с планом или программой. Возможно, было бы полезно представить наши гены как набор ингредиентов и инструкций, а также иметь в виду, что конечный продукт также зависит, например, от изменения температуры духовки или типа используемой формы для выпечки. В конце концов, однояйцевые близнецы рождаются с одинаковой ДНК, но к тому времени, когда они становятся взрослыми, часто они сильно различаются.
Но метафора рецепта слишком расплывчата, говорит Митчелл. Вместо этого он и его коллега Ник Чейни из Университета Вермонта заимствуют концепции у искусственного интеллекта, чтобы отразить то, что делает геном.
Митчелл указывает на генеративные модели искусственного интеллекта, такие как Midjourney и DALL-E, - обе могут генерировать изображения из текстовых запросов.
Допустим, вы пишете подсказку для изображения лошади. Модели были обучены на огромном количестве изображений лошадей, и эти изображения существенно сжаты, чтобы модели могли уловить определенные элементы того, что вы могли бы назвать “лошадиностью”. Затем искусственный интеллект может сконструировать новое изображение, содержащее эти элементы.
Мы можем думать о генетических данных аналогичным образом.
Согласно этой модели, мы могли бы рассматривать эволюцию как обучающие данные. Геном — это сжатые данные, набор информации, который может быть использован для создания нового организма. Он содержит необходимые нам элементы, но есть много возможностей для вариаций. (В статье, которая еще не прошла рецензирование, содержится гораздо больше подробностей о различных аспектах модели.)
Митчелл считает важным привести в порядок наши метафоры, когда мы думаем о геноме.
Новые технологии позволяют ученым все глубже проникать в наши гены и понять роль, которую они играют. Теперь они могут изучать, например, как гены экспрессируются в одной клетке и как это варьируется в каждой клетке эмбриона. "Нам нужна концептуальная основа, которая позволит разобраться в этом", - говорит Митчелл. Он надеется, что концепция гена как ИИ поможет в разработке математических моделей, которые могли бы помочь нам лучше понять сложные взаимосвязи между генами и организмом, частью которого они являются. Другими словами - понять как именно компоненты нашего генома способствуют нашему развитию.
#наука #ИИ
MIT Technology Review
26 июля 2024
Автор - Джессика Хамзелоу, старший репортер издания.
Когда я учился в школе, меня учили, что геном - это, по сути, компьютерный код для организма. В нем содержатся инструкции, необходимые для производства различных белков, используемых для построения наших клеток и тканей и поддержания их работоспособности. В рамках этого подхода имело смысл думать о геноме человека как о чем-то вроде программы для человека.
Но эта метафора разваливается, как только вы начинаете использовать ее на практике, говорит Кевин Митчелл, нейрогенетик из Тринити-колледжа в Дублине, Ирландия.
Компьютерная программа - это, по сути, последовательность шагов, каждый из которых контролирует определенную часть работы. С точки зрения человека, это все равно что иметь набор инструкций, с помощью которых можно начать с создания мозга, затем головы, а затем шеи и так далее. Но так все не работает!
Еще одна популярная метафора сравнивает геном со схемой, чертежом тела. Но схема - это, по сути, план того, как должна выглядеть структура, когда она будет полностью построена, причем каждая часть схемы представляет собой часть конечного продукта. Наши геномы так тоже не работают.
Далее следует метафора рецепта. В некотором смысле это более точно, чем аналогия с планом или программой. Возможно, было бы полезно представить наши гены как набор ингредиентов и инструкций, а также иметь в виду, что конечный продукт также зависит, например, от изменения температуры духовки или типа используемой формы для выпечки. В конце концов, однояйцевые близнецы рождаются с одинаковой ДНК, но к тому времени, когда они становятся взрослыми, часто они сильно различаются.
Но метафора рецепта слишком расплывчата, говорит Митчелл. Вместо этого он и его коллега Ник Чейни из Университета Вермонта заимствуют концепции у искусственного интеллекта, чтобы отразить то, что делает геном.
Митчелл указывает на генеративные модели искусственного интеллекта, такие как Midjourney и DALL-E, - обе могут генерировать изображения из текстовых запросов.
Допустим, вы пишете подсказку для изображения лошади. Модели были обучены на огромном количестве изображений лошадей, и эти изображения существенно сжаты, чтобы модели могли уловить определенные элементы того, что вы могли бы назвать “лошадиностью”. Затем искусственный интеллект может сконструировать новое изображение, содержащее эти элементы.
Мы можем думать о генетических данных аналогичным образом.
Согласно этой модели, мы могли бы рассматривать эволюцию как обучающие данные. Геном — это сжатые данные, набор информации, который может быть использован для создания нового организма. Он содержит необходимые нам элементы, но есть много возможностей для вариаций. (В статье, которая еще не прошла рецензирование, содержится гораздо больше подробностей о различных аспектах модели.)
Митчелл считает важным привести в порядок наши метафоры, когда мы думаем о геноме.
Новые технологии позволяют ученым все глубже проникать в наши гены и понять роль, которую они играют. Теперь они могут изучать, например, как гены экспрессируются в одной клетке и как это варьируется в каждой клетке эмбриона. "Нам нужна концептуальная основа, которая позволит разобраться в этом", - говорит Митчелл. Он надеется, что концепция гена как ИИ поможет в разработке математических моделей, которые могли бы помочь нам лучше понять сложные взаимосвязи между генами и организмом, частью которого они являются. Другими словами - понять как именно компоненты нашего генома способствуют нашему развитию.
#наука #ИИ
👍6🥴1
ARK исследует перспективы внедрения ИИ в нашу жизнь. Говорят, что внедрение может пройти беспрецедентно быстро - до начала 2030-х (50% базы пользователей Интернета в США менее чем за четыре года и почти 75% к концу 2030 года).
На чем основывается их уверенность в таком быстром распространении технологии ИИ? Какие преимущества даст ИИ?
_________
ИИ упростит коммерцию
На наш взгляд, ИИ - это программное обеспечение, запрограммированное (1) на понимание запросов на естественном языке, (2) на выполнение заданных пользователем задач через Интернет и (3) на постоянную адаптацию в зависимости от предпочтений пользователя.
ИИ будет располагаться поверх операционных систем (ОС) и абстрагироваться от сложностей традиционных взаимодействий с ОС. ИИ могут преобразовать процесс приобретения потребительских товаров и услуг, автоматизируя поиск, исследования и гиперперсонализированное курирование, а также устраняя прямое взаимодействие между потребителями и конечными приложениями.
По нашим оценкам, ИИ будет участвовать в 25% онлайн-продаж потребительских товаров и услуг к 2030.
Реклама
Участие ИИ в покупках уничтожит существующий рынок интернет-рекламы.
Наше исследование предполагает, что агенты искусственного интеллекта будут использовать две формы рекламы: рекламу, основанную на поиске, и рекламу, генерирующую активные намерения. В ответ на конкретный запрос или задачу поисковая реклама — как сегодня поисковая реклама — может предлагать таргетированную рекламу наряду с обычным кураторством.
Голосовое управление компьютером
Наше исследование показывает, что смартфоны и другое экранное оборудование будут сосуществовать с новым оборудованием искусственного интеллекта по двум причинам. Во-первых, потребители, ориентированные на конфиденциальность, скорее всего, будут использовать портативные экраны для ввода текста, а не голосовых команд в социальных ситуациях. Во-вторых, для аудиовизуальных цифровых развлечений потребуются экраны.
Смартфоны могут стать центральным узлом экосистемы персонального оборудования. Если это будет так, то смартфоны будут управлять другими устройствами. Среди них - настольные компьютеры и ноутбуки, вспомогательные экраны, такие как планшеты, гарнитуры дополненной реальности и виртуальной реальности (AR / VR), а также носимые устройства с поддержкой искусственного интеллекта для создания бесшовного, взаимосвязанного взаимодействия.
_________
Комментарий
Даже ярые энтузиасты технологии ИИ говорят, что никаких проблем, стоящих перед отдельным человеком ИИ не решит. Тайны мироздания не откроет, чудо-технику не создаст и т.д.
Вместо этого - предлагается построить общество тотальной слежки. В котормо у человека не остается даже выбора того, какую марку товаров он будет покупать. С чего там начинается "Бойцовский клуб", "выбери набор мебели Икеа, который наилучшим образом выражает твою личность" ? Даже этой свободы не остается в этом ИИ-будущем.
И, что характерно, ни один из людей, демонстративно-глубоковажно читавших и читающих Оруэлла не возмущается происходящим, а наоборот - с радостью туда несется. Видимо, эти люди понимают "свободу" только как "свободу от" - от тех или иных обременений. Никакого "для", никакого желанного будущего нет.
#ИИ
На чем основывается их уверенность в таком быстром распространении технологии ИИ? Какие преимущества даст ИИ?
_________
ИИ упростит коммерцию
На наш взгляд, ИИ - это программное обеспечение, запрограммированное (1) на понимание запросов на естественном языке, (2) на выполнение заданных пользователем задач через Интернет и (3) на постоянную адаптацию в зависимости от предпочтений пользователя.
ИИ будет располагаться поверх операционных систем (ОС) и абстрагироваться от сложностей традиционных взаимодействий с ОС. ИИ могут преобразовать процесс приобретения потребительских товаров и услуг, автоматизируя поиск, исследования и гиперперсонализированное курирование, а также устраняя прямое взаимодействие между потребителями и конечными приложениями.
По нашим оценкам, ИИ будет участвовать в 25% онлайн-продаж потребительских товаров и услуг к 2030.
Реклама
Участие ИИ в покупках уничтожит существующий рынок интернет-рекламы.
Наше исследование предполагает, что агенты искусственного интеллекта будут использовать две формы рекламы: рекламу, основанную на поиске, и рекламу, генерирующую активные намерения. В ответ на конкретный запрос или задачу поисковая реклама — как сегодня поисковая реклама — может предлагать таргетированную рекламу наряду с обычным кураторством.
Голосовое управление компьютером
Наше исследование показывает, что смартфоны и другое экранное оборудование будут сосуществовать с новым оборудованием искусственного интеллекта по двум причинам. Во-первых, потребители, ориентированные на конфиденциальность, скорее всего, будут использовать портативные экраны для ввода текста, а не голосовых команд в социальных ситуациях. Во-вторых, для аудиовизуальных цифровых развлечений потребуются экраны.
Смартфоны могут стать центральным узлом экосистемы персонального оборудования. Если это будет так, то смартфоны будут управлять другими устройствами. Среди них - настольные компьютеры и ноутбуки, вспомогательные экраны, такие как планшеты, гарнитуры дополненной реальности и виртуальной реальности (AR / VR), а также носимые устройства с поддержкой искусственного интеллекта для создания бесшовного, взаимосвязанного взаимодействия.
_________
Комментарий
Даже ярые энтузиасты технологии ИИ говорят, что никаких проблем, стоящих перед отдельным человеком ИИ не решит. Тайны мироздания не откроет, чудо-технику не создаст и т.д.
Вместо этого - предлагается построить общество тотальной слежки. В котормо у человека не остается даже выбора того, какую марку товаров он будет покупать. С чего там начинается "Бойцовский клуб", "выбери набор мебели Икеа, который наилучшим образом выражает твою личность" ? Даже этой свободы не остается в этом ИИ-будущем.
И, что характерно, ни один из людей, демонстративно-глубоковажно читавших и читающих Оруэлла не возмущается происходящим, а наоборот - с радостью туда несется. Видимо, эти люди понимают "свободу" только как "свободу от" - от тех или иных обременений. Никакого "для", никакого желанного будущего нет.
#ИИ
👍4🔥1🤔1💯1
Раньше совсем часто, в последние пару месяцев чуть пореже, раздавались предложения переложить работу по управлению чем-то опасным на ИИ, и причем сделать это массово. В некоторых случаях на откуп ИИ предлагалось передать даже системы вооружения.
В связи с этим вспоминается старый фильм "Отроки во Вселенной", эпизод про "А и Б сидели на трубе". А в реальности с ИИ можно устойчиво проворачивать подобные фокусы?
Ответ на этот вопрос дает недавняя научная статья "Adversarial Policies Beat Superhuman Go AIs" (интервью с авторами статьи на Scientific American). В ней изучались способы обмана ИИ KataGo. Напомню, появление этой системы, способной обыгрывать в го игроков-людей высшего уровня, четыре года назад было воспринято как большое событие.
Авторы работы натравили на KataGo специальные ИИ, нацеленные на поиск уязвимостей. И хотя сами эти ИИ играли в го весьма посредственно, хуже среднего игрока, KataGo они устойчиво выигрывали.
Вольный перевод аннотации:
"Мы атакуем современную систему искусственного интеллекта для игры в го KataGo, тренируя против нее ИИ, добиваясь > 97% выигрышей против KataGo, работающей не максимальном уровне сложности. Наши ИИ выигрывают не за счет хорошего уровня игры в го, а за счет того, что обманными маневрами заставляют KataGo совершать серьезные ошибки. Тактики, разработанные нашими ИИ, люди могут реализовать без алгоритмической помощи - и в результате обыгрывать лучшие ИИ.
Уязвимости, обнаруженные нашим методом, сохраняются даже у агентов KataGo, специально обученных для защиты от этих конкретных тактик обмана. Наши результаты демонстрируют, что даже системы "сверхчеловеческого" ИИ могут иметь неожиданные режимы сбоев."
Авторы работы различными способами модифицировали KataGo, а также испытывали другие системы игры в го. Но даже после всех модификаций эти системы проигрывали специальным ИИ не менее, чем в 78% случаев.
Резюмируя полученные результаты, Адам Глив (исполнительный директор FAR AI, некоммерческой исследовательской организации в Беркли, соавтор статьи), отметил:
"Ключевым выводом работы является то, что эти уязвимости ИИ крайне трудно устранить. Если мы не можем решить проблему в простой области, такой как игра в го, то в ближайшей перспективе, похоже, маловероятно исправление подобных проблем в таких системах, как ChatGPT".
#ИИ
В связи с этим вспоминается старый фильм "Отроки во Вселенной", эпизод про "А и Б сидели на трубе". А в реальности с ИИ можно устойчиво проворачивать подобные фокусы?
Ответ на этот вопрос дает недавняя научная статья "Adversarial Policies Beat Superhuman Go AIs" (интервью с авторами статьи на Scientific American). В ней изучались способы обмана ИИ KataGo. Напомню, появление этой системы, способной обыгрывать в го игроков-людей высшего уровня, четыре года назад было воспринято как большое событие.
Авторы работы натравили на KataGo специальные ИИ, нацеленные на поиск уязвимостей. И хотя сами эти ИИ играли в го весьма посредственно, хуже среднего игрока, KataGo они устойчиво выигрывали.
Вольный перевод аннотации:
"Мы атакуем современную систему искусственного интеллекта для игры в го KataGo, тренируя против нее ИИ, добиваясь > 97% выигрышей против KataGo, работающей не максимальном уровне сложности. Наши ИИ выигрывают не за счет хорошего уровня игры в го, а за счет того, что обманными маневрами заставляют KataGo совершать серьезные ошибки. Тактики, разработанные нашими ИИ, люди могут реализовать без алгоритмической помощи - и в результате обыгрывать лучшие ИИ.
Уязвимости, обнаруженные нашим методом, сохраняются даже у агентов KataGo, специально обученных для защиты от этих конкретных тактик обмана. Наши результаты демонстрируют, что даже системы "сверхчеловеческого" ИИ могут иметь неожиданные режимы сбоев."
Авторы работы различными способами модифицировали KataGo, а также испытывали другие системы игры в го. Но даже после всех модификаций эти системы проигрывали специальным ИИ не менее, чем в 78% случаев.
Резюмируя полученные результаты, Адам Глив (исполнительный директор FAR AI, некоммерческой исследовательской организации в Беркли, соавтор статьи), отметил:
"Ключевым выводом работы является то, что эти уязвимости ИИ крайне трудно устранить. Если мы не можем решить проблему в простой области, такой как игра в го, то в ближайшей перспективе, похоже, маловероятно исправление подобных проблем в таких системах, как ChatGPT".
#ИИ
YouTube
Отроки во Вселенной, 1974. А и Б сидели на трубе...
Описание
👍7🔥3❤1
Forwarded from Спутник ДЗЗ
Американский “План действий по искусственному интеллекту”
“Америка участвует в гонке за глобальное доминирование в области искусственного интеллекта (ИИ)” — сообщает введение к американскому Плану действий по ИИ (America’s AI Action Plan).
Главным соперником в этой гонке считается Китай. “Тот, кто создаст крупнейшую экосистему ИИ, будет устанавливать глобальные стандарты ИИ и получит широкие экономические и военные преимущества”, — продолжает введение. “Как мы победили в космической гонке, так для Соединённых Штатов и их союзников крайне важно выиграть эту гонку”.
План действий включает длинный список задач для Министерства обороны США. Часть из них касается внутренней работы ведомства. Рекомендуемые меры исходят из того, что Пентагону будет предоставлена ведущая или даже главенствующая роль в установлении стандартов и координации усилий исполнительной ветви власти.
По мнению разработчиков Плана, DARPA, призвана возглавить межведомственную “программу технологического развития” для решения фундаментальной проблемы передового ИИ: даже его создатели не до конца понимают, как он работает. Это особенно актуально для генеративных ИИ, таких как большие языковые модели (Large Language Model, LLM), которые могут обобщать огромные массивы данных и даже генерировать неожиданные идеи, но также часто “галлюцинируют” и выдают ложные данные непредсказуемым образом. “Эта непредсказуемость… может затруднять использование передового ИИ в обороне, национальной безопасности или других сферах, где на кону стоят жизни”. Это делает генеративный ИИ ненадёжным инструментом даже в менее критических ситуациях, как предупреждает свежее полевое руководство Корпуса морской пехоты.
Помимо программы под руководством DARPA, раздел “Интерпретируемость, контроль и устойчивость ИИ” Плана призывает Пентагон координировать с министерствами энергетики, торговли, внутренней безопасности и другими ведомствами проведение “хакатонов ИИ” — по сути, открытых конкурсов для проведения (нередко разрушительных) атак на их системы и сообщения о результатах.
Ещё одна инициатива Пентагона, продвигаемая в сегодняшнем Плане, использует лозунг эпохи Байдена — “Ответственный ИИ” (Responsible AI). И хотя Трамп отменил многие директивы Байдена по ИИ, инициатива “Ответственный ИИ” сохранилась и, похоже, получила одобрение Белого дома. Федеральные ведомства, “возглавляемые Минобороны”, должны “продолжать совершенствовать рамки, дорожные карты и инструментарий ответственного ИИ и генеративного ИИ Минобороны”, — рекомендует План действий.
План также отводит Минобороны ведущую или значительную роль в нескольких инициативах по безопасности ИИ. Минобороны должно возглавить межведомственные усилия по “созданию новых технических стандартов для центров ИИ с высоким уровнем безопасности” и по оценке прогресса противников в области ИИ.
Минобороны должно поддерживать Управление директора национальной разведки в создании “Стандарта по обеспечению ИИ” для разведывательного сообщества, большинство сотрудников которого работают в Пентагоне. Министерство должно сотрудничать с другими ведомствами по множеству вопросов — от стимулирования отечественного высокотехнологичного производства до совершенствования экспортного контроля.
Одной из рекомендаций по модернизации Пентагона является предложение о создании “виртуального полигона для ИИ и автономных систем”.
Министерству обороны США также поручено превратить свои военные колледжи в “центры исследований ИИ”, повысить квалификацию персонала и определить “рабочие процессы”, которые можно автоматизировать с помощью ИИ.
План действий рекомендует обеспечить Пентагону приоритетный доступ к облачным провайдерам и другим вычислительным сервисам, чтобы использовать их в военное время.
Источник
#США #ИИ #война
“Америка участвует в гонке за глобальное доминирование в области искусственного интеллекта (ИИ)” — сообщает введение к американскому Плану действий по ИИ (America’s AI Action Plan).
Главным соперником в этой гонке считается Китай. “Тот, кто создаст крупнейшую экосистему ИИ, будет устанавливать глобальные стандарты ИИ и получит широкие экономические и военные преимущества”, — продолжает введение. “Как мы победили в космической гонке, так для Соединённых Штатов и их союзников крайне важно выиграть эту гонку”.
План действий включает длинный список задач для Министерства обороны США. Часть из них касается внутренней работы ведомства. Рекомендуемые меры исходят из того, что Пентагону будет предоставлена ведущая или даже главенствующая роль в установлении стандартов и координации усилий исполнительной ветви власти.
По мнению разработчиков Плана, DARPA, призвана возглавить межведомственную “программу технологического развития” для решения фундаментальной проблемы передового ИИ: даже его создатели не до конца понимают, как он работает. Это особенно актуально для генеративных ИИ, таких как большие языковые модели (Large Language Model, LLM), которые могут обобщать огромные массивы данных и даже генерировать неожиданные идеи, но также часто “галлюцинируют” и выдают ложные данные непредсказуемым образом. “Эта непредсказуемость… может затруднять использование передового ИИ в обороне, национальной безопасности или других сферах, где на кону стоят жизни”. Это делает генеративный ИИ ненадёжным инструментом даже в менее критических ситуациях, как предупреждает свежее полевое руководство Корпуса морской пехоты.
Помимо программы под руководством DARPA, раздел “Интерпретируемость, контроль и устойчивость ИИ” Плана призывает Пентагон координировать с министерствами энергетики, торговли, внутренней безопасности и другими ведомствами проведение “хакатонов ИИ” — по сути, открытых конкурсов для проведения (нередко разрушительных) атак на их системы и сообщения о результатах.
Ещё одна инициатива Пентагона, продвигаемая в сегодняшнем Плане, использует лозунг эпохи Байдена — “Ответственный ИИ” (Responsible AI). И хотя Трамп отменил многие директивы Байдена по ИИ, инициатива “Ответственный ИИ” сохранилась и, похоже, получила одобрение Белого дома. Федеральные ведомства, “возглавляемые Минобороны”, должны “продолжать совершенствовать рамки, дорожные карты и инструментарий ответственного ИИ и генеративного ИИ Минобороны”, — рекомендует План действий.
План также отводит Минобороны ведущую или значительную роль в нескольких инициативах по безопасности ИИ. Минобороны должно возглавить межведомственные усилия по “созданию новых технических стандартов для центров ИИ с высоким уровнем безопасности” и по оценке прогресса противников в области ИИ.
Минобороны должно поддерживать Управление директора национальной разведки в создании “Стандарта по обеспечению ИИ” для разведывательного сообщества, большинство сотрудников которого работают в Пентагоне. Министерство должно сотрудничать с другими ведомствами по множеству вопросов — от стимулирования отечественного высокотехнологичного производства до совершенствования экспортного контроля.
Одной из рекомендаций по модернизации Пентагона является предложение о создании “виртуального полигона для ИИ и автономных систем”.
Министерству обороны США также поручено превратить свои военные колледжи в “центры исследований ИИ”, повысить квалификацию персонала и определить “рабочие процессы”, которые можно автоматизировать с помощью ИИ.
План действий рекомендует обеспечить Пентагону приоритетный доступ к облачным провайдерам и другим вычислительным сервисам, чтобы использовать их в военное время.
Источник
#США #ИИ #война
🔥1🙈1