Делегирование интеллекта

Высказывания Джона Хопфилда об опасности искусственного интеллекта мы слышали давно, но теперь, когда он получил Нобелевскую премию за изобретение нейросетей, это стало предупреждением от их официального создателя.

Кажется, «отец нейросетей» (ему сейчас 91 год) выглядит если не напуганным, то, как минимум, весьма настороженным насчет перспектив ИИ.

Он беспокоится, что если раньше интеллект был эволюционным преимуществом человека, давшим ему способность выживать в довольно сложной среде обитания, то теперь мы делегируем использование этой главной человеческой силы, не совсем понимая последствий этого шага — как долгосрочных, в чисто биологическом смысле (не будет ли это означать деградацию людей как биологического вида), так и ближайших, в виде создания механизмов подчинения и угнетения.

«Меня, как физика, очень нервирует то, что неконтролируемо» — говорит он, поясняя, что сейчас он уже и сам не до конца понимает, как действует ИИ.

Впрочем, в науке встречается (пусть и довольно редко) подобная трансформация взглядов. Все начинается с захватывающей задачки, с попытки решения некоторой проблемы, с игры ума, но позже люди осознают социальные последствия полученного результата. Правда, случаи, когда результат можно осознать  еще до того, как интересная задачка будет решена, крайне редки.

Хопфилд положил начало решению проблемы ИИ еще в 1982 году, создав сеть, названную его именем.
Описывать весь путь выходца из семьи эмигрантов из Польши (его отец тоже был физиком) мы не станем - об этом сейчас пишут буквально все, скажем только, что сеть Хопфилда интересна тем, что он построил её не на основе знаний в нейрофизиологии (путь, по которому шли примерно все исследователи), а на основе знаний из физики твердого тела.

Хопфилд представил движение атомов как код (вверх и вниз, 1 и 0), а его сеть стала идеальным способом хранения эталонной информации и её распознавания и сравнения. Словом, машина научилась перебирать шаблоны и искать сходства и различия.
Причем довольно скоро научилась делать это быстрее человека.

Впрочем, настоящее обучение нейросетей началось только тогда, когда британец Джеффри Хинтон (между прочим, правнук Джорджа Буля, основоположника матанализа и двоичного кода) создал машину Больцмана — вид сети, которая применяет метод обратного распространения ошибки — способ рассчитывать изменения и корректировать данные при накоплении информации.

Как и его коллега, Джеффри Хинтон, еще совсем недавно работавший над проблемой ИИ в команде Google, обеспокоен тем, что принесет человечеству искусственный интеллект.

Он считает, что происходящее вполне сравнимо с промышленной революцией, вот только если в прошлом создавались вещи, которые компенсировали нехватку мускульной силы и энергии, то теперь развитие идет по иному пути: «Мы не знаем, каково это - иметь вещи, которые умнее нас».
Кроме того, человечество не застраховано от того, что тот или иной диктатор захочет создать сверхразумные машины для убийств.

Словом, люди, родившие искусственный интеллект, нынче крайне обеспокоены его распространением и потенциальным влиянием на жизнь, предвидя не только достижения в прогрессе и развитии, но и угрозу человечеству.

Впрочем, премию пацифиста и создателя динамита Альфреда Нобеля пока что вручают не за лучшие способы убийств, а за мирное использование достижений науки. И в этом году премия по химии присуждена двум сотрудникам Google DeepMind, Д. Хассабису и Д. Дамперу, за использование ИИ для определения структуры белка. Так что, как там обстоят дела с угрозой человечеству пока не ясно, между тем ИИ уже помогает продвигать медицину и фармакологию.

Ну а премию Мира получило японское движение хибакуся, которое выступает за уничтожение ядерного оружия — результата предыдущего научного прорыва и игр ума гениальных физиков недавнего прошлого. Так что, может лет через 70 премия Мира уйдет борцам за уничтожение милитаризированного ИИ. Если, конечно, не сбудутся худшие апокалиптические опасения создателей ИИ.

#техноистории от Саши Иванова

Альтман украл идею OpenAI?

На сайте окружного суда США в Северной Калифорнии есть дело с интригующим названием: OpenAI Inc. против Open Artificial Intelligence Inc.

Выяснилось, что Open Artificial Intelligence Inc. — также известная как Open AI (с пробелом) — представляет собой компанию некоего Гая Равайна, предпринимателя и разработчика из Кремниевой долины. Он зарегистрировал домен open.ai ещё в марте 2015 года. Когда в этом же году 11 декабря Альтман объявил о запуске своей компании, ему пришлось выбрать не такой трендовый домен openai.com.

Самое интересное, что в тот же вечер 11 декабря Равайн, увидевший новость о запуске OpenAI, подал заявку на регистрацию товарного знака «Open AI».

Поначалу казалось, что мотивирует Равайна только сумма вознаграждения. По крайней мере, так пыталась выставить дело OpenAI. Компания подала на Равайна в суд в 2023 году: тогда судья запретила ему использовать свой домен и товарный знак. Но вскоре Равайн уволил своих адвокатов, нанял других и подал встречный иск.

В 100-страничном иске говорится, что в 2015 году Равайн вёл переговоры о привлечении $100 млн для своего проекта с открытым исходным кодом искусственного интеллекта общего назначения (AGI). Он питчил проект Ларри Пейджу (Google), Яну Лекуну (главный по ИИ в Meta*), Патрику Норвигу (CEO Stripe) и другим авторитетам в мире ИИ. А Альтман просто украл его идею и смог реализовать её раньше.

Интересно, что многие из тех, кто видел питч Равайна, подтверждают подлинность истории. Например, Том Грубер, создатель голосового ассистента Siri. Он сказал, что «захват Open AI у Гая Равайна может иметь исторические последствия», и OpenAI Альтмана просто пытается стереть Равайна из истории.

В декабре 2015 года Равайн не только подал заявку на регистрацию товарного знака, но и написал Альтману и Суцкеверу дружественное письмо о том, что хотел бы объединиться. Но на встрече спустя неделю ему отказали и начали уговаривать продать домен. Равайн отказался и ушел: ему было странно, что представители некоммерческой организации не хотят объединять усилия ради общей цели.

И хотя Равайн добился регистрации товарного знака в 2017 году, он перестал бороться за будущее своего проекта и даже настроил переадресацию со своего домена на сайт OpenAI.

Альтман сам вышел на связь с Равайном в 2022 году, возобновив предложения о продаже домена и товарного знака. Равайн предложил OpenAI пожертвовать деньги некоммерческой исследовательской инициативе в области ИИ, которую он планировал организовать. Альтман запросил подробности, но обсуждение затянулось и сошло на нет. Не дождавшись ответа, Равайн перезапустил сайт, разместив на нём версию генератора изображений Stable Diffusion (тогда OpenAI только выпустила DALL-E). Так в 2023 году Равайн получил первый иск. OpenAI заплатил миллионы долларов адвокатам — у Равайна не было шансов.

Равайн проиграл не только по первому, но и по второму, встречному иску. Суд отклонил большую часть обвинений. Дело в том, что право интеллектуальной собственности в случае предпринимательских идей основано не на авторстве, а на использовании и торговле. Равайну нужно было доказать, что у его проекта есть реальные пользователи, которые не путают его сайт с OpenAI Альтмана. Но таких доказательств у него нет.

Поучительная история о том, кто и как определяет победителей и проигравших в Кремниевой долине.

*Признана экстремистской в РФ

🕹️ Разработчик игр Bandai Namco Entertainment (известна тайтлами по аниме типа Наруто и пакменом) присоединилась к длинному списку игровых компаний, которые массово сокращают сотрудников, утверждает Bloomberg. Из-за особенностей законодательства Японии она якобы прибегла к специфической практике.

Начиная с апреля ее дочерняя студия Bandai Namco Studios переводит сотрудников в так называемые oidashi beya или «комнаты изгнания». Находящимся там специалистам перестают давать связанные с работой задачи, что сказывается на их статистике производительности. Также на них постоянно давят, принуждая самим подать заявление об увольнении.
Сообщается, что на сегодняшний день в «комнаты изгнания» попали 200 из 1300 сотрудников Bandai Namco Studios. Порядка 100 человек уже уволились.

По информации Bloomberg, компания сделала такой шаг из-за снижения интереса к ее онлайн-тайтлам и играм для мобильных устройств. В конце прошлого года Bandai Namco Entertainment списала расходы на разработку в размере 21 млрд иен (141 млн долларов). Позже она закрыла Tales of the Rays и западную версию Blue Protocol, а также отменила несколько игр, включая проекты по франшизам Naruto и One Piece.

Тренд на ядерную энергетику для ЦОДов продолжается: Google заказала у стартапа Kairos Power малые модульные реакторы (SMR) общей мощностью 500 мегаватт. В сравнении с крупномасштабными станциями, модульные модификации предполагают изначально более безопасную конструкцию и ускоренное строительство. Стоимость сделки не раскрывается.

Максимальная мощность SMR составляет 300 мегаватт, они могут производить 7,2 млн кВт⋅ч в день. Для сравнения, крупные атомные электростанции имеют выходную мощность более 1000 мегаватт и могут производить 24 млн кВт⋅ч в день.

Семилетний стартап Kairos обещает ввести в эксплуатацию свой первый коммерческий реактор к 2030 году, дополнительные реакторы — к 2035 году. Компания строит реакторы собственной разработки, которые охлаждаются расплавленной фторидной солью, а не водой. Kairos также использует современное ядерное топливо под названием TRISO, которое состоит из ядер урана, углерода и кислорода, заключенных в защитные слои углерода и керамики. Компания утверждает, что каждая из таких капсул размером с мяч для гольфа способна вырабатывать столько же энергии, сколько четыре тонны угля.

В декабре Kairos Power получила разрешение от Комиссии по ядерному регулированию США на строительство демонстрационного реактора мощностью 50 МВт в Теннесси. Его введут в эксплуатацию в 2027 году. Само министерство инвестирует в этот реактор $300 млн.

Это первое одобрение нового типа реактора США за полвека. За последние 20 лет США ввели в эксплуатацию только три реактора.

Теперь ядерные реакторы строятся в том числе на деньги big tech. Помимо Google, в прошлом месяце Microsoft заключила соглашение о возобновлении работы АЭС «Три-Майл-Айленд» в 2028 году.

⚡️Создатель российских суперкомпьютеров снова арестован

Суд пересмотрел приговор, вынесенный в мае 2023 г. основателю производителя суперкомпьютров «Т-Платформы» Всеволоду Опанасенко и увеличил срок лишения свободы с двух лет и четырех месяцев до пяти лет. В 2023 году его освободили после суда, так как назначенное наказание он уже отсидел, пока шло следствие и разбирательство. Теперь он вновь арестован и, видимо, все-таки отправится в колонию. Дело против него идет с 2019 года. Тогда его арестовали по уголовному делу о мошенничестве, связанному с поставкой компьютеров на отечественных процессорах «Байкал-Т1» в Министерство внутренних дел за 357,1 млн руб.

Т-Банк запускает аттракцион невиданной щедрости и открывает свои инструменты для создания приложений на базе ИИ всему рынку. Библиотека позволит компаниям не разрабатывать ИИ-приложения с нуля, а использовать уже готовые инструменты. Об этом на Finopolis 2024 объявил Артем Бондарь, руководитель направления NLP в Центре искусственного интеллекта Т-Банка.

Что это значит?

- Т-Банк делится своими ресурсами безвозмездно, то есть даром! У большинства же российских компаний, прямо скажем, нет своих денег на разработку с нуля.

- Это круто, так как западные решения не могут удовлетворить потребности нашего рынка и насытить русскую душу.

- Среди прочего, банк опенсорснул свою большую языковую модель T-lite, которую считают лучшей на русском языке по бенчмаркам в категории 7–8 млрд параметров. И дал к ней инструменты, чтобы пилить на их основе приложения.

- Даже для небольших команд теперь доступно то, что раньше было только у больших ребят.

Ранее Т-Банк вошел в тройку лидеров российского опенсорса вместе с Яндексом и Сбером. Их мотивация понятна — развивая рынок, они развивают и собственные технологии, в том числе потому что коллективные работа над кодом всегда продуктивнее. И себе, и людям!