SKRN
745 subscribers
58 photos
8 videos
37 links
Личный блог про айти от ML инженера. В основном пишу про ИИ
加入频道
Пожалуй, OpenAI - это одна из самых смелых компаний на рынке айти за последние годы. Пока крупные корпорации выкатывают невнятные пресс-релизы и закрывают продукты через несколько дней после запуска, ChatGPT бьет рекорды темпов роста, а глава компании Сэм Альтман пишет статьи о том, как он планирует привести человечество к светлому будущему. Но так ли вы уверены, что хотите в это будущее попасть?

Изначально, компания позиционировала себя как некоммерческая организация. В своем манифесте от 2015 года они писали:

<…> it’ll be important to have a leading research institution which can prioritize a good outcome for all over its own self-interest

За все хорошее, против всего плохого, мы будем следить за тем, чтобы ИИ использовался только во благо, и не будем гоняться за прибылью своих акционеров.

Что ж, недолго музыка играла.

В марте 2019 некоммерческая OpenAI создает дочернюю коммерческую компанию OpenAI LP. Так и написали, хотим платить опционы сотрудникам и оплачивать железки, поэтому создадим отдельную структуру, которая будет продавать наши разработки. Но чтобы совсем не наглеть, сказали, что прибыль этой компании будет ограничена: инвесторы смогут заработать на ней только фиксированную сумму, а все излишки отойдут материнской OpenAI, которая сможет тратить их на приближение светлого будущего.

Спустя 4 месяца в OpenAI LP инвестирует Microsoft. Они предоставляют компании вычислительные мощности, а OpenAI взамен дает эксклюзивный доступ к своим алгоритмам. Интересно, решение об инвестициях было принято до или после регистрации OpenAI LP?

Постепенно, компания собирает все больше денег: помимо поисковика Bing, или еще более раннего Github Copilot, можно вспомнить интеграцию GPT-подобных моделей в Notion. За это ее даже начал подкалывать Илон Маск: говорит, какой же этот AI Open, если вы его продаете. Но у Альтмана есть собственный план, который он частично раскрывает в последней статье в блоге компании.

Её уже много кто разбирал, я хочу остановиться на паре пунктов:

🟢 Альтман искренне считает, что ИИ должен быть доступен как можно большему числу людей, и как можно скорее. Заранее все продумать все равно не получится, нужно набивать шишки как можно раньше (это объясняет рост числа интеграций и переход от не-коммерческой структуры к полу-коммерческой);

🟢 Одновременно с этим, Альтман хочет, чтобы перед релизом систем, подобных ChatGPT, они проходили независимый аудит. Раскрыть мысль об аудите обещает позже в этом году, а пока отмечает, что считает важным чтобы крупные мировые правительства имели представление о тренировочных прогонах выше определенного масштаба

🟢 Также Сэм не исключает, что для движения в светлое будущее потребуется ограничить темпы создания новых моделей, или же создать комитет, который решит, безопасна ли очередная модель ИИ, и можно ли выпускать ее на рынок, или еще нет. Как вам такой AI, все еще Open?

В общем, видимо, прямо у нас на глазах рождается новый регулятор, наподобие Комиссии по ценным бумагам, или профсоюзной организации. Его очертания пока расплывчаты, но одно можно сказать точно - глава OpenAI собирается занять в этой структуре важное место. А если еще вспомнить его инвестиции в компании вроде UBI Charitable и Wordcoin, то все становится еще интереснее (хотя это, пожалуй, тема отдельного поста)

#альтман #лонгрид

@skrn_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
February 27, 2023
March 7, 2023
Если коротко, Альтман предлагает отменить налог на труд и вместо него увеличить налог на капитал.

Схема следующая:

🟢Когда в мир придет “Сильный ИИ”, то сверхдоходы будут получать компании, которые его используют (так как он будет работать лучше, чем мясной человек), и владельцы земли (так как ее количество ограничено). Доходы будут такими, что состояние рептилоидов-капиталистов улетит в космос, а это ужасно несправедливо по отношению к пролетарию. Это нужно исправлять;

🟢Решение - а давайте каждый год брать 2.5% налога от капитализации таких компаний (прям в акциях будем брать), и столько же % от стоимости земли. Если компания частная - пусть платят в деньгах, пока не выйдут на биржу. Буржуи все равно сидят на своей земле и ничего полезного не приносят, так пусть платят в валюте. В этот момент Билл Гейтс нервно поперхнулся;

🟢Зачем компаниям выплачивать налог именно акциями, когда у них есть деньги? Все просто - чтобы не мухлевали с отчетностью. Если компания решит направить всю прибыль на дивиденды акционерам, то по документам денег у них не будет, и брать с нее станет нечего. А довыпустить пакет акций и передать его государству она сможет всегда;

🟢Собранные деньги и акции отправим в Американский Фонд Справедливости, который каждый месяц выплачивает всем совершеннолетним гражданам пенсию. С каждым годом государство будет все богаче, а значит и выплаты будут все больше. Говорит, если сделать каждого человека владельцем доли во всех благах США, то у людей будет больше стимулов создавать новые блага, чем перераспределять уже существующие;

🟢Новую систему будем вводить постепенно, плавно повышая ставку налога от 0 до 2.5%, пока вклад ИИ в экономику не вырастет настолько, что введение нового налога не повредит росту. Выплаты в первый год должны составить порядка 13500$ на человека, а дальше будут только расти;

🟢А так как стоимость благ будет постоянно снижаться (все же производят роботы, вы еще не забыли?), у людей будет больше времени для занятия творчеством, помощи близким и занятие общественно-полезным трудом. Правда, не уточняя, почему у людей должна возникнуть интенция к такому труду;

В общем, в будущем нас ждет какое-то подобие коммунизма, когда роботы будут строить для нас дома и производить еду, а платить за это будут крупные компании.

➡️ Мое мнение - картинка выглядит слишком красивой, чтобы быть правдой. Глава OpenAI ведет мир в светлое будущее, в котором все будет бесплатно, все будет в кайф, и, наверное, вообще не нужно будет умирать. Правда, для этого нужно сначала отнять эти ресурсы у жадных капиталистов, но вот после этого мы обязательно придем к успеху, честно-честно.

Если прогнозы Альтмана про темпы прогресса окажутся правдой, то уже через год общество кардинально изменится, и эти изменения ощутит на себе каждый. Штош, тогда предлагаю 7 марта 2024 встретиться в этом канале и посмотреть, получилось оно так или нет.

#альтман #лонгрид

@skrn_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
March 7, 2023
March 17, 2023
March 31, 2023
В одном из постов про Альтмана я обещал рассказать про его сторонние проекты, которые на первый взгляд не связаны с деятельностью OpenAI. Начнем, пожалуй, с Wordcoin'а - крипта, конечно, уже не на хайпе, но Сэма это слабо волнует, а значит не волнует и нас.

Сам проект был запущен в 2020 году. Суть была простая: давайте раздадим народу бесплатные деньги, и посмотрим, как они на это отреагируют. Но Альтман был бы не Альтманом, если бы не предложил что-то особенное - в обмен на получение крипты пользователь должен был согласиться отсканировать радужку глаза на специальном устройстве. Оно должно хитрым образом захэшировать ее изображение, и создать на основе этого хэша криптографический ключ, которым подписывались бы все транзакции в блокчейне. Глаз не украдешь, а если даже и попытаешься выковырять, то все испортишь, значит такая вот инфраструктура сможет стать платформой для раздачи базового дохода по всему миру.

Планы были грандиозные, но вдруг что-то пошло не так:

- сначала к критикой проекта выступил Эдвард Сноуден. Дескать, вы что, поехавшие все, зачем вы отдаете скан своей радужки какой-то мутной конторе? Это не пароль, его не изменишь!

- Альтман на это замечание ответил что-то типа "хм, я и не думал что кому-то это может настолько не понравиться, интересно". Что ж, интересное отношение к приватности персональных данных, спору нет;

После скандального старта, о проекте долгое время не было слышно, но на днях они выкатили в релиз платформу под названием World ID. В чем ее суть:

1️⃣ Платформа предоставляет Ouath-протокол для входа на различные сайты, будь то сайты в интернете, мобильные приложения или криптокошельки. Работать будет как кнопка "вход через Google": нажимаешь на кнопку "войти по World ID" и авторизуешься.

2️⃣ Чтобы создать аккаунт в протоколе, тебе нужно будет придти в специальный центр сканирования, и отсканировать сетчатку глаза. После этого, в приложение World App, установленное на твой телефон, сохранится твой приватный ключ, который мы создадим из скана радужки. На его основе мы также создадим публичный ключ - его положим в блокчейн, и все смогут видеть, что чел совершил такое-то действие (например, перевел деньги другому человеку), и у него действительно были права это сделать.

3️⃣ При этом, хитрый протокол ZKP (Zero-Knowledge Proof) делает это так, что связать два отдельных действия от одного аккаунта не получится - система увидит только, что "кто-то" сделал "что-то", но если этот кто-то не захочет раскрывать свою личность, то определить, кто где стоял, не получится.

4️⃣ Что необычно, компания даже выложила в опенсорс чертежи их сферы для сканирования сетчатки. Насколько я понимаю, кода прошивки авторы не предоставляют, это больше нужно для вендоров, которые хотят наладить у себя производство таких девайсов.

Интересно, что пост по поводу релиза они начали с отсылки к статье про GPT-4. Дескать, скоро придет ИИ, и мы вообще не сможем понять, где комментарий оставил настоящий человек, а где машина. Срочно-быстро нужен способ их различать, и наш продукт - отличное решение! Звучит, конечно, красив, но как этому мешает централизация, я не особо понял. А, ну да, точно, тогда Альтман ничего не сможет контролировать.

➡️ Мне на текущий момент кажется, что проект получается весьма странный. Доверие к крипте сильно подорвано последними новостями, и будет достаточно тяжело убедить людей, что им нужно будет отдать сетчатку глаза какой-то криптокомпании, какие бы там крутые алгоритмы не были под капотом. Судите сами: сначала авторы заявляли о миллиарде активных пользователей к 2023 году, но пока проект <...> has passed one million sign-ups <...> from individuals in diverse countries including Argentina, Chile, India, Kenya, Portugal, Spain and Uganda. Я понимаю, почему они заходят именно на рынки развивающихся стран, но сильно не уверен, что это в какой-то обозримой перспективе может масштабироваться на остальной мир. По крайней мере, пока скепсис в отношении крипты поддерживает большая часть лиц, принимающих решения.

#альтман #лонгрид

@skrn_ai
Please open Telegram to view this post
VIEW IN TELEGRAM
April 6, 2023