Мастриды
На днях компания Open AI выпустила в свет программу GPT-3. Это новая версия самой продвинутой нейросети в мире, имитирующей человеческий текст.
Оцените масштаб усовершенствования: у предыдущей версии (GPT-2) было 1,5 миллиарда параметров, а у GPT-3 их 175 миллиардов. Всего за год нейросеть стала в 116 раз сложнее — наглядный пример экспоненциального развития технологий.
При этом даже уже тексты GPT-2 зачастую было сложно отличить от написанных человеком текстов. GPT-3 ещё лучше справляется с "тестом Тюринга": люди правильно распознавали, какие новости сгенерированы GPT-3, а какие написаны реальными людьми, в 52% случаев. Очевидное негативное последствие публичного релиза программы: теперь генерировать фейковые новости и манипулировать мнением избирателей можно с помощью выложенного в открытый доступ ИИ. А ещё эта нейросеть пишет вполне сносную поэзию, иногда даже с проблесками интересного художественного замысла.
Последствий развития таких программ много: и хороших, и плохих. Я неоднократно здесь об этом писал. Главный вопрос — в том, что будет, когда ИИ станет настолько продвинутым, что превзойдёт человека не только в вычислительных мощностях, но и в умении понимать и оценивать ситуацию, предсказывать поведение людей, убеждать их, манипулировать ими и даже запугивать их. Когда это произойдёт, могут наступить самые ужасные последствия для мира. Скоро выйдет моё видео на эту тему.
Что почитать про GPT-3:
1) научная статья с описанием разных технических вопросов создания и работы GPT-3 (я почти ничего не понял, но многие ИТ-специалисты из моих подписчиков оценят): arxiv.org/pdf/2005.14165.pdf
2) написанный более понятным языком мастрид от Скотта Александра: slatestarcodex.com/2020/06/10/the-obligatory-gpt-3-post
Что ещё почитать на тему:
3) мой старый пост о том, как GPT-2 научилась играть в шахматы и обучать людей, даже не зная правил этой игры: t.me/mustreads/2353
4) мой старый пост о GPT-2 с примерами сгенерированных ей текстов и с описанием рисков, связанных с появлением таких программ: t.me/mustreads/2234
Для справки: Open AI — НКО, созданная Илоном Маском, Сэмом Альтманом из Y Combinator, Питером Тилем (Palantir, PayPal) и другими успешными людьми, которые опасаются развития недружественного человеку ИИ и вложили больше миллиарда долларов в исследования в этой сфере.
#тренд_мастрид #техно_мастрид #ИИ_мастрид
На днях компания Open AI выпустила в свет программу GPT-3. Это новая версия самой продвинутой нейросети в мире, имитирующей человеческий текст.
Оцените масштаб усовершенствования: у предыдущей версии (GPT-2) было 1,5 миллиарда параметров, а у GPT-3 их 175 миллиардов. Всего за год нейросеть стала в 116 раз сложнее — наглядный пример экспоненциального развития технологий.
При этом даже уже тексты GPT-2 зачастую было сложно отличить от написанных человеком текстов. GPT-3 ещё лучше справляется с "тестом Тюринга": люди правильно распознавали, какие новости сгенерированы GPT-3, а какие написаны реальными людьми, в 52% случаев. Очевидное негативное последствие публичного релиза программы: теперь генерировать фейковые новости и манипулировать мнением избирателей можно с помощью выложенного в открытый доступ ИИ. А ещё эта нейросеть пишет вполне сносную поэзию, иногда даже с проблесками интересного художественного замысла.
Последствий развития таких программ много: и хороших, и плохих. Я неоднократно здесь об этом писал. Главный вопрос — в том, что будет, когда ИИ станет настолько продвинутым, что превзойдёт человека не только в вычислительных мощностях, но и в умении понимать и оценивать ситуацию, предсказывать поведение людей, убеждать их, манипулировать ими и даже запугивать их. Когда это произойдёт, могут наступить самые ужасные последствия для мира. Скоро выйдет моё видео на эту тему.
Что почитать про GPT-3:
1) научная статья с описанием разных технических вопросов создания и работы GPT-3 (я почти ничего не понял, но многие ИТ-специалисты из моих подписчиков оценят): arxiv.org/pdf/2005.14165.pdf
2) написанный более понятным языком мастрид от Скотта Александра: slatestarcodex.com/2020/06/10/the-obligatory-gpt-3-post
Что ещё почитать на тему:
3) мой старый пост о том, как GPT-2 научилась играть в шахматы и обучать людей, даже не зная правил этой игры: t.me/mustreads/2353
4) мой старый пост о GPT-2 с примерами сгенерированных ей текстов и с описанием рисков, связанных с появлением таких программ: t.me/mustreads/2234
Для справки: Open AI — НКО, созданная Илоном Маском, Сэмом Альтманом из Y Combinator, Питером Тилем (Palantir, PayPal) и другими успешными людьми, которые опасаются развития недружественного человеку ИИ и вложили больше миллиарда долларов в исследования в этой сфере.
#тренд_мастрид #техно_мастрид #ИИ_мастрид
Мастриды
Вчера произошёл крупнейший взлом в истории Твиттера и один из крупнейших взломов в истории интернета: злоумышленники получили доступ к твиттер-аккаунтам Маска, Безоса, Гейтса, Обамы, Канье Уэста, многих других знаменитых людей, а ещё к официальным аккаунтам Apple, Uber и других компаний.
Во всех этих аккаунтах появились твиты с анонсом акции невиданной щедрости: "мы решили помочь обществу, отправьте биткойнов на такой-то биткойн-кошелёк, и я отправлю вам в ответ вдвое больше". Старая мошенническая схема — уже несколько лет она стабильно практикуется, и каждый раз кто-то ведётся. В этот раз мошенники заработали несколько сотен тысяч долларов в первые часы.
Твиттеру пришлось заблокировать постинг для всех верифицированных аккаунтов (пользователи с "галочкой"), пока они разбираются с проблемой. Скорее всего, проблема в уязвимости самого твиттера: вряд ли хакеры действительно разом взломали все эти аккаунты. Видимо, они нашли брешь в коде твиттера или им помогал какой-то сотрудник компании.
Но возникает логичный вопрос: почему хакеры так бездарно использовали открывшиеся перед ними возможности? Взлом твиттеров ТАКИХ людей можно было бы использовать, чтобы заработать не сотни тысяч, а сотни миллионов долларов — например, если бы Маск и Безос опубликовали не твиты с призывами отправлять биткойны, а хвалебные твиты в адрес какой-нибудь старой или новой криптовалюты, или твиты, которые могли бы обрушить фондовый рынок или поднять стоимость каких-то акций.
У меня есть четыре версии произошедшего:
(1) хакеры слишком торопились, потому что брешь в безопасности обнаружилась внезапно и её нужно было срочно использовать (нет времени шортить акции)
(2) хакеры глупые (маловероятно — всё-таки им удалось провернуть один из крупнейших взломов в истории)
(3) хакеры просто развлекались, им не нужны деньги — что-то в стиле Джокера из нолановского "Тёмного рыцаря": "some men just want to watch the world burn". Но в этом случае они могли бы вызвать куда больше переполоха и паники или даже беспорядки, если бы опубликовали твиты другого содержания
(4) самая вероятная версия: это всё прикрытие для чего-то другого. Возможно, это атака на Твиттер (месть Трампа за цензуру его твитов?). Возможно, целью взлома были ценнейшие личные сообщения, скажем, Безоса, и афера с биткойнами нужна для того, чтобы сбить всех с нужного следа. Возможно, это была демонстрация какими-то сверхмощными хакерами своих неограниченных возможностей перед кем-то, кого они шантажируют, или кому предлагают свои услуги.
Вряд ли мы скоро узнаем истину, но можно с уверенностью говорить об одном: в ближайшие годы тема кибербезопасности будет становиться всё более актуальной, и каждому нужно изучать её лучше. В августе сделаю видео о кибербезопасности для своего ютюб-канала.
#тренд_мастрид #техно_мастрид #криптоанархист_мастрид
Вчера произошёл крупнейший взлом в истории Твиттера и один из крупнейших взломов в истории интернета: злоумышленники получили доступ к твиттер-аккаунтам Маска, Безоса, Гейтса, Обамы, Канье Уэста, многих других знаменитых людей, а ещё к официальным аккаунтам Apple, Uber и других компаний.
Во всех этих аккаунтах появились твиты с анонсом акции невиданной щедрости: "мы решили помочь обществу, отправьте биткойнов на такой-то биткойн-кошелёк, и я отправлю вам в ответ вдвое больше". Старая мошенническая схема — уже несколько лет она стабильно практикуется, и каждый раз кто-то ведётся. В этот раз мошенники заработали несколько сотен тысяч долларов в первые часы.
Твиттеру пришлось заблокировать постинг для всех верифицированных аккаунтов (пользователи с "галочкой"), пока они разбираются с проблемой. Скорее всего, проблема в уязвимости самого твиттера: вряд ли хакеры действительно разом взломали все эти аккаунты. Видимо, они нашли брешь в коде твиттера или им помогал какой-то сотрудник компании.
Но возникает логичный вопрос: почему хакеры так бездарно использовали открывшиеся перед ними возможности? Взлом твиттеров ТАКИХ людей можно было бы использовать, чтобы заработать не сотни тысяч, а сотни миллионов долларов — например, если бы Маск и Безос опубликовали не твиты с призывами отправлять биткойны, а хвалебные твиты в адрес какой-нибудь старой или новой криптовалюты, или твиты, которые могли бы обрушить фондовый рынок или поднять стоимость каких-то акций.
У меня есть четыре версии произошедшего:
(1) хакеры слишком торопились, потому что брешь в безопасности обнаружилась внезапно и её нужно было срочно использовать (нет времени шортить акции)
(2) хакеры глупые (маловероятно — всё-таки им удалось провернуть один из крупнейших взломов в истории)
(3) хакеры просто развлекались, им не нужны деньги — что-то в стиле Джокера из нолановского "Тёмного рыцаря": "some men just want to watch the world burn". Но в этом случае они могли бы вызвать куда больше переполоха и паники или даже беспорядки, если бы опубликовали твиты другого содержания
(4) самая вероятная версия: это всё прикрытие для чего-то другого. Возможно, это атака на Твиттер (месть Трампа за цензуру его твитов?). Возможно, целью взлома были ценнейшие личные сообщения, скажем, Безоса, и афера с биткойнами нужна для того, чтобы сбить всех с нужного следа. Возможно, это была демонстрация какими-то сверхмощными хакерами своих неограниченных возможностей перед кем-то, кого они шантажируют, или кому предлагают свои услуги.
Вряд ли мы скоро узнаем истину, но можно с уверенностью говорить об одном: в ближайшие годы тема кибербезопасности будет становиться всё более актуальной, и каждому нужно изучать её лучше. В августе сделаю видео о кибербезопасности для своего ютюб-канала.
#тренд_мастрид #техно_мастрид #криптоанархист_мастрид
Мастриды
Месяц назад я писал про релиз GPT-3 — новой версии самой продвинутой нейросети в мире, имитирующей человеческий текст. По сравнению с предыдущей версией (GPT-2) GPT-3 стала сложнее более чем в 100 раз — наглядный пример экспоненциального развития технологий.
Сегодня делюсь ещё более впечатляющим мастридом на тему: maraoz.com/2020/07/18/openai-gpt3. Не буду рассказывать о сути этого текста — иначе вы получите меньше удовольствия от его развязки. Просто почитайте, если вам интересна тема искусственного интеллекта и его возможностей. Скорее всего, вы будете очень впечатлены.
#тренд_мастрид #техно_мастрид #ИИ_мастрид
Месяц назад я писал про релиз GPT-3 — новой версии самой продвинутой нейросети в мире, имитирующей человеческий текст. По сравнению с предыдущей версией (GPT-2) GPT-3 стала сложнее более чем в 100 раз — наглядный пример экспоненциального развития технологий.
Сегодня делюсь ещё более впечатляющим мастридом на тему: maraoz.com/2020/07/18/openai-gpt3. Не буду рассказывать о сути этого текста — иначе вы получите меньше удовольствия от его развязки. Просто почитайте, если вам интересна тема искусственного интеллекта и его возможностей. Скорее всего, вы будете очень впечатлены.
#тренд_мастрид #техно_мастрид #ИИ_мастрид
Мастриды
Написал лонгрид про то, как устроен современный рынок облачных услуг, объём которого оценивается в 236 миллиардов долларов и за который ожесточённо борются Amazon, Microsoft, Google и Alibaba.
Как и в мире, в России за эту быстрорастущую нишу тоже идёт жёсткая конкуренция. Почитайте: telegra.ph/Bitva-za-oblako-kto-podelil-mezhdu-soboj-mirovoj-i-rossijskij-rynok-oblachnyh-uslug-07-22
Пост выходит при поддержке провайдера IT-инфраструктуры Selectel, одного из лидеров российского рынка облачных услуг.
Сайт компании: selectel.ru. Телеграм-канал компании: t.me/SelectelNews
#свежий_я #тренд_мастрид #техно_мастрид
Написал лонгрид про то, как устроен современный рынок облачных услуг, объём которого оценивается в 236 миллиардов долларов и за который ожесточённо борются Amazon, Microsoft, Google и Alibaba.
Как и в мире, в России за эту быстрорастущую нишу тоже идёт жёсткая конкуренция. Почитайте: telegra.ph/Bitva-za-oblako-kto-podelil-mezhdu-soboj-mirovoj-i-rossijskij-rynok-oblachnyh-uslug-07-22
Пост выходит при поддержке провайдера IT-инфраструктуры Selectel, одного из лидеров российского рынка облачных услуг.
Сайт компании: selectel.ru. Телеграм-канал компании: t.me/SelectelNews
#свежий_я #тренд_мастрид #техно_мастрид