Главы IT-компаний, учёные и инженеры призвали приостановить разработку масштабных ИИ-систем

Некоммерческая организация Future of Life опубликовала письмо с призывом приостановить обучение продвинутых ИИ-моделей, так как они представляют угрозу человечеству:

«Продвинутые ИИ уже могут конкурировать с людьми в решении общих задач. Должны ли мы позволить машинам наводнить медиа пропагандой и фейками, автоматизировать рабочие места и в итоге лишить нас контроля за цивилизацией? Такие решения не должны делегироваться не избранным лидерам технологических компаний».

Вот что предлагают авторы письма:

▪️ Приостановить как минимум на 6 месяцев обучение систем ИИ более мощных, чем GPT-4.
▪️ Разработать протоколы безопасности, которые будут гарантировать положительный и управляемый эффект от разработки ИИ, — этим должны заниматься независимые эксперты совместно с ИИ-лабораториями.
▪️ Развивать системы надёжного управления ИИ — как минимум создать контролирующие органы, которые будут следить за развитием мощных ИИ-систем (здесь компании должны работать в паре с политиками).
▪️ Разработать системы водяных знаков, помогающие отличить синтетический контент от настоящего.
▪️ Финансировать технические исследования в области безопасности ИИ.
▪️ Поощрять институты, которые занимаются преодолением глобальных последствий для экономики и демократии.
▪️ Авторы отдельно отмечают, что их предложение означает не паузу в развитии ИИ в целом, «а просто отступление от опасной гонки за возможностями».

Эти меры помогут человечеству адаптироваться к новым технологиям и разработать мощные и безопасные системы, работающие на всеобщее благо.

Письмо хорошо перекликается с отчётом Goldman Sachs — в нём говорится, что продвинутые языковые модели могут отнять у людей до 300 млн рабочих мест. По данным агентства, больше всего от автоматизации пострадают офисные работники и «белые воротнички», юристы, финансисты, архитекторы и административный персонал.

Книжная полка

Сегодня книгу рекомендует Software Engineer Валерий Жила, который разрабатывает системы управления городской инфраструктурой для мегаполисов.

Книга: «Прагматичный программист»
Автор: Энди Хант

О чём? В книге собраны советы, которые помогут разработчику повысить качество кода, эффективно управлять проектами и коммуницировать с командой. Лучше читать её, имея хотя бы два года опыта коммерческой разработки за плечами, — тогда ситуации, которые разбираются в книге, будут вам знакомы и вы сможете извлечь больше полезной информации. Например, я не понаслышке знаю, что такое технический долг. Поэтому легко усвоил принцип «Нельзя жить в доме с разбитыми окнами», который означает, что нельзя мириться с неудачными техническими решениями и плохо написанными фрагментами кода. Руководствуюсь им в работе и советую остальным.

Цитата:
«Вы не сможете написать идеальный код, ведь его просто не существует, а вы вряд ли станете первооткрывателем. Приняв это как факт, вы просто начнёте тратить меньше времени на пустые переживания».


Другие книги по теме:
«Чистая архитектура» Роберта Мартина, «Погружение в паттерны проектирования» Александра Швеца.

1 апреля — день рождения Apple, и это не шутка!

Сегодня яблочной корпорации исполнятся 47 лет. Но вместо праздничного торта и романтической истории про стартап в гараже у нас будет «прожарка» именинника.

Что скрывается за яркими фасадами и пафосными презентациями Apple?

Грязная конкуренция, нарушение заповедей, нечестные сделки — история компании насчитывает немало скандалов. Разбираем каждый и докапываемся до истины.

Microsoft: нейросеть GPT-4 показывает «зачатки настоящего искусственного интеллекта»

Инженеры из Microsoft несколько месяцев изучали языковую модель GPT-4 и нашли у неё признаки полноценного ИИ общего назначения. Это значит, что нейронка умеет рассуждать и планировать, учиться на своих ошибках, а также решать сложные интеллектуальные и творческие задачи почти как человек.

В качестве пруфов авторы привели несколько кейсов работы GPT-4. Например, вот что разумного делала нейронка в ходе исследования:

▪️ Рисовала картинки по текстовому запросу. При этом, в отличие от Midjourney и DALL-E, её не обучали на датасетах «текст+картинка» — то есть она дошла до этого своим умом.
▪️ Написала 3D-игру на языке JavaScript — с персонажами, препятствиями и полноценной механикой управления.
▪️ Расписала доказательство бесконечности простых чисел в виде стихотворения.

Помимо этого, оказалось, что нейронка умеет в эмпатию — она анализирует эмоции, желания, воззрения и намерения людей и понимает, как это всё влияет на их поведение. В качестве примера GPT-4 попробовала решить несколько жизненных и рабочих ситуаций:

▪️ Объяснила, почему сотрудник прокрастинировал и не сдал отчёт в срок, — оказалось, что так он протестовал против решения босса.
▪️ По пунктам расписала, как убедить родителей-антиваксеров сделать прививку от COVID-19.
▪️ Рассказала, что делать женщине-хирургу, которой на операцию привезли её сына после аварии. То есть в этом случае нейронка решила довольно сложную этическую проблему.

Так или иначе, исследование получилось интересным — в нём много впечатляющих примеров работы GPT-4, которые сложно полноценно пересказать в рамках одной новости. Скачать работу можно в электронном архиве Корнеллского университета или по прямой ссылке.

Как из Ростова переехать в Лос-Анджелес?

Фулстек-разработчик Евгений Уколов сменил несколько стран всего за год, добираясь к заветной мечте — покорению Америки. Почему выигрыша грин-карты оказалось недостаточно для прямой релокации в США? Как не сойти с ума в вечных переездах и какие плюсы можно найти при регулярной смене места жительства? Читайте в большом интервью.

5 апреля 1952 года в «Литературной газете» была опубликована статья «Кибернетика – «наука» мракобесов». Вслед за генетикой кибернетика была объявлена лженаукой :

«…Испытывая страх перед волей и разумом народов, кибернетики тешат себе мыслью о возможности передачи жизненных функций, свойственных человеку, автоматическим приборам.

Нельзя ли вместо стоящего у конвейера пролетария, бастующего при снижении заработной платы, голосующего за мир и коммунистов, поставить робота с электронными мозгами?

Нельзя ли вместо летчика, отказывающегося уничтожать работающих на рисовых полях женщин, послать бесчувственное металлическое чудовище?

В судорожных попытках реализовать свои агрессивные замыслы американский империализм бросает на карту все – бомбы, чумных блох и философствующих невежд.
Усилиями последних и сфабрикована кибернетика – лжетеория, предельно враждебная народу и науке»

66-й выпуск подкаста

Врать или нет в резюме джуну: большая дискуссия о волчистости, проблемах IT и честности

Слушать:
YouTube
mave
«Яндекс Музыка»
Apple
Castbox

Содержание выпуска:
— О волчистых джунах и менторах.
— Что делать будущим джунам, когда стало мало вакансий.
— Приписать себе несуществующий опыт — значит просто пройти несправедливо появившийся фильтр HR-специалистов и дойти до собеседования. В чём тут проблема.
— Как ложь в резюме негативно влияет на весь рынок.
— Почему страдают порядочные джуниоры.
— Говорят, раньше было проще вкатываться в IT.
— Как повысить шансы войти в профессию и получить первый оффер.
— Скрученный пробег на б/у авто и нечистоплотные перекупы.
— Сеньоры просто не понимают проблем джунов.
— Как найти силы продолжать, если рынок тебя буквально унижает молчанием и пренебрежением.
— О росте порога входа в IT.
— Когда IT научится работать с джунами и почему это точно произойдёт.
— Честность и принципы. Быть человеком.
— Неприглядная правда о том, как придётся потрудиться, чтобы получить первый оффер.


Полезные ссылки:
— Телеграм-канал «В офисе х ДЕПЛОЙ»: https://yangx.top/dev_yttg
— Ютуб-канал «В офисе»: https://bit.ly/40JwKk8
— Ютуб-канал «ДЕПЛОЙ»: https://bit.ly/3UalFpS

Гость: Иван Ботанов. Software Architect. Автор телеграм-канала «В офисе х ДЕПЛОЙ», автор ютуб-каналов «В офисе» и «ДЕПЛОЙ».