Риски ИИ: "давайте делать исследования этично".

Nature опубликовала редакторскую статью (июнь 2023) для обсуждения рисков искусственного интеллекта (ИИ). По мнению авторов, надо забыть про отдалённые во времени проблемы и сосредоточиться на исследованиях этичности ИИ в наше время. У моделей машинного обучения есть как минимум несколько потенциально опасных сторон - от "расовых предпочтений", до "утери работ гражданами", и до "чёрного ящика" выбора людей для программ социальной или медицинской помощи.

Будет интересно следить за процессом - во многих странах задумались, насколько системы распознавания лиц этичны, и пытаются запрещать. В других укрепляют безопасность данных. В третьих решения сделали очень продвинутыми и продают в другие страны. Каким будет итоговое решение - очень важно для людей.

Вот научпоп книга про эти вопросы:

https://www.litres.ru/book/maks-tegmark/zhizn-3-0-byt-chelovekom-v-epohu-iskusstvennogo-intellekta-41741198/

#AI #Nature

Регулирование "новых технологий": нужно по секторам?

Аджемоглу не только выпустил полезную для обсуждения книгу "Power and Progress". Он также старается иллюстрировать отдельные кейсы моделями - это очень важно, чтобы понять "равновесные эффекты" и не останавливаться на отдельных рынках.

Статья (июль 2023) анализирует, как нужно регулировать новые технологии (искусственный интеллект), если не сразу проявляются и плюсы роста производительности, и минусы социальных последствий. Если ИИ меняет рынок труда и "увольняет" сотрудников компании, нужно придумать, как внедрять ИИ постепенно, подготовить людей и улучшить возможности работы в других направлениях. Роль регулятора может оказаться очень важной.

Результаты: социально оптимальное внедрение зависит от роста производительности при новых технологиях. Если производительность растёт примерно со скоростью увеличения социальных издержек, то внедрять надо постепенно - определяясь, как снижать эти издержки, и регулируя внедрение активнее. Если же производительность от технологии радикально выше социальных издержек, то внедрение нужно ускорять, и появляется вопрос налогообложения прибылей компаний.

Вывод: с ИИ может получиться интересно, потому что сейчас смахивает на большую производительность и одновременно потенциально высокие издержки - заменить хотят многих сотрудников, включая ИТ и аналитиков. Поэтому роль регулирования "по Аджемоглу" огромная.

#AI #Acemoglu #Regulation

Почему мы будем учить студентов пользоваться GigaChat или ChatGPT?

Потому что они помогают не только писать код (важно для курсов), но и в совсем простых задачах. Статья (июль 2023) демонстрирует, что алгоритмы улучшения текста исправляют качество резюме, а это приводит к более частым предложениям работы. Механизм - в "подтверждении способностей": если резюме написано грамотно, HR легче согласиться, что кандидат выглядит получше.

Коллеги, которые пока против использования, вынуждены будут признать большую пользу от этих помощников.

#AI #Labor

Нейронные сети и предсказания инфляции.

Жаль, что Ведомости не взяли комментарий у Константина Стырина или у меня как людей, которые помогают писать работы по нейронным сетям и инфляции. Тем не менее, это действительно тренд - пытаться вытащить хорошие прогнозы из "сложных моделей", и как Антон Ермак продемонстрировал в магистерской работе этого года, они помогают даже на высоком уровне агрегации (проды, непроды, услуги).

Что показывает статья коллег из ФРС? Если использовать даже не ChatGPT, а языковую модель Гугла, всё равно предсказания по инфляции на будущие горизонты, особенно на год и больше, получаются лучше, чем у аналитиков.

Большой или огромный вопрос к этому - насколько модель "почувствовала инфляционный период". Всё-таки 2019-2023 сильно нестандартный период времени, и я был бы осторожен в интерпретации. Но в целом интересная работа, будем разбираться.

#AI #Inflation

Всегда ли ИИ помогает?

У многих (включая меня) теплится надежда на то, что искусственный интеллект (ИИ) сможет улучшить почти любые решения людей. Авторы статьи (июль 2023) показывают, что пока это убеждение слишком смелое. Они исследуют, что происходит в радиологии при добавлении хорошего ИИ к решениям людей. Эксперимент давал доступ 180 радиологам к ИИ случайным образом и распределял кейсы рентгенов пациентов.

Результаты: отдельно ИИ и отдельно профессионалы делают работу лучше, чем совместно ИИ и профессионалы. Как ни удивительно, улучшение предсказаний происходит только в случае "понятных кейсов", когда и сами радиологи бы справились; а в случае менее понятных - ИИ только добавляет неопределённости решениям.

Авторы показали, как улучшить результаты - нужна дополнительная инструкция использования ИИ, чтобы люди могли учесть свои "сдвиги восприятия". То есть приходится обучать применению, а "просто так" может не сработать.

#AI #Radiology

Про производительность и цифровую революцию.

Если смотреть на данные 21 века, мы не увидим большого влияния "цифровой революции" от айфонов или облачных вычислений на рост производительности. Статья (август 2023) напоминает, почему так произошло. Два больших аргумента - это

1) концентрация выгод. Не все компании успешно используют новые технологии, только самый топ получает преимущество. Это видно в стоимости MAFANG (Microsoft, Apple, Face, Amazon, Netflix, Google) в последние годы - они заняли около 20% по капитализации в S&P 500. Ещё в 2013 году они занимали порядка 7% - то есть десять лет росли быстрее общего индекса. И это сигнал про то, что мы в эпохе "монополистической конкуренции", крупные компании концентрируют выгоды от новых идей;

2) технологии ещё не дошли до зрелости. В предыдущие три "промышленных революции" (паровой двигатель; электричество; ИТ) от момента изобретения до воплощения в продукты прошло по 40-50 лет. Несмотря на уже пришедшие к нам продукты "четвёртой", мы можем увидеть полноценное использование позже. Более того, движение в сторону "искусственного интеллекта" будет относительно медленным, даже при уже видимых успехах применения.

Мне кажется важным, что "общая производительность" много лет растёт не так, как хочется ожидать с учётом нашего ежедневного опыта. Это довольно не интуитивное утверждение - макроуровень учитывает, например, что автоматизация приводит к переходу сотрудников в менее производительные отрасли, в том числе услуги, или даже уходу с рынка труда (в "экономически не активные"). Поэтому во всей экономике требуется "широкое применение нового", чтобы получить существенные выгоды от технологий.

Производительность: https://yangx.top/olegshibanov/1196

MAFANG: https://yangx.top/olegshibanov/1197

#AI #Macro #Digital #Productivity #Solow

Почему стоит использовать ChatGPT, Bard и т.п. не только в учёбе?

Потому что GPT помогают!
Статья (июль 2023) проверила, насколько улучшаются скорость написания и качество текстов при вовлечении ChatGPT-3.5. Результаты прекрасны: время работы снижается на 40%, качество растёт на 18%. Кажется, многие журналисты были бы рады такой помощи.

Я только что попробовал сгенерить код к одной задаче из своих домашних заданий в Bard Google. За 10 секунд почти готовый результат на Python, надо только данные подкрутить и дать доступ к ним.

Поэтому очень хочется, чтобы мы пользовались всеми возможностями современных технологий. Если кто-то пишет код с нуля и через чтение документации - честь ему и хвала, это будущий великий программист. Но если вы используете код как вспомогательную часть процесса (а главное - что-то иное, например, регрессии), то обидно было бы игнорировать удобный инструмент. На StackOverflow мы все ходили, теперь ситуация стала даже проще.

#AI #GPT #Teaching

Прекрасное открытие в скоринговых моделях 😂 (статья август 2023 по данным бразильских фирм):

"Because the population of loans is not homogeneous across banks, segmented models may provide estimates that are more suited to different segments of the population. The insights of our model risk measure allow us to challenge the generally accepted assumption that more data (i.e., a larger number of observations) will lead to better quality inferences."

То есть: оценки, которые можно сделать на выборках в индивидуальных банках, могут оказаться лучше, чем модели на объединённой выборке всех банков. Это свойство "не-гомогенности", то есть существенной разницы характеристик компаний в разных банках, мешает сработать лучше с более широким набором данных.

И в целом интересная статья про "модельный риск". Вероятность того, что удалось сделать "идеальный набор переменных с идеальной оценкой связей", всегда нулевая. Надо как-то ловить проблемы, связанные с неточностями моделей, и авторы показывают, как это можно сделать через скалярную метрику.

(А читать эти статьи можно тут: https://yangx.top/workingpaper)

#Scoring #AI #Banks #Firms

Рынок труда: теперь Писсаридес.

Дискуссия про навыки в мире искусственного интеллекта (ИИ) продолжается. Теперь высказался нобелевский лауреат Писсаридес. Кратко: изучать математику бесполезно, потому что в будущем останутся в основном профессии с эмоциональным интеллектом, человеческим общением и заботой друг о друге.

Звучит интересно. Но в чём проблема с этими предсказаниями: оценка влияния сейчас весьма предварительная. Если вы помните, ИТ-сектор также должен был значительно изменить профессии. Но как показал дальнейший опыт, эти изобретения стали дополняющими, а не заменяющими (см. статью Аджемоглу 2000). И поэтому рынок труда почти не изменился, просто дополнился компьютерными навыками.

Вывод: если студент склонен к математике, надо ей и заниматься. Если когда-то ИИ станут достаточно сильными для замены офисных сотрудников, мир станет настолько другим, что первое образование окажется неважным.

#Labor #AI

Инвестиции в ИИ: на уровне страны увеличивают неравенство?

Любопытная статья (октябрь 2023) проверяет влияние инвестиций в "искусственный интеллект" (ИИ) на экономические переменные. Авторы берут 86 стран и горизонт 2010-2019, и связывают инвестиции в ИИ с доходами граждан, производительностью экономики и т.п. Основные результаты такие: более высокие инвестиции в ИИ

1) связаны с ростом доли дохода людей из верхних 10% доходов и снижением доли дохода людей из нижних 10% дохода = "рост неравенства";
2) приводят к снижению общей занятости в экономике;
3) дают переток из "среднего уровня навыков" в "высокий уровень навыков" и менеджерские позиции;
4) увеличивают производительность (total factor productivity);
5) а наиболее сильное увеличение неравенства давали инвестиции в роботизацию, ИИ в стройке и связанные с интернетом сервисы.

Звучит как минимум любопытно. При этом авторы говорят, что их выводы едва ли применимы к моделям, которые захватывают рынок после 2022 и ChatGPT - вероятно, их влияние может быть ещё более существенным.

Но. Меня смущают подобные выводы на макроуровне. Дело в том, что 2010-е были временем большого эксперимента в экономиках мира, и надо контролировать на десятки переменных - ставки (низкие могут увеличивать неравенство), старение населения (может снижать занятость), образование (кажется, был рост зарплатной премии за университет по миру), и т.п. Более богатые страны могли позволить себе высокие инвестиции в ИИ - и при этом неравенство в них росло по множеству причин, включая огромную отдачу на идеи через венчурный капитал. Поэтому надо крепко думать про госполитику в отношении последствий ИИ, но не забывать, что главными источниками могут быть совсем не инвестиции в ИИ.

Вывод: интересно, но из макроданных сложно сделать выводы о причинно-следственных связях. Нужно заранее обдумывать, как реагировать на вытеснение людей из рынка труда с ростом использования ИИ.

(А находить эти статьи можно тут: https://yangx.top/workingpaper)

#AI #Inequality #Labor