Делимся колонкой руководителя команд NLP и FusionBrain Татьяны Шавриной в Forbes про то, как устроены языковые модели 🖇

В материале: разбор и сравнение тех моделей, которые есть сейчас, а также о конкуренции между OpenAI и поисковыми сервисами.

Кстати, Татьяна ведет свой канал в Telegram. Подписывайтесь на ученых AIRI 👀

В начале марта исследователи AIRI выступят на ведущей независимой открытой конференции по искусственному интеллекту OpenTalks.AI, которая пройдет в Ереване⚡️

Делимся расписанием:

🗓6 марта

• 11:45 – 12:45
Елизавета Дахова "Automated evaluation of hand radiographs in patients with rheumatoid arthritis"

• 13:00 – 14:00
Андрей Кузнецов "Creative AI models design. New trends and applications"

• 15:00 – 15:45
Александр Панов "Обучение с подкреплением – главное в 2022 году"

• 16:45 – 17:45
Денис Димитров "FusionBrain: исследовательский проект по мультимодальному и мультизадачному обучению"

🗓7 марта

• 11:45 – 12:45
Дмитрий Ветров "Введение в диффузионные модели"

• 13:00 – 14:00
Татьяна Шаврина "The Future of Language Modeling: from modeling language to modeling everything else"

• 13:00 – 14:00
Елизавета Гончарова
"How Well do Pre-Trained Models Understand Language?"

• 15:00 – 16:15
Евгений Бурнаев "Topology strikes back: shape of your data really matters!"

• 16:30 – 19:00
Дмитрий Ветров, Евгений Бурнаев, Татьяна Шаврина в дискуссии "10 лет ИИ - 10 главных работ"

Подробное расписание и билеты по ссылке. Также планируется онлайн-трансляция, регистрация на нее скоро появится на сайте 🖇

У главного организатора конференции Игоря Пивоварова сегодня День рождения! Все сердца поста – вам, поздравляем 🥳

Продолжаем рассказывать про ученых, которые работают в AIRI. Сегодня в #AIRIвлицах мини-интервью с Семеном Буденным – руководителем группы «Дизайн новых материалов» 🚀

🔵Почему наука?

«Тяга к науке была еще со школьных времен, но особенно сильно она укоренилась под влиянием царящей в Академгородке атмосферы. Институты СО РАН, надежно спрятанные в лесах вдоль улиц Каптюга, Лаврентьева, удивительные люди, скромно работающие в них и искренне любящие свою работу. Наука была для меня романтикой, в хорошем смысле этого слова.

Если сухо: в ФМШ и ФФ НГУ меня научили любить сложные задачи и объединять физический мир с IT. В магистратуре ESPCI ParisTech у меня был предмет "L’apprentissage statistique" (статистическое обучение). В тот момент я еще не понимал, что это зарождающийся сильный тренд, но уже тогда он явно полюбился мне. Тогда я точно понял, что хочу продолжать заниматься наукой и в ней должно быть место для ИИ».

🔵Вдохновение

«Это когда ты опубликовал очередные результаты в статье или сделал open-source решение, а кто-то в другой точке мира наткнулся на твои результаты и пишет тебе такой «классную штуку вы сделали, мы ее у себя внедрили. Это точно вдохновляет».

🔵В свободное время

«Собираю LEGO. Если кто-то окажется у меня в гостях, подумает, что он в музее LEGO. Как-то раз я решил собрать очередной набор и поймал себя на мысли о том, что его некуда будет ставить. Потом пришла идея: можно продолжать собирать на работе с ребятами разные флагманы. Так, к слову, образовался AIRI LEGO CLUB».

🔵Интересные факты

«Мне удалось сдать экзамен по анатомии на французском с первого раза, а еще довелось неудачно тонуть в вертолете вверх тормашками – это был такой тренинг».

⚡️Наука – это

«Стремление написать шедевр, потому что ученый – это художник. Шедевр этот, впрочем, должен полюбиться и другим художникам, и глаз неискушенного обывателя он должен тоже порадовать. А иначе зачем все это?)»

Все интервью собраны по тегу #AIRIвлицах, обещаем пополнять коллекцию 🍿

Рассказываем про следующий #AIRI_Seminars, который пройдет в эту среду 👀

🔵Дата и время: 1 марта в 17:00 на YouTube-канале AIRI

🔵Тема: «Разработка модели машинного перевода с русского жестового языка»

🔵Докладчики: Максим Новопольцев и Леонид Верховцев, Sber AI
🔵Оппонент: Татьяна Шаврина, AIRI

🔵Описание: на семинаре планируется обзор экспериментов в области жестовых языков, сравнение различных подходов к распознаванию жестовой речи. Также будет рассказано про первую русскоязычную модель, направленную на создание инклюзивной среды для людей, обучающихся на жестовом языке. Модель разрабатывается Центром развития технологий AI во благо общества, Sber AI.

📹 Посмотреть прошлые семинары можно в плейлисте на YouTube AIRI.

Делимся расписанием ИИшницы "AI Señoritas", которая пройдет в этот четверг на YouTube-канале AIRI 🍳

▪️15:30 – Вступление, ведущая мероприятия – Татьяна Шаврина, AIRI

▪️15:35 – «Что такое объяснимый искусственный интеллект (XAI)?» Алена Суворова, ВШЭ

▪️16:00 – «Топологический анализ данных» Ирина Пионтковская, Huawei

▪️16:25 – «Развитие мультимодальных моделей. RUDOLPH: мультизадачная модель для работы с текстами и изображениями» Елизавета Гончарова, AIRI, ВШЭ

▪️16:50 – «Глубокое обучение для клеточно-специфичной интерпретации мутаций в не кодирующих белки регионах генома» Мария Синдеева, AIRI

Начинаем весну красиво 2 марта на канале AIRI!💃

Прошлую ИИшницу про статьи на конференции NeurIPS 2022 можно посмотреть по ссылке 🍿

Сегодня в рубрике #AIRIвлицах мы поговорили с Манвелом Аветисяном, директором по развитию прикладных проектов AIRI 🚀

🔳Почему наука?

«Все началось в 2015 году, я тогда жил в Сан-Франциско и занимался качеством поиска в компании Google. Я обрабатывал петабайты информации, и от меня зависело то, как люди будут что-то «гуглить» по всему миру. Я дружил с главным ученым одного из стартапов, который всегда выглядел счастливым. Когда я его спросил чем он занимается, он сказал что они читают и пишут статьи, делают исследования. Я подумал: "серьезно, за это еще и деньги платят?" Так я и попал в науку – благодаря вопросу про счастье. Уже позже я понял, что наука – это именно то, что мне больше всего подходит по характеру».

🔳На работе

«Мы берем методы ИИ и объединяем их с предметными областями. Например, недавно мы учили нейросети проектировать процессоры в микроэлектронике».

🔳Вдохновение

«Мне нравится ощущение, что я создал то, что не существовало раньше. А теперь я создал, и оно работает. В лабораториях ИИ такое происходит часто. Например, 3 года назад я с бывшими коллегами создавал модель для постановки медицинских диагнозов в поликлиниках с помощью искусственного интеллекта, а теперь ее будут применять по всей России».

🔳В свободное время

«Я играю на гитаре, тут можно послушать мои треки. Еще люблю компьютерные игры, сейчас играю в Returnal – очень красивая и сложная игра».

🔳Интересные факты

«Я два раза вернулся из иммиграции. Первый раз из Америки, второй – из Армении. Полтора года я жил с Сан-Франциско и полгода в Ереване».

⚡️Наука – это

«Бесконечное веселое и интересное творчество. Конечно, научные исследования – это сложно, нужно много работать, но если есть драйв, то это всегда в удовольствие».

Кстати, Манвел ведет свой канал, подписаться можно по ссылке 🖇

Закончилась конференция OpenTalks AI 2023 в Ереване. Всем спасибо за два насыщенных дня! Делимся фоточкой 🖖

Собрали презентации с последних выступлений:

🔳Все презентации ИИшнницы "AI Señoritas"

🔳Папка с презентациями исследователей Института на OpenTalks AI

До встречи на следующих конференциях!

Семинары AIRI по искусственному интеллекту проходят по средам раз в две недели 🖇

Делимся подробностями следующего #AIRI_Seminars:

🔵Дата и время: 15 марта в 17:00 на YouTube-канале AIRI

🔵Тема: «Нет размеченных данных? Решаем проблему с помощью активного обучения»

🔵Докладчик: Артем Шелманов, AIRI, MBZUAI
🔵Оппонент: Евгений Цымбалов, Amazon

🔵Описание: несмотря на значительный успех в создании методов обучения без учителя, экспертная разметка данных остается очень ценным источником знаний для систем ИИ. Циклическая разметка (HiL), в которой процесс ручной разметки и обучение модели чередуются, недавно стали широко распространены. Например, HiL является одним из важнейших компонентов недавно появившихся языковых моделей с дообучением на инструкции пользователей.

Во многих областях, таких как обработка медицинских или юридических документов, экспертная разметка весьма дорогая. Одним из подходов HiL, который решает эту проблему, является активное обучение (AL). В AL предсказания модели используются для выбора примеров, которые будут показываться пользователям. Выбираются только те примеры, которые являются информативными для обучения последующих версий модели. AL может сократить объем ручного труда в ходе разметки, необходимый для достижения определенного уровня производительности модели, в несколько раз. Это особенно важно в таких областях, где краудсорсинг проблематичен. AL как концепция была предложена довольно давно. Тем не менее, из-за ряда препятствий, на практике AL используется мало.

В этом докладе исследователи представят результаты нескольких работ, опубликованных в EACL, ACL, NAACL и других конференциях, которые обходят некоторые серьезные препятствия на пути к созданию надежных технологий разметки с помощью AL.

📹 Cсылка на плейлист с прошедшими семинарами.

Рассказываем последние новости о жизни Института 👇

🔳Сходили на подкаст РИА Новостей и рассказали про то, как исследователи AIRI ищут новые молекулы. Делимся ссылкой на запись.

🔳Провели ИИшницу "AI Señoritas". Если вдруг не успели на прямой эфир, то запись можно посмотреть тут.

🔳Выложили в открытый доступ научный семинар по теме «Методы анализа данных при исследовании активности мозга в парадигмах замкнутого контура», смотрите по ссылке.

🔳Завтра примем участие в «Неделе высоких технологий и технопредпринимательства». Две трансляции с исследователями AIRI можно посмотреть по ссылке.

⚡Кстати, завтра в 17:00 пройдет #AIRI_Seminars, все подробности в прошлом посте, до встречи!

Сегодня в серии интервью с исследователями – руководитель группы «Вероятностные методы машинного обучения» Дмитрий Ветров 💡

▫️Почему наука?

«Я родился и вырос в наукограде, среди друзей моих родителей было много ученых и инженеров, так что научная стезя не была чем-то необычным. Мне кажется, что наукой я хотел заниматься с младших классов. Когда я стал студентом, мне такая возможность представилась и я ей воспользовался, о чем ни дня не жалел».

▫️Вдохновение

«Мне очень нравится, когда из отдельных обрывочных наблюдений формируется общая картинка происходящего, которая дает новое понимание явления. Это может быть как объективный процесс познания чего-то нового, так и субъективное восприятие известных вещей. Но любые такие озарения это всегда очень здорово».

▫️На работе

«Я разгадываю загадки и решаю головоломки. Они возникают при попытках объяснить необычные эффекты, наблюдаемые при обучении нейронных сетей; при поисках некорректностей в математических моделях и ошибок в их программной реализации; при работе над решением задачи, которую никто до тебя не решал, и никто не знает, можно ли ее решить с приемлемым качеством».

▫️В свободное время

«Я со школы интересуюсь всемирной историей. В свободное время читаю историческую литературу и просматриваю исторические лекции. Мне кажется, что если бы люди лучше знали историю человечества, многих современных проблем удалось бы избежать. Еще одно мое хобби – астрономические наблюдения».

▫️Интересные факты

«Я побывал на пяти континентах; выполнял фигуры высшего пилотажа на спортивном самолете; дважды попадал в зону массовых беспорядков; пересекал главный андский хребет по стопам Симона Боливара; ходил под парусом на трехместной яхте; гулял по кратеру потухшего вулкана; был на подводной лодке и на авианосце».

⚡️Наука – это

«Это то, что дает мне возможность сохранять оптимизм и не впадать в отчаяние, какие бы катаклизмы не происходили вокруг».

Все интервью с исследователями собраны по тегу #AIRIвлицах, приятного чтения 😁