В 2012 году, по данным Мониторинга, насчитывалось 1619 вузов: 716 частных и 903 государственных. Частные вузы составляли 44%. Примерно половина частных вузов приходилась на филиалы (335 филиалов – 47% от числа частных университетов).
Мониторинг 2022 года показывает такую картину: всего имеется информация о 1208 организациях: 312 частных и 896 государственных. Частные вузы составляют 26%.
Тем самым, почти за 10 лет количество частных вузов уменьшилось вдвое, тогда как государственные вузы остались в том же количестве. За этой смертностью частных вузов стояли специальные усилия профильных ведомств по улучшению качества образования. В период 2013-2016 гг. резко увеличилось число проверок всех вузов, особенно частных. В отношении частных вузов проверки длились дольше, проходили внепланово и с выездом. Оказалось, что большинство показателей качества работы организации не защищают университеты от проверки, а признание «эффективным» частного вуза имеет и вовсе малое значение.
В 2017 году мы детально написали об этом периоде «очищения» высшего образования в аналитическом отчете «Как работает Рособрнадзор: анализ открытых данных о контрольно-надзорной деятельности в сфере высшего образования». В 2024* году эти результаты были опубликованы в журнале Studies in Higher Education (статья Legitimacy deficits in the private higher education sector: categories in evaluating Russian universities) – для международных исследований случай России интересен, так как показывает важность категорий для оценки университетов. В некоторых контекстов, для бюрократии менее важны количественные индикаторы, скорее выбор цели определяется широкой категорией.
В статье мы обращаем внимание на легитимность категории университетов. Категория «частных вузов» традиционно признавалась как категория с меньшей легитимностью (в других контекстах, такие проблемы могут быть у университетов иных типов – проблемы с легитимностью или даже стигматизация целого класса университетов характерны, к примеру, для community college в США). Результатом проблем с легитимностью стало то, что под проверки, а зачастую и под последующие санкции, попадали эффективные частные вузы. Категория «частный вуз» сработала как сигнал о потенциальной неблагонадежности даже при высоких показателях в мониторинге эффективности.
Остается вопросом, помогли ли усилия ведомств решить проблему легитимности частных вузов, но это уже другая история.
* Тут должен быть восклицательный знак о длительности исследовательских циклов.
Мониторинг 2022 года показывает такую картину: всего имеется информация о 1208 организациях: 312 частных и 896 государственных. Частные вузы составляют 26%.
Тем самым, почти за 10 лет количество частных вузов уменьшилось вдвое, тогда как государственные вузы остались в том же количестве. За этой смертностью частных вузов стояли специальные усилия профильных ведомств по улучшению качества образования. В период 2013-2016 гг. резко увеличилось число проверок всех вузов, особенно частных. В отношении частных вузов проверки длились дольше, проходили внепланово и с выездом. Оказалось, что большинство показателей качества работы организации не защищают университеты от проверки, а признание «эффективным» частного вуза имеет и вовсе малое значение.
В 2017 году мы детально написали об этом периоде «очищения» высшего образования в аналитическом отчете «Как работает Рособрнадзор: анализ открытых данных о контрольно-надзорной деятельности в сфере высшего образования». В 2024* году эти результаты были опубликованы в журнале Studies in Higher Education (статья Legitimacy deficits in the private higher education sector: categories in evaluating Russian universities) – для международных исследований случай России интересен, так как показывает важность категорий для оценки университетов. В некоторых контекстов, для бюрократии менее важны количественные индикаторы, скорее выбор цели определяется широкой категорией.
В статье мы обращаем внимание на легитимность категории университетов. Категория «частных вузов» традиционно признавалась как категория с меньшей легитимностью (в других контекстах, такие проблемы могут быть у университетов иных типов – проблемы с легитимностью или даже стигматизация целого класса университетов характерны, к примеру, для community college в США). Результатом проблем с легитимностью стало то, что под проверки, а зачастую и под последующие санкции, попадали эффективные частные вузы. Категория «частный вуз» сработала как сигнал о потенциальной неблагонадежности даже при высоких показателях в мониторинге эффективности.
Остается вопросом, помогли ли усилия ведомств решить проблему легитимности частных вузов, но это уже другая история.
* Тут должен быть восклицательный знак о длительности исследовательских циклов.
Taylor & Francis
Legitimacy deficits in the private higher education sector: categories in evaluating Russian universities
This paper explores the regulators’ perspective and demonstrates how legitimacy deficits of private universities outweigh performance results in decisions regarding university inspections. We exami...
Недавно обновился показатель SJR для журналов, входящих в Scopus. Предлагаем посмотреть на тренд: менялись ли показатели российских журналов в худшую или лучшую сторону за последние три года?
В 2023 году увеличилось количество журналов, для которых рассчитываются метрики: в 2022 году было 504, а в 2023 – уже 559.
Средний показатель SJR не изменился за эти три года – составляет 0,2. На отсутствие заметных изменений также указывает распределение по квартилям:
— в 2023* году по SJR первый квартиль был у 12% (69) журналов
— в 2022 году у 11% (57) журналов
— в 2021 году у 13% (56) журналов
Журналы могут менять квартили каждый год (для отдельных журналов такие колебания удобно смотреть на диаграмме в канале Выше квартилей). В 2022 году квартиль изменился к худшему у 27% (149) журналов, улучшился у 10% (55) журналов. В 2023 году произошло изменение к худшему у 20% (112) журналов, улучшилось у 14% (79) изданий.
Насколько по этим метрикам можно судить об улучшении или ухудшении качества журнала? Проблема в том, что квартиль зависит от метрик других журналов – журнал может начать лучше цитироваться, но если остальные журналы также стали лучше цитироваться, то его квартиль не улучшится. В 2023 году насчитывалось 287 журналов, у которых улучшился SJR, однако, только 27% одновременно улучшили свой квартиль, а 73% остались с прежним квартилем. Только у 40% журналов с изменением SJR в худшую сторону, квартиль стал ниже, а у 59% остался на том же уровне.
Для тех, кто серьезно относится к квартилям (к примеру, поздравляет журнал с попаданием в Q1), должны предупредить, что изменение квартиля зачастую сопровождается малозаметными изменениями в SJR. Так, для того, чтобы ухудшился квартиль – в среднем SJR снижается на 0,06, а улучшение квартиля в среднем происходит при изменении SJR на 0,07.
Как бы мы не относились к метрикам, мы видим, что возрастающая изоляция российской науки не сказалась на показателях цитируемости российских журналов, индексируемых в Scopus. Это во многом объясняется тем, что российские журналы в основном читаются и цитируются российскими авторами, которые сами также публикуются в российских журналах. Многие журналы продолжают оставаться национальными – в них редко публикуются зарубежные авторы, а статьи мало цитируются за пределами России.
Недавнее исследование самоцитирования стран показало, что у России очень высокий уровень самоцитирования (вместе с такими странами как Колумбия, Египет, Индонезия, Иран, Италия, Малайзия, Пакистан, Румыния, Саудовская Аравия, Таиланд и Украина) – в среднем, примерно 40% ее статей цитируется другими российскими исследователями. Более того, этот показатель самоцитируемости только растет, тогда как в других странах он подает. Наши расчеты по корпусу статей в области climate change показали, что 2/3 цитирования статей из российских журналов приходят из других российских журналов, а треть иностранных цитирований происходит за счет российских авторов.
Резюмируя, метрики цитирования российских журналов остаются на том же уровне. Российские журналы и до 2022 годы были мало видимы за пределами России, а вот для ответа на вопрос, насколько эта видимость изменилась с 2022 года, нужны дополнительные данные.
Статьи по теме национальных журналов и их видимости:
- Macháček, V. (2023). Globalization of scientific communication: Evidence from authors in academic journals by country of origin. Research Evaluation, 32(1), 157-169.
- Baccini, A., & Petrovich, E. (2023). A global exploratory comparison of country self-citations 1996-2019. Plos one, 18(12), e0294669.
- Lovakov, A., Panova, A., & Yudkevich, M. (2022). Global visibility of nationally published research output: the case of the post-Soviet region. Scientometrics, 127(5), 2643-2659.
- Kirchik, O., Gingras, Y., & Larivière, V. (2012). Changes in publication languages and citation practices and their effect on the scientific impact of R ussian science (1993–2010). Journal of the American Society for Information Science and Technology, 63(7), 1411-1419.
В 2023 году увеличилось количество журналов, для которых рассчитываются метрики: в 2022 году было 504, а в 2023 – уже 559.
Средний показатель SJR не изменился за эти три года – составляет 0,2. На отсутствие заметных изменений также указывает распределение по квартилям:
— в 2023* году по SJR первый квартиль был у 12% (69) журналов
— в 2022 году у 11% (57) журналов
— в 2021 году у 13% (56) журналов
Журналы могут менять квартили каждый год (для отдельных журналов такие колебания удобно смотреть на диаграмме в канале Выше квартилей). В 2022 году квартиль изменился к худшему у 27% (149) журналов, улучшился у 10% (55) журналов. В 2023 году произошло изменение к худшему у 20% (112) журналов, улучшилось у 14% (79) изданий.
Насколько по этим метрикам можно судить об улучшении или ухудшении качества журнала? Проблема в том, что квартиль зависит от метрик других журналов – журнал может начать лучше цитироваться, но если остальные журналы также стали лучше цитироваться, то его квартиль не улучшится. В 2023 году насчитывалось 287 журналов, у которых улучшился SJR, однако, только 27% одновременно улучшили свой квартиль, а 73% остались с прежним квартилем. Только у 40% журналов с изменением SJR в худшую сторону, квартиль стал ниже, а у 59% остался на том же уровне.
Для тех, кто серьезно относится к квартилям (к примеру, поздравляет журнал с попаданием в Q1), должны предупредить, что изменение квартиля зачастую сопровождается малозаметными изменениями в SJR. Так, для того, чтобы ухудшился квартиль – в среднем SJR снижается на 0,06, а улучшение квартиля в среднем происходит при изменении SJR на 0,07.
Как бы мы не относились к метрикам, мы видим, что возрастающая изоляция российской науки не сказалась на показателях цитируемости российских журналов, индексируемых в Scopus. Это во многом объясняется тем, что российские журналы в основном читаются и цитируются российскими авторами, которые сами также публикуются в российских журналах. Многие журналы продолжают оставаться национальными – в них редко публикуются зарубежные авторы, а статьи мало цитируются за пределами России.
Недавнее исследование самоцитирования стран показало, что у России очень высокий уровень самоцитирования (вместе с такими странами как Колумбия, Египет, Индонезия, Иран, Италия, Малайзия, Пакистан, Румыния, Саудовская Аравия, Таиланд и Украина) – в среднем, примерно 40% ее статей цитируется другими российскими исследователями. Более того, этот показатель самоцитируемости только растет, тогда как в других странах он подает. Наши расчеты по корпусу статей в области climate change показали, что 2/3 цитирования статей из российских журналов приходят из других российских журналов, а треть иностранных цитирований происходит за счет российских авторов.
Резюмируя, метрики цитирования российских журналов остаются на том же уровне. Российские журналы и до 2022 годы были мало видимы за пределами России, а вот для ответа на вопрос, насколько эта видимость изменилась с 2022 года, нужны дополнительные данные.
Статьи по теме национальных журналов и их видимости:
- Macháček, V. (2023). Globalization of scientific communication: Evidence from authors in academic journals by country of origin. Research Evaluation, 32(1), 157-169.
- Baccini, A., & Petrovich, E. (2023). A global exploratory comparison of country self-citations 1996-2019. Plos one, 18(12), e0294669.
- Lovakov, A., Panova, A., & Yudkevich, M. (2022). Global visibility of nationally published research output: the case of the post-Soviet region. Scientometrics, 127(5), 2643-2659.
- Kirchik, O., Gingras, Y., & Larivière, V. (2012). Changes in publication languages and citation practices and their effect on the scientific impact of R ussian science (1993–2010). Journal of the American Society for Information Science and Technology, 63(7), 1411-1419.
* Отдельного внимания заслуживает тот факт, что 80% российских журналов Q1 являются гуманитарными изданиями (по философии, истории, филологии и т.д.). По иронии, именно гуманитарии больше всего недолюбливают наукометрию.
Вы удивитесь, но в исследованиях Высшей школы экономики за последние 20 лет выросла доля экономики, МФТИ стал гораздо более инженерным, а саудиты теперь чаще цитируют исследования Бауманки, чем американцы!
Узнать всё это за несколько кликов теперь можно благодаря новой платформе Rankless от венгерских исследователей.
И если что-то и поможет новому общедоступному индексу OpenAlex привлечь больше внимания уже в 2024 году, чем дорогие и просто недоступные в России Web of Science и Scopus, то это именно новый сервис с впечатляющей визуализацией. С мотивирующим лозунгом «We need to understand more and rank less» команда из CCL (Центр коллективных знаний Будапештского университета имени Корвина) нацелилась побороться с глобальными рейтингами вузов. Разобраться с содержанием образовательных программ с Rankless вряд ли получится, но актуальных выгрузок из обширной базы OpenAlex уже достаточно, чтобы сравнивать научные специализации вузов. И всё это доступно в динамике, в том числе в ежегодной с 2019 года.
Охват вузов пока ещё не полон, но выявить интересные тенденции уже можно. Например, петербургские ИТМО и СПбГУ планомерно отходят от физической специализации в пользу химии материалов, а томские ТГУ и ТПУ наоборот уменьшили долю последней в пользу инженерных исследований. При этом все четыре вуза диверсифицировали профиль исследований в целом и наращивают сотрудничество не только с Китаем, но и, например, с Ираном. Современная междисциплинарность так высока, что далёкий от моря МГТУ Баумана и ещё более континентальный Университет Назарбаева (Астана) усилили вклад в морские технологии.
Самое интересное, что можно проследить, как изменился набор стран, который цитирует исследования университета. Вот, например, в 2019 году на долю США приходилось 18% ссылок от числа всех цитирований Вышки, ссылки из Китая составляли ту же долю в 18%. В 2022 году пока проиндексировано только 675 статей Высшей школы экономики: доля ссылок из США составила уже 14%, а Китая – 24%. Однако, стоит предостеречь от окончательных выводов, так как за последние годы индексация статей в OpenAlex происходит с большой задержкой.
Узнать всё это за несколько кликов теперь можно благодаря новой платформе Rankless от венгерских исследователей.
И если что-то и поможет новому общедоступному индексу OpenAlex привлечь больше внимания уже в 2024 году, чем дорогие и просто недоступные в России Web of Science и Scopus, то это именно новый сервис с впечатляющей визуализацией. С мотивирующим лозунгом «We need to understand more and rank less» команда из CCL (Центр коллективных знаний Будапештского университета имени Корвина) нацелилась побороться с глобальными рейтингами вузов. Разобраться с содержанием образовательных программ с Rankless вряд ли получится, но актуальных выгрузок из обширной базы OpenAlex уже достаточно, чтобы сравнивать научные специализации вузов. И всё это доступно в динамике, в том числе в ежегодной с 2019 года.
Охват вузов пока ещё не полон, но выявить интересные тенденции уже можно. Например, петербургские ИТМО и СПбГУ планомерно отходят от физической специализации в пользу химии материалов, а томские ТГУ и ТПУ наоборот уменьшили долю последней в пользу инженерных исследований. При этом все четыре вуза диверсифицировали профиль исследований в целом и наращивают сотрудничество не только с Китаем, но и, например, с Ираном. Современная междисциплинарность так высока, что далёкий от моря МГТУ Баумана и ещё более континентальный Университет Назарбаева (Астана) усилили вклад в морские технологии.
Самое интересное, что можно проследить, как изменился набор стран, который цитирует исследования университета. Вот, например, в 2019 году на долю США приходилось 18% ссылок от числа всех цитирований Вышки, ссылки из Китая составляли ту же долю в 18%. В 2022 году пока проиндексировано только 675 статей Высшей школы экономики: доля ссылок из США составила уже 14%, а Китая – 24%. Однако, стоит предостеречь от окончательных выводов, так как за последние годы индексация статей в OpenAlex происходит с большой задержкой.
Мониторинг эффективности образовательных организаций является самым полным источником открытых данных о российских вузах. Впервые Мониторинг был проведен Министерством образования и науки в 2012 году, уже на следующий год участие в нем стало обязательным почти для всех вузов. Мониторинг включает в себя информацию по нескольким десяткам показателей, которые объединены в восемь групп.
Министерство с 2013 года выкладывает показатели каждого университета на сайт, однако, эти данные недоступны для скачивания. Мы подготовили данные Мониторинга для широкого пользования – панель показателей для каждого университета доступна с 2015 по 2023 годы. Данные выложены в репозиторий и доступны по ссылке.
Мы также использовали данные для дополнительной аналитики показателей университетов – в виде дашборда с таблицами и графиками. Мы полагаем, что выводы об эффективности вуза должны быть основаны на анализе показателей вуза в динамике или в сравнении с другими похожими вузами. Дашборд предоставляет базовые инструменты для сравнительного анализа показателей эффективности вузов.
Сценарий №1 позволяет для каждого вуза анализировать динамику показателя одним кликом. К примеру, как изменялись баллы ЕГЭ абитуриентов вуза за последние пять лет?
Сценарий №2 позволяет ранжировать все вузы по одному из показателей Мониторинга. К примеру, можно получить список вузов, которые входят в топ-пятьдесят вузов по среднему количеству публикаций в Scopus. Такие условные рейтинги можно строить за каждый год.
Результаты ранжирования могут удивить. К примеру, в 2021 году наибольший показатель по количеству опубликованных работ в РИНЦ на 100 НПР составил 6 611,60 единиц! (у Санкт-Петербургского государственного экономического университета). Очевидно, что эта цифра не может реалистично описывать научные результаты вуза (она при этом примерно соответствует цифре о количестве публикаций в РИНЦ).
Мы уже писали о качестве данных Мониторинга – из года в год встречаются явные ошибки. Эта проблема так и не была решена.
Министерство с 2013 года выкладывает показатели каждого университета на сайт, однако, эти данные недоступны для скачивания. Мы подготовили данные Мониторинга для широкого пользования – панель показателей для каждого университета доступна с 2015 по 2023 годы. Данные выложены в репозиторий и доступны по ссылке.
Мы также использовали данные для дополнительной аналитики показателей университетов – в виде дашборда с таблицами и графиками. Мы полагаем, что выводы об эффективности вуза должны быть основаны на анализе показателей вуза в динамике или в сравнении с другими похожими вузами. Дашборд предоставляет базовые инструменты для сравнительного анализа показателей эффективности вузов.
Сценарий №1 позволяет для каждого вуза анализировать динамику показателя одним кликом. К примеру, как изменялись баллы ЕГЭ абитуриентов вуза за последние пять лет?
Сценарий №2 позволяет ранжировать все вузы по одному из показателей Мониторинга. К примеру, можно получить список вузов, которые входят в топ-пятьдесят вузов по среднему количеству публикаций в Scopus. Такие условные рейтинги можно строить за каждый год.
Результаты ранжирования могут удивить. К примеру, в 2021 году наибольший показатель по количеству опубликованных работ в РИНЦ на 100 НПР составил 6 611,60 единиц! (у Санкт-Петербургского государственного экономического университета). Очевидно, что эта цифра не может реалистично описывать научные результаты вуза (она при этом примерно соответствует цифре о количестве публикаций в РИНЦ).
Мы уже писали о качестве данных Мониторинга – из года в год встречаются явные ошибки. Эта проблема так и не была решена.
Самый простой способ подступиться к оценке научных результатов – это оценивать не сами статьи, а журналы, в которых они появились. Будем тогда считать значимыми исследованиями все статьи, которые появились в важных журналах. Ключевой здесь вопрос, кто и на каких основаниях определяет список авторитетных журналов? Долгое время в России опирались на индексацию журналов в Scopus/Web of Science и наличие у журнала квартиля согласно количеству цитирований.
В ноябре появилось официальное постановление о переходе от списка журналов из Web of Science и Scopus на журналы из Белого списка. Валидность Белого списка можно оценивать, с одной стороны, через представленность в них наиболее авторитетных изданий, а с другой стороны, полезно знать, попадают ли туда журналы с признаками слабой и некорректной редакционной политики.
Вопреки опасениям, в Белый список вошли тысячи авторитетных зарубежных изданий, что сделало список равнозначным текущему списку журналов в Scopus. Остается только малопонятным, каким образом в Белый список будут попадать новые журналы, которые только начнут индексироваться в Scopus.
Сложность с оценкой попадания слабых или проблемных журналов состоит в том, что в России отсутствует свой список Билла. Только отчасти мы можем полагаться на данные Диссернет – они скорее всего не описывают во всей полноте сомнительные журналы. Мы попробовали восполнить этот пробел и оценить, какова доля российских медицинских журналов, которые показывают явные признаки нарушения академической этики, попали в Белый список.
Анализ проводился по 586 российским журналам по медицине, для которых мы собрали информацию о некорректной редакторской политике и присвоили баллы каждой характеристике:
— 1 балл, если журнал входит в квартиль журналов с наибольшим (среди медицинских) пятилетним коэффициентом самоцитирования (данные РИНЦ),
— 1 балл, если журнал входит в квартиль с наибольшим уровнем статей с обнаруженными недобросовестными заимствованиями (данные РИНЦ),
— 1 балл, если журнал входит в квартиль с наибольшим числом статей, являющихся множественной публикацией (данные Чеховича-Хазова),
— 1 балл, если журнал имеет три и более кейсов в базе «Диссернет».
Если журнал набрал 3 и более балла, то можно относительно уверенно говорить о признаках недобросовестной редакционной политики. В эту же группу мы поместили журналы, в которых обнаружилось пять или более случаев повторной публикации в этом же самом журнале. Всего было найдено 49 с признаками некорректной редакционной политики.
Наш результат показал, что в Белый список попало достаточно заметное количество проблемных журналов: 25% журналов с явными признаками нарушения редакционной политики попало в Белый список. Но стоит и признать, что Белый список – это огромный шаг вперед в сравнении со списком ВАК – 67% проблемных медицинских журналов входит в список ВАК.
Время покажет, будут ли прилагаться усилия, чтобы в Белый список не допускались слабые и недобросовестных издания. Пока исследователи могут дорабатывать методику определения таких журналов.
Подробнее смотрите: Dyachenko, E. L., Guba, K. S., Potapov, I. V., & Mironenko, A. Y. (2024). Comparison of Approaches to Stratification of Russian Journals: Scientometric Indicators, International Databases, and National Lists. Scientific and Technical Information Processing, 51(2), 145-153.
В ноябре появилось официальное постановление о переходе от списка журналов из Web of Science и Scopus на журналы из Белого списка. Валидность Белого списка можно оценивать, с одной стороны, через представленность в них наиболее авторитетных изданий, а с другой стороны, полезно знать, попадают ли туда журналы с признаками слабой и некорректной редакционной политики.
Вопреки опасениям, в Белый список вошли тысячи авторитетных зарубежных изданий, что сделало список равнозначным текущему списку журналов в Scopus. Остается только малопонятным, каким образом в Белый список будут попадать новые журналы, которые только начнут индексироваться в Scopus.
Сложность с оценкой попадания слабых или проблемных журналов состоит в том, что в России отсутствует свой список Билла. Только отчасти мы можем полагаться на данные Диссернет – они скорее всего не описывают во всей полноте сомнительные журналы. Мы попробовали восполнить этот пробел и оценить, какова доля российских медицинских журналов, которые показывают явные признаки нарушения академической этики, попали в Белый список.
Анализ проводился по 586 российским журналам по медицине, для которых мы собрали информацию о некорректной редакторской политике и присвоили баллы каждой характеристике:
— 1 балл, если журнал входит в квартиль журналов с наибольшим (среди медицинских) пятилетним коэффициентом самоцитирования (данные РИНЦ),
— 1 балл, если журнал входит в квартиль с наибольшим уровнем статей с обнаруженными недобросовестными заимствованиями (данные РИНЦ),
— 1 балл, если журнал входит в квартиль с наибольшим числом статей, являющихся множественной публикацией (данные Чеховича-Хазова),
— 1 балл, если журнал имеет три и более кейсов в базе «Диссернет».
Если журнал набрал 3 и более балла, то можно относительно уверенно говорить о признаках недобросовестной редакционной политики. В эту же группу мы поместили журналы, в которых обнаружилось пять или более случаев повторной публикации в этом же самом журнале. Всего было найдено 49 с признаками некорректной редакционной политики.
Наш результат показал, что в Белый список попало достаточно заметное количество проблемных журналов: 25% журналов с явными признаками нарушения редакционной политики попало в Белый список. Но стоит и признать, что Белый список – это огромный шаг вперед в сравнении со списком ВАК – 67% проблемных медицинских журналов входит в список ВАК.
Время покажет, будут ли прилагаться усилия, чтобы в Белый список не допускались слабые и недобросовестных издания. Пока исследователи могут дорабатывать методику определения таких журналов.
Подробнее смотрите: Dyachenko, E. L., Guba, K. S., Potapov, I. V., & Mironenko, A. Y. (2024). Comparison of Approaches to Stratification of Russian Journals: Scientometric Indicators, International Databases, and National Lists. Scientific and Technical Information Processing, 51(2), 145-153.
У аспирантуры есть явные и латентные функции. Аспирантами становятся те, кто заинтересован в академической карьере – для этого нужно провести исследование и защитить кандидатскую диссертацию. Латентная функция аспирантуры всегда имела гендерную составляющую – для мужчин аспирантура предоставляет отсрочку, а кандидаты наук вовсе освобождаются от призыва. Неакадемические мотивы поступления в аспирантуру упоминаются аспирантами даже лучших вузов: каждый четвертый аспирант-мужчина рассматривал аспирантуру как способ получения отсрочки от военной службы. Начало СВО в 2022 году должно было только усилить латентную функцию аспирантуры – на это указывает сравнение данных о численности аспирантов в 2021 и 2022 годах по полу и возрастным группам.
Общая численность мужчин выросла на 41.7% (с 50,786 до 71,967 человек). Тогда как численность женщин уменьшилась на 4.1% (с 39,370 до 37,738 человек). Мужчины стали составлять 65% от числа аспирантов. В 2020 и 2021 их доля составляла 56%. Тем самым, это изменение не является плавным трендом, скорее его следует связывать именно с 2022 годом и началом СВО.
Заметное увеличение у мужчин произошло в когортах 30 лет и старше – в 2021 году мужчины такого возраста составляли 24%, а в 2022 стали составлять 34.3%. Более молодые мужчины все еще составляют большинство аспирантов, однако, эта доля в 2022 году стала уменьшилась – с 76% до 65.7%. У женщин изменения по когортам не произошло.
При этом аспирантура перестала быть местом с минимальными ожиданиями – если раньше достаточно было опубликовать одну статью почти в любом издании и выйти на защиту, то сейчас статей должно быть три. Статистика показывала, что и раньше далеко не все аспиранты доходили до выпуска и тем более защиты диссертации. С изменением состава аспирантов, можно ожидать, что статистика вряд ли улучшится.
Общая численность мужчин выросла на 41.7% (с 50,786 до 71,967 человек). Тогда как численность женщин уменьшилась на 4.1% (с 39,370 до 37,738 человек). Мужчины стали составлять 65% от числа аспирантов. В 2020 и 2021 их доля составляла 56%. Тем самым, это изменение не является плавным трендом, скорее его следует связывать именно с 2022 годом и началом СВО.
Заметное увеличение у мужчин произошло в когортах 30 лет и старше – в 2021 году мужчины такого возраста составляли 24%, а в 2022 стали составлять 34.3%. Более молодые мужчины все еще составляют большинство аспирантов, однако, эта доля в 2022 году стала уменьшилась – с 76% до 65.7%. У женщин изменения по когортам не произошло.
При этом аспирантура перестала быть местом с минимальными ожиданиями – если раньше достаточно было опубликовать одну статью почти в любом издании и выйти на защиту, то сейчас статей должно быть три. Статистика показывала, что и раньше далеко не все аспиранты доходили до выпуска и тем более защиты диссертации. С изменением состава аспирантов, можно ожидать, что статистика вряд ли улучшится.
На IV Конгрессе молодых ученых в «Сириусе» заместитель генерального директора Российского научного фонда (@RSF_news) Андрей Блинов подтвердил, что наиболее высокая поддержка заявок в области общественных и гуманитарных наук приходится на конкурс исследований малыми отдельными научными группами. Это неудивительно, так как стимулы к более активной публикации в журнальных статьях для этих наук сложились позднее, чем в естественнонаучной среде, в том числе и со стороны РНФ, как показывают наши исследования.
Результаты последнего такого конкурса были обнародованы сразу после Конгресса: на социогуманитарные исследования пришлось 23% из 1206 победителей. Мы решили посмотреть на все проекты, которые связаны с исследованиями образования и науки.
Группа географов СПбГУ во главе с проф. Константином Аксёновым планирует оценить наследие чемпионата мира по футболу 2018 в пространстве нестоличных городов. Как раз к объектам такого наследия относится и университет Сириус, который принял конгресс. В связи с этим важно, что подобные исследования могут рассматривать кампус вуза, спортивный стадион или другой заметный объект как элементы общего контекста окружающей городской среды.
Динамику коренного населения Карелии, включая возможные меры в сфере повышения доступности образования, в том числе высшего, будет исследовать молодой профессор ПетрГУ Мария Петухина. Проект предполагает не только проведение широкого опроса, но и создание интернет-портала «Финно-угорский мир Карелии», опубликованные на котором данные и выводы могут быть полезны и для исследования других коренных малочисленных народов.
В ПетрГУ выиграл и проект аспиранта Александра Аверьянова о кадровой обеспеченности сферы ИИ, направленный на учёт позиций как организаций, так и молодых специалистов. Отчасти, с ним пересекается проект (Не)Школьные практики STEM профориентации о профориентации школьников в свете актуализации технических профессий во главе со старшим научным сотрудником Еленой Колесниковой из Института социологии РАН.
Целая группа проектов при поддержке РНФ охватывают тематику истории науки и образования. Так ведущий научный сотрудник ИИЕТ РАН Александр Клейтман обращается к периоду становления истории науки и техники как исследовательского направления в XIX столетии, позволят определить роль И.Х. Гамеля. Образ вуза и проблемы, которые были характерны для высшей школы в 1920-е годы изучат в Петербургском Политехе под руководством доцента Ивана Аладышкина. Тенденции аграрного образования через опыт Тимирязевской академии изучит заведующий её кафедрой истории и аграрного туризма Александр Оришев.
Отдельно выделим близкий проект об институциональной модели легендарной системы Физтеха в 1950-1980-е гг., который выполнит старший научный сотрудник МФТИ Ирина Антощук. Наконец, жизнь участников студенческих экспедиций, в т.ч. историков, изучит доцент ОмГУ Ирина Чернова.
Среди победителей оказалась и заявка научного сотрудника ЦИАНО Екатерины Дьяченко - проект призван прояснить, могут ли хорошие или плохие отношения между странами влиять на то, насколько более или менее охотно учёные одной страны признают научные результаты учёных другой страны.
Поздравляем всех победителей и будем ждать возможности познакомиться с результатами их исследований!
Результаты последнего такого конкурса были обнародованы сразу после Конгресса: на социогуманитарные исследования пришлось 23% из 1206 победителей. Мы решили посмотреть на все проекты, которые связаны с исследованиями образования и науки.
Группа географов СПбГУ во главе с проф. Константином Аксёновым планирует оценить наследие чемпионата мира по футболу 2018 в пространстве нестоличных городов. Как раз к объектам такого наследия относится и университет Сириус, который принял конгресс. В связи с этим важно, что подобные исследования могут рассматривать кампус вуза, спортивный стадион или другой заметный объект как элементы общего контекста окружающей городской среды.
Динамику коренного населения Карелии, включая возможные меры в сфере повышения доступности образования, в том числе высшего, будет исследовать молодой профессор ПетрГУ Мария Петухина. Проект предполагает не только проведение широкого опроса, но и создание интернет-портала «Финно-угорский мир Карелии», опубликованные на котором данные и выводы могут быть полезны и для исследования других коренных малочисленных народов.
В ПетрГУ выиграл и проект аспиранта Александра Аверьянова о кадровой обеспеченности сферы ИИ, направленный на учёт позиций как организаций, так и молодых специалистов. Отчасти, с ним пересекается проект (Не)Школьные практики STEM профориентации о профориентации школьников в свете актуализации технических профессий во главе со старшим научным сотрудником Еленой Колесниковой из Института социологии РАН.
Целая группа проектов при поддержке РНФ охватывают тематику истории науки и образования. Так ведущий научный сотрудник ИИЕТ РАН Александр Клейтман обращается к периоду становления истории науки и техники как исследовательского направления в XIX столетии, позволят определить роль И.Х. Гамеля. Образ вуза и проблемы, которые были характерны для высшей школы в 1920-е годы изучат в Петербургском Политехе под руководством доцента Ивана Аладышкина. Тенденции аграрного образования через опыт Тимирязевской академии изучит заведующий её кафедрой истории и аграрного туризма Александр Оришев.
Отдельно выделим близкий проект об институциональной модели легендарной системы Физтеха в 1950-1980-е гг., который выполнит старший научный сотрудник МФТИ Ирина Антощук. Наконец, жизнь участников студенческих экспедиций, в т.ч. историков, изучит доцент ОмГУ Ирина Чернова.
Среди победителей оказалась и заявка научного сотрудника ЦИАНО Екатерины Дьяченко - проект призван прояснить, могут ли хорошие или плохие отношения между странами влиять на то, насколько более или менее охотно учёные одной страны признают научные результаты учёных другой страны.
Поздравляем всех победителей и будем ждать возможности познакомиться с результатами их исследований!
Казалось бы, геополитика и наука не должны пересекаться. Однако, возможно, политическая напряженность между разными странами отражается и в науке, для которой по идее должно иметь значение только качество научного результата. Действительно ли ученые из разных стран цитируются другими учеными лишь на основе их вклада или существует межстрановое предубеждение? Этому вопросу посвящена свежая статья Who stands on the shoulders of Chinese (Scientific) Giants? Evidence from chemistry в журнале "Research Policy".
Исследователи изучили, как американские ученые цитируют научные статьи китайских ученых по химии. Последние годы показывают заметный рост китайской науки – доля публикаций в Web of Science выросла с 5.33% в 2000 году до 25.94% в 2018. Именно точные науки дали основной вклад в этот рост. Статьи для исследования были отобраны среди 1% наиболее продуктивных авторов из 31 наиболее авторитетного журнала по химии. Таким образом в выборку вошли статьи с примерно равным научным вкладом, различались они только происхождением автора.
Оказалось, что статьи из Китая на 28% менее вероятно будут цитироваться учеными из США, по сравнению с такими же исследованиями из других стран. Этот эффект авторы назвали "China citation discount"’. Результаты примечательны тем, что исследуемые статьи принадлежат лучшим ученым области, которые, казалось бы, не должны испытывать проблем с трансграничным трансфером знаний.
Как можно объяснить недоцитируемость китайских исследований? Расовое предубеждение, по всей видимости, не дает убедительного ответа, в этом случае меньше цитировались бы все ученые с китайскими фамилиями, а не только исследователи из Китая. Наиболее правдоподобным предложенным объяснением является неосведомленность американских авторов о китайских открытиях. Китайские ученые меньше включены в сети обмена информацией об открытиях и это приводит к устойчивому снижению цитирований.
Действительно, цитатный дисконт заметно меньше для китайских ученых, побывавших в США на каком-то этапе своей карьеры, а значит имеющих контакты с американскими учеными. И он совсем отсутствует в случае американских ученых китайского происхождения – уменьшения цитирований китайских исследований в их статьях не обнаружено.
Однако, сети не объясняют полностью меньшую цитируемость китайских статей. Нельзя исключить и враждебность к политическому режиму Китая, что порождает недоверие к научным результатам.
Предвзятость в цитировании – важная тема для социологов. Если раньше она в основном раскрывалась на примере гендерных предубеждений, то сейчас мы все больше узнаем, что имеет значение национальность и страна пребывания авторов. Геополитические изменения являются в своем роде естественным экспериментом, и в этом смысле российские данные более чем интересны для проверки гипотез о страновом дисконте.
Исследователи изучили, как американские ученые цитируют научные статьи китайских ученых по химии. Последние годы показывают заметный рост китайской науки – доля публикаций в Web of Science выросла с 5.33% в 2000 году до 25.94% в 2018. Именно точные науки дали основной вклад в этот рост. Статьи для исследования были отобраны среди 1% наиболее продуктивных авторов из 31 наиболее авторитетного журнала по химии. Таким образом в выборку вошли статьи с примерно равным научным вкладом, различались они только происхождением автора.
Оказалось, что статьи из Китая на 28% менее вероятно будут цитироваться учеными из США, по сравнению с такими же исследованиями из других стран. Этот эффект авторы назвали "China citation discount"’. Результаты примечательны тем, что исследуемые статьи принадлежат лучшим ученым области, которые, казалось бы, не должны испытывать проблем с трансграничным трансфером знаний.
Как можно объяснить недоцитируемость китайских исследований? Расовое предубеждение, по всей видимости, не дает убедительного ответа, в этом случае меньше цитировались бы все ученые с китайскими фамилиями, а не только исследователи из Китая. Наиболее правдоподобным предложенным объяснением является неосведомленность американских авторов о китайских открытиях. Китайские ученые меньше включены в сети обмена информацией об открытиях и это приводит к устойчивому снижению цитирований.
Действительно, цитатный дисконт заметно меньше для китайских ученых, побывавших в США на каком-то этапе своей карьеры, а значит имеющих контакты с американскими учеными. И он совсем отсутствует в случае американских ученых китайского происхождения – уменьшения цитирований китайских исследований в их статьях не обнаружено.
Однако, сети не объясняют полностью меньшую цитируемость китайских статей. Нельзя исключить и враждебность к политическому режиму Китая, что порождает недоверие к научным результатам.
Предвзятость в цитировании – важная тема для социологов. Если раньше она в основном раскрывалась на примере гендерных предубеждений, то сейчас мы все больше узнаем, что имеет значение национальность и страна пребывания авторов. Геополитические изменения являются в своем роде естественным экспериментом, и в этом смысле российские данные более чем интересны для проверки гипотез о страновом дисконте.
🎓 Наукометрия для ученых: систематический обзор с нуля
Хотите написать обзор, который заметят? Научиться пользоваться современными инструментами для анализа огромных массивов публикаций? Подавайте заявку на серию воркшопов ЦИАНО - заявки принимаются до28 февраля 1 марта включительно. Воркшопы разработаны ЦИАНО (ЕУ) при поддержке Фонда Потанина для авторов, которые хотят улучшить качество научных обзоров.
Вас ждут
✨ Мастер-классы: разберем наукометрические базы, AI-инструменты, библиографические менеджеры и многое другое.
✨Практика: участники подготовят черновик научного обзора и получат обратную связь от экспертов
✨Очное обсуждение(23–24 мая): разбор текстов, рецензирование и экспертные лекции.
Когда, где и кто
С 10 марта по 24 мая 2025 года.
Гибридный формат: онлайн-занятия и очное обсуждение в Европейском университете в Санкт-Петербурге.
Ведущие эксперты и исследователи Центра институционального анализа науки и образования (ЕУСПб), Института образования НИУ ВШЭ и СО РАН.
Как поступить?
Заявки принимаются до28 февраля 1 марта 2025 года.
Мы ждем авторов уже с некоторым опытом научных публикаций (если его нет, но вы очень хотите участвовать – напишите об этом в мотивационном письме). Для участия нужно написать мотивационное письмо и придумать идею обзора.
👉 Подробнее и регистрация: scientometrics.workshop.tilda.ws
#фондапотанина
#профессиональноеразвитие
Хотите написать обзор, который заметят? Научиться пользоваться современными инструментами для анализа огромных массивов публикаций? Подавайте заявку на серию воркшопов ЦИАНО - заявки принимаются до
Вас ждут
✨ Мастер-классы: разберем наукометрические базы, AI-инструменты, библиографические менеджеры и многое другое.
✨Практика: участники подготовят черновик научного обзора и получат обратную связь от экспертов
✨Очное обсуждение(23–24 мая): разбор текстов, рецензирование и экспертные лекции.
Когда, где и кто
С 10 марта по 24 мая 2025 года.
Гибридный формат: онлайн-занятия и очное обсуждение в Европейском университете в Санкт-Петербурге.
Ведущие эксперты и исследователи Центра институционального анализа науки и образования (ЕУСПб), Института образования НИУ ВШЭ и СО РАН.
Как поступить?
Заявки принимаются до
Мы ждем авторов уже с некоторым опытом научных публикаций (если его нет, но вы очень хотите участвовать – напишите об этом в мотивационном письме). Для участия нужно написать мотивационное письмо и придумать идею обзора.
👉 Подробнее и регистрация: scientometrics.workshop.tilda.ws
#фондапотанина
#профессиональноеразвитие
scientometrics.eusp.org
Наукометрия для ученых
Курс ЦИАНО ЕУ СПб
Английский язык и цитируемость научных статей: что показывает опыт российских ученых о климате?
Недавно появилась новость о запуске платформы для перевода научных текстов российских ученых с помощью ИИ, которая должна помочь в увеличении цитируемости. Однако действительно ли английский язык автоматически открывает путь к мировому признанию? Разберёмся на примере статей российских учёных о климатических изменениях.
💡Ключевые цифры
Мы проанализировали 21 556 статей российских ученых, опубликованных в 2010–2023 годах, и выяснили:
🔍 6894 статьи (32%) были опубликованы в российских журналах с англоязычными версиями, а значит эти статьи были потенциально доступны для зарубежных ученых. Но цитировались ли они в зарубежных журналах?
🔍 Эти статьи собрали 9611 цитирований, 58% из них поступили от других российских журналов и 42% из зарубежных журналов. Для сравнения: статьи в обычных российских журналах (без англоязычных версий) получают 24% цитирований от зарубежных журналов.
Таким образом, перевод статей на английский язык действительно увеличивает долю ссылок из зарубежных источников. Однако если сравнить такие статьи со статьями российских ученых из зарубежных журналов, то разница в уровне цитирований станет очевидной.
🔍 В обычных зарубежных журналах российские авторы опубликовали 8385 статей, которые собрали 68376 ссылок — это в 7 раз больше, чем у англоязычных статей в российских журналах.
🔍 В топовых международных журналах вышло лишь 2197 статей, но они собрали 40602 ссылки — это в 10 раз больше, чем англоязычные публикации в российских журналах.
💡 Выводы
• Перевод статей на английский язык действительно помогает, но не решает проблему цитируемости. Лидеры цитируемости — это статьи, опубликованные в ведущих международных журналах.
• Всего 10% российских статей о климате выходит в ведущих мировых журналах. Если международная напряженность продолжится, этот уровень может ещё больше снизиться.
• Ключ к цитируемости — публикации в зарубежных журналах, даже среднего уровня.
Недавно появилась новость о запуске платформы для перевода научных текстов российских ученых с помощью ИИ, которая должна помочь в увеличении цитируемости. Однако действительно ли английский язык автоматически открывает путь к мировому признанию? Разберёмся на примере статей российских учёных о климатических изменениях.
💡Ключевые цифры
Мы проанализировали 21 556 статей российских ученых, опубликованных в 2010–2023 годах, и выяснили:
🔍 6894 статьи (32%) были опубликованы в российских журналах с англоязычными версиями, а значит эти статьи были потенциально доступны для зарубежных ученых. Но цитировались ли они в зарубежных журналах?
🔍 Эти статьи собрали 9611 цитирований, 58% из них поступили от других российских журналов и 42% из зарубежных журналов. Для сравнения: статьи в обычных российских журналах (без англоязычных версий) получают 24% цитирований от зарубежных журналов.
Таким образом, перевод статей на английский язык действительно увеличивает долю ссылок из зарубежных источников. Однако если сравнить такие статьи со статьями российских ученых из зарубежных журналов, то разница в уровне цитирований станет очевидной.
🔍 В обычных зарубежных журналах российские авторы опубликовали 8385 статей, которые собрали 68376 ссылок — это в 7 раз больше, чем у англоязычных статей в российских журналах.
🔍 В топовых международных журналах вышло лишь 2197 статей, но они собрали 40602 ссылки — это в 10 раз больше, чем англоязычные публикации в российских журналах.
💡 Выводы
• Перевод статей на английский язык действительно помогает, но не решает проблему цитируемости. Лидеры цитируемости — это статьи, опубликованные в ведущих международных журналах.
• Всего 10% российских статей о климате выходит в ведущих мировых журналах. Если международная напряженность продолжится, этот уровень может ещё больше снизиться.
• Ключ к цитируемости — публикации в зарубежных журналах, даже среднего уровня.
💡Российский MIT: комичная ошибка в OpenAlex
Администрирование научных баз данных – сложная задача: нужно отслеживать публикации авторов, корректировать аффилиации, удалять дубликаты. С учетом сложности и богатства данных о науке, ошибки неизбежны, особенно в открытых проектах.
OpenAlex – крупнейший проект по «открытой науке» с амбициями предоставить альтернативу коммерческим базам Scopus и Web of Science. Согласитесь, что для нас более чем актуальный проект.
Исследователи уже серьезно разбираются, какие есть недостатки в организации данных OpenAlex, а мы сегодня расскажем об особенно комичном случае, когда Московский институт теплотехники (МИТ) «получил» тысячи публикаций Массачусетского технологического института (MIT).
Как возникла путаница?
OpenAlex сопоставляет текстовые аффилиации авторов с Research Organization Registry (ROR). При таком подходе ошибки возникают в случае:
✨Неполноты авторских метаданных в записи работы
✨Неполноты записей ROR или отсутствии ROR-идентификатора для организации автора
✨Неверной привязки алгоритма текста к ROR.
В случае российского МИТ произошёл сбой: тысячи работ Массачусетского института технологий (MIT) приписали Московскому институту теплотехники (МИТ), оборонному предприятию, производящему ракетные комплексы. Алгоритм части публикаций авторов назначил им одну и ту же прочую организацию, но находящуюся в другой стране и даже на другом континенте.
В результате вот как выглядит российский MIT:
✨37-е место среди всех российских организаций по цитируемости (181,200 цитирований), что выше чем, к примеру, у МИФИ
✨в числе публикаций: 3,549 статьи, 1,396 датасетов, 1,156 препринтов, 391 глава книги и 100 книг
✨среди самых цитируемых "авторов" числятся Дарон Асемоглу и Ноам Хомский.
В действительности Московский институт теплотехники – научно-исследовательское и производственное предприятие оборонно-промышленного комплекса. Согласно профилю организации в РИНЦ, к организации относится 354 публикации (144 – в ядре РИНЦ), на которые приходится 712 цитирований (502 – из публикаций в ядре РИНЦ).
Заметим, что для «настоящего MIT» пропажа вряд ли заметна: в OpenAlex к организации относится 335,500 документов, на которые приходится 21,750,000 цитирований.
Как показано в недавней публикации в Quantitative Science Studies, даже Scopus и Web of Science не защищены от несоответствий в аффилиациях. Авторы призывают думать в сторону единого идентификатора для организаций, – пока же у нас его нет, будьте внимательны к данным и готовьтесь к неожиданным сюрпризам!
Администрирование научных баз данных – сложная задача: нужно отслеживать публикации авторов, корректировать аффилиации, удалять дубликаты. С учетом сложности и богатства данных о науке, ошибки неизбежны, особенно в открытых проектах.
OpenAlex – крупнейший проект по «открытой науке» с амбициями предоставить альтернативу коммерческим базам Scopus и Web of Science. Согласитесь, что для нас более чем актуальный проект.
Исследователи уже серьезно разбираются, какие есть недостатки в организации данных OpenAlex, а мы сегодня расскажем об особенно комичном случае, когда Московский институт теплотехники (МИТ) «получил» тысячи публикаций Массачусетского технологического института (MIT).
Как возникла путаница?
OpenAlex сопоставляет текстовые аффилиации авторов с Research Organization Registry (ROR). При таком подходе ошибки возникают в случае:
✨Неполноты авторских метаданных в записи работы
✨Неполноты записей ROR или отсутствии ROR-идентификатора для организации автора
✨Неверной привязки алгоритма текста к ROR.
В случае российского МИТ произошёл сбой: тысячи работ Массачусетского института технологий (MIT) приписали Московскому институту теплотехники (МИТ), оборонному предприятию, производящему ракетные комплексы. Алгоритм части публикаций авторов назначил им одну и ту же прочую организацию, но находящуюся в другой стране и даже на другом континенте.
В результате вот как выглядит российский MIT:
✨37-е место среди всех российских организаций по цитируемости (181,200 цитирований), что выше чем, к примеру, у МИФИ
✨в числе публикаций: 3,549 статьи, 1,396 датасетов, 1,156 препринтов, 391 глава книги и 100 книг
✨среди самых цитируемых "авторов" числятся Дарон Асемоглу и Ноам Хомский.
В действительности Московский институт теплотехники – научно-исследовательское и производственное предприятие оборонно-промышленного комплекса. Согласно профилю организации в РИНЦ, к организации относится 354 публикации (144 – в ядре РИНЦ), на которые приходится 712 цитирований (502 – из публикаций в ядре РИНЦ).
Заметим, что для «настоящего MIT» пропажа вряд ли заметна: в OpenAlex к организации относится 335,500 документов, на которые приходится 21,750,000 цитирований.
Как показано в недавней публикации в Quantitative Science Studies, даже Scopus и Web of Science не защищены от несоответствий в аффилиациях. Авторы призывают думать в сторону единого идентификатора для организаций, – пока же у нас его нет, будьте внимательны к данным и готовьтесь к неожиданным сюрпризам!
В Европейском открыли Школу вычислительных социальных наук (CSS – Computational Social Science)! Уже 1 марта онлайн можно узнать подробности: чему будут учить и какие новые горизонты открываются перед исследователями. Регистрируйтесь и расскажите тем, кому это может быть полезно!
Мы особенно следим за новостями в CSS, ведь именно исследования науки претерпели огромные изменения благодаря большим данным и новым инструментам анализа.
Что заставляет ученых выбирать одни темы, а другие оставлять без внимания? Как создаются новые прорывные идеи, и почему некоторые исследования получают тысячи цитирований, а другие остаются незамеченными? На эти и другие вопросы отвечает Science of Science (SciSci) – это направление, в котором объединяются большие данные публикаций, патентов и гранатовых заявок, сетевой анализ и машинное обучение для исследования науки.
Мы уже знаем, что:
✨Учёные балансируют между традицией и инновацией: самые цитируемые исследования появляются на стыке дисциплин и часто идут против сложившихся норм.
✨Дерзкие идеи сложнее публиковать, но если они прорываются, то становятся невероятно влиятельными.
✨Большие научные команды развивают популярные идеи, а маленькие группы чаще совершают революционные открытия.
Однако огромные массивы данных и сложная их подготовка отпугивают новичков. Для исследования науки этот барьер ниже — в 2022 году была создана SciSciNet, крупнейшая база данных о науке:
— 134 млн публикаций
— связанные с ними патенты, гранты (NIH, NSF), клинические исследования, Нобелевские премии
— данные о цитировании в соцсетях и новостях
— уже рассчитаны важные метрики, включая Disruption Score и h-index
Всё это доступно в Figshare (50+ Гб данных).
SciSciNet будет полезна и для изучения российской науки. В базе присутствует 340 российских аффилиаций и 796 523 авторов, на которых приходится более 1 миллиона публикаций! (а точнее 1 003 648). Да, в Scopus российских публикаций в два раза больше, но многие вопросы можно исследовать и на этих данных. Несмотря на шероховатости, данные SciSciNet уже помогли в ряде исследований — от критики disruption index до изучения роли женщин в академии. И, конечно, никто не мешает комбинировать SciSciNet с другими датасетами!
🔗 Хотите разобраться в Science of Science? Ключевые обзорные статьи для погружения:
На русском:
Губа, К. С. (2021). Большие данные в исследовании науки: новое исследовательское поле. Социологические исследования, (6), 24-33.
Международные обзоры:
Liu, L., et al. (2023). Data, measurement and empirical methods in the science of science. Nature Human Behaviour, 7(7).
Fortunato, S. et al. (2018). Science of science. Science, 359(6379).
Evans, J. A., & Foster, J. G. (2011). Metaknowledge. Science, 331(6018), 721-725.
Мы особенно следим за новостями в CSS, ведь именно исследования науки претерпели огромные изменения благодаря большим данным и новым инструментам анализа.
Что заставляет ученых выбирать одни темы, а другие оставлять без внимания? Как создаются новые прорывные идеи, и почему некоторые исследования получают тысячи цитирований, а другие остаются незамеченными? На эти и другие вопросы отвечает Science of Science (SciSci) – это направление, в котором объединяются большие данные публикаций, патентов и гранатовых заявок, сетевой анализ и машинное обучение для исследования науки.
Мы уже знаем, что:
✨Учёные балансируют между традицией и инновацией: самые цитируемые исследования появляются на стыке дисциплин и часто идут против сложившихся норм.
✨Дерзкие идеи сложнее публиковать, но если они прорываются, то становятся невероятно влиятельными.
✨Большие научные команды развивают популярные идеи, а маленькие группы чаще совершают революционные открытия.
Однако огромные массивы данных и сложная их подготовка отпугивают новичков. Для исследования науки этот барьер ниже — в 2022 году была создана SciSciNet, крупнейшая база данных о науке:
— 134 млн публикаций
— связанные с ними патенты, гранты (NIH, NSF), клинические исследования, Нобелевские премии
— данные о цитировании в соцсетях и новостях
— уже рассчитаны важные метрики, включая Disruption Score и h-index
Всё это доступно в Figshare (50+ Гб данных).
SciSciNet будет полезна и для изучения российской науки. В базе присутствует 340 российских аффилиаций и 796 523 авторов, на которых приходится более 1 миллиона публикаций! (а точнее 1 003 648). Да, в Scopus российских публикаций в два раза больше, но многие вопросы можно исследовать и на этих данных. Несмотря на шероховатости, данные SciSciNet уже помогли в ряде исследований — от критики disruption index до изучения роли женщин в академии. И, конечно, никто не мешает комбинировать SciSciNet с другими датасетами!
🔗 Хотите разобраться в Science of Science? Ключевые обзорные статьи для погружения:
На русском:
Губа, К. С. (2021). Большие данные в исследовании науки: новое исследовательское поле. Социологические исследования, (6), 24-33.
Международные обзоры:
Liu, L., et al. (2023). Data, measurement and empirical methods in the science of science. Nature Human Behaviour, 7(7).
Fortunato, S. et al. (2018). Science of science. Science, 359(6379).
Evans, J. A., & Foster, J. G. (2011). Metaknowledge. Science, 331(6018), 721-725.
Мы продолжаем принимать заявки на серию воркшопов ЦИАНО — заявки принимаются до 28 февраля 1 марта включительно. Воркшопы разработаны при поддержке Фонда Потанина для авторов, которые хотят улучшить качество научных обзоров.
Почему важно читать и писать научные обзоры?
✨Читать обзоры — значит видеть шире
Самое очевидное – обзоры помогают написать свой собственный обзор, который предшествует анализу эмпирических данных. Но не только. Социологи показывают, что новые идеи рождаются на стыке неожиданных областей. Именно поэтому научные обзоры так важны — они помогают ориентироваться в незнакомых полях исследований и найти новые точки роста для исследований. Чем больше вы читаете обзоров, тем выше шанс найти инсайт, который изменит понимание проблемы.
✨Писать обзоры — значит формировать будущее науки
Обзорные статьи — это не просто сводка уже известных фактов. Они задают направление дискуссии, обозначают пробелы и даже влияют на то, какие исследования будут в центре внимания. Существует такой парадокс: включение статьи в обзор не всегда повышает ее цитируемость. Напротив, в среднем такие работы цитируют реже, чем если бы они не были упомянуты. Почему? Потому что обзор перенаправляет внимание с отдельных публикаций на более широкую концепцию, объединяющую множество исследований.
Хотите понимать, куда движется наука — читайте обзоры. Хотите на это движение повлиять — пишите их. А мы поможем в том, чтобы продвинуться с новым обзором.
P.S. Российские ученые публикуют всего около 4% обзоров от общего числа публикаций. Хотя этот показатель растет (с 3,2% в 2017 году до 4,9% в 2023 году), он все еще ниже, чем в ряде других стран — например, в Германии в 2023 году на обзоры приходилось 6,3% публикаций.
Почему важно читать и писать научные обзоры?
✨Читать обзоры — значит видеть шире
Самое очевидное – обзоры помогают написать свой собственный обзор, который предшествует анализу эмпирических данных. Но не только. Социологи показывают, что новые идеи рождаются на стыке неожиданных областей. Именно поэтому научные обзоры так важны — они помогают ориентироваться в незнакомых полях исследований и найти новые точки роста для исследований. Чем больше вы читаете обзоров, тем выше шанс найти инсайт, который изменит понимание проблемы.
✨Писать обзоры — значит формировать будущее науки
Обзорные статьи — это не просто сводка уже известных фактов. Они задают направление дискуссии, обозначают пробелы и даже влияют на то, какие исследования будут в центре внимания. Существует такой парадокс: включение статьи в обзор не всегда повышает ее цитируемость. Напротив, в среднем такие работы цитируют реже, чем если бы они не были упомянуты. Почему? Потому что обзор перенаправляет внимание с отдельных публикаций на более широкую концепцию, объединяющую множество исследований.
Хотите понимать, куда движется наука — читайте обзоры. Хотите на это движение повлиять — пишите их. А мы поможем в том, чтобы продвинуться с новым обзором.
P.S. Российские ученые публикуют всего около 4% обзоров от общего числа публикаций. Хотя этот показатель растет (с 3,2% в 2017 году до 4,9% в 2023 году), он все еще ниже, чем в ряде других стран — например, в Германии в 2023 году на обзоры приходилось 6,3% публикаций.
Forwarded from eLIBRARY.RU
Проект 5-100 как гонка за метриками
В журнале Scientometrics опубликована статья Андрея Ловакова и Жайме А. Тайшера да Силва "Наукометрические показатели в оценке исследований и академическая недобросовестность: анализ российского проекта повышения конкурентоспособности университетов (5–100)".
Статья посвящена анализу влияния Проекта 5-100 на академическую недобросовестность в российских вузах. Актуальность исследования обусловлена растущим использованием библиометрических показателей (например, публикаций в международных базах Web of Science и Scopus) в системах оценки научной деятельности, что может создавать давление на исследователей и провоцировать этические нарушения, такие как плагиат, фальсификация данных и иные манипуляции.
Цель исследования - сравнить уровень академической недобросовестности (через анализ ретрагированных публикаций) между университетами, участвующими в 5-100, и контрольной группой вузов. Основные задачи включали:
1. Идентификацию ретрагированных публикаций российских авторов в международных и локальных журналах.
2. Сравнение количества и причин отзыва статей в группе 5-100 и контрольной.
3. Оценку связи между использованием метрик и ростом недобросовестных практик.
Основные результаты:
- Университеты 5-100 демонстрируют значимо большее количество ретрагированных публикаций в журналах, индексируемых в WoS/Scopus, по сравнению с контрольной группой (Mann-Whitney U-тест: W = 93, p = 0,002).
- Наибольшее число отзывов связано с фальсификацией данных, манипуляциями и проблемами авторства (30-34% случаев в группе 5-100).
- В локальных журналах преобладают плагиат и самоплагиат (25-36% случаев), что отражает различия в стратегиях публикаций.
- Пики отзывов приходятся на 2015-2016 гг. (локальные журналы) и 2020-2022 гг. (международные базы), что связано с активностью «фабрик статей» и слабым контролем качества.
Результаты подчеркивают риски чрезмерной зависимости от количественных метрик в оценке науки. Требование публикации в международных базах, подкрепленное финансовыми стимулами, способствует распространению неэтичных практик, снижая доверие к научным результатам. Исследование имеет важное значение для разработки политик в области научной оценки: необходимо сместить фокус с количества публикаций на их качество, усилить контроль за соблюдением этических норм и пересмотреть критерии финансирования вузов. Выводы также актуальны для глобального научного сообщества, сталкивающегося с аналогичными проблемами в условиях «публикуйся или погибни».
В журнале Scientometrics опубликована статья Андрея Ловакова и Жайме А. Тайшера да Силва "Наукометрические показатели в оценке исследований и академическая недобросовестность: анализ российского проекта повышения конкурентоспособности университетов (5–100)".
Статья посвящена анализу влияния Проекта 5-100 на академическую недобросовестность в российских вузах. Актуальность исследования обусловлена растущим использованием библиометрических показателей (например, публикаций в международных базах Web of Science и Scopus) в системах оценки научной деятельности, что может создавать давление на исследователей и провоцировать этические нарушения, такие как плагиат, фальсификация данных и иные манипуляции.
Цель исследования - сравнить уровень академической недобросовестности (через анализ ретрагированных публикаций) между университетами, участвующими в 5-100, и контрольной группой вузов. Основные задачи включали:
1. Идентификацию ретрагированных публикаций российских авторов в международных и локальных журналах.
2. Сравнение количества и причин отзыва статей в группе 5-100 и контрольной.
3. Оценку связи между использованием метрик и ростом недобросовестных практик.
Основные результаты:
- Университеты 5-100 демонстрируют значимо большее количество ретрагированных публикаций в журналах, индексируемых в WoS/Scopus, по сравнению с контрольной группой (Mann-Whitney U-тест: W = 93, p = 0,002).
- Наибольшее число отзывов связано с фальсификацией данных, манипуляциями и проблемами авторства (30-34% случаев в группе 5-100).
- В локальных журналах преобладают плагиат и самоплагиат (25-36% случаев), что отражает различия в стратегиях публикаций.
- Пики отзывов приходятся на 2015-2016 гг. (локальные журналы) и 2020-2022 гг. (международные базы), что связано с активностью «фабрик статей» и слабым контролем качества.
Результаты подчеркивают риски чрезмерной зависимости от количественных метрик в оценке науки. Требование публикации в международных базах, подкрепленное финансовыми стимулами, способствует распространению неэтичных практик, снижая доверие к научным результатам. Исследование имеет важное значение для разработки политик в области научной оценки: необходимо сместить фокус с количества публикаций на их качество, усилить контроль за соблюдением этических норм и пересмотреть критерии финансирования вузов. Выводы также актуальны для глобального научного сообщества, сталкивающегося с аналогичными проблемами в условиях «публикуйся или погибни».
SpringerLink
Scientometric indicators in research evaluation and research misconduct: analysis of the Russian university excellence initiative
Scientometrics - This study aimed to examine the impact of the Russian University Excellence Initiative (RUEI), also known as Project 5–100, on research misconduct in Russian higher...
Канал eLIBRARY.RU рассказал о новом исследовании связи публикационного давления и академической недобросовестности. В статье "Scientometric indicators in research evaluation and research misconduct: analysis of the Russian university excellence initiative" показано, что в университетах 5-100, которые ставили перед собой цели достичь публикационных успехов за короткое время, оказалось значимо большее количество ретрагированных публикаций в журналах, индексируемых в WoS/Scopus.
В продолжении темы поделимся цифрами о публикационном давлении и академической нечестности в российской экономической науке. Осенью 2021 года мы провели репрезентативный опрос российских экономистов по вопросам академической этики (при содействии eLIBRARY.RU).
✨ 67% респондентов сообщили о наличии системы выплат за публикации в журналах, индексируемых международными базами
✨в университетах программы 5-100 этот показатель еще выше — 78% респондентов из таких университетов упомянули о материальных стимулах (см. примеры в таблице с информацией за 2022 год)
✨более половины опрошенных таких выплат не получали, а среди тех, кто получал, большинство отметили, что выплаты составляли треть зарплаты или меньше
Для многих экономистов статьи в платных недобросовестных журналах стали решением проблемы.
✨45,3% респондентов считают, что публикации в недобросовестных журналах заметно распространены среди российских экономистов
✨в их собственных организациях этот показатель ниже — 28%
✨15% опрошенных признались, что пользовались услугами посредников для публикации статей
Исследования показывают, что нарушения в академической среде чаще происходят, когда ученые не воспринимают правила игры как честные и справедливые. Публикации в "хищных" журналах и другие нарушения академической этики становятся вынужденной стратегией в условиях несоразмерных требований и нехватки ресурсов.
✨44,7% респондентов абсолютно согласны с тем, что стремление университетов к высоким позициям в рейтингах оправдывает использование любых доступных методов для публикации статей (еще 20% скорее согласны, чем не согласны).
В контексте такого сильного публикационного давления, многие ученые просто не считают, что нарушения правил заслуживает осуждения – 35% респондентов полагают допустимым публиковать статьи в журнале, который за деньги публикует все, что угодно. Такое отношение к правилам не является чем-то российским уникальным – читайте об оправдании стратегических приемов в книге Эммануэля Кульчицкого Evaluation Game.
В продолжении темы поделимся цифрами о публикационном давлении и академической нечестности в российской экономической науке. Осенью 2021 года мы провели репрезентативный опрос российских экономистов по вопросам академической этики (при содействии eLIBRARY.RU).
✨ 67% респондентов сообщили о наличии системы выплат за публикации в журналах, индексируемых международными базами
✨в университетах программы 5-100 этот показатель еще выше — 78% респондентов из таких университетов упомянули о материальных стимулах (см. примеры в таблице с информацией за 2022 год)
✨более половины опрошенных таких выплат не получали, а среди тех, кто получал, большинство отметили, что выплаты составляли треть зарплаты или меньше
Для многих экономистов статьи в платных недобросовестных журналах стали решением проблемы.
✨45,3% респондентов считают, что публикации в недобросовестных журналах заметно распространены среди российских экономистов
✨в их собственных организациях этот показатель ниже — 28%
✨15% опрошенных признались, что пользовались услугами посредников для публикации статей
Исследования показывают, что нарушения в академической среде чаще происходят, когда ученые не воспринимают правила игры как честные и справедливые. Публикации в "хищных" журналах и другие нарушения академической этики становятся вынужденной стратегией в условиях несоразмерных требований и нехватки ресурсов.
✨44,7% респондентов абсолютно согласны с тем, что стремление университетов к высоким позициям в рейтингах оправдывает использование любых доступных методов для публикации статей (еще 20% скорее согласны, чем не согласны).
В контексте такого сильного публикационного давления, многие ученые просто не считают, что нарушения правил заслуживает осуждения – 35% респондентов полагают допустимым публиковать статьи в журнале, который за деньги публикует все, что угодно. Такое отношение к правилам не является чем-то российским уникальным – читайте об оправдании стратегических приемов в книге Эммануэля Кульчицкого Evaluation Game.
Пока внимание мировой общественности сосредоточено на громких политических баталиях, в тени остаётся важная тема – резкое сокращение поддержки науки в США. Новая администрация предпринимает жёсткие реформы, затрагивающие крупнейших научных грантодателей, таких как Национальный научный фонд (NSF) и Национальные институты здравоохранения (NIH).
7 февраля NIH объявил об ограничении возмещения косвенных расходов на уровне 15%, что ограничивает развитие необходимой лабораторной инфраструктуры. NSF приостановил выдачу новых грантов и начал сокращение собственного персонала, что грозит массовыми увольнениями.
Дополнительную тревогу вызывает запрет на использование ряда терминов* в научных проектах по настоянию сенатора Тэда Круза. Исследования биоразнообразия растений и меры по борьбе с наводнениями оказались под ударом лишь потому, что в них упоминались слова, связанные с климатическими изменениями и проблемами меньшинств. Учёные уже проводят параллели с эпохой лысенковщины. Пока череда судебных разбирательств и протестов ещё носит скорее хаотичный чем организованный характер, что отмечает академик А.Р. Хохлов.
Сокращения не обошли и регионы. В штате Мэн под угрозу прекращения попала программа Морских грантов, привлекавшая к совместным работам с местными учёными ведущих исследователей страны. Кроме того, здания Национального управления океанических и атмосферных исследований (NOAA) начали выставлять на продажу. Эти центры играли ключевую роль в глобальных исследованиях климатических изменений.
Хотя сравнивать ситуацию с российской наукой напрямую сложно, аналогии всё же напрашиваются. В истории финансирования науки обеих стран можно найти много общего: развитие системы грантов, смена приоритетов, а сейчас и политическое давление. Разобраться в этом поможет большой коллективный труд "Наука и общество в XX-XXI веках". В его первом томе ЦИАНО ЕУ представлено очерком Алексея Железнова "Научные фонды и система грантов", в котором описано, как и американцы, и, затем, россияне пришли к финансированию науки через механизм грантов. Фигуры Вэнивара Буша и Бориса Салтыкова на страницах очерка формируют мир грантов до прихода в политику Илона Маска.
* Знакомая нам история. Гендер, к примеру, стал отчетливо избегаемой темой в российской науке. 2021 год был пиком гендерной тематики в социологии — вышло 150 социологических статей, уже в 2023 году их число сократилось на треть, составив всего 100 публикаций
7 февраля NIH объявил об ограничении возмещения косвенных расходов на уровне 15%, что ограничивает развитие необходимой лабораторной инфраструктуры. NSF приостановил выдачу новых грантов и начал сокращение собственного персонала, что грозит массовыми увольнениями.
Дополнительную тревогу вызывает запрет на использование ряда терминов* в научных проектах по настоянию сенатора Тэда Круза. Исследования биоразнообразия растений и меры по борьбе с наводнениями оказались под ударом лишь потому, что в них упоминались слова, связанные с климатическими изменениями и проблемами меньшинств. Учёные уже проводят параллели с эпохой лысенковщины. Пока череда судебных разбирательств и протестов ещё носит скорее хаотичный чем организованный характер, что отмечает академик А.Р. Хохлов.
Сокращения не обошли и регионы. В штате Мэн под угрозу прекращения попала программа Морских грантов, привлекавшая к совместным работам с местными учёными ведущих исследователей страны. Кроме того, здания Национального управления океанических и атмосферных исследований (NOAA) начали выставлять на продажу. Эти центры играли ключевую роль в глобальных исследованиях климатических изменений.
Хотя сравнивать ситуацию с российской наукой напрямую сложно, аналогии всё же напрашиваются. В истории финансирования науки обеих стран можно найти много общего: развитие системы грантов, смена приоритетов, а сейчас и политическое давление. Разобраться в этом поможет большой коллективный труд "Наука и общество в XX-XXI веках". В его первом томе ЦИАНО ЕУ представлено очерком Алексея Железнова "Научные фонды и система грантов", в котором описано, как и американцы, и, затем, россияне пришли к финансированию науки через механизм грантов. Фигуры Вэнивара Буша и Бориса Салтыкова на страницах очерка формируют мир грантов до прихода в политику Илона Маска.
* Знакомая нам история. Гендер, к примеру, стал отчетливо избегаемой темой в российской науке. 2021 год был пиком гендерной тематики в социологии — вышло 150 социологических статей, уже в 2023 году их число сократилось на треть, составив всего 100 публикаций
Nature
Revealed: NIH research grants still frozen despite lawsuits challenging Trump order
Nature - The Trump administration is exploiting a loophole to keep a funding freeze in place, leaving researchers in limbo.
✨ Машинная оценка научных результатов - реальность или утопия?
Оценка научных результатов - неотъемлемая часть управления наукой, ведь на ее основе распределяется часть ресурсов на исследования. При этом сама оценка в масштабе любой крупной страны - весьма ресурсозатратная деятельность. Ученые уже давно ищут оптимальную модель оценки - ту, которая дает справедливые результаты при не очень больших затратах. И, конечно, ученые не могли пройти мимо возможностей искусственного интеллекта и машинного обучения.
Исследованиями этой тематики занимается группа британских ученых под руководством Майка Телвола (Mike Thelwall) и Кайвана Куша (Kayvan Kousha). Ученые тестируют разные алгоритмы и продукты, предлагая им оценивать научные статьи по тем или иным критериям - и сравнивают оценки алгоритмов с "человеческими".
В одном из исследований Майк Телвол загрузил в ChatGPT критерии британской системы оценки исследований REF и попросил чат оценить уровень 51 своей научной статьи. Когда автор сравнил оценки ChatGPT с теми, которые он поставил сам по тем же критериям REF, средняя корреляция оказалась всего 0.281. Однако, если брать не отдельную оценку ChatGPT, а среднюю в серии испытаний, корреляция повышается до 0.509.
В более масштабном исследовании команда авторов тестировала 32 предсказательных алгоритма уже на массиве 85 тысяч статей. Целью было понять могут ли какие-то алгоритмы по набору характеристик статьи точно предсказать, какие оценки ей поставили эксперты REF. В результате точность предсказания варьировалась не только по алгоритмам, но и по областям науки, не превышая 72%.
Опубликованные результаты говорят о том, что пока заменить оценку экспертов на машинную невозможно. Однако, алгоритмы совершенствуются и исследования будут продолжаться. Ученые ищут не только алгоритмы, дающие высокую точность, но и области с высокой предсказательностью - ведь экономию может давать даже частичная замена работы экспертов там, где машинная оценка дает эквивалентный результат. Впрочем, для внедрения таких новаций необходимо их одобрение научным сообществом, а это является отдельным сложным вопросом.
До 30 апреля 2025 года можно еще подать статью для специальной тематической подборки журнала Scientometrics. Журнал ждет статьи об использовании ИИ в наукометрии: от AI-усиленной оценки исследований до анализа научной литературы с LLM.
Оценка научных результатов - неотъемлемая часть управления наукой, ведь на ее основе распределяется часть ресурсов на исследования. При этом сама оценка в масштабе любой крупной страны - весьма ресурсозатратная деятельность. Ученые уже давно ищут оптимальную модель оценки - ту, которая дает справедливые результаты при не очень больших затратах. И, конечно, ученые не могли пройти мимо возможностей искусственного интеллекта и машинного обучения.
Исследованиями этой тематики занимается группа британских ученых под руководством Майка Телвола (Mike Thelwall) и Кайвана Куша (Kayvan Kousha). Ученые тестируют разные алгоритмы и продукты, предлагая им оценивать научные статьи по тем или иным критериям - и сравнивают оценки алгоритмов с "человеческими".
В одном из исследований Майк Телвол загрузил в ChatGPT критерии британской системы оценки исследований REF и попросил чат оценить уровень 51 своей научной статьи. Когда автор сравнил оценки ChatGPT с теми, которые он поставил сам по тем же критериям REF, средняя корреляция оказалась всего 0.281. Однако, если брать не отдельную оценку ChatGPT, а среднюю в серии испытаний, корреляция повышается до 0.509.
В более масштабном исследовании команда авторов тестировала 32 предсказательных алгоритма уже на массиве 85 тысяч статей. Целью было понять могут ли какие-то алгоритмы по набору характеристик статьи точно предсказать, какие оценки ей поставили эксперты REF. В результате точность предсказания варьировалась не только по алгоритмам, но и по областям науки, не превышая 72%.
Опубликованные результаты говорят о том, что пока заменить оценку экспертов на машинную невозможно. Однако, алгоритмы совершенствуются и исследования будут продолжаться. Ученые ищут не только алгоритмы, дающие высокую точность, но и области с высокой предсказательностью - ведь экономию может давать даже частичная замена работы экспертов там, где машинная оценка дает эквивалентный результат. Впрочем, для внедрения таких новаций необходимо их одобрение научным сообществом, а это является отдельным сложным вопросом.
До 30 апреля 2025 года можно еще подать статью для специальной тематической подборки журнала Scientometrics. Журнал ждет статьи об использовании ИИ в наукометрии: от AI-усиленной оценки исследований до анализа научной литературы с LLM.