Выше квартилей
3.01K subscribers
117 photos
1 video
1 file
328 links
HSE: Home of Scientometrics and Expertise

Обучение и консультирование по практическим вопросам research evaluation и управлении наукой.

Все вопросы и предложения направляйте @vyshekbot или на почту Наукометрического центра ВШЭ: scientometrics@hse.ru
加入频道
September 20, 2022
October 10, 2022
August 31, 2023
Проблемы воспроизводимости наукометрических исследований

Принцип воспроизводимости — один из основных критериев получения научного знания. Если результаты исследований невозможно воспроизвести, то зачастую это значит, что либо исследование проводится некорректно с методологической точки зрения, либо авторы изначально преследуют недобросовестные цели. В XXI веке проблема воспроизводимости обсуждается широко, во многом этой дискуссии поспособствовал выход эссе «Why Most Published Research Findings Are False» Джона Иоаннидиса в 2005 году. По результатам опроса, опубликованным в Nature в 2016 году, более 70% ученых безуспешно пробовали воспроизвести чужие эксперименты, а более 50% не смогли воспроизвести свои собственные.

Кризис воспроизводимости, прежде всего, касается медицины, биологии, психологии, а также ряда социальных наук, однако в действительности является междисциплинарным. В 2017 году на семинаре ISSI в Ухане была инициирована дискуссия о воспроизводимости результатов исследований в области наукометрии, а в 2018 на конференции в Лейдене авторы представили исследование, в котором попытались подытожить более ранние выводы, а также очертить основные проблемы, с которыми сталкивается наукометрия в связи с затронутой проблемой.

В первой части статьи говорится о непосредственной воспроизводимости (direct reproducibility), под которой понимается возможность воспроизведения результата, идентичного исходному исследованию, при условии использования тех же данных, инструментов и методов. Среди вероятных причин невоспроизводимости, помимо некорректной методологии и намеренного злоупотребления, авторы называют случайные ошибки, завышение значимости результатов и предвзятость при публикации.

Вторая часть статьи посвящена концептуальной воспроизводимости (conceptual reproducibility). Это проверка третьей стороной надежности исследования путем воспроизведения исходных утверждений с использованием альтернативных данных, методов и процедур. Основное внимание уделяется интерпретации данных и обоснованности доказательств, полученных на основе этих данных.
В своем исследовании авторы сформулировали «таксономию рисков»: набор характеристик статьи, которые следует проверить, чтобы иметь возможность предположить концептуальную воспроизводимость статьи. Все они делятся на три категории:

1. Оперативные предположения и решения:
• выбор данных,
• моделирование данных,
• аналитический подход;

2. Контроль качества:
• полнота и консистентность первичных данных,
• выбор параметров, обеспечивающий стабильность результатов;

3. Описание результатов:
описание ограничений,
• утверждения ссылаются на эмпирические результаты,
• обсуждение точности, ошибок измерений и влияния случайности.

В работе использовались несколько типов наукометрических статей в зависимости от предмета исследования: 1. Теоретические, 2. Методологические, 3. Эмпирические (глобальные), 4. Эмпирические (частные случаи), 5. Эмпирические (источники наукометрических данных).

Перечисленные типы статей могут быть в большей или меньшей степени подвержены различным рискам нарушения воспроизводимости. Так, методологические работы достаточно уязвимы перед шумом в первичных данных, а эмпирические работы вызывают вопросы с точки зрения полноты и непротиворечивости данных: у статей в выборке либо полностью отсутствовало обсуждение данных и выбора параметров, либо, если оно присутствовало, не обсуждалось влияние возможных упущений на аргументацию статьи.

В работе, представленной на конференции, достаточно хорошо описывается нынешнее положение дел в плане оценки публикаций с точки зрения воспроизводимости данных, однако вопрос об алгоритмизации оценки ожидаемой воспроизводимости в наукометрии остается открытым — вероятно, так же, как и в других областях.

#воспроизводимость #наукометрия
October 26, 2023