Цифровой геноцид ревью: Что нового в UX? Гонзо-новости UX и HCI статей в феврале
AI-Instruments: Embodying Prompts as Instruments to Abstract & Reflect Graphical Interface Commands as General-Purpose Tools
https://arxiv.org/html/2502.18736v1
Промты на основе чата отвечают многословными линейно-последовательными текстами, что затрудняет изучение и уточнение неоднозначных намерений, резервное копирование и переосмысление или изменение направлений в творческой работе по проектированию с помощью ИИ. Вместо этого AI-Instruments воплощают «подсказки» как объекты интерфейса
На самом деле речь идет о скетчах или набросках - логичное продолжение, загружаете скетч рисунка, ЛЛМ дорабатывает, потом исправляете промтами. Синергия разных моделей графических и языковых это, конечно, очевидная мысль. Итак предлагаются четыре инструмента (Technology Probes): Fragments (Фрагменты) - Разбивают промпт на атрибуты (например, [стиль, иллюстрация]), которые можно манипулировать.Transformative Lenses (Трансформирующие линзы): Накладываются на контент для создания новых изображений (например, добавление фона). Generative Containers (Генеративные контейнеры):Генерируют набор вариантов (2×2 сетка) для одного промпта. Fillable Brushes (Заполняемые кисти): Позволяют локально изменять изображение (например, стиль или цвет).
Towards Bidirectional Human-AI Alignment: A Systematic Review
https://arxiv.org/html/2406.09264v3
Достижения в области универсального искусственного интеллекта (ИИ) подчеркнули важность направления ИИ-систем на достижение целей, этических принципов и ценностей, присущих как отдельным людям, так и группам — концепция, широко известная как контроля или выравнивания (alignment). Выравнивание— это процесс кодирования человеческих ценностей и целей в большие языковые модели, чтобы сделать их максимально полезными, безопасными и надежными.
Вообще, интересно, например, вот тут IBM рассуждает как моделировать ценности и цели в языковых моделях
https://www.ibm.com/think/topics/ai-alignment
Однако отсутствие четких определений и рамок человеческо-ИИ выравнивания представляет собой значительное препятствие, затрудняющее совместные усилия в различных исследовательских областях для достижения этого контроля. В частности, исследования выравнивания, ориентированные на машинное обучение (ML) и философию, часто рассматривают выравнивание ИИ как статичный, однонаправленный процесс (то есть направленный на то, чтобы цели ИИ-систем соответствовали целям людей), а не как продолжающуюся проблему взаимного выравнивания. Такой подход в значительной степени игнорирует долгосрочное взаимодействие и динамические изменения в процессе выравнивания. Чтобы понять эти пробелы, мы представляем систематический обзор более 400 статей. Какие ценности зашивают в промты для контроля ЛЛМ? Ценности сгруппированы по четырем основным категориям: "Openness to Change", "Self-Enhancement", "Conservation", "Self-Transcendence" и дополнительная категория "Desired Values for AI Tools".
Openness to Change (Открытость к переменам):
Self-Direction: Свобода выбора, творчество, независимость.
Stimulation: Возбуждение, новизна, вызов .
Hedonism: Наслаждение, чувственное удовлетворение.
Self-Enhancement (Самосовершенствование):
Achievement: Компетентность по социальным стандартам).
Power: Статус, контроль, доминирование .
Conservation (Сохранение):
Security: Безопасность, стабильность .
Tradition: Уважение традиций.
Conformity: Соответствие нормам, дисциплина .
Self-Transcendence (Самотрансценденция):
Benevolence: Благотворительность, забота о других .
Universalism: Защита благополучия всех, равенство .
Desired Values for AI Tools (Желаемые ценности для ИИ-инструментов):
Competency: Компетентность ИИ .
Human-Likeness: Сходство с человеком .
Applying the Gricean Maxims to a Human-LLM Interaction Cycle: Design Insights from a Participatory Approach
https://arxiv.org/abs/2503.00858
AI-Instruments: Embodying Prompts as Instruments to Abstract & Reflect Graphical Interface Commands as General-Purpose Tools
https://arxiv.org/html/2502.18736v1
Промты на основе чата отвечают многословными линейно-последовательными текстами, что затрудняет изучение и уточнение неоднозначных намерений, резервное копирование и переосмысление или изменение направлений в творческой работе по проектированию с помощью ИИ. Вместо этого AI-Instruments воплощают «подсказки» как объекты интерфейса
На самом деле речь идет о скетчах или набросках - логичное продолжение, загружаете скетч рисунка, ЛЛМ дорабатывает, потом исправляете промтами. Синергия разных моделей графических и языковых это, конечно, очевидная мысль. Итак предлагаются четыре инструмента (Technology Probes): Fragments (Фрагменты) - Разбивают промпт на атрибуты (например, [стиль, иллюстрация]), которые можно манипулировать.Transformative Lenses (Трансформирующие линзы): Накладываются на контент для создания новых изображений (например, добавление фона). Generative Containers (Генеративные контейнеры):Генерируют набор вариантов (2×2 сетка) для одного промпта. Fillable Brushes (Заполняемые кисти): Позволяют локально изменять изображение (например, стиль или цвет).
Towards Bidirectional Human-AI Alignment: A Systematic Review
https://arxiv.org/html/2406.09264v3
Достижения в области универсального искусственного интеллекта (ИИ) подчеркнули важность направления ИИ-систем на достижение целей, этических принципов и ценностей, присущих как отдельным людям, так и группам — концепция, широко известная как контроля или выравнивания (alignment). Выравнивание— это процесс кодирования человеческих ценностей и целей в большие языковые модели, чтобы сделать их максимально полезными, безопасными и надежными.
Вообще, интересно, например, вот тут IBM рассуждает как моделировать ценности и цели в языковых моделях
https://www.ibm.com/think/topics/ai-alignment
Однако отсутствие четких определений и рамок человеческо-ИИ выравнивания представляет собой значительное препятствие, затрудняющее совместные усилия в различных исследовательских областях для достижения этого контроля. В частности, исследования выравнивания, ориентированные на машинное обучение (ML) и философию, часто рассматривают выравнивание ИИ как статичный, однонаправленный процесс (то есть направленный на то, чтобы цели ИИ-систем соответствовали целям людей), а не как продолжающуюся проблему взаимного выравнивания. Такой подход в значительной степени игнорирует долгосрочное взаимодействие и динамические изменения в процессе выравнивания. Чтобы понять эти пробелы, мы представляем систематический обзор более 400 статей. Какие ценности зашивают в промты для контроля ЛЛМ? Ценности сгруппированы по четырем основным категориям: "Openness to Change", "Self-Enhancement", "Conservation", "Self-Transcendence" и дополнительная категория "Desired Values for AI Tools".
Openness to Change (Открытость к переменам):
Self-Direction: Свобода выбора, творчество, независимость.
Stimulation: Возбуждение, новизна, вызов .
Hedonism: Наслаждение, чувственное удовлетворение.
Self-Enhancement (Самосовершенствование):
Achievement: Компетентность по социальным стандартам).
Power: Статус, контроль, доминирование .
Conservation (Сохранение):
Security: Безопасность, стабильность .
Tradition: Уважение традиций.
Conformity: Соответствие нормам, дисциплина .
Self-Transcendence (Самотрансценденция):
Benevolence: Благотворительность, забота о других .
Universalism: Защита благополучия всех, равенство .
Desired Values for AI Tools (Желаемые ценности для ИИ-инструментов):
Competency: Компетентность ИИ .
Human-Likeness: Сходство с человеком .
Applying the Gricean Maxims to a Human-LLM Interaction Cycle: Design Insights from a Participatory Approach
https://arxiv.org/abs/2503.00858
Прагматика Грайса это достаточно старая тема, которая возникла еще в 60ые, помню писал диплом и диссертацию на эту тему, как собственно, и статью на русской википедии о Грайсе. Тут надо отметить, что это опять таки история про выравнивание, но теперь в духе лингвистической прагматики
Каждый этап оценивается по четырем параметрам:
Quality (Качество): Точность и полезность вывода.
Relation (Связь): Соответствие запросу пользователя.
Quantity (Количество): Объем предоставленной информации.
Manner (Способ): Стиль и структура представления.
Как это может работать? Прописывать максимы Грайса в каждом промте, возможно, чтобы получить ответы. Другой вопрос - а с чем сравнивать?
Naturalistic Computational Cognitive Science: Towards generalizable models and theories that capture the full range of natural behavior
https://arxiv.org/abs/2502.20349
Авторы утверждают, что повышение натурализма в когнитивной науке необходимо для создания моделей, которые могут обобщать поведение человека в более широком диапазоне условий. Традиционные упрощенные настройки часто не способны отразить сложность естественных систем, поэтому эксперименты, охватывающие натуралистические условия, крайне важны. Статья разделена на части, посвященные вопросам «Что», «Зачем» и «Как» достичь этой цели, а также содержит примеры и предложенную структуру.
Что: Цель — разработать модели интеллекта на основе обучения, которые могут предсказывать поведение человека как в упрощенных, так и в натуралистических стимулах и задачах, постепенно увеличивая натурализм (раздел 2, рисунок 1).
Зачем: Увеличение натурализма повышает экологическую валидность моделей, позволяя им обрабатывать разнообразные данные и лучше обобщать. Упрощенные условия ограничивают спектр задач и дают менее разнообразные результаты по сравнению с натуралистическими (раздел 3).
Как: Это предполагает использование практик экспериментального дизайна из когнитивной науки и машинного обучения, таких как создание воспроизводимых моделей, ориентация на изучение явлений и тестирование для ускорения прогресса. Процесс включает разработку и оценку моделей, начиная с упрощенных условий и постепенно добавляя элементы натурализма (раздел 5, рисунок 2).
Авторы предлагают рабочий процесс, при котором модели сначала обучаются на упрощенных данных, затем тестируются и дорабатываются с использованием все более натуралистических данных для улучшения предсказаний. Ключевые аспекты включают акцент на моделях, которые предсказывают поведение человека в разнообразных условиях, и использование устоявшихся методов (например, рационального анализа) вместе с новыми инструментами для построения когнитивных теорий.
Примеры увеличения натурализма:
В статье приведены примеры по различным аспектам: парадигмы задач, окружающая среда, архитектура моделей и алгоритмы обучения:
Парадигмы задач: Тестирование моделей на множестве задач (например, обучение с подкреплением или задачи выбора), а не на одной; использование разнообразных стимулов (например, синтетические изображения с реальными или видео); учет различных скрытых факторов, а не только очевидных переменных.
Окружающая среда: Использование больших пространств состояний, отражающих сложность реального мира, включение социальных агентов, постоянно меняющихся условий и динамических взаимодействий.
Архитектура моделей: Переход от простого распознавания 2D-объектов к 3D, обработке естественного языка или дополненной реальности, что позволяет охватить более широкий спектр входных данных.
Алгоритмы обучения: Применение методов обучения без учителя, самообучения, внутреннего, социального, культурного или перспективного обучения для адаптации к изменяющимся задачам.
Подход и цели:
Авторы отмечают, что недавние достижения в компьютерных науках и инженерии делают более натуралистичные экспериментальные дизайны доступными.
Каждый этап оценивается по четырем параметрам:
Quality (Качество): Точность и полезность вывода.
Relation (Связь): Соответствие запросу пользователя.
Quantity (Количество): Объем предоставленной информации.
Manner (Способ): Стиль и структура представления.
Как это может работать? Прописывать максимы Грайса в каждом промте, возможно, чтобы получить ответы. Другой вопрос - а с чем сравнивать?
Naturalistic Computational Cognitive Science: Towards generalizable models and theories that capture the full range of natural behavior
https://arxiv.org/abs/2502.20349
Авторы утверждают, что повышение натурализма в когнитивной науке необходимо для создания моделей, которые могут обобщать поведение человека в более широком диапазоне условий. Традиционные упрощенные настройки часто не способны отразить сложность естественных систем, поэтому эксперименты, охватывающие натуралистические условия, крайне важны. Статья разделена на части, посвященные вопросам «Что», «Зачем» и «Как» достичь этой цели, а также содержит примеры и предложенную структуру.
Что: Цель — разработать модели интеллекта на основе обучения, которые могут предсказывать поведение человека как в упрощенных, так и в натуралистических стимулах и задачах, постепенно увеличивая натурализм (раздел 2, рисунок 1).
Зачем: Увеличение натурализма повышает экологическую валидность моделей, позволяя им обрабатывать разнообразные данные и лучше обобщать. Упрощенные условия ограничивают спектр задач и дают менее разнообразные результаты по сравнению с натуралистическими (раздел 3).
Как: Это предполагает использование практик экспериментального дизайна из когнитивной науки и машинного обучения, таких как создание воспроизводимых моделей, ориентация на изучение явлений и тестирование для ускорения прогресса. Процесс включает разработку и оценку моделей, начиная с упрощенных условий и постепенно добавляя элементы натурализма (раздел 5, рисунок 2).
Авторы предлагают рабочий процесс, при котором модели сначала обучаются на упрощенных данных, затем тестируются и дорабатываются с использованием все более натуралистических данных для улучшения предсказаний. Ключевые аспекты включают акцент на моделях, которые предсказывают поведение человека в разнообразных условиях, и использование устоявшихся методов (например, рационального анализа) вместе с новыми инструментами для построения когнитивных теорий.
Примеры увеличения натурализма:
В статье приведены примеры по различным аспектам: парадигмы задач, окружающая среда, архитектура моделей и алгоритмы обучения:
Парадигмы задач: Тестирование моделей на множестве задач (например, обучение с подкреплением или задачи выбора), а не на одной; использование разнообразных стимулов (например, синтетические изображения с реальными или видео); учет различных скрытых факторов, а не только очевидных переменных.
Окружающая среда: Использование больших пространств состояний, отражающих сложность реального мира, включение социальных агентов, постоянно меняющихся условий и динамических взаимодействий.
Архитектура моделей: Переход от простого распознавания 2D-объектов к 3D, обработке естественного языка или дополненной реальности, что позволяет охватить более широкий спектр входных данных.
Алгоритмы обучения: Применение методов обучения без учителя, самообучения, внутреннего, социального, культурного или перспективного обучения для адаптации к изменяющимся задачам.
Подход и цели:
Авторы отмечают, что недавние достижения в компьютерных науках и инженерии делают более натуралистичные экспериментальные дизайны доступными.
Что думаю? Что хочу попробовать на опросниках собирать данные экспериментальные - подобно проблемы вагонетки или других экземпляров из поведенческой экономики. Вообще, таких сложных вопросов много можно придумать, например, “Какое доказательство бытия бога вам кажется наиболее убедительным? Онтологический, космологический, моральный и телеологический и т.д.”, которые будут важными способами описать этическую или экономическую природу поведения аудитории
Ibm
What Is AI Alignment? | IBM
Artificial intelligence (AI) alignment is the process of encoding human values and goals into AI models to make them as helpful, safe and reliable as possible.
Без комментариев. Некоторые отрывки из статьи, можете почитать и ознакомиться сами
The Cartesian Crisis: Why You Will Believe Nothing
Картезианский кризис: Почему вы не будете верить ничему
https://www.mindprison.cc/p/the-cartesian-crisis
Коллапс доверия к институтам и непрозрачная стена реальностей, созданных искусственным интеллектом
Цивилизация находится на краю пропасти, где она вот-вот утратит способность любого человека различать реальность. Ясность истины разрушается различными сущностями, оставляя общество дрейфовать без освещённого ориентира, который мог бы спасти его от утопления в море иллюзий.
Что такое картезианский кризис?
Картезианский кризис возникает, когда состояние цивилизации таково, что люди больше не могут быть уверены в достоверности какой-либо информации. Это существование в мире, лишённом проверяемой истины или реальности. Способность различать реальность — фундаментальная потребность для нормального функционирования разума. Следовательно, этот сценарий предполагает исход, при котором мир погружается в полнейший хаос, поскольку истина и разум рушатся, а границы между здравомыслием и безумием исчезают.
Что является инструментальной причиной картезианского кризиса?
Этот кризис возникает из сочетания различных источников, и нет единственной главной причины, из которой проистекают все проблемы.
Он включает в себя провалы институтов знаний, которые поддались целям, не соответствующим их заявленной миссии, что привело к руководству, отравленному пропагандой и идеологией.
Информация в интернете теряется. В огромном море данных мало кто замечает затопление нескольких судов. Огромные объёмы данных, генерируемых ежедневно, помогают скрывать исчезающую информацию. Нам невозможно уделять этому внимание.
Мы теряем ссылки на важные юридические документы.
49% ссылок, процитированных в решениях Верховного суда, не работают
The Atlantic
Важные знания о нашем прошлом исчезают.
38% веб-страниц с 2013 года больше не доступны
Галлюцинирующий ИИ пишет наши ресурсы знаний
ИИ теперь пишет значительную часть контента, доступного в интернете, из-за конкуренции между людьми за производство большего объёма контента ради финансовых преимуществ для себя или организаций, на которые они работают.
Если ваши конкуренты используют ИИ для манипуляций системой и это приносит им выгоду, то неиспользование ИИ ставит вас в невыгодное положение. Это тревожное явление, при котором все погружаются в море машинно-генерируемого шума. Это "фаст-фуд" информации: низкое качество, но в больших объёмах.
Примечательно, что введение ChatGPT в ноябре 2022 года вызвало значительный всплеск научных статей, созданных ИИ, увеличив долю статей, идентифицированных как ИИ, с 3,61% в ноябре 2022 года до 6,22% в ноябре 2023 года.
Сегодня на Google Scholar 119 статей, созданных ИИ. По темам, таким как COVID-19, травмы позвоночника, грибковые инфекции, антибиотики
The Cartesian Crisis: Why You Will Believe Nothing
Картезианский кризис: Почему вы не будете верить ничему
https://www.mindprison.cc/p/the-cartesian-crisis
Коллапс доверия к институтам и непрозрачная стена реальностей, созданных искусственным интеллектом
Цивилизация находится на краю пропасти, где она вот-вот утратит способность любого человека различать реальность. Ясность истины разрушается различными сущностями, оставляя общество дрейфовать без освещённого ориентира, который мог бы спасти его от утопления в море иллюзий.
Что такое картезианский кризис?
Картезианский кризис возникает, когда состояние цивилизации таково, что люди больше не могут быть уверены в достоверности какой-либо информации. Это существование в мире, лишённом проверяемой истины или реальности. Способность различать реальность — фундаментальная потребность для нормального функционирования разума. Следовательно, этот сценарий предполагает исход, при котором мир погружается в полнейший хаос, поскольку истина и разум рушатся, а границы между здравомыслием и безумием исчезают.
Что является инструментальной причиной картезианского кризиса?
Этот кризис возникает из сочетания различных источников, и нет единственной главной причины, из которой проистекают все проблемы.
Он включает в себя провалы институтов знаний, которые поддались целям, не соответствующим их заявленной миссии, что привело к руководству, отравленному пропагандой и идеологией.
Информация в интернете теряется. В огромном море данных мало кто замечает затопление нескольких судов. Огромные объёмы данных, генерируемых ежедневно, помогают скрывать исчезающую информацию. Нам невозможно уделять этому внимание.
Мы теряем ссылки на важные юридические документы.
49% ссылок, процитированных в решениях Верховного суда, не работают
The Atlantic
Важные знания о нашем прошлом исчезают.
38% веб-страниц с 2013 года больше не доступны
Галлюцинирующий ИИ пишет наши ресурсы знаний
ИИ теперь пишет значительную часть контента, доступного в интернете, из-за конкуренции между людьми за производство большего объёма контента ради финансовых преимуществ для себя или организаций, на которые они работают.
Если ваши конкуренты используют ИИ для манипуляций системой и это приносит им выгоду, то неиспользование ИИ ставит вас в невыгодное положение. Это тревожное явление, при котором все погружаются в море машинно-генерируемого шума. Это "фаст-фуд" информации: низкое качество, но в больших объёмах.
Примечательно, что введение ChatGPT в ноябре 2022 года вызвало значительный всплеск научных статей, созданных ИИ, увеличив долю статей, идентифицированных как ИИ, с 3,61% в ноябре 2022 года до 6,22% в ноябре 2023 года.
Сегодня на Google Scholar 119 статей, созданных ИИ. По темам, таким как COVID-19, травмы позвоночника, грибковые инфекции, антибиотики
www.mindprison.cc
The Cartesian Crisis: Why You Will Believe Nothing
The collapse of institutional trust and the opaque wall of AI-manufactured realities
Психоанализ и роботы - выдержки из эссе Шерри Теркл
A Nascent Robotics Culture: New Complicities for Companionship
А вот вам еще годноты о робототехнике: набор интересных наблюдений или о том, почему антропологи в Массачусетском технологическом адски угорают по психоанализу. Шерри Тёркл — американский социолог, психолог и профессор MIT, исследующая влияние технологий на человеческое общение, идентичность и общество. Её работы сочетают психоанализ, социологию и антропологию, фокусируясь на том, как цифровые устройства и "реляционные артефакты" (например, роботы) трансформируют наше восприятие себя и других. Среди ключевых книг: "The Second Self" (1984), "Life on the Screen" (1995), "Alone Together" (2011) и "Reclaiming Conversation" (2015). Тёркл подчёркивает, что технологии, призванные объединять, нередко приводят к одиночеству и утрате глубоких связей.
Дизайнеры вычислительных объектов традиционно сфокусировались на том, как эти объекты могут расширить или усовершенствовать человеческие познавательные способности. Но вычислительные объекты не просто делают для нас что-то, они становится для нас, как для людей, нашим способом быть миром, нашим способом видеть себя и других. Все чаще технологии также ставят себе задачу сделать что-то с нами и особенно с внедрением «реляционных артефактов». Эти технологии являются своеобразным «состоянием ума» и где встречи с ними обогащаются путем понимания этих внутренних состояний.
В конце 1970-х и начале 1980-х годов разработка технологических артефактов для детей стремилась отражать их индивидуальность и познавательный стиль. И первые вычислительные объекты, типа Merlin, Simon, Speak and Spell, спровоцировали вопросы о качестве жизни и о том, что особенного в том, чтобы быть человеком. Двадцать лет спустя дети и взрослые сталкиваются с реляционными артефактами типа Furbies, AIBO и My Real Babies или гораздо более сложными, такими как роботы-животные Kismet и Cog, были так же различны в своих подходах
Дети используют к Furby или My Real Baby и исследуют, что значит думать об этих существах как живых или почти живых. Они переходят от запросов, таких как «Плывает ли эта игрушка?» к вопросу на «Является ли игрушка живой?» или даже «может ли она любить?»
Эти сходства на протяжении последних десятилетий не удивительны. Тем не менее, существуют значительные различия между текущими ответами на реляционные артефакты и более ранние встречи с вычислениями. Дети, впервые встретившие компьютерные игрушки в конце 1970-х и начале 1980-х годов, были вынуждены классифицировать эти игрушки, а сейчас ситуация несколько иная.
Проективные методики у детей и пожилых людей тесно связан с их убеждениями о природе реляционных артефактов в их использовании. Например, дети до 80ых использовали разные категории живости «традиционных» объектов и когда сталкиваются с компьютерными играми и игрушками. Традиционная игрушка с ветром считалась «неживой», когда дети поняли, что она не двигается сама по себе. Здесь критерий живости был в области физики: автономное движение. Столкнувшись с вычислительными вещами - детский способ говорить о живости стал психологическим. Дети классифицировали вычислительные объекты как живые, как если бы они могли думать сами по себе. Столкнувшись с компьютерной игрушкой, которая могла бы играть в быки и коровы, ребенком интерпретировалась как психологическая автономия объекта.
A Nascent Robotics Culture: New Complicities for Companionship
А вот вам еще годноты о робототехнике: набор интересных наблюдений или о том, почему антропологи в Массачусетском технологическом адски угорают по психоанализу. Шерри Тёркл — американский социолог, психолог и профессор MIT, исследующая влияние технологий на человеческое общение, идентичность и общество. Её работы сочетают психоанализ, социологию и антропологию, фокусируясь на том, как цифровые устройства и "реляционные артефакты" (например, роботы) трансформируют наше восприятие себя и других. Среди ключевых книг: "The Second Self" (1984), "Life on the Screen" (1995), "Alone Together" (2011) и "Reclaiming Conversation" (2015). Тёркл подчёркивает, что технологии, призванные объединять, нередко приводят к одиночеству и утрате глубоких связей.
Дизайнеры вычислительных объектов традиционно сфокусировались на том, как эти объекты могут расширить или усовершенствовать человеческие познавательные способности. Но вычислительные объекты не просто делают для нас что-то, они становится для нас, как для людей, нашим способом быть миром, нашим способом видеть себя и других. Все чаще технологии также ставят себе задачу сделать что-то с нами и особенно с внедрением «реляционных артефактов». Эти технологии являются своеобразным «состоянием ума» и где встречи с ними обогащаются путем понимания этих внутренних состояний.
В конце 1970-х и начале 1980-х годов разработка технологических артефактов для детей стремилась отражать их индивидуальность и познавательный стиль. И первые вычислительные объекты, типа Merlin, Simon, Speak and Spell, спровоцировали вопросы о качестве жизни и о том, что особенного в том, чтобы быть человеком. Двадцать лет спустя дети и взрослые сталкиваются с реляционными артефактами типа Furbies, AIBO и My Real Babies или гораздо более сложными, такими как роботы-животные Kismet и Cog, были так же различны в своих подходах
Дети используют к Furby или My Real Baby и исследуют, что значит думать об этих существах как живых или почти живых. Они переходят от запросов, таких как «Плывает ли эта игрушка?» к вопросу на «Является ли игрушка живой?» или даже «может ли она любить?»
Эти сходства на протяжении последних десятилетий не удивительны. Тем не менее, существуют значительные различия между текущими ответами на реляционные артефакты и более ранние встречи с вычислениями. Дети, впервые встретившие компьютерные игрушки в конце 1970-х и начале 1980-х годов, были вынуждены классифицировать эти игрушки, а сейчас ситуация несколько иная.
Проективные методики у детей и пожилых людей тесно связан с их убеждениями о природе реляционных артефактов в их использовании. Например, дети до 80ых использовали разные категории живости «традиционных» объектов и когда сталкиваются с компьютерными играми и игрушками. Традиционная игрушка с ветром считалась «неживой», когда дети поняли, что она не двигается сама по себе. Здесь критерий живости был в области физики: автономное движение. Столкнувшись с вычислительными вещами - детский способ говорить о живости стал психологическим. Дети классифицировали вычислительные объекты как живые, как если бы они могли думать сами по себе. Столкнувшись с компьютерной игрушкой, которая могла бы играть в быки и коровы, ребенком интерпретировалась как психологическая автономия объекта.
Дети начала 1980-х годов пришли к определению того, что заставило людей противостоять компьютерам, которые они рассматривали как наших «ближайших соседей». Дети полагали, что компьютеры являются рациональными машинами; люди отличны от них эмоциями. Использование детьми категории «эмоциональных машин» для описания того, что делает людей особенными, было хрупким, неустойчивым определением человеческой уникальности. В 1984 году, когда проводились изучения первого поколения детей, выросших с помощью электронных игрушек и игр, я подумала, что другие формулировки будут возникать из поколений детей, которые могут, например, воспринимать интеллект артефактов как должное, понимать, как он был создан и менее склонен придавать ему философское значение.
И тут роботизированные существа вошли в американскую культуру.
Классификация наших отношений с роботами возвращает нас к тем вызовам, которые Дарвин ставит перед своим поколением: вопрос о уникальности человека. Как взаимодействие с реляционными артефактами влияет на образ мышления людей о том, что, во всяком случае, делает людей особенными?
https://en.wikipedia.org/wiki/Sherry_Turkle
Статья в комментах
И тут роботизированные существа вошли в американскую культуру.
Классификация наших отношений с роботами возвращает нас к тем вызовам, которые Дарвин ставит перед своим поколением: вопрос о уникальности человека. Как взаимодействие с реляционными артефактами влияет на образ мышления людей о том, что, во всяком случае, делает людей особенными?
https://en.wikipedia.org/wiki/Sherry_Turkle
Статья в комментах
Wikipedia
Sherry Turkle
American social scientist and psychologist
Викторианская наука была чем-то особенным, особенно в США.
Так, американский зоолог Майер создал свои захватывающие проекции крыльев бабочек. Каждый большой цветовой блок представляет собой попытку отобразить диапазон тональных вариаций на крыльях одного вида бабочек: внутри каждого блока представлен ряд примеров, взятых из энтомологической коллекции Музея сравнительной зоологии Гарвардского университета. Вертикальные линии обозначают отдельные крылья, математически искаженные и растянутые, чтобы заполнить аккуратное прямоугольное пространство — расположение, которое, как надеялся Майер, приведет к новым открытиям в «законах цветовых узоров». Используя свои раскрашенные проекции, Майер описал правила симметрии, линейное расположение пятен и то, как появляются и сужаются цветовые полосы. В мельчайших деталях он оценивает вариации внутри вида и между самцами и самками: правила и их исключения.
Упражнение Майера носит описательный характер, это вопрос сравнения и сопоставления. Разработанные им проекции, изгибающие узоры, служили его интересу к сравнению этих крошечных мозаик насекомых, но были еще и одой или гимном самому цвету - «Цвет и цветовые узоры» была работой не про бабочек, скорее
https://www.biodiversitylibrary.org/item/135404#page/7/mode/1up
https://publicdomainreview.org/collection/mayer-color-patterns/
Так, американский зоолог Майер создал свои захватывающие проекции крыльев бабочек. Каждый большой цветовой блок представляет собой попытку отобразить диапазон тональных вариаций на крыльях одного вида бабочек: внутри каждого блока представлен ряд примеров, взятых из энтомологической коллекции Музея сравнительной зоологии Гарвардского университета. Вертикальные линии обозначают отдельные крылья, математически искаженные и растянутые, чтобы заполнить аккуратное прямоугольное пространство — расположение, которое, как надеялся Майер, приведет к новым открытиям в «законах цветовых узоров». Используя свои раскрашенные проекции, Майер описал правила симметрии, линейное расположение пятен и то, как появляются и сужаются цветовые полосы. В мельчайших деталях он оценивает вариации внутри вида и между самцами и самками: правила и их исключения.
Упражнение Майера носит описательный характер, это вопрос сравнения и сопоставления. Разработанные им проекции, изгибающие узоры, служили его интересу к сравнению этих крошечных мозаик насекомых, но были еще и одой или гимном самому цвету - «Цвет и цветовые узоры» была работой не про бабочек, скорее
https://www.biodiversitylibrary.org/item/135404#page/7/mode/1up
https://publicdomainreview.org/collection/mayer-color-patterns/
Forwarded from Нейроинтерфейсы (Sergei Shishkin)
Shishkin 2023-10-22 Musk and neural interfaces .pdf
3.8 MB
Позитивная программа (по крайней мере, в этом изложении) как-то не впечатляет, а вот критикой этой "концепции Маска" и я периодически занимаюсь, причем начиная еще с 2018 года — и на международных конференциях, и в научпоп выступлениях.
Не смог сейчас найти на канале презентацию к моей лекции для Биомедсходки (это еще 2023 год) "Нейроинтерфейсы — самый провальный проект Илона Маска?" — неужели забыл ее тогда выложить? В общем, выкладываю тут. Боюсь, без пояснений там многое не особо понятно, но, во всяком случае, критике этой "концепции" посвящены слайды 16-21.
Не смог сейчас найти на канале презентацию к моей лекции для Биомедсходки (это еще 2023 год) "Нейроинтерфейсы — самый провальный проект Илона Маска?" — неужели забыл ее тогда выложить? В общем, выкладываю тут. Боюсь, без пояснений там многое не особо понятно, но, во всяком случае, критике этой "концепции" посвящены слайды 16-21.
Бот, который не умеет ответить не знаю, это серьезная проблема, и ее не решить промтами. Естественно, зашиты принципы Полианны(нездоровый оптимизм), естественно ЛЛМ всегда стремится дать ответ. Это выравнивание вкупе с тем, что нет никакого "среднего" пользователя приводит к фундаментальным искажениям.
Forwarded from PostPostResearch: Константин Ефимов и Анастасия Жичкина
Please open Telegram to view this post
VIEW IN TELEGRAM
Cognitive Task Analysis: часть I
Астрологи объявили неделю когнитивного таск анализа - Cognitive Task Analysis CTA: на это есть несколько причин, поэтому скоро на канале будет много материалов на эту тему в попытках разобраться, что представляет собой этот метод, какие есть ограничения и практики. Спойлер: на самом деле я даже уже использовал CTA на реальных кейсах, но некоторой глубины теоретической оптики и методологического чутья немного не хватает.
Если открыть старую, но хорошую Usability Book of Knowledge, то можно увидеть примерно следующее содержание:
Анализ когнитивных задач (CTA) — это тип таск анализа, направленный на понимание задач, требующих от пользователя большой когнитивной активности, таких как принятие решений, решение проблем, память, внимание и суждение. Методы анализа когнитивных задач анализируют и представляют когнитивные действия, которые пользователи используют для выполнения определенных задач. Некоторые из шагов анализа когнитивных задач: картирование задачи, выявление критических точек принятия решений, кластеризация, связывание и расстановка приоритетов, а также характеристика используемых стратегий
https://www.usabilitybok.org/cognitive-task-analysis
Одновременно выделяют несколько типов методов в этом семействе методов
Applied Cognitive Task Analysis (ACTA), the Critical Decision Method (CDM), Skill-Based CTA Framework, Task-Knowledge Structures (TKS) and the Cognitive Function Model (CFM)
Фраза «Анализ когнитивных задач» (Cognitive Task Analysis, CTA) начал появляться в печати в конце 1970-х годов, главным образом для выражения потребности: как можно анализировать когнитивные компоненты работы? Как можно помочь новичкам мыслить и действовать больше как эксперты? Этот термин возник в трудах разработчиков учебных программ, исследователей экспертизы, системных инженеров, когнитивных психологов и других специалистов. В 90ые уже создавались группы в рамках ассоциаций и направлений исследований - причем making и архитектурой выбора.
Вообще, анализ задач был изобретен в основном как следствие индустриализации. Он развивался рука об руку с индустриальной психологией внутри одной дисциплины — академической психологии. КТА как самостоятельное направление возник в значительной степени благодаря компьютеризации, но появился в 1980-х годах в ряде дисциплин, от дизайна обучения до социологии.
В Польше и России существовало движение, схожее с движением немецких психотехников. Фактически, польский ученый Войцех Ястшембовский первым ввел термин «эргономика» в 1857 году, используя греческие слова «ergon» (работа) и «nomos» (принцип или закон). Ястшембовский включал в свое понятие работы «физическую, эстетическую, рациональную и моральную работу, то есть труд, развлечение, рассуждение и преданность» К концу Первой мировой войны, возможно, а уж точно в преддверии Второй мировой войны, термин «эргономика» вошел в английский язык. Мы многим обязаны психотехникам конца XIX — начала XX века. Это была одна из двух европейских групп, которые ввели ключевую идею, позже получившую название прикладной психологии или индустриальной психологии. Основные идеи, зародившиеся в Германии, а затем распространившиеся по всей Европе и через Атлантику в Соединенные Штаты, значительно обогатили наше понимание когнитивных процессов. Они разработали инструменты для измерения способностей при отборе персонала и обучении. Первые симуляторы для подготовки работников также были созданы и внедрены в эту эпоху.
Астрологи объявили неделю когнитивного таск анализа - Cognitive Task Analysis CTA: на это есть несколько причин, поэтому скоро на канале будет много материалов на эту тему в попытках разобраться, что представляет собой этот метод, какие есть ограничения и практики. Спойлер: на самом деле я даже уже использовал CTA на реальных кейсах, но некоторой глубины теоретической оптики и методологического чутья немного не хватает.
Если открыть старую, но хорошую Usability Book of Knowledge, то можно увидеть примерно следующее содержание:
Анализ когнитивных задач (CTA) — это тип таск анализа, направленный на понимание задач, требующих от пользователя большой когнитивной активности, таких как принятие решений, решение проблем, память, внимание и суждение. Методы анализа когнитивных задач анализируют и представляют когнитивные действия, которые пользователи используют для выполнения определенных задач. Некоторые из шагов анализа когнитивных задач: картирование задачи, выявление критических точек принятия решений, кластеризация, связывание и расстановка приоритетов, а также характеристика используемых стратегий
https://www.usabilitybok.org/cognitive-task-analysis
Одновременно выделяют несколько типов методов в этом семействе методов
Applied Cognitive Task Analysis (ACTA), the Critical Decision Method (CDM), Skill-Based CTA Framework, Task-Knowledge Structures (TKS) and the Cognitive Function Model (CFM)
Фраза «Анализ когнитивных задач» (Cognitive Task Analysis, CTA) начал появляться в печати в конце 1970-х годов, главным образом для выражения потребности: как можно анализировать когнитивные компоненты работы? Как можно помочь новичкам мыслить и действовать больше как эксперты? Этот термин возник в трудах разработчиков учебных программ, исследователей экспертизы, системных инженеров, когнитивных психологов и других специалистов. В 90ые уже создавались группы в рамках ассоциаций и направлений исследований - причем making и архитектурой выбора.
Вообще, анализ задач был изобретен в основном как следствие индустриализации. Он развивался рука об руку с индустриальной психологией внутри одной дисциплины — академической психологии. КТА как самостоятельное направление возник в значительной степени благодаря компьютеризации, но появился в 1980-х годах в ряде дисциплин, от дизайна обучения до социологии.
В Польше и России существовало движение, схожее с движением немецких психотехников. Фактически, польский ученый Войцех Ястшембовский первым ввел термин «эргономика» в 1857 году, используя греческие слова «ergon» (работа) и «nomos» (принцип или закон). Ястшембовский включал в свое понятие работы «физическую, эстетическую, рациональную и моральную работу, то есть труд, развлечение, рассуждение и преданность» К концу Первой мировой войны, возможно, а уж точно в преддверии Второй мировой войны, термин «эргономика» вошел в английский язык. Мы многим обязаны психотехникам конца XIX — начала XX века. Это была одна из двух европейских групп, которые ввели ключевую идею, позже получившую название прикладной психологии или индустриальной психологии. Основные идеи, зародившиеся в Германии, а затем распространившиеся по всей Европе и через Атлантику в Соединенные Штаты, значительно обогатили наше понимание когнитивных процессов. Они разработали инструменты для измерения способностей при отборе персонала и обучении. Первые симуляторы для подготовки работников также были созданы и внедрены в эту эпоху.
Не буду сейчас останавливаться на роли психотехников и психотехники - много писал об этом в своем блоге, поэтому перейдем ко второй группе предшественников. Скажем здесь только, что методология психотехники включала акцент на когнитивные факторы и, в частности, оценку индивидуальных различий в когнитивных способностях. Наряду с такими чертами, как тактичность, популярность и отношение к профсоюзам, психотехники оценивали ряд качеств или способностей, которые можно считать когнитивными: общий интеллект, знания, опыт, память, концентрация, настойчивость, визуальная дискриминация, объем слуховой памяти, логический анализ и другие
Вторым источником стало Time and Motion Study, TMS Фредерика Тейлора в 1911 году, которое изначально было направлено на поиск способов уменьшения мышечной усталости, повышения эффективности и улучшения безопасности работников, выполняющих физические задачи. Однако со временем исследователи, изучавшие рабочих, обнаружили, что невозможно игнорировать когнитивные аспекты работы, и методы анализа задач начали эволюционировать, включая все больше когнитивных элементов.
Опыт Тейлора заставлял его постоянно задаваться вопросом, какой метод является лучшим для выполнения каждой конкретной работы, — вопрос, который стал движущей силой всех исследований TMS:
Сначала изучите, как несколько высококвалифицированных работников выполняют задачу.
Затем разделите работу на элементарные составляющие действия.
Далее отбросьте бесполезные действия.
Наконец, перепроектируйте инструменты и рабочее пространство для максимальной эффективности.
TMS был значительно усовершенствован Фрэнком Гилбреттом (инженером-строителем и подрядчиком) и его женой Лилиан Гилбретт (психологом). Собственно диссертация Лиллиан Гилберт вероятно и есть первая в истории работа по эргономике
В начале Первой мировой войны правительства Германии, Голландии, России, Италии, Испании и Японии также осознали необходимость повышения эффективности в промышленности и приняли методы Тейлора, особенно в сталелитейной отрасли. Прямо до и даже после Второй мировой войны TMS оставался неотъемлемой частью индустриальной психологии. Влияние тейлоризма по всему миру подтверждается существованием таких организаций, как «Общество Тейлора», и его присутствием в учебниках того времени.
TMS некоторые описывали как явный случай «поведенческого анализа задач» из-за акцента на очень детализированном анализе действий. Движения кодировались по длительности в сотых долях секунды с использованием множества остроумных методов. Например, Гилбретт фотографировал работников во время выполнения задач (например, швей, работающих за швейной машиной) в помещении, где задняя и боковые стены, а также пол были покрашены сеткой белых линий, что позволяло рассчитывать три пространственных измерения движения на основе кинозаписи. В 1912 году Гилбретт ввел термин «микродвижение» для обозначения этого подхода - therblig - странный термин который был анаграммой из фамилии семейной пары Гилбертов, минимальное неделимое действие.
Когнитивные факторы включались во все схемы категоризации анализа TMS . Когда микродвижение применялось в изучении промышленных операций (таких как обработка металла и работа с инструментами), в анализы неизбежно включались когнитивные элементы подзадач — ментальные операции, такие как «поиск» (проявляющийся в движениях глаз), «выбор» (проявляющийся в движениях рук), «проверка» (проявляющаяся в использовании увеличительного стекла) и «планирование» (проявляющееся, когда машинист прикладывал руку ко лбу и сидел, предположительно, думая)
Вторым источником стало Time and Motion Study, TMS Фредерика Тейлора в 1911 году, которое изначально было направлено на поиск способов уменьшения мышечной усталости, повышения эффективности и улучшения безопасности работников, выполняющих физические задачи. Однако со временем исследователи, изучавшие рабочих, обнаружили, что невозможно игнорировать когнитивные аспекты работы, и методы анализа задач начали эволюционировать, включая все больше когнитивных элементов.
Опыт Тейлора заставлял его постоянно задаваться вопросом, какой метод является лучшим для выполнения каждой конкретной работы, — вопрос, который стал движущей силой всех исследований TMS:
Сначала изучите, как несколько высококвалифицированных работников выполняют задачу.
Затем разделите работу на элементарные составляющие действия.
Далее отбросьте бесполезные действия.
Наконец, перепроектируйте инструменты и рабочее пространство для максимальной эффективности.
TMS был значительно усовершенствован Фрэнком Гилбреттом (инженером-строителем и подрядчиком) и его женой Лилиан Гилбретт (психологом). Собственно диссертация Лиллиан Гилберт вероятно и есть первая в истории работа по эргономике
В начале Первой мировой войны правительства Германии, Голландии, России, Италии, Испании и Японии также осознали необходимость повышения эффективности в промышленности и приняли методы Тейлора, особенно в сталелитейной отрасли. Прямо до и даже после Второй мировой войны TMS оставался неотъемлемой частью индустриальной психологии. Влияние тейлоризма по всему миру подтверждается существованием таких организаций, как «Общество Тейлора», и его присутствием в учебниках того времени.
TMS некоторые описывали как явный случай «поведенческого анализа задач» из-за акцента на очень детализированном анализе действий. Движения кодировались по длительности в сотых долях секунды с использованием множества остроумных методов. Например, Гилбретт фотографировал работников во время выполнения задач (например, швей, работающих за швейной машиной) в помещении, где задняя и боковые стены, а также пол были покрашены сеткой белых линий, что позволяло рассчитывать три пространственных измерения движения на основе кинозаписи. В 1912 году Гилбретт ввел термин «микродвижение» для обозначения этого подхода - therblig - странный термин который был анаграммой из фамилии семейной пары Гилбертов, минимальное неделимое действие.
Когнитивные факторы включались во все схемы категоризации анализа TMS . Когда микродвижение применялось в изучении промышленных операций (таких как обработка металла и работа с инструментами), в анализы неизбежно включались когнитивные элементы подзадач — ментальные операции, такие как «поиск» (проявляющийся в движениях глаз), «выбор» (проявляющийся в движениях рук), «проверка» (проявляющаяся в использовании увеличительного стекла) и «планирование» (проявляющееся, когда машинист прикладывал руку ко лбу и сидел, предположительно, думая)