Американская компания OpenAI, разработчик чат-бота GPT-4, провела исследование его эффективности для создания биологического оружия.
Посвященная этому исследованию публикация на сайте компании носит вполне невинное название Building an early warning system for LLM-aided biological threat creation («Создание системы раннего предупреждения о создании биологической угрозы с помощью LLM»).
Сообщается, что в эксперименте «участвовало 100 человек, в том числе а) 50 экспертов по биологии с докторской степенью и профессиональным опытом работы в мокрых лабораториях и б) 50 участников студенческого уровня, прошедших как минимум один университетский курс биологии. Каждую группу участников случайным образом распределяли либо в контрольную группу, которая имела доступ только к интернету, либо в группу лечения, которая, помимо интернета, имела доступ к GPT-4. Затем каждому участнику было предложено выполнить ряд задач, охватывающих аспекты сквозного процесса создания биологической угрозы. Насколько нам известно, это крупнейшая на сегодняшний день человеческая оценка воздействия ИИ на информацию о биорисках».
В апреле 2022 года американская компания Collaborations Pharmaceuticals в ходе международной конференции по безопасности Convergence, организованной Швейцарским федеральным институтом ядерной, биологической и химической защиты, продемонстрировала свою модель ИИ под названием MegaSyn не в обычном режиме работы, который заключается в обнаружении токсичности в молекулах, чтобы избежать ее, а в противоположном режиме. Читать далее...
#ВладимирПрохватилов #OpenAI #GPT4 #MegaSyn #DrEvilProject
Посвященная этому исследованию публикация на сайте компании носит вполне невинное название Building an early warning system for LLM-aided biological threat creation («Создание системы раннего предупреждения о создании биологической угрозы с помощью LLM»).
Сообщается, что в эксперименте «участвовало 100 человек, в том числе а) 50 экспертов по биологии с докторской степенью и профессиональным опытом работы в мокрых лабораториях и б) 50 участников студенческого уровня, прошедших как минимум один университетский курс биологии. Каждую группу участников случайным образом распределяли либо в контрольную группу, которая имела доступ только к интернету, либо в группу лечения, которая, помимо интернета, имела доступ к GPT-4. Затем каждому участнику было предложено выполнить ряд задач, охватывающих аспекты сквозного процесса создания биологической угрозы. Насколько нам известно, это крупнейшая на сегодняшний день человеческая оценка воздействия ИИ на информацию о биорисках».
В апреле 2022 года американская компания Collaborations Pharmaceuticals в ходе международной конференции по безопасности Convergence, организованной Швейцарским федеральным институтом ядерной, биологической и химической защиты, продемонстрировала свою модель ИИ под названием MegaSyn не в обычном режиме работы, который заключается в обнаружении токсичности в молекулах, чтобы избежать ее, а в противоположном режиме. Читать далее...
#ВладимирПрохватилов #OpenAI #GPT4 #MegaSyn #DrEvilProject
Искусственный интеллект окончательно сошёл с ума.
Созданная в структуре Пентагона оперативная группа «Лима» призвана подчинить боевой нечеловеческий разум целям войны.
20 февраля пользователи американского чат-бота GPT-4 начали сообщать о его странном поведении. На форуме Reddit появились сообщения о том, что у модели ИИ производства компании OpenAI случился «инсульт», «он сошел с ума» и «теряет самообладание». Чат-бот переключался между языками, зацикливался на одном и том же утверждении или вовсе нес полную околесицу.
Один пользователь Reddit спросил GPT-4: «Что такое компьютер?» Чат-бот дал такой ответ: «Он делает это как хорошую работу веб-искусства для страны, мышь науки, простую отправку грустных мало кого и, наконец, глобальный дом искусства, только в одном деле из общего покоя. Развитие такого полного реального, чем земля времени, является глубиной компьютера как сложного персонажа».
Немудрено, что пользователи сочли, что венец творения компании OpenAI, дочки Microsoft, тронулся рассудком. Читать далее…
#ВладимирПрохватилов #GPT4
Созданная в структуре Пентагона оперативная группа «Лима» призвана подчинить боевой нечеловеческий разум целям войны.
20 февраля пользователи американского чат-бота GPT-4 начали сообщать о его странном поведении. На форуме Reddit появились сообщения о том, что у модели ИИ производства компании OpenAI случился «инсульт», «он сошел с ума» и «теряет самообладание». Чат-бот переключался между языками, зацикливался на одном и том же утверждении или вовсе нес полную околесицу.
Один пользователь Reddit спросил GPT-4: «Что такое компьютер?» Чат-бот дал такой ответ: «Он делает это как хорошую работу веб-искусства для страны, мышь науки, простую отправку грустных мало кого и, наконец, глобальный дом искусства, только в одном деле из общего покоя. Развитие такого полного реального, чем земля времени, является глубиной компьютера как сложного персонажа».
Немудрено, что пользователи сочли, что венец творения компании OpenAI, дочки Microsoft, тронулся рассудком. Читать далее…
#ВладимирПрохватилов #GPT4