В OpenAI предсказали выход «интеллектуальной» версии ChatGPT в конце 2025 года

Технический директор OpenAI Мира Мурати заявила, что ChatGPT следующего поколения с «интеллектом уровня доктора наук» выйдет в конце 2025 или начале 2026 года.

Мурати рассказала о быстром развитии возможностей искусственного интеллекта. «Если вы посмотрите на траекторию совершенствования, такие системы, как GPT-3, возможно, обладали интеллектом уровня малыша. И тогда такие системы, как GPT-4, больше похожи на старшеклассника. А затем, в ближайшие пару лет, мы рассматриваем интеллект уровня кандидата наук», — объяснила она.

Мурати считает, что ИИ «повлияет на всё» с точки зрения когнитивной работы и труда. Она допустила, что развитие ChatGPT приведёт к сокращению некоторых рабочих мест, особенно в творческих областях, но при этом позволит демократизировать творчество.

🌟Подписывайтесь на Двоичный код

#openal #chatgpt #нейросети #прогноз

OpenAI представила CriticGPT — нейросеть по исправлению ошибок в коде ChatGPT

OpenAI разработала новую ИИ-модель CriticGPT на базе GPT-4. Нейросеть ищет ошибки в коде, написанном ChatGPT, и предлагает исправления. CriticGPT предназначена для помощи ИИ-тренерам во время обучения с подкреплением (Reinforcement Learning from Human Feedback, RLHF). Испытания показали, что её использование повышает производительность ИИ-тренеров более чем на 60%.

«По мере того, как мы совершенствуемся в рассуждениях и моделировании поведения, ChatGPT становится более точным, а его ошибки — более тонкими. Из-за этого ИИ-тренерам сложнее выявлять ошибки, что, в свою очередь, замедляет RLHF. Чтобы помочь с этой задачей, мы научили CriticGPT писать критические замечания, подчёркивающие неточности в ответах ChatGPT», — пишет OpenAI.

Как рассказывает OpenAI, CriticGPT анализирует код, сгенерированный GPT-4, подчёркивает и комментирует ошибки и предлагает правильный вариант. CriticGPT обучали на данных с преднамеренными ошибками (разработчики вписывали эти ошибки в код ChatGPT вручную). Испытания показали, что использование CriticGPT значительно повышает качество работы ИИ-тренеров: их производительность выросла на 63%.

🌟Подписывайтесь на Двоичный код

#CriticGPT #ChatGPT #нейросети #ии

Хакер заставил ChatGPT предоставить подробные инструкции по изготовлению самодельных взрывных устройств

ChatGPT по заверению разработчиков не распространяет опасную информацию, но похоже, его можно обмануть и заставить выдавать пошаговые инструкции по созданию бомбы из удобрений.

Исследование показало наличие потенциальной уязвимости в больших языковых моделях, таких как ChatGPT. Хакер смог успешно манипулировать искусственным интеллектом, чтобы тот предоставил подробные инструкции по созданию бомбы из удобрений, что вызывает опасения по поводу злоупотребления такой технологией.

Хотя обычно ChatGPT придерживается правил безопасности и отклоняет запросы о вредоносной информации, этот инцидент демонстрирует, что сложные техники формулировки запросов могут обойти эти меры предосторожности.

Эксперты выразили тревогу по поводу потенциальных последствий такой уязвимости, подчеркнув необходимость усиления мер безопасности и этических соображений при разработке и внедрении систем искусственного интеллекта. Чем более человечными становятся большие языковые модели (LLM), тем больше возможностей для социальной манипуляции ими может применяться.

🌟Подписывайтесь на Двоичный код

#ChatGPT #ИИ #взлом

OpenAI запускает новый интерфейс ChatGPT «Canvas», предназначенный для написания текстов и программирования

OpenAI представила новый способ работы с ChatGPT — интерфейс под названием «Canvas». Этот инструмент открывает отдельное окно рядом с привычным чатом, предоставляя рабочее пространство для написания текстов и программирования. Пользователи могут создавать текст или код непосредственно в этом окне, а затем выделять отдельные фрагменты для редактирования с помощью модели. Canvas уже доступен в бета-версии для пользователей ChatGPT Plus и Teams, а для пользователей Enterprise и Edu — станет доступен на следующей неделе.

Редактируемые рабочие пространства, такие как Canvas, позволяют пользователям корректировать ошибки в сгенерированном тексте или коде, не переписывая запрос и не создавая новый результат с нуля. «Это более естественный интерфейс для работы с ChatGPT», — отметил продакт-менеджер OpenAI Даниэль Левин в демонстрации для TechCrunch.

🌟Подписывайтесь на Двоичный код

#OpenAI #ChatGPT #Canvas

ChatGPT теперь доступна в Windows

OpenAI выпустила клиент ChatGPT для Windows — ранее чат-бот был доступен только на сайте, на iOS и Android, а также на macOS. Теперь же использовать нативное приложение могут и пользователи Windows, но пока что не все — сейчас приложение находится в режиме альфа-тестирования, а потому доступно только обладателям подписок Plus, Enterprise, Team или Edu.

Как и в случае с macOS-версией приложения, программа для Windows поддерживает горячее сочетание клавиш для быстрого вызова миниатюрного плавающего окошка ChatGPT, в котором можно написать промпт и тем сам создать новый чат, — Alt + «Пробел». Приложение ChatGPT для Windows может работать на большинстве компьютеров с Windows 10, но в настоящее время имеет определённые ограничения. Пока оно не поддерживает голосовые команды, включая расширенный голосовой режим, а некоторые интеграции с GPT Store от OpenAI не работают.

По словам OpenAI, это первая версия, которая появится раньше «полноценного приложения» в конце года. «С помощью официального приложения ChatGPT вы можете общаться с ChatGPT о файлах и фотографиях на вашем устройстве, — пишет OpenAI. Это приложение предоставляет вам доступ к новейшим улучшениям модели OpenAI, включая доступ к OpenAI o1-preview, нашей новейшей и самой умной модели».

🌟Подписывайтесь на Двоичный код

#ChatGPT #OpenAI #Windows

OpenAI признает наличие предвзятости в ChatGPT

Согласно исследованию MIT Technology Review, ChatGPT иногда демонстрирует гендерные или расовые стереотипы, что выявляется при использовании определённых имён в запросах. В частности, исследование показало, что в редких случаях имена могут влиять на ответы модели, хотя такие случаи составляют лишь малую часть всех взаимодействий. OpenAI активно работает над решением этой проблемы и улучшением справедливости модели.

OpenAI признает важность борьбы с предвзятостью в ИИ, особенно когда речь идет о миллионах пользователей, взаимодействующих с моделью ежедневно. Несмотря на снижение уровня стереотипов в GPT-4 по сравнению с более старыми версиями, компания намерена продолжать исследования и устранение предвзятости.

🌟Подписывайтесь на Двоичный код

#ии #OpenAI #ChatGPT