🏃‍♂️Microsoft хочет почистить интернет. Но не от мусора, а от токсичности🏃‍♂️

Компания Microsoft запустила новый сервис Azure AI Content Safety, который должен помогать создавать безопасные и комфортные онлайн-сообщества. Сервис использует искусственный интеллект для обнаружения и блокировки неприемлемого контента на изображениях и в текстах. Звучит замечательно, правда?

Но есть один нюанс. Cервис уже показал свою несостоятельность в прошлом. Чат-бот в Bing, который работал на основе этой технологии, выдавал ложную информацию о вакцинах от COVID-19 и писал оскорбительные тексты от лица Адольфа Гитлера.

Так что вопрос остается открытым: насколько эффективен и справедлив сервис? Сможет ли он учитывать контекст, культуру и язык? Не станет ли он источником новых проблем и конфликтов? И не лучше ли было бы использовать человеческий интеллект вместо искусственного?

#microsoft #azure #ai #content #safety #moderation #toxicity #security