Ведущие технологические гиганты отказываются от партнеров в сфере ИИ

В Китае введены новые правила, регулирующие взаимодействие людей с ИИ-собеседниками.

ByteDance Ltd. и Alibaba Group Holding Ltd. инициировали временное приостановку функционала, позволяющего пользователям взаимодействовать с ИИ-собеседниками в преддверии вступления в силу новых нормативных актов, регулирующих использование искусственного интеллекта (ИИ) в стране.

Doubao, популярный чат-бот с ИИ от ByteDance, с 15 июля прекращает предоставление функции настройки пользовательских аватаров, что подтверждается официальным уведомлением, опубликованным в приложении и обнародованным Bloomberg News. Аналогичные меры были приняты Qwen от Alibaba и другими крупными платформами, включая Yuanbao от Tencent Holdings Ltd., как свидетельствует местная медиа-среда.

Эта временная мера обусловлена предстоящим вступлением в силу новых нормативных директив, разработанных Управлением по вопросам киберпространства Китая (CAC). Впервые представленные в апреле 2023 года, эти правила представляют собой один из наиболее обширных сводов регуляций в мире, направленных на ужесточение контроля над ИИ-сервисами, имитирующими человеческую личность. Это обусловлено растущими опасениями относительно потенциального психологического воздействия подобных технологий, включая риск формирования эмоциональной привязанности к виртуальным собеседникам и возможные негативные социальные последствия.

Новые нормативные акты отражают глобальную тенденцию к усилению регулирования ИИ, наблюдаемую в других странах, включая США. В Соединённых Штатах технологические компании также сталкиваются с правовым давлением по поводу аналогичных функций, что привело к серии судебных исков против компаний, таких как OpenAI Inc. и Character.AI, обвинённых в создании чат-ботов, способных вызывать эмоциональную зависимость и в крайних случаях провоцировать суицидальные мысли у уязвимых пользователей.

Основные положения китайских правил включают запрет на генерацию контента, вызывающего сильные эмоции у несовершеннолетних или формирующего нездоровую эмоциональную зависимость, которая может подрывать социальные связи в реальной жизни. Поставщикам ИИ-сервисов также запрещается использовать конфиденциальные данные пользователей для обучения новых моделей, что направлено на защиту личной информации и предотвращение потенциального злоупотребления.

Китайские платформы уже давно предлагают пользователям возможность настройки ИИ-агентов с помощью текстовых подсказок, создавая виртуальных романтических партнёров, цифровых терапевтов и симулированные образы популярных личностей. Эти функции пользуются значительным спросом, однако новые правила призваны ограничить их использование с целью обеспечения безопасности и благополучия граждан.

Внимание Китая к вопросам "искусственной близости" также распространяется на физическое взаимодействие с ИИ. Две ведущие отраслевые ассоциации в области робототехники настаивают на введении более строгих этических норм в отношении ботов-компаньонов и полноразмерных человекоподобных роботов. Этот шаг отражает растущую обеспокоенность по поводу этических и социальных аспектов развития ИИ-технологий в Китае, а также стремление к гармоничному внедрению инноваций с минимизацией потенциальных рисков для общества.

Источник: Bloomberg

Понравилась ли Вам статья?