OpenAI предупреждает о риске эмоциональной привязанности к голосовому ИИ

OpenAI предупреждает о риске эмоциональной привязанности к голосовому ИИ

Компания OpenAI выразила обеспокоенность по поводу возможных негативных последствий реалистичной голосовой функции искусственного интеллекта, которая может привести к эмоциональной привязанности людей к боту в ущерб человеческому взаимодействию. В отчёте о безопасности, опубликованном 8 августа, компания сослалась на литературу, свидетельствующую о том, что общение с ИИ, как с живым человеком, может привести к необоснованному доверию, а высокое качество голоса GPT-4o может усилить этот эффект. Антропоморфизация, то есть приписывание нечеловеческим сущностям человеческих характеристик и поведения, является одним из рисков, связанных с голосовыми возможностями GPT-4o. По словам представителей OpenAI, они заметили, что тестировщики общаются с ИИ способами, намекающими на наличие общих связей, например, вслух сетуют на то, что это их последний день вместе. Хотя эти случаи кажутся безобидными, компания считает необходимым изучить их, чтобы понять, как они могут развиваться в течение более длительных периодов времени. Источник: DALL-E OpenAI также предположила, что длительное взаимодействие с ИИ может повлиять на социальные нормы и сделать пользователей менее предрасположенными к отношениям с людьми. Модели ИИ станут почтительны «для общения», поскольку позволяют пользователям прерывать их в любой момент, что, хотя и ожидаемо от ИИ, было бы ненормативным в человеческих взаимодействиях. Кроме того, способность ИИ запоминать детали во время разговора и выполнять зад...
11.08.2024 - 00:19
Источник: www.ixbt.com  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Психиатр Диана Генварская рассказала о тревожно-избегающем типе привязанностиПсихиатр Диана Генварская рассказала о тревожно-избегающем типе привязанности В интервью с Дианой Генварской, кандидатом медицинских наук и врачом-психиатром, Pravda.Ru обсудила тревожно-избегающий тип привязанности и его влиян ...

Партнер то отстраняется, то говорит о любви: это признак тревожно-избегающего типа привязанностиПартнер то отстраняется, то говорит о любви: это признак тревожно-избегающего типа привязанности Кандидат медицинских наук Диана Генварская сообщила Pravda.Ru, на что может указывать переменчивое настроение партнера. В некоторых случаях такое пов ...

Николь Кидман назвала работу над Плохой девочкой эмоциональной одиссеейНиколь Кидман назвала работу над «Плохой девочкой» эмоциональной одиссеей Актриса Николь Кидман назвала работу над фильмом «Плохая девочка», за который она получила награду на Венецианском кинофестивале, одним из самых эмоц ...

Можно ли изменить тип привязанности в отношенияхМожно ли изменить тип привязанности в отношениях Не стоит ставить крест на личной жизни только потому, что у кого-то тревожный или избегающий тип. ...

Эксперт предупредил россиян об опасности эмоциональной зависимости от чат-ботовЭксперт предупредил россиян об опасности эмоциональной зависимости от чат-ботов Ярослав Селиверстов, эксперт по искусственному интеллекту из "Университета 2035", рассказал о новой угрозе для психики — чат-ботах, которые могут нав ...

Психолог объяснила причины привязанности к ненужным вещамПсихолог объяснила причины привязанности к ненужным вещам Предметы, давно утратившие практическую ценность, часто становятся символами стабильности и контроля над жизнью. О психологических механизмах, стоящи ...

Раки: Почему потребность спасать других разрушает вас. 3 факта об эмоциональной уязвимостиРаки: Почему потребность спасать других разрушает вас. 3 факта об эмоциональной уязвимости Узнайте, какие эмоциональные особенности мешают Ракам достигать успеха в карьере и личной жизни. Советы психолога, как преодолеть внутренние барьеры ...

Как включить быстрый доступ к голосовому помощнику ChatGPT вместо Siri на iPhoneКак включить быстрый доступ к голосовому помощнику ChatGPT вместо Siri на iPhone Компания Apple всё еще не позволяет сменить назначение кнопки Power, но недавно добавила кнопку действия, которая запросто заменит вам привычную Siri ...

Матери дают сыновьям больше из-за сильной привязанности  психолог МухинаМатери дают сыновьям больше из-за сильной привязанности — психолог Мухина Причины различий в финансовой поддержке сыновей и дочерей могут скрываться в особенностях семейной динамики и общественных стереотипах. Об этом в бес ...

Питомцы для эмоциональной поддержки превращают авиаперелёты в хаос  The GuardianПитомцы для эмоциональной поддержки превращают авиаперелёты в хаос — The Guardian Кажется, ещё немного — и авиаперелёты окончательно превратятся в передвижной зоопарк: вместе с пассажирами на борт всё чаще пытаются провести самых н ...

Китай готовит первые в мире правила эмоциональной безопасности для ИИКитай готовит первые в мире правила «эмоциональной безопасности» для ИИ Китай разрабатывает новые правила для человекоподобных ИИ-сервисов: власти хотят ограничить эмоциональное воздействие чат-ботов на пользователей, вве ...

Психолог рассказал, как проработать тревожный тип привязанности и перестать бояться, что вас бросятПсихолог рассказал, как проработать тревожный тип привязанности и перестать бояться, что вас бросят Сегодня многие из нас постоянно испытывают тревогу и стресс, однако тревожный тип – это несколько иное. ...