OpenAI устранила уязвимости безопасности в голосовом режиме ChatGPT

OpenAI устранила уязвимости безопасности в голосовом режиме ChatGPT

Компания OpenAI опубликовала отчёт о функциях безопасности GPT-4o, базовой модели, на которой основана последняя версия ChatGPT с голосовым режимом. В документе рассматриваются известные проблемы, возникающие при использовании модели, и описываются меры по их устранению. Голосовой режим ChatGPT, доступный для избранной группы пользователей с подпиской ChatGPT Plus, имеет некоторые уязвимости безопасности. Среди них — стандартные риски, такие как подсказки модели с эротическими, жестокими или другими запрещёнными ответами, а также «необоснованные выводы» и «атрибуция чувствительных тем», которые могут быть дискриминационными или предвзятыми. OpenAI заявляет, что обучила модель блокировать любые выходные данные, отмеченные в этих категориях. Однако, в отчёте также говорится, что смягчения не включают «невербальные вокализации или другие звуковые эффекты», такие как эротические стоны, яростные крики и выстрелы. Таким образом, подсказки, включающие определённые чувствительные невербальные звуки, всё ещё могут быть получены в ответах. Источник: Ismail Aslandag / Anadolu / Getty Images Дополнительные аспекты модели включают возможность вынудить GPT-4o выдавать себя за кого-то или имитировать голос пользователя. Чтобы бороться с этим, OpenAI допускает только предварительно авторизованные голоса. GPT-4o также может идентифицировать другие голоса, помимо голоса говорящего, что представляет собой проблему конфиденциальности. Но...
11.08.2024 - 00:19
Источник: www.ixbt.com  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

OpenAI забеспокоилась об отношениях людей с ChatGPT в новом голосовом режимеOpenAI забеспокоилась об отношениях людей с ChatGPT в новом голосовом режиме Общение с ИИ-чат-ботом ChatGPT в новом голосовом режиме, когда его голос ничем не отличается от человеческого, может привести к появлению у пользоват ...

В ChatGPT нашли дыру безопасности, через которую можно было красть данные с серверов OpenAIВ ChatGPT нашли дыру безопасности, через которую можно было красть данные с серверов OpenAI Критическая уязвимость ShadowLeak в ChatGPT позволяла незаметно красть данные через ИИ-агента. Узнайте подробности об «атаке с нулевым кликом» и о то ...

Google наконец устранила уязвимости в Android-драйверах Qualcomm, обнаруженные в январеGoogle наконец устранила уязвимости в Android-драйверах Qualcomm, обнаруженные в январе В обновлении безопасности Android за август 2025 года Google исправила шесть уязвимостей операционной системы, в том числе две, которые были обнаруже ...

Google устранила две опасные уязвимости в Android, которые хакеры уже вовсю использовалиGoogle устранила две опасные уязвимости в Android, которые хакеры уже вовсю использовали Google выпустила экстренный патч для Android, устраняющий две уязвимости нулевого дня, которые, по данным компании, уже могут использоваться хакерами ...

Модель OpenAI o1 почти идеально устранила математическую предвзятость, но данные это так и не подтвердилиМодель OpenAI o1 «почти идеально» устранила математическую предвзятость, но данные это так и не подтвердили Комментарии Анны Маканджу, вице-президента OpenAI по глобальным делам, привлекли интерес людей по всему миру. Выступая на дискуссии во время саммита ...

В процессорах Apple обнаружены уязвимости безопасностиВ процессорах Apple обнаружены уязвимости безопасности Американский технологический гигант Apple всегда рекламировал гарантии безопасности наряду со все более высокой производительностью процессоров для с ...

Хакер сделал конкурента ChatGPT соучастником вымогательской кампании: ИИ искал уязвимости и писал угрозыХакер сделал конкурента ChatGPT соучастником вымогательской кампании: ИИ искал уязвимости и писал угрозы Компания Anthropic раскрыла детали беспрецедентной хакерской атаки, в которой злоумышленник использовал её ИИ-ассистента для полной автоматизации мас ...

OpenAI представила GPT-4.5 для ChatGPTOpenAI представила GPT-4.5 для ChatGPT Стартап OpenAI анонсировал GPT-4.5 — улучшенную версию своей ИИ-модели, способную лучше распознавать закономерности, устанавливать связи и генерирова ...

OpenAI представила ChatGPT-5OpenAI представила ChatGPT-5 OpenAI представила GPT-5 — флагманскую AI-модель, которая станет основой следующего поколения ChatGPT. Это первая «унифицированная» модель компании, ...

Проверки выявили уязвимости безопасности Лувра до ограбленияПроверки выявили уязвимости безопасности Лувра до ограбления Система безопасности Лувра демонстрировала критические уязвимости задолго до масштабного ограбления. Согласно расследованию Le Monde, проверки 2017-2 ...

OpenAI запускает шопинг в ChatGPTOpenAI запускает шопинг в ChatGPT OpenAI начинает поэтапный запуск новой функции в ChatGPT — теперь прямо в чате можно будет выбирать товары, смотреть цены и читать отзывы. Покупку вс ...

Уязвимости в беспроводных наушниках могут угрожать безопасности пользователейУязвимости в беспроводных наушниках могут угрожать безопасности пользователей Инженер-аналитик Екатерина Едемская из компании «Газинформсервис» в беседе с «РИА Новости» предупредила о потенциальных угрозах, ...

☰