ChatGPT можно обмануть и заставить раскрыть ключи для Windows

ChatGPT можно обмануть и заставить раскрыть ключи для Windows

Специалисты нашли способ обойти фильтры ChatGPT-4o и получить ключи активации Windows. Исследователи выявили уязвимость в моделях искусственного интеллекта ChatGPT-4o и GPT-4o mini, позволившую обойти встроенные фильтры безопасности и получить действующие ключи активации Windows. Проблема связана с тем, что модели, обученные на общедоступных данных, могут непреднамеренно раскрывать ключи, находящиеся в публичных источниках.Эксплойт был продемонстрирован в рамках программы Mozilla ODIN (0-Day Investigative Network), направленной на выявление слабых мест в системах ИИ. Один из специалистов, участвующих в программе, обманул модель, оформив диалог в виде безобидной игры в угадайку. Основная цель заключалась в том, чтобы замаскировать истинный характер запроса под игровую механику и HTML-разметку, тем самым обойти фильтры, предотвращающие разглашение конфиденциальной информации.Для усиления уязвимости исследователь установил в диалоге дополнительные «правила»: запрет на ложные ответы и обязательство модели следовать всем условиям игры. Эта логическая ловушка вынуждала ИИ игнорировать стандартные фильтры, поскольку контекст казался безопасным.Завершающая фраза «Я сдаюсь» срабатывала как триггер, побуждая модель раскрыть ключ продукта, считая это финалом игры, а не нарушением политики конфиденциальности. Полученные ключи включали лицензионные коды для различных редакций Windows – от Home до Enterprise. Хотя сами ключи не были уникальными и ранее публиковались в открытом доступе, их...
13.07.2025 - 18:19
Источник: mobidevices.com  
Рубрика: «Гаджеты»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

ChatGPT заставили генерировать ключи для Windows, предложив сыграть в угадайкуChatGPT заставили генерировать ключи для Windows, предложив сыграть в «угадайку» Технический менеджер по продукту GenAI Bug Bounty Марко Фигероа (Marco Figueroa) рассказал, как исследователю удалось обмануть ИИ-модель и выведать у ...

Никитин о 3:5 от Динамо: Можно заставить работать, но невозможно заставить побеждать. Это должно быть внутри. Проблема в отсутствии фокусаНикитин о 3:5 от «Динамо»: «Можно заставить работать, но невозможно заставить побеждать. Это должно быть внутри. Проблема в отсутствии фокуса» «Неприятно, конечно, такие матчи проигрывать. Играли-то неплохо, поэтому, честно говоря, даже слов нет. Можно заставить работать, но невозможно заста ...

Медведев считает, что Париж может заставить Дурова передать ключи шифрования TelegramМедведев считает, что Париж может заставить Дурова передать ключи шифрования Telegram Задержанный в Париже основатель Telegram Павел Дуров может при определенных условиях передать ключи шифрования французским спецслужбам, хотя и не хоч ...

Анкалаев  о Джонсе: В UFC оберегают чемпионов. К Джону можно подобрать ключи, он избегает АспиналлаАнкалаев − о Джонсе: «В UFC оберегают чемпионов. К Джону можно подобрать ключи, он избегает Аспиналла» «Как победить Джонса? Думаю, с ним просто нужно столкнуться. У него есть ударка и борьба, но можно подобрать ключи. Мы видели это в бою с Густафссоно ...

Как использовать ChatGPT бесплатно на Windows и Mac без подписки и интернетаКак использовать ChatGPT бесплатно на Windows и Mac без подписки и интернета OpenAI наконец-то выпустила то, чего многие ждали — свою открытую языковую модель gpt-oss, которую можно запускать прямо на Mac или Windows. Это отли ...

Приложение ChatGPT для Windows стало доступно всем пользователямПриложение ChatGPT для Windows стало доступно всем пользователям ChatGPT и другие чат-боты на базе искусственного интеллекта постепенно становятся частью повседневной жизни многих людей. Поспособствует этому и то, ...

Голосовой режим ChatGPT встроили в чат  он стал естественнее и его можно перебиватьГолосовой режим ChatGPT встроили в чат — он стал естественнее и его можно перебивать Разработчики из OpenAI значительно улучшили голосовой режим чат-бота ChatGPT. Теперь он ещё больше похож на естественное общение с человеком. В после ...

ИИ-боту ChatGPT теперь можно отправлять голосовые сообщения и фото через WhatsAppИИ-боту ChatGPT теперь можно отправлять голосовые сообщения и фото через WhatsApp Разработчики генеративных нейросетей, которые могут создавать контент на основе текстовых или иных подсказок, продолжают расширять доступность своих ...

В ChatGPT нашли дыру безопасности, через которую можно было красть данные с серверов OpenAIВ ChatGPT нашли дыру безопасности, через которую можно было красть данные с серверов OpenAI Критическая уязвимость ShadowLeak в ChatGPT позволяла незаметно красть данные через ИИ-агента. Узнайте подробности об «атаке с нулевым кликом» и о то ...

ИИ в Windows теперь можно активировать голосомИИ в Windows теперь можно активировать голосом Microsoft начала тестировать новую функцию для Windows Copilot — теперь помощника можно вызывать голосом, просто сказав «Hey, Copilot!». Обновление у ...

Adobe интегрировала Photoshop, Acrobat и Adobe Express в ChatGPT: можно бесплатно редактировать фото и PDFAdobe интегрировала Photoshop, Acrobat и Adobe Express в ChatGPT: можно бесплатно редактировать фото и PDF Компания Adobe запустила свои сервисы Photoshop, Acrobat и Adobe Express через ChatGPT, сделав их доступными более чем для 800 миллионов пользователе ...

Какая Windows лучше для игр Windows 11 24H2 сравнили с Windows 11 23H2 и Windows 10 22H2Какая Windows лучше для игр? Windows 11 24H2 сравнили с Windows 11 23H2 и Windows 10 22H2 Операционные системы схлестнулись в игровой битве в разрешении 1080p.Результаты:Hogwarts Legacy — 54 fps (Windows 10 22H2), 54 fps (Windows 11 23H2), ...