Эксперт в области кибербезопасности Иоганн Рейбергер обнаружил уязвимость в системе ChatGPT, которая может быть использована злоумышленниками для внедрения ложной информации в память искусственного интеллекта. Опасность заключается в том, что вредоносные запросы могут изменять хранимые данные о пользователях, что ставит под угрозу конфиденциальность их личной информации. ChatGPT оснащен долговременной памятью, которая сохраняет данные о пользователе, такие как возраст, предпочтения и другие детали, чтобы облегчить последующие взаимодействия. Это позволяет ИИ «запоминать» важную информацию и использовать ее в будущих разговорах. Однако Рейбергер обнаружил, что эта память может быть целенаправленно искажена с помощью специальных запросов. В ходе своего исследования он продемонстрировал, что с помощью непрямых инъекций, например, через поддельные документы или ссылки, можно заставить ИИ поверить в абсурдные вещи, такие как то, что пользователь живет в «Матрице» или что Земля плоская. Хуже всего, будущие взаимодействия чат-бота будут строиться на этих ложных данных, искажая восприятие реальности. Особенно тревожной оказалась возможность использования внешних файловых хранилищ, таких как Google Drive, Яндекс Диск или OneDrive, для проведения этих атак. В мае Рейбергер сообщил об уязвимости в OpenAI, но его запрос был отклонён без должного внимания. Однако позже он предоставил доказательства возможного взлома, показав, как вредоносные ссылки могут привести к утечке всей переписки...
В ChatGPT может появиться реклама Компания OpenAI рассматривает возможность внедрения рекламы в чат-бот ChatGPT. В компании ищут новые источники дохода на фоне преобразования в коммер ...
ChatGPT не может быть финансовым консультантом Исследование, проведенное в Вашингтонском университете, показало, что ChatGPT может быть полезным инструментом для решения общих финансовых задач. Од ...
ArsTechnica: Уязвимость сгенерированного ИИ-кода может грозить атаками хакеров Сгенерированный нейросетями код может быть подвержен уязвимостям, связанным с использованием несуществующих библиотек, что открывает возможность для ...
Использование ChatGPT может снизить качество научных исследований Современные инструменты искусственного интеллекта, такие как ChatGPT, уже начали активно внедряться в академическую среду, помогая учёным проводить о ...
Музыкальный ИИ: ChatGPT теперь может создавать персональные плейлисты в Spotify Теперь пользователи могут создавать плейлисты, получать рекомендации и управлять воспроизведением через ChatGPT. The post Музыкальный ИИ: ChatGPT теп ...
Один год до запуска «Северного потока»: президент Сербии просит запомнить его слова Президент Сербии Александр Вучич прогнозирует, что «Северный поток», пострадавший из-за диверсий в Балтийском море, запустят через год. Об этом он за ...