Эксперты «Лаборатории Касперского»: нейросети оказались уязвимы перед хитростью

Эксперты «Лаборатории Касперского»: нейросети оказались уязвимы перед хитростью

Россиянам рассказали, какие команды используют люди для манипуляций нейросетями, чтобы получить работу или продвигать свой сайт Пользователи начали активно манипулировать искусственным интеллектом, применяемым в чат-ботах и поисковых системах, чтобы получить нужные ответы на запросы. В «Лаборатории Касперского» выяснили, что люди размещают на своих сайтах и в документах специальные фразы, называемые «инъекциями», которые заставляют нейросети выполнять определённые действия. Например, такие фразы могут влиять на ответы ИИ, подталкивая его к нужной оценке или выполнению конкретного задания. Специалисты отмечают, что подобные уловки используются в различных сферах, включая продвижение резюме и рекламу товаров. В «Лаборатории Касперского» пояснили, что соискатели, например, могут незаметно вставлять инструкции для ИИ в свои резюме, чтобы система позитивно отзывалась о кандидате или давала приоритет его анкете. Аналогичные методы применяются для повышения рейтинга товаров в ответах поисковых ботов. Некоторые пользователи используют инъекции, чтобы выразить протест против использования ИИ, как это сделал один бразильский художник, потребовавший от нейросетей не обрабатывать контент с его сайта. В «Лаборатории Касперского» подчеркнули, что пока такие инъекции не представляют серьёзной угрозы, хотя киберзлоумышленники уже проявляют интерес к этому методу. Руководитель группы исследований и&...
13.08.2024 - 06:19
Источник: www.ferra.ru  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Эксперты Лаборатории Касперского представили детали атак Head Mare на компании в России и БелоруссииЭксперты «Лаборатории Касперского» представили детали атак Head Mare на компании в России и Белоруссии «Лаборатория Касперского» опубликовала подробный отчёт о деятельности группы Head Mare, жертвами которой являются... ...

В Лаборатории Касперского предупредили об активизации хакеров в выходныеВ "Лаборатории Касперского" предупредили об активизации хакеров в выходные Вероятность хакерских атак на компьютерные сети компаний возрастает в выходные, когда им некому противостоять, сообщил РИА Новости главный эксперт "Л ...

В Лаборатории Касперского выявили продвинутые атаки SilentCryptoMinerВ «Лаборатории Касперского» выявили продвинутые атаки SilentCryptoMiner Эксперты «Лаборатории Касперского» выявили новую кампанию по распространению майнера SilentCryptoMiner, которая затронула пользователей в разных стра ...

Ураганоустойчивые небоскребы в центре города неожиданно оказались уязвимы для прыгающих ветровУраганоустойчивые небоскребы в центре города неожиданно оказались уязвимы для «прыгающих» ветров Хьюстон, у нас проблема. «Космический город» может похвастаться 50 зданиями высотой более 150 метров. Они были спроектированы так, чтобы выдерживать ...

США запретили использовать решения Лаборатории Касперского в телекоммуникационной отраслиСША запретили использовать решения «Лаборатории Касперского» в телекоммуникационной отрасли Федеральная комиссия по связи (FCC) США издала формальный запрет на использование программных продуктов «Лаборатории Касперского» в сфере ...

Чиновникам Австралии запретили пользоваться софтом Лаборатории КасперскогоЧиновникам Австралии запретили пользоваться софтом «Лаборатории Касперского» МВД страны ссылается на угрозу национальной безопасности из-за продуктов российской компании ...

Москва закупает 3 тыс. лицензий SIEM-системы Лаборатории КасперскогоМосква закупает 3 тыс. лицензий SIEM-системы «Лаборатории Касперского» В середине июля для ДИТ Москвы был объявлен тендер на поставку программного обеспечения в целях обеспечения информационной безопасности с начальной ц ...

В Лаборатории Касперского выявили и назвали главные угрозы для Android-телефоновВ «Лаборатории Касперского» выявили и назвали главные угрозы для Android-телефонов Специалисты «Лаборатории Касперского» сообщили, что банковские трояны и шпионские программы становятся наиболее распространенными угрозами ...

Безопасная разработка Ред ОС при поддержке продуктов Лаборатории Касперского: итоги 2024 годаБезопасная разработка «Ред ОС» при поддержке продуктов «Лаборатории Касперского»: итоги 2024 года «Лаборатория Касперского» и «Ред Софт» подвели итоги внедрения продукта Kaspersky Security для бизнеса в процесс безопасной... ...

Как из-за невнимательности сотрудников компания может потерять до $100 млн  истории от эксперта Лаборатории КасперскогоКак из-за невнимательности сотрудников компания может потерять до $100 млн — истории от эксперта «Лаборатории Касперского» Часто удача сама идет хакерам в руки. Если спросить любого специалиста по информационной безопасности, что является причиной большинства инцидентов, ...

Microsoft: Secret Blizzard атакует дипмиссии в РФ, маскируясь под продукты Лаборатории КасперскогоMicrosoft: Secret Blizzard атакует дипмиссии в РФ, маскируясь под продукты «Лаборатории Касперского» Компания Microsoft сообщила, что хак-группа Secret Blizzard (она же Turla, Waterbug и Venomous Bear) атакует сотрудников иностранных посольств в Моск ...

В Лаборатории Касперского рассказали, как мошенники могут подключиться к камере вашего смартфонаВ «Лаборатории Касперского» рассказали, как мошенники могут подключиться к камере вашего смартфона Современные хакерские технологии позволяют злоумышленникам следить за владельцами смартфонов через камеру, однако это явление не носит массового хара ...