Новый метод защиты ИИ защищает модели от атак противников

Новый метод защиты ИИ защищает модели от атак противников

Нейронные сети, тип искусственного интеллекта, смоделированный на основе связей человеческого мозга, являются движущей силой критических прорывов в широком спектре научных областей. Но эти модели сталкиваются со значительной угрозой со стороны враждебных атак, которые могут свести на нет прогнозы и выдавать неверную информацию. Исследователи из Национальной лаборатории Лос-Аламоса разработали новую стратегию очистки, которая противодействует состязательным атакам и сохраняет надежную работу нейронных сетей . Их исследование опубликовано на сервере препринтов arXiv . «Атаки на системы искусственного интеллекта могут принимать форму крошечных, почти невидимых изменений в изображениях ввода, тонких модификаций, которые могут направить модель к желаемому злоумышленником результату», — сказал Маниш Бхаттараи, компьютерный ученый из Лос-Аламоса. «Такие уязвимости позволяют злоумышленникам наводнять цифровые каналы обманчивым или вредоносным контентом под видом подлинных выходных данных, что создает прямую угрозу доверию и надежности технологий, управляемых искусственным интеллектом». Метод низкоранговой итерационной диффузии (LoRID) удаляет вредоносные вмешательства из входных данных, используя мощь генеративных шумоподавляющих диффузионных процессов в тандеме с передовыми методами тензорной декомпозиции. В серии тестов на эталонных наборах данных LoRID достиг непревзойденной точности в нейтрализации вредоносного шума в сценариях атак, потенциально продвигая более безопасные и наде...
11.03.2025 - 00:19
Источник: android-robot.com  
Рубрика: «Игры и Интернет»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Новый метод эффективно защищает конфиденциальные данные обучения ИИНовый метод эффективно защищает конфиденциальные данные обучения ИИ Конфиденциальность данных имеет свою цену. Существуют методы безопасности, которые защищают конфиденциальные пользовательские данные, такие как адрес ...

Учёные Ставрополья представили новый инновационный метод защиты цифровых данныхУчёные Ставрополья представили новый инновационный метод защиты цифровых данных Исследователи из Северо-Кавказского федерального университета представили новый метод обнаружения угроз, связанных с ненадежными и скомпрометированны ...

Вся мощь ИИ в деле: как WARP защищает от невидимых атакВся мощь ИИ в деле: как WARP защищает от «невидимых» атак VK, ранее известная как Mail.ru Group, представила передовое решение для защиты своих платформ от различных угроз — систему WARP (Web Application Res ...

Китай представил метод защиты от американской противобункерной авиабомбы GBU-57Китай представил метод защиты от американской противобункерной авиабомбы GBU-57 В Китае исследователи обнаружили потенциальную уязвимость в конструкции корректируемой противобункерной авиабомбы GBU-57 Massive Ordnance Penetrator ...

В NixOS предложен метод защиты от подстановки бэкдоров, таких как в XZВ NixOS предложен метод защиты от подстановки бэкдоров, таких как в XZ Для включения в репозиторий пакетов nixpkgs, применяемый в дистрибутиве NixOS, предложен режим повторяемых сборок, позволяющий выявлять случаи внедре ...

Европейские ученые разработали метод регенерации нерва для защиты сердцаЕвропейские ученые разработали метод регенерации нерва для защиты сердца Европейские исследователи предложили новый подход к замедлению возрастных изменений сердечной мышцы за счет восстановления связи сердца с блуждающим ...

Виды атак и методы защиты Guardant SLK против нихВиды атак и методы защиты Guardant SLK против них «Предупрежден — значит вооружен» — очень важный принцип в информационной безопасности. Если вы знаете основные типы атак, которые могут применять взл ...

Солар запустил сервис защиты интернет-магазинов от веб-атак с финансовыми гарантиями«Солар» запустил сервис защиты интернет-магазинов от веб-атак с финансовыми гарантиями ГК «Солар» запустила сервис защиты от веб-атак (WAF) с финансовыми гарантиями для онлайн-ресурсов интернет-магазинов.... ...

Servicepipe исследовала сервера Kraftway для построения на их основе ПАКа для защиты от DDoS-атакServicepipe исследовала сервера Kraftway для построения на их основе ПАКа для защиты от DDoS-атак Компания Servicepipe, российский разработчик решений для анализа и фильтрации нежелательного трафика, завершила тестирование... ...

МТС запускает сервис защиты от DDoS-атак для операторов связи и владельцев автономных системМТС запускает сервис защиты от DDoS-атак для операторов связи и владельцев автономных систем Компания «МТС» объявляет о запуске услуги для операторов связи и владельцев автономных систем - высокоскоростного доступа в интернет с интегрированно ...

Обход защиты от атак Spectre и эксплоит для извлечения данных из памяти другого процессаОбход защиты от атак Spectre и эксплоит для извлечения данных из памяти другого процесса Исследователи из Швейцарской высшей технической школы Цюриха выявили два способа обхода защиты от атак класса Spectre, основанной на использовании пр ...

ГК Новый город защищает инфраструктуру с помощью смарт-карт РутокенГК «Новый город» защищает инфраструктуру с помощью смарт-карт «Рутокен» Компания «Актив» помогла ГК «Новый город» внедрить смарт-карты «Рутокен» для безопасного доступа сотрудников... ...