ArsTechnica: Уязвимость сгенерированного ИИ-кода может грозить атаками хакеров

ArsTechnica: Уязвимость сгенерированного ИИ-кода может грозить атаками хакеров

Сгенерированный нейросетями код может быть подвержен уязвимостям, связанным с использованием несуществующих библиотек, что открывает возможность для атак на цепочку поставок. Согласно исследованию ArsTechnica, в каждом втором фрагменте кода, созданном с помощью 16 популярных больших языковых моделей (LLM), встречаются ссылки на фиктивные зависимости. В ходе эксперимента было проанализировано более 576 тыс. фрагментов кода, из которых 440 тыс. зависимостей оказались вымышленными. Такая ошибка может привести к атакам типа dependency confusion или slopsquatting, когда злоумышленники регистрируют вредоносный пакет с таким же именем, как у вымышленной библиотеки, предложенной ИИ. Если разработчик без проверки установит такой пакет, вредоносный код может попасть в систему. Особенно уязвимыми оказались языки Python и JavaScript, где зависимость от сторонних библиотек распространена. Исследование показало, что 19,7% всех ссылок на пакеты в сгенерированном коде были на несуществующие библиотеки, при этом модели с открытым исходным кодом ошибались в 22% случаев. Эксперты предупреждают о необходимости внедрения инструментов мониторинга безопасности и более строгой проверки сгенерированного кода....
02.05.2025 - 18:19
Источник: astera.ru  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В Android исправили уязвимость, находящуюся под атакамиВ Android исправили уязвимость, находящуюся под атаками Компания Google выпустила ежемесячные обновления для Android, которые устранили 34 различных уязвимости, включая проблему CVE-2024-32896, которая уже ...

Google исправила в Android 0-day уязвимость, находившуюся под атакамиGoogle исправила в Android 0-day уязвимость, находившуюся под атаками Компания Google выпустила февральский набор патчей для Android. В общей сложности обновления исправляют 48 уязвимостей, включая 0-day уязвимость в яд ...

В системе защиты Cisco нашли критическую уязвимость-лазейку для хакеровВ системе защиты Cisco нашли критическую уязвимость-лазейку для хакеров Cisco предупредила о серьёзной уязвимости в своём программном обеспечении Secure Firewall Threat Defense (FTD). Ошибка затрагивает компонент, который ...

Дурову может грозить до 10 лет тюрьмыДурову может грозить до 10 лет тюрьмы По решению следственного судьи, занимавшегося делом, Дурова поместили под судебный надзор. Также он должен внести залог в размере €5 млн, сообща ...

Что может грозить ставропольчанам за непокос травыЧто может грозить ставропольчанам за непокос травы? По статье 10. 1. КоАП РФ тем, кто нарушает правила борьбы с сорняками и карантинными растениями, грозит административная ответственность в размере от ...

Топ-10 губернаторов, которым может грозить отставкаТоп-10 губернаторов, которым может грозить отставка Политолог Дмитрий Орлов рассказал о возможных проблемах для губернаторов в связи с предстоящими выборами в 2025 году. Несмотря на укрепление "Единой ...

До 15 лет лишения свободы может грозить нарко-рецидивисту в БиробиджанеДо 15 лет лишения свободы может грозить нарко-рецидивисту в Биробиджане Полиция пресекла деятельность местного жителя, организовавшего в Биробиджане незаконный сбыт наркотиков каннабисной группы. Ранее мужчина уже был суд ...

Покупка овощей и фруктов в палатке может грозить уголовкойПокупка овощей и фруктов в палатке может грозить уголовкой В большинстве случаев продукты в палатках продают иностранные граждане, приехавшие в Россию на заработки, поэтому вопрос социальной ответственности п ...

Россиянам за оставленные в подъезде коляски и велосипеды может грозить штрафРоссиянам за оставленные в подъезде коляски и велосипеды может грозить штраф Жильцам жилого дома могут выписать штраф, если они будут оставлять коляски, санки, велосипеды и прочее свое имущество в подъездах в непредназначенных ...

Адвокат: Платная учеба в Йеле может грозить уголовным наказаниемАдвокат: Платная учеба в Йеле может грозить уголовным наказанием Платная учеба в Йеле (признан нежелательным на территории РФ) может грозить административным или уголовным наказанием, сообщает РИА Новости со ссылко ...

Адвокат Бенхин рассказал, что может грозить арестованному блогеру ЛитвинуАдвокат Бенхин рассказал, что может грозить арестованному блогеру Литвину Адвокат Александр Бенхин высказался о ситуации вокруг блогера и президента команды Lit Energy Михаила Литвина. ...

В Госдуме объяснили, когда за использование VPN и YouTube может грозить штрафВ Госдуме объяснили, когда за использование VPN и YouTube может грозить штраф Использование VPN-сервисов на территории России не запрещено, и административная ответственность за сам факт их применения не предусмотрена ...

☰