Угрозы ИИ при разработке программного обеспечения выявлены в новом исследовании

Угрозы ИИ при разработке программного обеспечения выявлены в новом исследовании

Исследователи UTSA недавно завершили одно из самых всеобъемлющих исследований на сегодняшний день, посвященных рискам использования моделей ИИ для разработки программного обеспечения. В новой статье они демонстрируют, как определенный тип ошибки может представлять серьезную угрозу для программистов, использующих ИИ для написания кода. Джо Спраклен, докторант UTSA по информатике, возглавил исследование того, как большие языковые модели (LLM) часто генерируют небезопасный код. Статья его команды, опубликованная на сервере препринтов arXiv, также была принята к публикации на USENIX Security Symposium 2025 — конференции по кибербезопасности и конфиденциальности. В многоинституциональном сотрудничестве приняли участие еще три исследователя из UTSA: докторант AHM Назмус Сакиб, научный сотрудник-постдокторант Равин Виджевикрама и доцент д-р Муртуза Джадливала, директор SPriTELab (Исследовательская лаборатория безопасности, конфиденциальности, доверия и этики в области вычислений). Дополнительными соавторами были Аниндья Майта из Университета Оклахомы (бывший научный сотрудник UTSA) и Бимал Вишванат из Политехнического университета Вирджинии. Галлюцинации в LLM возникают, когда модель производит контент, который фактически неверен, бессмыслен или совершенно не связан с задачей ввода. Большинство текущих исследований до сих пор были сосредоточены в основном на галлюцинациях в классических задачах генерации и прогнозирования естественного языка, таких как машинный перевод, реферировани...
11.04.2025 - 12:19
Источник: android-robot.com  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Орловец осужден за использование вредоносного программного обеспеченияОрловец осужден за использование вредоносного программного обеспечения Мужчина признан виновным в совершении преступления, предусмотренного частью 1 статьи 273 Уголовного кодекса Российской Федерации. ИА “Орелград& ...

Покупателей отечественного программного обеспечения поддержат снижением налоговПокупателей отечественного программного обеспечения поддержат снижением налогов С 2025 года российские компании смогут учитывать расходы на отечественное ПО и высокотехнологичные решения с двойным коэффициентом – это снизит налог ...

По развитию программного обеспечения область занимает 18 место в РоссииПо развитию программного обеспечения область занимает 18 место в России По уровню развития индустрии разработки программного обеспечения Саратовская область занимает 18 место в России и седьмое в ПФО.По данным ассоциации ...

Объекты КИИ перейдут на преимущественное использование российского программного обеспеченияОбъекты КИИ перейдут на преимущественное использование российского программного обеспечения Го­сударс­твен­ная Ду­ма при­няла во вто­ром и треть­ем чте­ниях за­коноп­роект, ко­торый обя­зывает важ­ные объ­ек­ты кри­тичес­кой ин­фор­ма­цион­н ...

Контроль конфигураций включен в реестр отечественного программного обеспечения«Контроль конфигураций» включен в реестр отечественного программного обеспечения Система управления безопасностью конфигураций программного обеспечения «Контроль конфигураций», разработанная... ...

Минцифры Республики Татарстан и АО Р7 договорились сотрудничать по импортозамещению программного обеспеченияМинцифры Республики Татарстан и АО «Р7» договорились сотрудничать по импортозамещению программного обеспечения Глава Министерства цифрового развития государственного управления, информационных технологий и связи Республики... ...

Apple добавляет интеграцию ChatGPT в последнее обновление программного обеспеченияApple добавляет интеграцию ChatGPT в последнее обновление программного обеспечения В среду технологический гигант Apple выпустил крупные обновления своих решений в области искусственного интеллекта, которые интегрируют ChatGPT от Op ...

Открытие кода программного обеспечения для умных часов Pebble WatchОткрытие кода программного обеспечения для умных часов Pebble Watch Эрик Мигиковски (Eric Migicovsky), основатель компании Pebble Technology, объявил об открытии недостающего исходного кода программного обеспечения Pe ...

GM открыла лабораторию для предотвращения ошибок программного обеспечения в новых автомобиляхGM открыла лабораторию для предотвращения ошибок программного обеспечения в новых автомобилях Компания General Motors Co. создала лабораторию по тестированию программного обеспечения в своем Глобальном техническом центре, которую она копирует ...

Anthropic представила Claude Sonnet 4.5 новую AI-модель для разработки программного обеспеченияAnthropic представила Claude Sonnet 4.5 — новую AI-модель для разработки программного обеспечения Модель уже получила положительные отзывы от технологических компаний. Cursor, Windsurf и Replit активно используют Claude в своих разработках. Руково ...

Российский разработчик программного обеспечения Ред Софт вошел в состав Ассоциации ФинТехРоссийский разработчик программного обеспечения «Ред Софт» вошел в состав Ассоциации «ФинТех» На площадке Ассоциации ФинТех (АФТ) «Ред Софт» намерен участвовать в инициативах, направленных на развитие технологического... ...

Nauka Lab завершила тестирование сервера Qtech QSRV-171012-P-R и программного обеспечения РОСАNauka Lab завершила тестирование сервера Qtech QSRV-171012-P-R и программного обеспечения РОСА Исследовательская ИТ-лаборатория отечественных решений Nauka Lab в партнерстве с российскими вендорами производит... ...

☰