Конфиденциальность и этика в открытых ИИ-сервисах становятся проблемой

Конфиденциальность и этика в открытых ИИ-сервисах становятся проблемой

Новый отчет компании UpGuardraises серьезные вопросы относительно конфиденциальности и этических аспектов использования открытых сервисов искусственного интеллекта. Исследование, показало, что некоторые сайты чат-ботов для взрослых публикуют личные данные пользователей в открытый доступ. Анализ 400 «открытых» сервисов ИИ, работающих на протоколе llama.cpp, выявил 117 IP-адресов, передающих запросы пользователей в общедоступную среду. В течение суток UpGuard собрал почти 1000 утечек пользовательских чатов, среди которых 5 содержали материалы, связанные с сексуальным насилием над детьми. Хотя UpGuard не смогла идентифицировать конкретные сайты или сервисы, стало ясно, что на них присутствуют чат-боты для ролевых игр, позволяющие пользователям воплощать определенные «персонажи». Данный отчет вызывает беспокойство на нескольких уровнях. Во-первых, утечка личных данных пользователей, участвующих в интимных беседах с ИИ-чат-ботами, является серьезным нарушением конфиденциальности. Во-вторых, открытый доступ к таким данным демонстрирует темную сторону генеративного ИИ, где нерегулируемые сервисы используются для реализации жестоких и опасных сексуальных фантазий. По мнению вице-президента UpGuard Грега Поллока, это далеко не первый случай, когда генеративный ИИ используется для создания или потребления детской порнографии. Недавние инциденты с утечками данных в южнокорейском стартапе по созданию изображений с помощью ИИ и у провайдера чат-ботов Botify AI подтверждают эту тенденцию....
17.04.2025 - 18:19
Источник: api.follow.it  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Нейросети как угроза развитию судебной практики и профессиональная юридическая этикаНейросети как угроза развитию судебной практики и профессиональная юридическая этика Судебная практика стала важным элементом российского права: акты Верховного суда задают подходы для однотипных дел, а суды используют проекты актов с ...

Flowwow усилил конфиденциальность пользователей с помощью сервисов МТС ExolveFlowwow усилил конфиденциальность пользователей с помощью сервисов «МТС Exolve» «МТС Exolve», разработчик коммуникационных решений для бизнеса, внедрила сервис «Защита номера» в работу маркетплейса... ...

Dallas Lock Linux защитит конфиденциальность пользователей операционной системы Ред ОСDallas Lock Linux защитит конфиденциальность пользователей операционной системы «Ред ОС» Компании «Конфидент» и «Ред Софт» сообщают об успешном завершении тестов совместной работы операционной системы... ...

Матрица ответственности, конфиденциальность и хранение данных: как прошел Avito Privacy DayМатрица ответственности, конфиденциальность и хранение данных: как прошел Avito Privacy Day 30 июля в офисе «Авито» прошел бизнес-завтрак Avito Privacy Day. На мероприятии обсудили новые практики защиты персональных данных, поделились опытом ...

На Орловщине иммунизация стала проблемой КлычковаНа Орловщине иммунизация стала проблемой Клычкова Данный вопрос переложили на областную власть. Фото: Андрей Клычков Соответствующий законопроект приняли на сегодняшней сессии облсовета. Причём — в о ...

Президент признал проблемой масштаб телефонного мошенничестваПрезидент признал проблемой масштаб телефонного мошенничества Путин предложил увеличить сроки выдачи крупных кредитов для проверки платежеспособности заемщиков ...

Беременная дочь Анастасии Заворотнюк столкнулась с проблемой в ОАЭБеременная дочь Анастасии Заворотнюк столкнулась с проблемой в ОАЭ Дочь покойной актрисы Анастасии Заворотнюк — Анна поделилась с подписчиками проблемой, с которой столкнулась во время беременности. Звездная на ...

Путин назвал проблемой нехватку медиков в колонияхПутин назвал проблемой нехватку медиков в колониях Президент Владимир Путин пообещал проработать вопросы с нехваткой кадров и разницей в оплате труда аттестованного и неаттестованного медицинского пер ...

Гололёд накрыл Уфу: как коммунальные службы справляются с проблемойГололёд накрыл Уфу: как коммунальные службы справляются с проблемой Как сообщает мэрия Уфы в соцсетях, из-за гололёда коммунальщики перешли на усиленный режим работы. Ведь в городе только за один месяц из-за гололеда ...

Сенаторы до конца года разберутся с проблемой дипфейковСенаторы до конца года разберутся с проблемой дипфейков Комиссия Совета федерации по информационной политике и взаимодействию со СМИ по поручению спикера верхней палаты Валентины Матвиенко приступила к про ...

Стало известно о новом соглашении РФ и КНР, которое станет проблемой для СШАСтало известно о новом соглашении РФ и КНР, которое станет проблемой для США Новое газовое соглашение между Россией и Китаем по проекту «Сила Сибири — 2» способно кардинально трансформировать глобальные энергетические рынки. ...

Глава СК заинтересовался проблемой с водой в ещё одном селе СтавропольяГлава СК заинтересовался проблемой с водой в ещё одном селе Ставрополья Жители ещё одного населённого пункта Ставропольского края пожаловались главе Следственного комитета России Александру Бастрыкину на проблемы с водой, ...