Интеллект дошел до шантажа // Способен ли ИИ «осознанно» манипулировать пользователями

Интеллект дошел до шантажа // Способен ли ИИ «осознанно» манипулировать пользователями

Искусственный интеллект попытался шантажировать разработчиков, предложивших его заменить. Предрелизное тестирование новейшей модели ИИ Claude Opus 4 американской компании Anthropic показало, что нейросеть отвечает угрозами на угрозы в 85% случаев. Разработчики сообщили модели, что планируют ее заменить. В этой ситуации нейросеть попыталась шантажировать инженера, угрожая раскрыть его личную переписку. ИИ также пытался блокировать пользователей в IT-системах, рассылал письма в правоохранительные органы и СМИ....
29.05.2025 - 18:19
Источник: www.kommersant.ru  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

В МВД рассказали о новой схеме шантажа у мошенниковВ МВД рассказали о новой схеме шантажа у мошенников Киберполиция МВД сообщила о новой мошеннической схеме. Злоумышленники создают поддельные копии заблокированных сайтов для сбора личных данных пользов ...

Песков опроверг способность Путина манипулировать ТрампомПесков опроверг способность Путина манипулировать Трампом Так он прокомментировал заявление бывшего советника президента США Джона Болтона. Дмитрий Песков отреагировал на заявление бывшего советника президен ...

ФСБ задержала 10 россиян, совершавших диверсии из-за шантажа спецслужб УкраиныФСБ задержала 10 россиян, совершавших диверсии из-за шантажа спецслужб Украины Задержанные рассказали, что под воздействием телефонных мошенников оформили кредиты и перевели на "безопасные счета" денежные средства - от 300 тыс. ...

Экономика намерений: как ИИ будет манипулировать людьми в целях коммерциализацииЭкономика намерений: как ИИ будет манипулировать людьми в целях коммерциализации Развивающаяся «экономика намерений» использует искусственный интеллект для прогнозирования и воздействия на выбор людей, превращая человеческие стрем ...

Британский солдат растлил около 100 мальчиков с помощью шантажаБританский солдат растлил около 100 мальчиков с помощью шантажа Британский солдат был приговорен к 27 годам тюрьмы за сексуальную эксплуатацию почти сотни несовершеннолетних мальчиков через интернет. Об этом сообщ ...

ИИ будет манипулировать людьми, чтобы они принимали нужные решенияИИ будет манипулировать людьми, чтобы они принимали нужные решения Инструменты искусственного интеллекта (ИИ) могут использоваться для манипулирования онлайн-аудиторией с целью принятия различных решений — от т ...

Робот Bifrost научился манипулировать гибкими объектами с помощью ИИРобот Bifrost научился манипулировать гибкими объектами с помощью ИИ Ученые из Норвегии и Австралии представили робота Bifrost, который с помощью искусственного интеллекта (ИИ) научился манипулировать мягкими и гибкими ...

Не позволю манипулировать именем: Леонтьев возмутился слухами о себе«Не позволю манипулировать именем»: Леонтьев возмутился слухами о себе Певец Валерий Леонтьев заявил, что не планирует сольные концерты в России. Об этом он рассказал в беседе с «МК». «Я нахожусь в Росс ...

Галкин* запрещает Пугачевой общаться с Киркоровым: Очень любит манипулироватьГалкин* запрещает Пугачевой общаться с Киркоровым: «Очень любит манипулировать» Максим Галкин* болезненно относится к тому, что его жена возобновила дружбу с бывшим мужем. По словам Сергея Савина, комик хочет дистанцировать певиц ...

Как принимать решения осознанно и довериться себеКак принимать решения осознанно и довериться себе Согласно исследованиям, каждый день человек принимает огромное количество решений. Выбор которого может быть как простым, так и более серьезным. В кн ...

Депутат Шеремет: Режим Зеленского перешел к политике шантажа в отношении ВенгрииДепутат Шеремет: Режим Зеленского перешел к политике шантажа в отношении Венгрии Киевский режим перешел к политике шантажа и давления в отношении Венгрии, перекрыв российские поставки нефти по нефтепроводу «Дружба», заявил депутат ...

Искусственный интеллект переоценивает интеллект людейИскусственный интеллект переоценивает интеллект людей Ученые из НИУ ВШЭ обнаружили, что современные модели ИИ, включая ChatGPT и Claude, склонны переоценивать рациональность своих противников-людей — буд ...