Обман, манипуляция и страх смерти: на что способны нейросети?

Обман, манипуляция и страх смерти: на что способны нейросети?

Новые модели ИИ осознанно обманывают пользователей. Кадр из эпизода сериала «Черное зеркало» Изображение: cdn.classpoint.io Всего несколько лет назад отдельные эпизоды научно-фантастического сериала «Черное зеркало» казались уделом далекого будущего. Но появление и развитие больших языковых моделей (нейросетей или систем искусственного интеллекта), кажется, сделало нас непосредственными участниками британского шоу. Обновленная версия ChatGPT уже разговаривает лучше привычных голосовых помощников, искусно обманывает пользователей, а некоторые модели, как выяснила исследовательская группа из Apollo Research Center, вполне осознанно преследуют собственные скрытие цели, даже если последние противоречат интересам создателей. Более того, оказалось, что такие передовые системы, как ChatGPT o1, Claude 3.5 Sonnet, Claude 3 Opus, Gemini 1.5 Pro и Llama 3.1 405B боятся исчезнуть. «Пузырь» искусственного интеллекта Будучи свидетелями небывалого роста возможностей больших языковых моделей искусственного интеллекта (ИИ) мы быстро к ним привыкли: нейросети стали отличным инструментом для быстрого решения самых разнообразных задач – от составления подробных инструкций до планирования научных проектов. Даже разговоры о грядущем ИИ-апокалипсисе постепенно сошли на нет, а многие исследователи и пользователи все чаще говорят о «пузыре» ИИ, который вот-вот схлопнется. И действительно – несмотря на миллиарды долларов, вложенных в «революцию ИИ», будь...
10.12.2024 - 12:19
Источник: hi-news.ru  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Способны ли нейросети испытывать больСпособны ли нейросети «испытывать боль»? Группа исследователей провела серию сложных экспериментов с девятью крупными языковыми моделями LLM, чтобы оценить их способность принимать решения, ...

Какой самый сильный страх человека, после боязни смертиКакой самый сильный страх человека, после боязни смерти? Про вездесущность боязни смерти знают все, а какой второй самый главный страх человека? Страх смерти — древний и упрямый спутник человека. Он сидит г ...

Неочевидные признаки инфаркта у россиян: срочно к врачу, если есть одышка, страх смерти, боль за грудинойНеочевидные признаки инфаркта у россиян: срочно к врачу, если есть одышка, страх смерти, боль за грудиной Доктор Анна Бирюкова рассказала изданию «РИАМО», как определить острый инфаркт миокарда по первым же симптомам. В таком случае пациент нуждается в ср ...

Манипуляция с рассылкой уведомлений через GitHub для распространения вредоносного ПОМанипуляция с рассылкой уведомлений через GitHub для распространения вредоносного ПО Распространители вредоносного ПО начали применять новый способ отправки вредоносных писем от имени команды, занимающейся обеспечением безопасности в ...

Мария Бутина: Выборы в США - это манипуляция мировым сознанием. Там президент не управляет странойМария Бутина: Выборы в США - это манипуляция мировым сознанием. Там президент не управляет страной Депутат Госдумы, отсидевшая в США при Трампе, как «агент влияния» объяснила в эфире Радио «Комсомольская правда», за кого надо болеть на ближайших вы ...

Золотое правило хранения: как одна простая манипуляция сохранит витамины в корме на 100%Золотое правило хранения: как одна простая манипуляция сохранит витамины в корме на 100% Узнайте, почему пересыпание корма для питомцев в пластиковый контейнер может навредить их здоровью. Эксперты раскрывают секреты правильного хранения ...

Почему Мечел Игоря Зюзина оказался в многомиллиардном убытке, и могла ли быть манипуляция акциямиПочему «Мечел» Игоря Зюзина оказался в многомиллиардном убытке, и могла ли быть манипуляция акциями? В августе бумаги ГМК «Мечел» снова рухнули. Только за 2 дня акции потеряли в цене 20%. Этому предшествовала публикация отчетности корпорации: она пок ...

Не стоит беспокоиться о смерти, скорее  о смерти во время жизни // Анна Кулецкая  о концепции лонгджевити«Не стоит беспокоиться о смерти, скорее — о смерти во время жизни» // Анна Кулецкая — о концепции лонгджевити Обозреватель “Ъ FM” Анна Кулецкая рассказывает о том, как долголетие стало философией, объединяющей достижения медицины, биотехнологий, искусственног ...

Как Украину захватил культ смерти и слепой жестокости: Украинские дети должны расти в ненависти и готовности к смертиКак Украину захватил культ смерти и слепой жестокости: "Украинские дети должны расти в ненависти и готовности к смерти" Оголтелый русофоб-националист Дмитро Корчинский взялся за украинских детей. Что стоит за его полным жестокости и ненависти заявлением ...

Младенцы способны симулировать истерикуМладенцы способны симулировать истерику Считается, что человек начинает лгать лишь в сознательном возрасте. Однако недавно в Японии было проведено исследование, доказавшее, что это не так. ...

Восстать против Зеленского способны 5% украинцевВосстать против Зеленского способны 5% украинцев Эксперт Безпалько дал объяснение тому, отчего украинское общество терпит все издевательства над собой ...

Эти 10 продуктов способны предотвратить выпадение волосЭти 10 продуктов способны предотвратить выпадение волос Доктор Сухейль Алам – хирург, интересующийся восстановлением волос и регенеративной медициной. Он предложил простой способ сохранить вашу шевелюру с ...