Как нейросети притворяются всезнайками и что с этим делать?

Как нейросети притворяются всезнайками и что с этим делать?

Кажется, что у нейросетей есть ответы на все вопросы, однако они способны на поражающе убедительную ложь. Изображение: wp.technologyreview.com Мы уже рассказывали о том, что способность нейросетей врать пользователям превзошла самые смелые ожидания. Может показаться, что в этом нет ничего серьезного, однако ученые с этим не согласны. Дело в том, что такие языковые модели, как GPT-4 стали неотъемлемой частью повседневной жизни. Они также активно используются в образовании, медицине и науке, помогая решать разнообразные и довольно сложные задачи. Но, несмотря на впечатляющие возможности этих интеллектуальных систем, результаты последних исследований показали, что по мере их развития и постоянного улучшения, нейросети становятся все менее надежными и чаще выдумывают факты. Новейшие ИИ-системы стремятся убедительно отвечать на все вопросы, даже когда не уверены в надежности информации. Это особенно опасно в областях, где точность и надежность критически важны, например, в медицине или юридической практике. Почему нейросети выдумывают факты? Результаты исследования, опубликованного в журнале Nature, показали, что группа чат-ботов с искусственным интеллектом становится все менее надежной: по мере своего развития, большие языковые модели все чаще выдумывают факты, отвечая на вопросы пользователей. К такому выводу авторы статьи пришли, рассмотрев работу ведущих в отрасли ИИ-систем, включая GPT от OpenAI, LLaMA от Meta, а также модель с открытым исходным кодом BLOOM, созданную ис...
03.10.2024 - 12:19
Источник: hi-news.ru  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Как сладкое разрушает зубы и что с этим делатьКак сладкое разрушает зубы и что с этим делать Сами по себе сладости не разрушают зубы, виноваты бактерии Когда мы едим мясо или другую пищу без сахара, в нашем рту все довольно спокойно. Но стоит ...

Ваш холодильник полон бактерий: вот что с этим делатьВаш холодильник полон бактерий: вот что с этим делать Британские учёные исследовали бактериальное содержимое самых обычных холодильников, и узнали, что там есть множество бактерий. Они там заводятся из-з ...

Почему путаются кабели и провода и что с этим делатьПочему путаются кабели и провода и что с этим делать? Провода имеют свойство запутываться, как бутерброды стремятся упасть маслом вниз! Это не просто досадная случайность, а закономерный процесс, подтвер ...

Почему в жару отекают ноги и что с этим делатьПочему в жару отекают ноги и что с этим делать 16:00, 10 августа 2024, автор: Майя Б.Почему в жару отекают ноги и что с этим делатьОтечность ног в условиях высоких температур может быть сигналом о ...

Карьерная хандра: кто и как выгорает от скуки на работе и что с этим делатьКарьерная хандра: кто и как выгорает от скуки на работе и что с этим делать Россияне начали жаловаться на boreout — выгорание от скуки. Оно возникает, когда сотрудник работает долгое время без интересных задач и не развиваетс ...

Почему в фильмах стало больше насилия и что с этим делатьПочему в фильмах стало больше насилия и что с этим делать? Фильмы становятся все более жестокими. Изображение: hollywoodreporter.com За последние полвека исследования неоднократно доказывали влияние насилия в ...

Почему многие люди несчастны в современном мире и что с этим делатьПочему многие люди несчастны в современном мире и что с этим делать Рейтинг Всемирного счастья этого года показал, что изменения в счастье различаются по регионам мира. В Центральной и Восточной Европе наблюдался наиб ...

Как происходит накрутка ТГ-канала: честно о серых схемах и что с этим делатьКак происходит накрутка ТГ-канала: честно о серых схемах и что с этим делать Photo by camilo jimenez on Unsplash Наверняка ты не раз слышал, что успех в Telegram — это подписчики, лайки и активность. И часто, чтобы показать &# ...

Во время бега болит в боку отчего это бывает и что с этим делатьВо время бега болит в боку — отчего это бывает и что с этим делать Во время бега многие люди сталкиваются с сильной болью в боку. Источник фото: www.tennis.uz Наверняка вы сталкивались с ситуацией, когда из-за интенс ...

Почему детские зубы так быстро портятся и что с этим делать: рекомендации стоматологаПочему детские зубы так быстро портятся и что с этим делать: рекомендации стоматолога Эксклюзив09:00, 26 июля 2024, автор: Кутман С.Почему детские зубы так быстро портятся и что с этим делать: рекомендации стоматологаДетские зубы подве ...

Ретроградный Нептун: астролог рассказал, какое влияние оказывает и что с этим делатьРетроградный Нептун: астролог рассказал, какое влияние оказывает и что с этим делать Традиционно принято считать, что ретроградность планет - это не что иное, как оптическая иллюзия, связанная с разницей в скорости движения конкретной ...

СДВГ у взрослых: как детский диагноз перекочевал во взрослую жизнь и что с этим делатьСДВГ у взрослых: как детский диагноз перекочевал во взрослую жизнь и что с этим делать Эксклюзив18:26, 12 июля 2024, автор: Кутман С.СДВГ у взрослых: как детский диагноз перекочевал во взрослую жизнь и что с этим делатьСиндром дефицита ...

☰