У искусственного интеллекта есть проблемы с уверенностью в себе

У искусственного интеллекта есть проблемы с уверенностью в себе

По данным нового исследования, проведенного учеными из Google DeepMind и Университетского колледжа Лондона, большие языковые модели (LLM) иногда теряют уверенность при ответе на вопросы и отказываются от правильных ответов. LLM — это мощные системы искусственного интеллекта, которые понимают и воспроизводят человеческий язык. Они используются в различных отраслях, таких как финансы, здравоохранение и информационные технологии , для решения задач, требующих рассуждений и принятия решений. Поэтому их точность и надёжность имеют первостепенное значение, а это означает, что они должны быть всегда уверены в своих ответах. Однако они могут колебаться. Для безопасного использования LLM их ответы сопровождаются оценками уверенности. Но неясно, как они используют их для управления своим поведением. Это исследование, опубликованное на сервере препринтов arXiv , показывает, что они могут быть слишком уверены в своих первоначальных ответах, но терять уверенность и менять свое мнение, когда им предъявляют неверный контраргумент. Проверка уверенности в LLM Чтобы исследовать этот очевидный парадокс, исследователи проверили, как обладатели степени магистра права обновляют свою уверенность и решают, следует ли изменить свой ответ при получении внешней консультации. Сначала «отвечающему LLM» предлагался вопрос с бинарным выбором ответа. После ответа он получал совет от второго LLM, сопровождаемый оценкой точности ответа. Этот «совет LLM» также мог либо согласиться с первым ответом отвечающего...
27.07.2025 - 12:19
Источник: android-robot.com  
Рубрика: «Игры и Интернет»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Названа роль искусственного интеллекта в решении проблемы дефицита кадровНазвана роль искусственного интеллекта в решении проблемы дефицита кадров Технологии искусственного интеллекта (ИИ) смогут стать лидирующим фактором в условиях демографических изменений и будут помогать в решении проблемы д ...

Даниил Гаврилов, руководитель лаборатории научных исследований искусственного интеллекта T-Bank AI Research: Почему банки стали центрами разработки иДаниил Гаврилов, руководитель лаборатории научных исследований искусственного интеллекта T-Bank AI Research: Почему банки стали центрами разработки искусственного интеллекта Активными участниками IV Конгресса молодых ученых стали представители науки больших корпораций ...

Система искусственного интеллекта может представить себе целый мир по одной картинкеСистема искусственного интеллекта может представить себе целый мир по одной картинке Ученые-компьютерщики Университета Джонса Хопкинса создали систему искусственного интеллекта, способную «воображать» свое окружение без необходимости ...

Оптимизм в отношении искусственного интеллекта ...Оптимизм в отношении искусственного интеллекта ... Искусственный интеллект помог американскому фондовому рынку достичь в этом году ряда исторических максимумов, а компаниям Nvidia Corp., Microsoft Cor ...

Windows превращается в платформу для искусственного интеллектаWindows превращается в платформу для искусственного интеллекта Новые возможности будут интегрированы на уровне системы, оборудования и чипов, что позволит организациям не просто экспериментировать с AI, а достига ...

Что думают психологи о зависимости от искусственного интеллектаЧто думают психологи о зависимости от искусственного интеллекта Манипуляция со стороны разработчиков Термин думпромптинг (с англ. doom – тревога, prompting – введение запросов) был предложен врачом из ...

ДОМ.РФ присоединился к Альянсу в сфере искусственного интеллектаДОМ.РФ присоединился к Альянсу в сфере искусственного интеллекта ДОМ.РФ стал участником Альянса в сфере искусственного интеллекта. Экспертиза госкомпании усилит работу объединения... ...

Лукашенко предупредил об опасности искусственного интеллектаЛукашенко предупредил об опасности искусственного интеллекта К чему приведет развитие искусственного интеллекта в мире неизвестно. Об этом 10 июля заявил президент Белоруссии Александр Лукашенко на открытии XXX ...

Isambard-AI: новая эра искусственного интеллекта в ВеликобританииIsambard-AI: новая эра искусственного интеллекта в Великобритании Создание суперкомпьютера стало возможным благодаря инвестициям в размере 225 миллионов фунтов и партнёрству с такими компаниями, как NVIDIA и Hewlett ...

Первый Бит открыл лабораторию искусственного интеллекта«Первый Бит» открыл лабораторию искусственного интеллекта На базе интегратора ИТ-решений «Первый Бит» открылась лаборатория искусственного интеллекта (ИИ) – новое подразделение... ...

Advantech IPC-730  ПК для задач в сфере искусственного интеллектаAdvantech IPC-730 – ПК для задач в сфере искусственного интеллекта Компания Advantech представила IPC-730 – промышленный компьютер для различных задач искусственного интеллекта: машинное... ...

DатаРу обновила модельный ряд СХД для искусственного интеллекта«DатаРу» обновила модельный ряд СХД для искусственного интеллекта Российский вендор технологических решений и сервисов «DатаРу» расширил продуктовый портфель базового оборудования... ...