Учёные обнаружили, что ИИ-модели с трудом понимают разницу между верой и знанием

Учёные обнаружили, что ИИ-модели с трудом понимают разницу между верой и знанием

Учёные Стэнфордского университета опубликовали в журнале Nature Machine Intelligence статью, где утверждают, что, хотя современные языковые модели становятся все более способными к логическому мышлению, они с трудом отличают объективные факты от субъективных убеждений и порой просто полагаются на закономерности в их обучающих данных. Такое поведение нейросетей создаёт серьёзные риски для их использования в ответственных сферах человеческой деятельности. Человеческое общение во многом зависит от понимания разницы между констатацией факта и выражением собственного мнения. Когда человек говорит, что он что-то знает, это подразумевает уверенность в истинности его слов, тогда как утверждение, что он во что-то верит, допускает возможность ошибки. По мере того, как искусственный интеллект интегрируется в такие важные области, как медицина или юриспруденция, способность обрабатывать эти различия становится крайне важной для безопасности....
15.12.2025 - 06:19
Источник: 3dnews.ru  
Рубрика: «Hardware»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Ученые обнаружили связь между снижением слуха и риском развития деменцииУченые обнаружили связь между снижением слуха и риском развития деменции Слух — это навык, который большинство людей воспринимает как должное. Но исследования показывают, что взрослым следует прислушиваться к изменениям в ...

Ученые обнаружили жуткое сходство между пением китов и человеческой речьюУченые обнаружили жуткое сходство между пением китов и человеческой речью Два новых исследования обнаружили схожесть между песнями китов и человеческой речью, что поставило под сомнение понимание эволюции языка. Одно из них ...

Учёные обнаружили связь между космическим сдвигом и диффузным рентгеновским фоном, что помогло понять распределение барионной материи во ВселеннойУчёные обнаружили связь между космическим сдвигом и диффузным рентгеновским фоном, что помогло понять распределение барионной материи во Вселенной Учёные впервые обнаружили взаимную корреляцию между космическим сдвигом и диффузным рентгеновским фоном, что помогает понять распределение барионной ...

ВС искал разницу между перфоратором и дрелью в таможенном спореВС искал разницу между перфоратором и дрелью в таможенном споре Компания попыталась изменить классификацию ввезенных перфораторов с «дрелей» на «прочие инструменты», чтобы снизить таможенную пошлину с 10 до 8,5%. ...

Нагляднее не бывает: короткие анимации, объясняющие разницу между SSD и HDDНагляднее не бывает: короткие анимации, объясняющие разницу между SSD и HDD Если вы когда-нибудь пытались разобраться, как именно работают разные типы носителей и неизбежно запутывались в технических деталях, новое интерактив ...

ВС выявит разницу между счетами конкурсной массы и управляющегоВС выявит разницу между счетами конкурсной массы и управляющего Арендованные помещения продали на торгах под конец месяца. Арендатор потребовал управляющего вернуть деньги, так как перечислил их изначальному владе ...

В Череповце финансист объяснит разницу между ипотекой и кабалойВ Череповце финансист объяснит разницу между ипотекой и кабалой Занятие на тему "Ипотека. Финансовая кабала или счастливый дом?" с членами семейных клубов пройдет в Верещагинке 5 октября. Спикер - практикующий гла ...

Посол Израиля в России объяснила разницу между атаками ИранаПосол Израиля в России объяснила разницу между атаками Ирана Удар Ирана по Израилю 1 октября отличался большим масштабом по сравнению с атакой в апреле, заявила израильский посол в России Симона Гальперин в инт ...

Собослаи назвал ключевую разницу между футболом Клоппа и СлотаСобослаи назвал ключевую разницу между футболом Клоппа и Слота Полузащитник «Ливерпуля» Доминик Собослаи высказался о том, как изменилась игра команды после прихода Арне СлотаЧитать дальше → ...

Ученые определили, сколько слов понимают собакиУченые определили, сколько слов понимают собаки Большинству собак были знакомы команды "сидеть", "перевернуться", "лечь", также они воспринимали свою кличку, слова "нет", "хорошо", "стой". ...

Церковь Грузии объяснила президенту Зурабишвили разницу между детьми и гражданами СШАЦерковь Грузии объяснила президенту Зурабишвили разницу между детьми и гражданами США Грузинская Православная церковь в среду вновь подвергла критике президента страны Саломе Зурабишвили за ее призывы к школам поддержать протесты проти ...

Вучич назвал принципиальную разницу между Россией и Западом в отношении СербииВучич назвал принципиальную разницу между Россией и Западом в отношении Сербии Россия никогда не бомбила Сербию и не отнимала Косово — в этом она и отличается от Запада. Такое заявление сделал сербский президент Александр ...