ИИ выдает ошибки при обработке 60% поисковых запросов

ИИ выдает ошибки при обработке 60% поисковых запросов

Вне всякого сомнения, модели искусственного интеллекта могут допускать ошибки. Проблема галлюцинаций и дублирования неверной информации является постоянным вызовом для разработчиков. Разнообразие сфер применения таких систем затрудняет количественную оценку их точности. Однако исследовательская группа Центра цифровой журналистики Tow недавно провела исследование, охватившее восемь поисковых систем с искусственным интеллектом, включая, Perplexity, ChatGPT Search и Perplexity Pro и другие. Исследование основывалось на проверке точности каждой системы при поиске 200 новостных статей из 20 источников. Результаты показали, что в 60% случаев поисковые системы с ИИ выдавали неточные результаты, при этом демонстрируя исключительную уверенность в своей «правильности». Эти результаты подтверждают уже существующие опасения относительно достоверности систем ИИ. Как отмечают авторы исследования, подобно «самым ловким мошенникам», такие системы способны с уверенностью заявлять о ложной информации. В качестве примера приводятся случаи, когда ChatGPT выдавал заведомо неверные ответы, но при этом настаивал на своей правоте, даже дополняя их сфабрикованными данными. Примечательно, что компании-разработчики не скрывают этой проблемы, взимая с пользователей высокую плату за доступ к своим моделям ИИ. Некоторые пользователи, впрочем, остаются довольны результатами работы таких систем, отмечая их скорость, простоту использования и отсутствие рекламы. И все же информация, получаемая из ИИ-систем,...
15.03.2025 - 18:19
Источник: api.follow.it  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Новая функция в КонсультантПлюс: Расширенная история поисковых запросовНовая функция в «КонсультантПлюс»: Расширенная история поисковых запросов Историю своих поисковых запросов пользователи «КонсультантПлюс» могут посмотреть по кнопке «Журнал» панели... ...

В Красноярском крае открылся слет поисковых отрядовВ Красноярском крае открылся слет поисковых отрядов В Емельяновском районе Красноярского края стартовал VI слет поисковых отрядов Сибирского федерального округа «Допишем летопись Победы». ...

Опубликованы фото поисковых работ после авиакатастрофы Ан-22Опубликованы фото поисковых работ после авиакатастрофы Ан-22 Там потерпел крушение самолет Ан-22 с тверскими летчиками на борту, их имена уже известны. С 10 по 13 декабря было выполнено четыре водолазных спуска ...

Лишнего не надо: обзор тематических поисковых сервисовЛишнего не надо: обзор тематических поисковых сервисов В деле интернет-поиска не бывает мелочей, особенно когда речь идёт об обработке однотипных наборов данных. В таких случаях как нельзя кстати пригодят ...

Доля Google на рынке поисковых систем опустилась ниже 90%Доля Google на рынке поисковых систем опустилась ниже 90% Впервые с 2015 года глобальная доля Google на поисковом рынке опустилась ниже порога в 90% в последнем квартале 2024 года, согласно данным Statcounte ...

Заказать раскрутку сайта: как вывести бизнес в топ поисковых системЗаказать раскрутку сайта: как вывести бизнес в топ поисковых систем Интернет стал главным источником клиентов для любого бизнеса. Если ваш сайт не виден в поиске, его как будто не существует. Поэтому решение заказать ...

Google создала незаконную монополию в сфере поисковых систем, постановил суд СШАGoogle создала незаконную монополию в сфере поисковых систем, постановил суд США Федеральный судья США вынес решение по антимонопольному иску против компании Google, признав её виновной в незаконной монополизации рынка поисковых с ...

Новая технология позволит дронам работать сообща при поисковых операцияхНовая технология позволит дронам работать сообща при поисковых операциях Исследователи из Казани создали алгоритм для эффективного взаимодействия беспилотных летательных аппаратов... ...

Новая статья: Лишнего не надо: обзор тематических поисковых сервисовНовая статья: Лишнего не надо: обзор тематических поисковых сервисов В деле интернет-поиска не бывает мелочей, особенно когда речь идёт об обработке однотипных наборов данных. В таких случаях как нельзя кстати пригодят ...

МегаФон перейдёт на отечественное ПО в обработке данныхМегаФон перейдёт на отечественное ПО в обработке данных МегаФон запускает масштабную трансформацию своей аналитической инфраструктуры, переходя на российское программное обеспечение. Стратегическим партнер ...

Брянские студенты посетили завод по обработке стеклаБрянские студенты посетили завод по обработке стекла Студенты брянского техникума посетили завод по обработке стекла. Об этом рассказали в региональном департаменте социальной политики и занятости насел ...

ИИ поможет в обработке вопросов для прямой линии ПутинаИИ поможет в обработке вопросов для прямой линии Путина Пресс-секретарь президента Российской Федерации Дмитрий Песков сообщил, что впервые искусственный интеллект (ИИ) будет использоваться для сбора и обр ...