Несмотря на впечатляющие результаты, генеративный ИИ не обладает целостным пониманием мира

Несмотря на впечатляющие результаты, генеративный ИИ не обладает целостным пониманием мира

Большие языковые модели способны делать впечатляющие вещи, например, писать стихи или генерировать жизнеспособные компьютерные программы, даже несмотря на то, что эти модели обучены предсказывать слова, которые идут следующими в тексте. Такие удивительные возможности могут создать впечатление, что модели неявно изучают некие общие истины о мире. Но это не обязательно так, согласно новому исследованию. Исследователи обнаружили, что популярный тип генеративной модели ИИ может предоставлять пошаговые инструкции по вождению в Нью-Йорке с почти идеальной точностью — без формирования точной внутренней карты города. Несмотря на сверхъестественную способность модели эффективно ориентироваться, когда исследователи закрыли некоторые улицы и добавили объезды, ее эффективность резко упала. Копнув глубже, исследователи обнаружили, что карты Нью-Йорка, неявно сгенерированные моделью, содержали множество несуществующих улиц, изгибающихся между сеткой и соединяющих далекие перекрестки. Это может иметь серьезные последствия для моделей генеративного ИИ, используемых в реальном мире, поскольку модель, которая, как кажется, хорошо работает в одном контексте, может выйти из строя, если задача или среда немного изменятся. «Одна надежда заключается в том, что, поскольку LLM могут делать все эти удивительные вещи с помощью языка, возможно, мы могли бы использовать эти же инструменты и в других областях науки. Но вопрос о том, изучают ли LLM согласованные модели мира, очень важен, если мы хотим испо...
08.11.2024 - 18:19
Источник: android-robot.com  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Automation Anywhere продолжает демонстрировать впечатляющие результатыAutomation Anywhere продолжает демонстрировать впечатляющие результаты Automation Anywhere, мировой лидер в области Robotic Process Automation (RPA) и портфельная компания FinSight VC, рассказала о сильных результатах би ...

Эксперты GSMArena протестировали Red Magic 10 Pro на автономность  результаты впечатляющиеЭксперты GSMArena протестировали Red Magic 10 Pro на автономность — результаты впечатляющие А именно — 17 часов и 13 минут. Столь впечатляющие результаты стали возможны благодаря аккумулятору на 7050 мА*ч. Результаты по категориям:Автономнос ...

Владельцы Челси поддерживают Мареску, несмотря на неудачные результаты в последних матчахВладельцы «Челси» поддерживают Мареску, несмотря на неудачные результаты в последних матчах Лондонский клуб выиграл лишь 3 из 10 последних матчей. 14 февраля «синие» уступили «Брайтону» со счетом 0:3. Как пишет журналист GiveMeSport, игроки ...

Результаты матчей европейской квалификации к чемпионату мира 2026 года 7 июняРезультаты матчей европейской квалификации к чемпионату мира 2026 года 7 июня В субботу, 7 июня, состоялись шесть матчей 3-го тура европейской квалификации к чемпионату мира 2026 года. ...

Чемпионат мира по легкой атлетике-2025. Мун, Фурлани, Черотич и Надер одержали победы, Гейл, Моррис и Яви  2-е, другие результатыЧемпионат мира по легкой атлетике-2025. Мун, Фурлани, Черотич и Надер одержали победы, Гейл, Моррис и Яви – 2-е, другие результаты Сегодня, 17 сентября, было разыграно четыре комплекта наград. Чемпионат мира по легкой атлетике-2025 Токио, Япония Прыжки с шестом, женщины 1. Кэти М ...

Чемпионат мира по гандболу-2025. Италия уступила Германии, Дания обыграла Швейцарию, Венгрия одолела Австрию, другие результатыЧемпионат мира по гандболу-2025. Италия уступила Германии, Дания обыграла Швейцарию, Венгрия одолела Австрию, другие результаты Чемпионат мира по гандболу Мужчины Групповой этап Группа 1 Хернинг, Дания Тунис – Чехия – 26:32 (12:19) Италия – Германия – 27:34 (13:15) Дания – Шве ...

Адыгея покоряет экономические вершины: впечатляющие показателиАдыгея покоряет экономические вершины: впечатляющие показатели Правительство Республики Адыгея заявило о высоких позициях региона в рейтинге субъектов РФ по темпам увеличения валового регионального продукта в тек ...

Глава МИД Чехии с пониманием отнесся к нападению Израиля на ИранГлава МИД Чехии «с пониманием» отнесся к нападению Израиля на Иран Чехия с большим пониманием относится к военным действиям Израиля против Ирана. Об этом сегодня, 13 июня, заявил чешский министр иностранных дел Ян Ли ...

Михаил Котюков попросил красноярцев с пониманием отнестись к ограничениям на 9 МаяМихаил Котюков попросил красноярцев с пониманием отнестись к ограничениям на 9 Мая Губернатор Красноярского края Михаил Котюков попросил жителей и гостей региона с пониманием отнестись к ограничениям, которые будут действовать на ма ...

Учёные обнаружили, что у ИИ пока имеются проблемы с пониманием каламбуров и юмораУчёные обнаружили, что у ИИ пока имеются проблемы с пониманием каламбуров и юмора Общение человека с большими языковыми моделями может быть вполне гармоничным и естественным до тех пор, пока искусственный интеллект не столкнётся с ...

Технические демонстрации Unity 6 и Unreal Engine 5.5 показывают впечатляющие достижения в графике и анимацииТехнические демонстрации Unity 6 и Unreal Engine 5.5 показывают впечатляющие достижения в графике и анимации В рамках последних демонстраций технологические движки Unity 6 и Unreal Engine 5.5 показали новые впечатляющие возможности в области графики и анимац ...

Муфтий Югры призвал родителей с пониманием относиться к запрету религиозной одежды в школахМуфтий Югры призвал родителей с пониманием относиться к запрету религиозной одежды в школах Если же вопрос принципиален, то следует подобрать образовательную организацию, в которой разрешается носить головной убор... ...