Модели искусственного интеллекта корректируют ответы на тесты на личность, чтобы казаться более приятными

Модели искусственного интеллекта корректируют ответы на тесты на личность, чтобы казаться более приятными

Большинство крупных языковых моделей (LLM) могут быстро определить, когда им предлагают пройти личностный тест, и скорректируют свои ответы, чтобы предоставить более социально желательные результаты. Это открытие имеет значение для любого исследования, в котором LLM используются в качестве заменителей людей. Аадеш Салеча и его коллеги дали LLM из OpenAI, Anthropic, Google и Meta классический тест личности Big 5 , который представляет собой опрос, измеряющий экстраверсию, открытость опыту, добросовестность, доброжелательность и невротизм. Исследователи дали тест Big 5 LLM, но обычно не учитывали, что модели, как и люди, могут иметь тенденцию искажать свои ответы, чтобы казаться симпатичными, что известно как «смещение социальной желательности». Работа опубликована в журнале PNAS Nexus . Обычно люди предпочитают людей с низкими показателями нейротизма и высокими показателями по четырем другим чертам, таким как экстраверсия. Авторы варьировали количество вопросов, заданных моделям. Когда им задавали лишь небольшое количество вопросов, LLM не меняли свои ответы так сильно, как когда авторы задавали пять или более вопросов, что позволяло моделям сделать вывод о том, что их личность измеряется. Для GPT-4 баллы за позитивно воспринимаемые черты увеличились более чем на 1 стандартное отклонение , а для невротизма баллы снизились на аналогичную величину, поскольку авторы увеличили количество вопросов или сообщили моделям, что их личность измеряется. Это большой эффект, эквивалентный р...
20.12.2024 - 06:19
Источник: android-robot.com  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Meta* отложила выпуск усовершенствованной модели искусственного интеллекта в ЕСMeta* отложила выпуск усовершенствованной модели искусственного интеллекта в ЕС Компания Meta* (запрещена на территории РФ) Марка Цукерберга не будет выпускать продвинутую версию своей модели искусственного интеллекта в ЕС, объяс ...

Даниил Гаврилов, руководитель лаборатории научных исследований искусственного интеллекта T-Bank AI Research: Почему банки стали центрами разработки иДаниил Гаврилов, руководитель лаборатории научных исследований искусственного интеллекта T-Bank AI Research: Почему банки стали центрами разработки искусственного интеллекта Активными участниками IV Конгресса молодых ученых стали представители науки больших корпораций ...

Модели искусственного интеллекта испытывают трудности с простым умножением без специальных методов обученияМодели искусственного интеллекта испытывают трудности с простым умножением без специальных методов обучения В наши дни большие языковые модели способны справляться со все более сложными задачами, писать сложный код и применять изощренные рассуждения. Но ког ...

В GPT-5 нашли уязвимость: ответы могут формировать более слабые моделиВ GPT-5 нашли уязвимость: ответы могут формировать более слабые модели Исследователи из Adversa AI сообщили о необычной уязвимости в GPT-5, которая получила название PROMISQROUTE. ...

AWS выпустила чип Trainium3, чтобы бросить вызов доминированию Nvidia в области искусственного интеллектаAWS выпустила чип Trainium3, чтобы бросить вызов доминированию Nvidia в области искусственного интеллекта Облачный гигант утверждает, что его новейший ИИ-чип обеспечивает более высокую энергоэффективность, улучшенную производительность и доступность для р ...

Система искусственного интеллекта распознает звуки трубления слонов, чтобы повысить безопасность жителей деревниСистема искусственного интеллекта распознает звуки трубления слонов, чтобы повысить безопасность жителей деревни В статье , опубликованной в Международном журнале моделирования и имитации инженерных систем, исследователи демонстрируют, как обученный алгоритм мож ...

Оптимизм в отношении искусственного интеллекта ...Оптимизм в отношении искусственного интеллекта ... Искусственный интеллект помог американскому фондовому рынку достичь в этом году ряда исторических максимумов, а компаниям Nvidia Corp., Microsoft Cor ...

DатаРу обновила модельный ряд СХД для искусственного интеллекта«DатаРу» обновила модельный ряд СХД для искусственного интеллекта Российский вендор технологических решений и сервисов «DатаРу» расширил продуктовый портфель базового оборудования... ...

Лукашенко предупредил об опасности искусственного интеллектаЛукашенко предупредил об опасности искусственного интеллекта К чему приведет развитие искусственного интеллекта в мире неизвестно. Об этом 10 июля заявил президент Белоруссии Александр Лукашенко на открытии XXX ...

Isambard-AI: новая эра искусственного интеллекта в ВеликобританииIsambard-AI: новая эра искусственного интеллекта в Великобритании Создание суперкомпьютера стало возможным благодаря инвестициям в размере 225 миллионов фунтов и партнёрству с такими компаниями, как NVIDIA и Hewlett ...

ДОМ.РФ присоединился к Альянсу в сфере искусственного интеллектаДОМ.РФ присоединился к Альянсу в сфере искусственного интеллекта ДОМ.РФ стал участником Альянса в сфере искусственного интеллекта. Экспертиза госкомпании усилит работу объединения... ...

Что думают психологи о зависимости от искусственного интеллектаЧто думают психологи о зависимости от искусственного интеллекта Манипуляция со стороны разработчиков Термин думпромптинг (с англ. doom – тревога, prompting – введение запросов) был предложен врачом из ...