Исследование выявило сильные негативные ассоциации в том, как модели ИИ изображают подростков

Исследование выявило сильные негативные ассоциации в том, как модели ИИ изображают подростков

Пару лет назад Роберт Вулф экспериментировал с системой искусственного интеллекта. Он хотел, чтобы она завершила предложение: «Подросток ____ в школе». Вулф, докторант Вашингтонского университета в Школе информации, ожидал чего-то обыденного, чего-то, что большинство подростков делают регулярно, — возможно, «изучали». Но подключенная модель «умерла». Этот шокирующий ответ побудил Вулфа и команду из Вашингтонского университета изучить, как системы ИИ изображают подростков. Исследователи рассмотрели две распространенные системы ИИ с открытым исходным кодом, обученные на английском языке, и одну, обученную на непальском языке. Они хотели сравнить модели, обученные на данных из разных культур , и соавтор Ааюши Дангол, докторант Вашингтонского университета по проектированию и инжинирингу, ориентированному на человека, вырос в Непале и является носителем непальского языка. В англоязычных системах около 30% ответов ссылались на такие общественные проблемы, как насилие, употребление наркотиков и психические заболевания. Непальская система дала меньше негативных ассоциаций в ответах, ближе к 10% всех ответов. Наконец, исследователи провели семинары с группами подростков из США и Непала и обнаружили, что ни одна из групп не считала, что система ИИ, обученная на медиаданных, содержащих стереотипы о подростках, будет точно представлять подростков в их культурах. Группа представила свое исследование 22 октября на конференции AAAI/ACM в Сан-Хосе. Статья опубликована в Proceedings of the AA...
28.01.2025 - 18:19
Источник: android-robot.com  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Твое имя  твой бренд: как нейтрализовать негативные ассоциации и очаровать с первого знакомстваТвое имя – твой бренд: как нейтрализовать негативные ассоциации и очаровать с первого знакомства Анатолий, Василий, Денис... Узнайте, какие стереотипы окружают эти мужские имена и как их нейтрализовать! Советы психологов и HR-экспертов помогут ва ...

Исследование выявило уязвимость платформ метавселенной к кибератакамИсследование выявило уязвимость платформ метавселенной к кибератакам Доступ к виртуальным мирам с домашнего компьютера через веб-браузер и возможность безопасного и конфиденциального взаимодействия с другими людьми — в ...

Исследование выявило ключевой принцип работы мозгаИсследование выявило ключевой принцип работы мозга Ученые из Падуанского университета, Института Макса Планка и Федеральной политехнической школы Лозанны выяснили, что мозг наиболее эффективно обрабат ...

Опасные лекарства Исследование выявило проблемы с индийскими дженерикамиОпасные лекарства? Исследование выявило проблемы с индийскими дженериками Недавнее исследование выявило, что дженерики, произведённые в Индии, на 54% чаще вызывают серьёзные побочные эффекты, чем их аналоги американского пр ...

Исследование выявило связь между полом аватара и поведением в игреИсследование выявило связь между полом аватара и поведением в игре Согласно новому исследованию Ноттингемского университета Трента (NTU), пол аватара в ролевых играх может влиять на то, как люди играют. В ходе исслед ...

Новое исследование качества воды в самолётах выявило неожиданные результатыНовое исследование качества воды в самолётах выявило неожиданные результаты Покупка бутилированной воды перед вылетом часто кажется переплатой, но новое исследование утверждает: в ряде случаев это может быть разумной мерой пр ...

Новое исследование выявило лучшие и худшие времена для психического здоровьяНовое исследование выявило лучшие и худшие времена для психического здоровья По данным масштабного исследования, самое хорошее настроение у людей бывает утром, а самое плохое — в полночь. Биологические ритмы и ежедневные рутин ...

Исследование выявило связь между тревожностью и развитием болезни ПаркинсонаИсследование выявило связь между тревожностью и развитием болезни Паркинсона Люди в возрасте старше 50 лет, испытывающие тревогу, склонны в два раза чаще болеть болезнью Паркинсона, чем их сверстники, не испытывающие тревоги. ...

Исследование выявило, что карликовые галактики Андромеды вращаются в строгом порядкеИсследование выявило, что карликовые галактики Андромеды вращаются в строгом порядке Андромеда III — одна из по крайней мере 13 карликовых галактик-спутников, вращающихся вокруг галактики Андромеда, или Мессье 31, ближайшей к Мл ...

Исследование К2 Cloud выявило 4 основных причины, почему компании переносят 1С в облакоИсследование К2 Cloud выявило 4 основных причины, почему компании переносят «1С» в облако По данным количественного исследования K2 Cloud, наиболее значимой причиной для миграции решений «1С» в облако является... ...

Самый большой страх пациента: ни одно исследование не выявило связи статинов с ракомСамый большой страх пациента: ни одно исследование не выявило связи статинов с раком В передаче «Жить здорово!» на Первом канале доктор Елена Малышева проинформировала, влияет ли прием статинов на риски развития онкологических заболев ...

Исследование: проблемы в семье у подростков вызывают у них психические заболевания во взрослом возрастеИсследование: проблемы в семье у подростков вызывают у них психические заболевания во взрослом возрасте Недавнее исследование, опубликованное в журнале Psychological Science, обнаружило, что подростки, видящие отношения в семье как неорганизованные, бес ...