OpenAI вскрыла тёмные личности в ИИ, отвечающие за ложь, сарказм и токсичные ответы

OpenAI вскрыла тёмные личности в ИИ, отвечающие за ложь, сарказм и токсичные ответы

Исследователи из OpenAI заявили, что обнаружили внутри ИИ-моделей скрытые механизмы, соответствующие нежелательным шаблонам поведения, приводящим к небезопасным ответам. Об этом стало известно из новой научной работы, опубликованной компанией. В ходе исследования были выявлены закономерности, которые активировались, когда модель начинала вести себя непредсказуемо....
21.06.2025 - 00:19
Источник: 3dnews.ru  
Рубрика: «Software»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Темные звезды: почему токсичные сотрудники подрывают работу и как этому противостоятьТемные звезды: почему токсичные сотрудники подрывают работу и как этому противостоять В корпоративной среде всегда ценились «сотрудники-звезды» — те, кто демонстрирует высокую эффективность, мотивирует команду и поднимает планку резуль ...

Найдены молекулы, отвечающие за регенерацию клеток мозгаНайдены молекулы, отвечающие за регенерацию клеток мозга Изменение активности генов может превратить обычные клетки в нервные. Это показало исследование, опубликованное в журнале Nature Neuroscience. Глиаль ...

Токсичные миллиарды иркутского Сибстальстроя«Токсичные» миллиарды иркутского «Сибстальстроя» Команда губернатора Кобзева снабжает контрактами фирму, срывающую строительство соцобъектовСкандально известная компания «Сибстальстрой» получила кон ...

Канцерогены, мутагены, токсичные вещества и кишечную палочку нашли в приправахКанцерогены, мутагены, токсичные вещества и кишечную палочку нашли в приправах Опасные «ингредиенты» были обнаружены почти в половине специй на полках российских магазинов. Результаты Национального союза защиты прав потребителей ...

Постекоглу о сравнении работы тренера и премьер-министра: Сарказм и иронию не воспринимают в Англии, если люди действительно верят, что я говорил серПостекоглу о сравнении работы тренера и премьер-министра: «Сарказм и иронию не воспринимают в Англии, если люди действительно верят, что я говорил серьезно» Ранее главный тренер «Тоттенхэма» заявил, что тренерская работа сложнее работы премьер-министра: «Как часто у него бывают выборы? А у меня – каждые в ...

Токсичные призраки среди нас: неожиданные места, куда добрались вечные химикатыТоксичные призраки среди нас: неожиданные места, куда добрались вечные химикаты Пер- и полифторалкильные вещества, или PFAS, получили прозвище "forever chemicals" — "вечные химикаты". Они настолько устойчивы, что встречаются прак ...

Переписка вскрыла отчаянное положение NissanПереписка вскрыла отчаянное положение Nissan Японский автопроизводитель обратился к кредиторам в Европе и Великобритании с просьбой предоставить отсрочку платежей. Об этом пишет Reuters со ссылк ...

Орловская прокуратура вскрыла нарушение на нацпроектеОрловская прокуратура вскрыла нарушение на нацпроекте Подрядчика оштрафовали за бездействие. Фото: ИА «Орелград» Соблюдение законодательства при реализации национальных проектов проверяли в Ливенском рай ...

Общество: Как советская разведка вскрыла оборону БерлинаОбщество: Как советская разведка вскрыла оборону Берлина Успех ключевой для окончания войны Берлинской операции был бы невозможен без эффективной работы в том числе и войсковой разведки. Саперы и артиллерис ...

Экс-сотрудница ресторана в Уфе вскрыла сейф и забрала 127 000 рублейЭкс-сотрудница ресторана в Уфе вскрыла сейф и забрала 127 000 рублей Девушке грозит условное осуждение до 3 лет и штраф в размере до 200 000. Экс-сотрудница ресторана в Уфе вскрыла сейф и забрала 127 000 рублей. Заведе ...

Полиция вскрыла схему с займами, по которой более 100 москвичей лишились квартирПолиция вскрыла схему с займами, по которой более 100 москвичей лишились квартир Московская полиция возбудила уголовное дело о незаконной предпринимательской деятельности (ст. 171 УК РФ) по факту выявления мошеннической схемы с за ...

Прокуратура Феодосии вскрыла махинации местной жительницы, которую теперь будут судитьПрокуратура Феодосии вскрыла махинации местной жительницы, которую теперь будут судить Прокуратурой Феодосии в первом полугодии 2024 года в ходе надзорной деятельности Следственного комиета Крыма выявлено 269 нарушений, из них при произ ...