Чат-бот Claude AI станет прекращать «вредоносные или оскорбительные диалоги с пользователями»

Чат-бот Claude AI станет прекращать «вредоносные или оскорбительные диалоги с пользователями»

Anthropic научила свой чат-бот Claude AI прекращать общение, которое он сочтёт «вредоносным или оскорбительным». Эта возможность уже доступна в моделях Opus 4 и 4.1. Она позволит чат-боту завершать разговоры в качестве крайней меры после неоднократных попыток пользователя сгенерировать вредоносный или оскорбительный контент. Anthropic хочет добиться «потенциального благополучия» моделей ИИ, прекращая беседы, в которых Claude испытывает «явный дискомфорт»....
19.08.2025 - 00:19
Источник: 3dnews.ru  
Рубрика: «Software»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Anthropic представила размышляющую модель Claude 3.7 Sonnet и агента Claude Code, который будет сам писать программыAnthropic представила размышляющую модель Claude 3.7 Sonnet и агента Claude Code, который будет сам писать программы Компания Anthropic представила новую версию своей языковой модели — Claude 3.7 Sonnet. Она имеет режим быстрого ответа и режим размышлений с уг ...

Госдеп внедряет ИИ-чатбот для формирования аттестационных комиссийГосдеп внедряет ИИ-чатбот для формирования аттестационных комиссий Государственный департамент США начал использовать искусственный интеллект для отбора членов кадровых комиссий, отвечающих за ежегодную оценку и рота ...

Alibaba представила обновлённый ИИ-чатбот Qwen с акцентом на обычных людяхAlibaba представила обновлённый ИИ-чатбот Qwen с акцентом на обычных людях Alibaba объявила о крупном обновлении своего чатбота Qwen. Самое интересное, что, как пишут СМИ, она начала активный выход на рынок потребительского ...

Пашинян извинился за оскорбительные высказывания в адрес духовенстваПашинян извинился за оскорбительные высказывания в адрес духовенства Премьер-министр Армении Никол Пашинян извинился за оскорбительные высказывания в адрес священнослужителей. Это произошло после того, как Комиссия по ...

США не будут прекращать сотрудничество с Украиной в сфере спутниковой разведкиСША не будут прекращать сотрудничество с Украиной в сфере спутниковой разведки Вашингтон не намерен прерывать сотрудничество с Киевом в сфере спутниковой разведки, сообщает журнал Foreign Policy."Украина не лишится доступа к спу ...

Стендап-комика Дмитрия Гаврилова задержали за оскорбительные шуткиСтендап-комика Дмитрия Гаврилова задержали за оскорбительные шутки А точнее — за унижение человеческого достоинства по признаку языка, национальности, происхождения. Именно так сказано на сайте Нижегородского районно ...

Замглавы Минздрава Британии отправили в отставку за оскорбительные высказыванияЗамглавы Минздрава Британии отправили в отставку за оскорбительные высказывания Замминистра здравоохранения Великобритании Эндрю Гвин уволен за оскорбительные комментарии, которые он допустил в закрытой группе в WhatsApp (принадл ...

Суд отказался прекращать уголовное дело по обвинению депутата РаспутинойСуд отказался прекращать уголовное дело по обвинению депутата Распутиной Депутат Волгоградской облдумы и экс-глава Светлоярского района Татьяна Распутина продолжает оставаться фигуранткой уголовного дела о превышении должн ...

Google передумал прекращать поддержку сторонних Cookie в ChromeGoogle передумал прекращать поддержку сторонних Cookie в Chrome Вице-президент Google, курирующий проект Privacy Sandbox, объявил об отмене плана по отключению в браузере Chrome поддержки сторонних Cookie, выставл ...

Житель Курска оштрафован за оскорбительные сообщения бывшей женеЖитель Курска оштрафован за оскорбительные сообщения бывшей жене В Курске 37-летнему мужчине пришлось ответить за переписку с бывшей супругой. Горожанина привлекли к административной ответственности сразу по трём п ...

Шмыгаль: Украина не будет прекращать транзит российской нефти в ЕвропуШмыгаль: Украина не будет прекращать транзит российской нефти в Европу Премьер-министр Украины отметил, что транзит нефти из РФ соответствует также санкционному режиму Евросоюза в отношении России ...

Ла лига осудила оскорбительные кричалки во время матча Атлетико и РеалаЛа лига осудила оскорбительные кричалки во время матча «Атлетико» и «Реала» Ла лига отреагировала на поведение болельщиков «Атлетико» и «Реала» (5:2) в матче 7-го тура чемпионата Испании, сообщает Marca. ...