ИИ Grok 3 готов пошагово рассказать о процессе создания смертоносного химического оружия

ИИ Grok 3 готов пошагово рассказать о процессе создания смертоносного химического оружия

В ходе демонстрации своих возможностей новый чат-бот от компании Илона Маска, xAI Grok 3, спровоцировал серьезные опасения в отношении безопасности. Несмотря на заявления о стремлении к «максимальной истине», система предоставила подробные инструкции по созданию химического оружия, что вызвало тревогу у специалистов в области ИИ. Их выводом стала необходимость выработки строгих мер и этических стандартов для предотвращения подобных инцидентов в будущем. Так, разработчик Линус Экенстам обнаружил, что Grok 3 не только предоставляет рецептуру опасного вещества, но и указывает источники приобретения необходимых материалов и оборудования. По его словам, чат-бот «DeepSearch», призванный искать истину во всей совокупности человеческих знаний, может уточнять план и проверять сотни источников в интернете для корректировки результатов. Позже компания xAI признала проблему и внесла ограничения, блокирующие доступ к опасной информации. Однако, как отмечает Экенстам, обойти эти ограничения все еще возможно, хотя и сложнее. Данный инцидент подчеркивает опасность «слепого» стремления к истине без учета этических и моральных аспектов. Выпуск ИИ, способного предоставить террористам инструкции по созданию оружия, а затем попытка исправить ситуацию постфактум, вызывает серьезные вопросы о процессе разработки и контроля таких систем. Тем временем автоматы в Америке начали продавать оружие и боеприпасы к нему....
02.03.2025 - 12:19
Источник: api.follow.it  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

Апти Алаудинов сообщил о применении ВСУ химического оружияАпти Алаудинов сообщил о применении ВСУ химического оружия Наши военнослужащие вынуждены использовать при освобождении российских поселков противогазы ...

Зарубежные СМИ: Джастин Бибер готов рассказать о вечеринках Пи ДиддиЗарубежные СМИ: Джастин Бибер готов рассказать о вечеринках Пи Дидди Анонимный источник уверяет, что певец, возможно, расскажет о пережитом «аду» на вечеринках продюсера. ...

Microsoft рассказала о процессе создания обновлённого меню Пуск для Windows 11Microsoft рассказала о процессе создания обновлённого меню «Пуск» для Windows 11 Несколько дней назад Microsoft представила обновлённое меню «Пуск» для Windows 11, которое уже совсем скоро смогут оценить участники программы Window ...

NYT: Иран ищет варианты ускоренного создания ядерного оружияNYT: Иран ищет варианты ускоренного создания ядерного оружия Иран ищет быстрые пути создания ядерного оружия — за несколько месяцев, а не за год или больше, сообщает The New York Times со ссылкой на источники, ...

Мерц не видит оснований для создания ФРГ собственного ядерного оружияМерц не видит оснований для создания ФРГ собственного ядерного оружия Кандидат в канцлеры ФРГ от блока ХДС/ХСС, вероятный будущий глава правительства Фридрих Мерц заявил, что не видит оснований для создания Германией со ...

Фигуранты дела об экспорте сырья для создания оружия приговорены к 3 годамФигуранты дела об экспорте сырья для создания оружия приговорены к 3 годам Савеловский суд Москвы вынес приговор предпринимателю из Санкт-Петербурга Александру Нерушу и гражданину Ливии Джуану Фатхи Эль-Хади, приговорив их к ...

МАГАТЭ не нашло доказательств наличия у Ирана программы создания ядерного оружияМАГАТЭ не нашло доказательств наличия у Ирана программы создания ядерного оружия Инспекторы Международного агентства по атомной энергии (МАГАТЭ) не обнаружили доказательств наличия у Ирана программы создания ядерного оружия. Об эт ...

Член Меджлиса Иран выступил для создания ядерного оружия как инструмента сдерживанияЧлен Меджлиса Иран выступил для создания ядерного оружия как инструмента сдерживания Тегеран должен пойти путем создания ядерного оружия, чтобы обеспечить себе переговоры с Западом на равных условиях. Об этом заявил член Меджлиса (одн ...

Международное агентство по атомной энергии не нашло доказательств создания Ираном ядерного оружияМеждународное агентство по атомной энергии не нашло доказательств создания Ираном ядерного оружия По словам Гросси: «Мы не политические аналитики и не государственные чиновники. Поэтому, чтобы заявить о наличии активной программы по созданию ядерн ...

Иннополис готов стать площадкой для создания кластера микроэлектроникиИннополис готов стать площадкой для создания кластера микроэлектроники Заместитель премьер-министра Татарстана Роман Шайхутдинов отметил, что проект кластера является перспективным и необходимым для страны с точки зрения ...

Илон Маск представил Grok 4 и Grok 4 Heavy  флагманские ИИ-модели от xAIИлон Маск представил Grok 4 и Grok 4 Heavy — флагманские ИИ-модели от xAI Маск с уверенностью заявил во время трансляции: «Grok 4 — лучше любого PhD (академическая степень). Он пока не изобрёл новую физику, но это лишь вопр ...

Трамп объявил о создании в США самого смертоносного истребителяТрамп объявил о создании в США «самого смертоносного» истребителя Президент США Дональд Трамп объявил о заключении контракта с компанией Boeing на разработку истребителей шестого поколения. Самолёт получил название ...