ИИ под контролем: кто теперь решает, когда выпускать новые модели OpenAI?

ИИ под контролем: кто теперь решает, когда выпускать новые модели OpenAI?

Недавно компания OpenAI объявила о полной реорганизации своего комитета по безопасности. Этот комитет теперь стал независимой структурой, подчинённой совету директоров. Одним из ключевых изменений стало то, что комитет получил право приостанавливать релизы моделей искусственного интеллекта (ИИ), если будут обнаружены риски для безопасности. Это решение стало результатом трёхмесячного аудита, в ходе которого были проанализированы существующие меры защиты и подчёркивался растущий интерес к этическим вопросам в развитии ИИ. Главная особенность новой структуры — её руководитель, Зико Колтер, а также состав комитета, в который вошли Адам Д’Анджело, Пол Накасоне и Николь Селигман. Примечательно, что генеральный директор OpenAI, Сэм Альтман, больше не является членом этого комитета, что подчёркивает независимость принимаемых решений. Основная задача нового органа — следить за безопасностью предстоящих релизов моделей ИИ. Комитет будет регулярно получать отчёты от руководства OpenAI и контролировать запуск новых технологий. В случае выявления проблем комитет может принять решение об отсрочке релиза. Совет директоров OpenAI также будет получать периодические отчёты о состоянии безопасности и защиты. Многие эксперты задаются вопросом о том, насколько этот орган действительно независим. Все его участники также входят в совет директоров OpenAI. Это вызывает сомнения по сравнению с наблюдательным советом Meta (запрещенная на территории РФ организация), члены которого не пересекаются...
22.09.2024 - 12:19
Источник: api.follow.it  
Рубрика: «Наука и Техника»   Поделиться: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

OpenAI снова откладывает запуск открытой ИИ-модели  теперь на неопределённый срокOpenAI снова откладывает запуск открытой ИИ-модели — теперь на неопределённый срок По данным TechCrunch, новая модель позиционировалась как одна из самых продвинутых среди всех открытых ИИ-систем. Однако теперь разработчикам придётс ...

OpenAI представила новые open-source модели GPT-oss и анонсировала GPT-5OpenAI представила новые open-source модели GPT-oss и анонсировала GPT-5 OpenAI впервые с 2019 года выпустила открытые модели под названием gpt-oss-120b и gpt-oss-20b. Эти модели распространяются под лицензией Apache 2.0, ...

Groq и компания Государственного инвестфонда Саудовской Аравии HUMAIN выпустили новые открытые модели OpenAIGroq и компания Государственного инвестфонда Саудовской Аравии HUMAIN выпустили новые открытые модели OpenAI Groq, пионер в области быстрого вывода, и HUMAIN, компания Государственного... Сообщение Groq и компания Государственного инвестфонда Саудовской Арав ...

Mercedes-Benz перестанет выпускать две моделиMercedes-Benz перестанет выпускать две модели Автопроизводитель Mercedes-Benz прекратит производство двух моделей. Это компактные коммерческие автомобили Citan и T-Class. Это решение связано с же ...

На автозаводе в Калуге начнут выпускать еще одну моделиНа автозаводе в Калуге начнут выпускать еще одну модели Выпуск наладит ООО «Автомобильные технологии» — компания, которая в марте нынешнего года перезапустила производство на заводе «ПСМА Рус». Новый автом ...

Всё под контролем: теперь в Госуслугах Дом кладовки и парковкиВсё под контролем: теперь в «Госуслугах Дом» кладовки и парковки Их владельцы получили полный доступ ко всем возможностям сервиса: участвовать в общих собраниях собственников онлайн, оплачивать счета и передавать п ...

Lotus придется выпускать модели холдинга Geely на британском заводеLotus придется выпускать модели холдинга Geely на британском заводе Новый руководитель европейского филиала марки Мэтт Уиндл подтвердил журналу Autocar: производство на площадке в Хетеле может быть расширено. По мнени ...

Варикоз под контролем: врач о том, когда операция становится обязательнойВарикоз под контролем: врач о том, когда операция становится обязательной Эксклюзив10:00, 18 сентября 2024, автор: Кутман С.Варикоз под контролем: врач о том, когда операция становится обязательнойВрач Елена Пятенко поделил ...

Тонкая строчка в билете решает всё: как не потерять деньги при отмене рейса и когда авиакомпании обязаны их вернутьТонкая строчка в билете решает всё: как не потерять деньги при отмене рейса и когда авиакомпании обязаны их вернуть Покупая билет на самолёт, мало кто задумывается, что может пойти не по плану. Болезнь, срочные дела или просто смена планов — и поездка откладывается ...

Новые дома для приграничья: как Курская область решает жилищный вопросНовые дома для приграничья: как Курская область решает жилищный вопрос яндекс В Курской области стартует масштабная программа строительства жилья для жителей приграничных территорий. Власти региона нашли нестандартный по ...

Apple реформирует дизайн-команду: Liquid Glass теперь под личным контролем Тима КукаApple реформирует дизайн-команду: Liquid Glass теперь под личным контролем Тима Кука После ухода Джэффа Уильямса в конце года Apple передает дизайн-команду непосредственно Тиму Куку. Это стратегический шаг для усиления контроля над ди ...

OpenAI готовится к выпуску новой модели ИИ GPT-4.5OpenAI готовится к выпуску новой модели ИИ GPT-4.5 Компания OpenAI готовится к запуску новой модели искусственного интеллекта GPT-4.5, известной внутри компании как Orion, после задержек в разработке ...