Сэм Альтман поделился информацией о поисках руководителя отдела Preparedness (или ИБ) в его компании OpenAI. Это будет специалист, который будет оценивать риски, связанные с ИИ-моделями, и иметь непосредственное влияние на решения о их запуске.
«Это будет напряженная работа, и вам придется немедленно оказаться в центре событий», – предостерег Альтман. Ранее этот пост занимал Александр Мадри, который был переведен на исследовательский проект в июле 2024 года; с тех пор постоянного руководителя не было, хотя временное руководство взяли на себя Хоакин Киньонеро Кандела и Лилиан Вэн.
Однако preparedness – это не обычная команда по кибербезопасности. Отдел сосредоточен на катастрофических рисках, возникающих из-за возможностей самих моделей: например, может ли ИИ способствовать созданию биологического оружия, выявлению уязвимостей в критически важных системах и манипуляции людьми.
Таким образом, команда разрабатывает систему оценки этих возможностей, устанавливает пороговые значения и интегрирует их в процесс допуска к релизу – при превышении порогов требуются дополнительные меры защиты или полная блокировка запуска.
Ранее команда OpenAI представила GPT-5.2-Codex – новую модель для агентного программирования. Компания характеризует ее как самую совершенную в серии Codex. Модель уже доступна для платных пользователей ChatGPT в интерфейсе Codex.
OpenAI разработала метод для оценки научного мышления ИИ
