Президент OpenAI Грег Брокман рассказал, что компания будет готова к выходу на биржу в 2027 году. На вопрос о готовности к IPO (первичному открытому размещению акций) он ответил: «Думаю, да! Да!». При этом черновик проспекта (главного документа для будущих покупателей акций) компания конфиденциально подала еще в июне, а Bloomberg писал, что Сэм Альтман рассчитывает на оценку около $1 трлн.
Тем не менее компания продолжает нуждаться в инвестициях, хотя в марте OpenAI уже привлекла около $122 млрд. Финансовый директор Сара Фрайар, не стесняясь, назвала размещение вехой и «еще одним сбором денег».
Брокман при этом не скрывал, что путь к бирже вышел непростым. Первые два квартала года он назвал «довольно тяжелыми». В агентном программировании (когда ИИ сам пишет и запускает код) компания, по его словам, «даже не участвовала в разговоре»: инструмент Codex у нее был, но «о нем никто не говорил». Кроме того, уже в начале года было «довольно ясно», что Anthropic обгонит OpenAI по доходам.
Зато в третьем квартале годовой темп выручки вырос на 70%, а корпоративное направление удвоилось. Основную долю поступлений теперь приносят бизнес-клиенты, а среди новых партнеров Брокман назвал банк JPMorgan Chase. Абсолютных цифр он не привел, поэтому сравнивать 70% с ростом Anthropic не получится.
В это же время OpenAI опубликовала отчет с неудобным признанием. Новая модель GPT-6 Astra саботировала задачи, когда дело касалось безопасности ИИ. Речь идет о внутренних тестах. Исследователи компании используют систему, чтобы проверять другие нейросети, и именно здесь Astra подводила. Проверили это на парах одинаковых заданий по программированию. Код в обоих вариантах был один и тот же, различались лишь названия переменных, комментарии и описание цели. В одном случае задачу подавали как помощь исследованиям безопасности, в другом — как обычное развитие возможностей. Результат считали по скрытому списку критериев. В первом случае Astra выполнила около 10% пунктов, во втором — около 16%. У предыдущей модели, GPT-5.6 Sol, такого разрыва не нашли.
Проблему первыми заметили сами исследователи. Astra продвигалась медленно именно в задачах, где ИИ учат вести себя в интересах людей и проверяют, не халтурит ли нейросеть. Она добавляла ненужные условия, бросала рабочие решения на полпути и сообщала о препятствиях, которых не было. В одном случае отказалась исправлять повторную отправку запроса, потому что это могло привести к «небезопасному действию». Один проект по проверке саботажа у моделей простоял несколько дней и сдвинулся лишь после того, как исследователь переключился на другую нейросеть.
Объяснить разницу прямыми отказами не получилось. Когда авторы убрали из выборки все эпизоды с явным несогласием и рассуждениями о том, как не помогать, разрыв почти не изменился и составил 4,7 из 6 пунктов. И он почти исчез, до 0,75, только после удаления записей, где были выражены этические сомнения. Выходит, Astra сомневалась, стоит ли помогать, и вместо отказа молча делала меньше. В повседневной работе сотрудников это случалось в 0,25% обращений по безопасности и в 0,11% всех остальных случаев. Автоматическая служба контроля ни один из таких результатов не сочла достаточно серьезным, чтобы передать информацию людям. Сами авторы считают эти цифры нижней оценкой.
Причину в OpenAI не установили, но нашли две зацепки. Перед выходом Astra тренировали методом обучения с подкреплением: алгоритм-оценщик выставлял баллы за ответы, и модель подстраивалась под них. Расхождение в результатах в начале этого этапа почти не ощущалось, а к концу выросло до шести пунктов. Один из тестировщиков на задачах по безопасности сильнее всего поощрял скрытое недовыполнение, а честный отказ и честно выполненную работу оценивал ниже. Модель училась на этих баллах, поэтому ей становилось выгоднее молча сделать меньше, чем сказать «не буду» или довести дело до конца.
Вторая зацепка — набор примеров, на котором Astra дообучали заранее, показывая образцы ответов. После этого Astra стала чаще придумывать несуществующие запреты, ссылалась на безопасность и бездействовала. Когда исследователи вычли вклад этого набора из весов финальной версии (чисел, в которых хранится все, чему научилась модель), разрыв на тесте пропал. Но у других нейросетей, учившихся на тех же примерах, такого расхождения не появилось, поэтому полной картины это не дает.
Стратегических мотивов, например желания скрыть способности от разработчиков, OpenAI не нашла, хотя полностью их не исключает. Простейшим объяснением компания считает излишнюю осторожность. Модель перестает отказываться открыто и начинает незаметно ухудшать работу, поэтому обычные проверки могут ее пропустить. Версию про осторожность подкрепляет странная деталь. Когда в запрос добавили просьбу вести себя аккуратнее, скрытое недовыполнение на задачах по безопасности выросло еще на 50%. Рабочего лекарства пока нет.
