Кризис в OpenAI: история о сгоревшем Прометее

Бахнуло в пятницу вечером. Сооснователь и главное лицо OpenAI Сэм Альтман решением совета директоров был публично отстранён от должности в связи с тем, «что он не всегда был откровенен в своих коммуникациях с советом». Также под раздачу попал близкий друг Сэма и «отец» GPT-4 Грег Брокман, однако, в отличие от Альтмана, ему разрешили остаться в компании.

И не успели в интернете провести все аналогии с историей Стива Джобса и настроить теорий заговора про секретно запертый в подвалах компании настоящий ИИ, как всё завертелось с такими скоростью и масштабом, что разгребать последствия вся индустрия будет ещё долго.

Что случилось?

Чтобы понять, что произошло на самом деле, нам потребуется краткий экскурс в организационную структуру компании. В этом нам поможет GPT-4:

OpenAI была основана в декабре 2015 года группой предпринимателей и исследователей, включая Илона Маска и Сэма Альтмана. Целью создания компании было продвижение и развитие дружественного искусственного интеллекта (ИИ) в интересах всего человечества. В начале своего существования OpenAI функционировала как некоммерческая исследовательская организация.
В 2019 году OpenAI перешла на гибридную модель, создав свою коммерческую дочернюю компанию, OpenAI LP. Этот шаг был сделан для привлечения капитала, необходимого для финансирования дорогостоящих исследований в области ИИ. Сэм Альтман стал генеральным директором организации (а Илон Маск ушел из совета директоров в связи с возможным конфликтом интересов — прим. автора).
GPT-4

Глобально мы имеем: изначально некоммерческую OpenAl с руководством в виде совета директоров, которые не имеют капитала в компании и должны следить за миром между роботами и кожаными мешками человеками, и её структурное подразделение с генеральным директором во главе, которое должно зарабатывать бабки, потому что одними пожертвованиями сыт не будешь. Вся власть при этом сосредоточена у совета директоров.

Если совсем упрощать, то при переходе к рыночной модели изначально в самой структуре был заложен стоп-кран на случай, если что-то пойдёт не так, и мудрые дяди в правлении решат, что коммерсанты заигрались. И вот, кажется, что-то случилось, и этот стоп-кран дёрнули.

Что конкретно произошло, пока никто не знает, да и по многим признакам это был целый ворох накопившихся в компании противоречий по поводу того, как правильно подходить к вопросу о разработке ИИ. И вряд ли в ближайшее время всё грязное бельё вытащат наружу, поэтому нас явно ждёт ряд конспирологических теорий, некоторые из которых вполне могут оказаться правдой. В контексте ситуации это даже не так важно, важно другое.

Та самая OpenAl, которую вы все знаете, та компания, без упоминания которой не обходится ни одна новость про нейросети в 2023 году, компания, создавшая Chat-GPT и GPT-4, компания, в которую самосвалами отгружает деньги Microsoft,  — это как раз то самое структурное подразделение. Эта OpenAl создала привлекательный инвестиционный бренд, и её лицо — Сэм Альтман.

И эта же OpenAl находится в центре международных скандалов в связи с утечкой пользовательских данных, эту OpenAl обвиняют в безответственном отношении к обучению нейросетей, и эта компания в 2023 году символизирует все страхи общества, с которыми должно было бороться её руководство. И они увольняют Альтмана, который ещё неделю назад обещал инвесторам светлое будущее и очередной нейросетевой прорыв в следующем году.

Что было дальше?

Естественно, на следующий день разъярённая толпа требует возмездия, инвесторы угрожают отогнать самосвалы с деньгами в успешный стартап по соседству, и всё не идет по плану, а летит в … И уже в воскресенье довольный Сэм постит в Х селфи с гостевым бейджем OpenAl, недвусмысленно намекая на  переговоры и на своё скорое возвращение в родной кабинет.

Но договориться так и не получилось.

Альтману, Брокману, инвесторам и бунтующему штату компании противостоит костяк того самого совета директоров: главный учёный OpenAI Илья Суцкевер, директор Центра безопасности и новых технологий Джорджтаунского университета Хелен Тонер, ученый-робототехник и предприниматель Таша Макколи, а также основатель сервиса Quora Адам Д’Анджело.

Утром в понедельник они объявили о назначении Эмметта Шира (в народе известен как человек, задушивший ограничениями Twitch) на должность временного генерального директора OpenAI, что поставило не очень жирную, но всё-таки точку в вопросе о кадрах.

Здесь надо остановиться и сказать пару слов об Илье Суцкевере, поскольку именно его СМИ сейчас называют амбассадором идеи увольнения Альтмана. Прежде всего Илья – один из ведущих мировых специалистов в области ИИ, который стоял у истоков программы AlphaGo, впервые в истории победившей человека в го (китайская стратегическая настольная игра), а также сыграл ключевую роль в разработке GPT-генеративных моделей. Илон Маск, переманивший Суцкевера из Google, однажды сказал, что это стало основой успеха OpenAI.

Суцкевер – не публичный человек, но из тех немногих интервью, которые он успел дать мы достоверно знаем, что он последовательно выступает за ограничение и осознанное замедление в разработке ИИ, поскольку видит в этом угрозу человечеству.

Илья был источником приземления: он был четким техническим экспертом с широкими знаниями и видением.
Грег Брокман