Несколько исследователей компании написали письмо совету директоров, в котором предупредили об открытии мощного искусственного интеллекта, способного угрожать человечеству. Письмо считается одной из причин, которые привели к увольнению Альтмана.

Компания OpenAI не предоставила комментариев или возможности для интервью с авторами письма. Однако внутреннее сообщение компании после запроса подтвердило наличие проекта Q* (читается как Q-Звезда). Некоторые сотрудники OpenAI считают, что проект Q* может стать прорывом в области общего искусственного интеллекта (AGI). Он описывается как автономная система, способная превосходить человека в большинстве экономически ценных задач.

По словам одного из источников, на данный момент Q* выполняет математические задачи на уровне школьников, но его успешное преодоление таких тестов вызывает оптимизм у исследователей относительно его дальнейшего развития. Одна из главных особенностей этого искусственного интеллекта заключается в его способности ставить цели, разбивать сложные процессы на более простые, решать задачи в широком спектре областей и принимать решения, учитывая контекст. Это означает, что в теории такой искусственный интеллект может заменить специалиста высокого уровня с знаниями, навыками и опытом. Исследователи считают, что математика является важным этапом в развитии генеративного искусственного интеллекта.

В настоящее время это ИИ хорошо справляется с написанием и переводом, статистически предсказывая следующее слово, но ответы на один и тот же вопрос могут значительно отличаться. Но преодоление математических задач, где есть только один правильный ответ, предполагает, что у ИИ будет больше возможностей для рассуждений, похожих на человеческий интеллект. Это может быть применено, например, в новых научных исследованиях, как считают эксперты.

В письме совету директоров, исследователи выразили беспокойство по поводу мощности ИИ и потенциальной опасности. Они также упомянули о работе особой группы «ученых по искусственному интеллекту», существование которой подтверждают различные источники. По словам одного из источников, эта команда изучает, как оптимизировать существующие модели ИИ для улучшения их рассуждений и, в конечном итоге, выполнять научные исследования с их помощью.

Сэм Альтман возглавил усилия по превращению ChatGPT в одно из самых быстрорастущих программных приложений в истории и привлек инвестиции и вычислительные ресурсы от компании Microsoft для создания такого ИИ, как AGI. Накануне своего увольнения на саммите мировых лидеров в Сан-Франциско он сообщил о "серьезных достижениях, которые уже не за горами". Возможно, эти решения и события однажды станут основой для книги, фильма или учебника истории.

По материалам зарубежных СМИ