ИИ думает о вас

Global Look Press/Frank Hoermann / SVEN SIMON

До главной задачи интеллекта — самостоятельного творчества — пока неведомо не то что как дойти техническими средствами, но даже в какую сторону двигаться. Но даже нынешние имитации, всего лишь перефразирующие плоды естественного творчества, вызывают опасения.

Ещё семнадцатого ноября совет директоров компании OpenAI, создавшей лучший пока имитатор интеллекта ChatGPT, уволил одного из основателей — Альтмана. Причиной увольнения названы сомнения в откровенности перед советом. Вслед за ним ушёл сооснователь Брокман. Из создателей компаниии остался только Суцкевер — уроженец Нижнего Новгорода. По слухам, Альтман хотел нарастить мощность системы и применить новые алгоритмы, а несколько штатных исследователей написали совету директоров, что последствия станут опасны для всего человечества: мол, новый алгоритм может решить, что люди вовсе не нужны.

Уже не раз открытым текстом говорил: полноценный искусственный интеллект будет развиваться иначе, нежели естественный, а потому будет нам не конкурентом, но полезным партнёром. А вот возможные применения имитаторов, не умеющих оценивать плоды своих трудов, и впрямь могут быть опасны. Но в этом уже не сама программа виновна, а те, кто ставит ей задачи. 

Почти все сотрудники OpenAI подписали открытое письмо совету директоров: "То, как вы уволили Сэма Альтмана и убрали Грега Брокмана из совета директоров, перечеркнуло всю нашу работу и подорвало нашу миссию как компании. Ваше поведение наглядно продемонстрировало, что вы недостаточно компетентны, чтобы возглавлять OpenAI". Они потребовали вернуть Альтмана и Брокмана, а иначе готовы перейти в один из главных инвесторов OpenAI — Microsoft, чьи собственные разработки по имитаторам интеллекта отстают ненамного. Тогда совет директоров не просто восстановил Альтмана в должности, но ещё и поменял собственный состав.

Открытым текстом уверен: весь мировой опыт доказывает, что невозможно надолго затормозить даже опаснейшие исследования — конкуренция вынудит работать хотя бы из опасения отстать. Поэтому думать надо не о том, как отказаться от важной работы, а о том, как вести её в разумном режиме.