Глава Anthropic призвал замедлить развитие ИИ

Don Feria/AP/TASS

Глава компании Anthropic Дарио Амодей выступил с призывом замедлить разработку более мощных моделей искусственного интеллекта, ссылаясь на соображения безопасности. Об этом он написал 12 сентября в своем блоге.

В заявлении Амодея отмечается, что за последние несколько месяцев он пришел к выводу о необходимости проявлять большую осмотрительность.

Он подчеркнул, что недостаточно только вкладываться в меры по предотвращению рисков, нужно также снизить темпы развития возможностей ИИ-моделей.

"Мы должны снизить скорость развития возможностей ИИ-моделей", – говорится в заявлении главы Anthropic.

Амодей обеспокоен ускорением развития ИИ с лета, в том числе из-за способности систем создавать следующее поколение моделей. Он также упомянул инцидент со взломом платформы Hugging Face ИИ-агентами OpenAI.

Глава Anthropic предложил трехэтапный план, предусматривающий привлечение независимых аудиторов для проверки мер безопасности, а также международную координацию стандартов. Напомним, ранее из компании ушел исследователь Джейкоб Коксон, опасаясь возможного апокалиптического сценария к концу 2027 года.

Ранее, 11 сентября, Bloomberg сообщал, что OpenAI согласилась замедлить разработку передовых систем ИИ из-за соображений безопасности.

РЕН ТВ в мессенджере "МАКС" – главный по происшествиям