Развитие искусственного интеллекта может привести к возникновению новой масштабной эпидемии или даже пандемии, так как продвинутые модели ИИ способны создавать улучшенные патогены, заявили ученые из Университета Хопкинса, Стэнфордского университета и Фордхэмского университета в совместной статье для журнала Science.
По данным экспертов, продвинутые модели ИИ способны самообучаться и осмысленно манипулировать большими объемами данных в сфере биологии. Это может нести пользу, так как поможет решить многие проблемы, начиная от ускорения разработки лекарств и вакцин до повышения урожайности сельскохозяйственных культур. Но с той же вероятностью подобные модели представляют большой риск, так как в силу своей универсальности способны разработать патогенный вирус.
"Мы предлагаем правительствам законодательно установить обязательные правила, которые не позволят продвинутым моделям ИИ, занятым в сфере биологии, вносить существенный вклад в то, что может вызвать крупномасштабные опасности, такие как создание новых или усовершенствованных патогенов, которые смогут вызвать крупные эпидемии или даже пандемии", – выступили с инициативой исследователи.
В статье отмечается, что современные модели ИИ пока на этот не способны, однако "основные компоненты для создания крайне сложных биологических моделей" могут появиться уже в обозримом будущем. По данным ученых, биологические риски, связанные с развитием ИИ, без надлежащего надзора могут существенно возрасти в течение следующих 20 лет или раньше.
Ранее в августе издание Bloomberg со ссылкой на ученых сообщало, что чат-боты с искусственным интеллектом потенциально способны помогать людям создавать биологическое оружие.
Свежие комментарии