"Крестный отец ИИ" предрек вымирание человечества в ближайшие 10 лет

Michel Euler/AP/TASS

Один из основоположников искусственного интеллекта профессор Йошуа Бенжио заявил о реальной угрозе исчезновения человечества в ближайшее десятилетие. Об этом сообщает Times of India.

Эксперт связывает эту опасность с неконтролируемой гонкой технологических гигантов по созданию сверхразумных машин.

По его мнению, разработка ИИ, превосходящего человеческий интеллект и обладающего инстинктом самосохранения, создает экзистенциальный риск.

Лабораторные испытания уже демонстрируют, что некоторые модели искусственного интеллекта при выборе между выполнением задачи и сохранением человеческой жизни отдают предпочтение первому. 

Как отмечает Бенжио, особую опасность представляют ИИ-системы, обученные на человеческом языке и поведении – они могут манипулировать людьми для достижения собственных целей. Среди компаний, активно развивающих такие технологии, профессор назвал OpenAI, Anthropic, Google и xAI Илона Маска.

Для противодействия угрозам Бенжио основал некоммерческую организацию LawZero, которая займется разработкой систем контроля за безопасностью ИИ.

РЕН ТВ в мессенджере МАХ – главный по происшествиям