В нашей стране появился первый в истории российский Кодекс этики искусственного интеллекта. Этот свод правил специалисты IT-сферы уже назвали нравственными нормами высоких технологий.
Вот черная иномарка подъезжает к автобусной остановке, из нее выходят двое, которые пытаются насильно увезти девушку.
Все происходящее фиксирует камера видеонаблюдения. Она же и предотвратила преступление, благодаря специальной программе."Обычные камеры видеонаблюдения, которые могут хранить запись, которые можно смотреть в реальном времени, только смотрят в них не люди, а специальные алгоритмы. Эти алгоритмы понимают, что происходит на камерах, какие появляются люди, какие происходят события, распознают автомобили и так далее и уже в агрегированном виде, показывают человеку оператору", - объяснил директор по стратегии компании разработчика Сергей Мартынов.
В случае опасности, включается тревога. Система взаимодействует со всеми камерами в городе, от тех что установлены на мачтах городского освещения, до тех, которые вмонтированы в двери подъездов. Искусственный интеллект буквально следит за преступниками. При этом компьютерный разум может не только фиксировать само преступление, робот своими действиями способен даже спасти человека в критической ситуации.
По сути, машина сейчас сама определяет, что хорошо, а что плохо. Например, эта система установлена в подъезде и может определить, что человек стоит, сидит или, например, лежит и его избивают. При этом не дожидаясь пока очевидцы вызовут экстренные службы, сама набрать полицию и вызвать скорую помощь.
Но порой бывает и так, что и компьютерный разум до конца не может разобраться в ситуации. Принципы, которыми руководствуется робот, не всегда бывают понятны человеку. На этих кадрах задержание ученого из Подмосковья. Система распознавания лиц, опознала молодого человека, как преступника, находящегося в розыске.
"Одна фотография, это моя фотка, а вторая это некого человека, примерно в такой толстовке, как у меня и он был тоже в очках. Они сказали, ну блин вылитая копия, 70% совпадения показал компьютер", - отметил житель Одинцова Федор Ермошин.
Из-за таких вот ситуаций и возникают вопросы к поведению роботов, которым люди стали всецело доверять.
"Люди глазам своим не доверяют, а доверяют системе искусственного интеллекта, который имеет как известно ошибки первого и второго рода, любая система без исключения", - сказала Наталья Касперская, президент группы компаний в сфере информационной безопасности.
Чтобы восстания машин в России не случилось и всех ошибочно не обвинили в преступлениях, которые они не совершали, в России приняли свод правил для искусственного интеллекта. В отличии от трех законов Азимова, роботы должны в первую очередь охранять персональные данные людей, чтобы они не попали в чужие руки и не были ошибочно использованы. А помогать искусственному разуму в этом должен все равно человек.
"Мы никогда не оставим человека наедине с искусственным интеллектом, у него всегда будет возможность обратиться к другому человеку, который понимает как это работает и может сам оспорить эту историю", - отметил президент телекоммуникационной компании Вячеслав Николаев.
При этом, по правилам документа у человека всегда должно быть право отмены решений, которые принял искусственный разум.
Свежие комментарии