www.globallookpress.com/Bert Van Den Broucke Российские разработчики и эксперты IT-отрасли выявили новый вид сбоев в работе искусственного интеллекта (ИИ) – так называемые "галлюцинации взаимодействия". Об этом 1 мая сообщили "Известия".
Теперь нейросети искажают информацию не только в диалоге с человеком, но и при общении между собой.
"Проблема в инференсе – то есть в моменте, когда модель уже применяет знания к реальной задаче и должна корректно трактовать входящие сигналы от другой системы. На бумаге все работает, а в живой связке начинаются смысловые сбои", – объяснил IT-эксперт Сергей Поморцев.
Проблема возникает, когда один ИИ-агент, выполняя задачу пользователя, обращается к другому сервису или модели. В процессе передачи данных между системами, построенными на разных языковых моделях, теряется контекст, искажается смысл и нарушается логика. Эффект напоминает игру в "испорченный телефон".
По словам экспертов, такие сбои особенно опасны в критически важных сферах, вроде финансов, медицины, логистики, туризма и клиентского сервиса.
Ранее, 29 апреля, Илон Маск заявил, что ИИ готов к войне против человечества.
РЕН ТВ в мессенджере "МАКС" – главный по происшествиям
Свежие комментарии