ИИ уже может не просто советовать, что купить, но и самостоятельно делать покупки в интернете. Однако вместе с удобством такая автоматизация создает новые риски — от излишних расходов и мошенничества до утечки платежных и персональных данных.Об этом говорится в совместном документе шести крупных международных банков «Building Trust in Agentic Commerce», опубликованном 22 сентября, пишет Gizmodo. Финансовые учреждения предупреждают о рисках так называемой агентной торговли, которые растут по мере того, как ИИ получает больше автономии.ИИ-агенты для шопингаРазработчики ИИ, ритейлеры и платежные компании работают над так называемыми ИИ-агентами — системами, которые могут автоматизировать значительную часть онлайн-покупки: от поиска товара до оформления заказа и оплаты.В то же время потребители пока неохотно дают таким системам полный доступ к своим деньгам и аккаунтам. В отчете отмечается, что люди не всегда понимают, будет ли действовать ИИ-агент именно в их интересах.Среди опасений возможность приобрести не тот товар, потратить больше, чем планировалось, или стать жертвой мошенничества.Риски растут и потому, как именно работают алгоритмы. Например, ИИ-агент может отдать предпочтение определенному товару или способу оплаты не потому, что это лучший вариант для покупателя, а через более высокую комиссию или более низкую стоимость обработки данных.Пять главных рисковАвторы документа выделяют пять сфер, требующих особого внимания:прозрачность,безопасность,конфиденциальность и данные,выбор,совместимость разных систем.Отдельно банки предупреждают о потенциальном росте количества мошеннических операций, споров по поводу покупок и других проблем с платежами. При утечке данных под угрозой могут оказаться особо чувствительные сведения как покупателей, так и продавцов.Показательным примером послужил недавний случай с ИИ-помощником Muse от Meta. Компания обнаружила и исправила в нем критическую уязвимость, которая могла позволить злоумышленнику перехватить контроль над помощником и воспользоваться предоставленными ему разрешениями.Читайте такжеПри этом банки не исключают саму идею покупок через ИИ. Напротив, они считают, что агентная торговля может стать одним из распространенных способов взаимодействия покупателей и продавцов.Однако для этого, по мнению авторов документа, сначала нужны отраслевые стандарты, четкие правила и механизмы защиты потребителей. В настоящее время развитие технологий опережает формирование таких норм.Шесть банков планируют подготовить следующий документ, в котором подробнее объяснят, как реализовать пять определенных принципов — прозрачность, безопасность, защиту данных, свободу выбора и совместимость систем — на практике.