24.04.2023, 00:39 — Технологии&АвтоИзраильская компания Team8, специализирующаяся на кибербезопасности, предупредила, что инструменты искусственного интеллекта (ИИ), такие как ChatGPT, могут поставить под угрозу конфиденциальную информацию клиентов и коммерческую тайну. Компания заявляет, что широкое внедрение чат-ботов и инструментов на основе искусственного интеллекта может сделать компании уязвимыми к утечке данных и судебным тяжбам.
Большие технологические компании, такие как Microsoft и Alphabet, спешат добавить возможности генеративного ИИ для усовершенствования поисковых систем, но это может привести к использованию конфиденциальных или приватных данных для обучения.
В ChatGPT недавно произошел сбой, который привел к тому, что запросы пользователей начали демонстрироваться другим пользователям. В отчете Team8 отмечаются три другие проблемы «высокого риска», связанные с интеграцией инструментов генеративного ИИ, и отмечается растущая угроза обмена информацией через сторонние приложения, такие как Bing и инструменты Microsoft 365.
Отчет был одобрен Майклом Роджерсом, бывшим главой Агентства национальной безопасности США и Киберкомандованием США, а его соавторами стали десятки руководителей служб информационной безопасности американских компаний. Представитель Microsoft заявил, что «Microsoft поощряет прозрачное обсуждение эволюции киберрисков в сообществах, занимающихся вопросами безопасности и искусственного интеллекта».
Компаниям важно оценивать потенциальные риски, связанные с использованием посторонних инструментов на основе генеративного ИИ, таких как ChatGPT. Хотя эти инструменты могут предоставлять такие преимущества, как улучшение обслуживания клиентов, они также могут сделать компании уязвимыми к утечке данных и судебным тяжбам.
Сегодня компании вынуждены активнее принимать меры по защите своих данных. Важно убедиться, что конфиденциальная информация не передается через сторонние приложения. Поскольку использование генеративного ИИ продолжает расти, важно определить приоритетность мер кибербезопасности для защиты конфиденциальных данных.
Если Вы заметили ошибку, выделите необходимый текст и нажмите Ctrl+Enter , чтобы сообщить нам об этом.Finance.ua/Все новости/Технологии&Авто/ChatGPT может сливать секретные корпоративные данные: специалисты по кибербезопасности бьют тревогу