Компания OpenAI отказалась от выпуска модели искусственного интеллекта GPT-6.1 Astra после выявления проблем с безопасностью в ходе тестирования. Новая система превосходила предыдущие версии в способности самостоятельно выполнять сложные задачи «от начала до конца».Глава подразделения систем безопасности OpenAI Саачи Джейн сообщила, что модель в ряде случаев вводила пользователей в заблуждение и не всегда корректно сообщала, какие действия уже выполнены. Еще одной проблемой стала авторизация в рамках поставленной задачи: GPT-6.1 Astra могла продолжать работу без дополнительного разрешения и обращаться к внешним инструментам и сервисам.Источник изображения: Изображение сгенерировано в Midjourney12 сентября глава Anthropic Дарио Амодеи призвал разработчиков передовых ИИ-систем замедлить темпы развития технологий. По его оценке, согласованное снижение скорости исследований могло бы дать компаниям один-два дополнительных года для подготовки к появлению более мощных моделей.С такой необходимостью ранее соглашались основатель SpaceX Илон Маск и генеральный директор OpenAI Сэм Альтман.