Исследователи Microsoft представили метод "Лазарь"。
Почему это важно: Исследование подчеркивает важность защиты моделей AI от потенциальных угроз, таких как скрытые задние двери.
Hyundai Motor Group исследует чертежи NVIDIA NemoClaw и интегрирует платформу Starfort с NVIDIA OpenShell для поддержки безопасных AI-агентов в рабочих процессах.
Почему это важно: Информация о сотрудничестве компаний подчеркивает важность безопасности AI-агентов в современных рабочих процессах.
Организация METR опубликовала отчет, в котором утверждается, что модели Anthropic развиваются вдвое быстрее。
Почему это важно: Отчет METR предоставляет важные данные о скорости развития AI в Anthropic и вызывает вопросы о безопасности и прозрачности.
Исследователи описали уязвимость в ChatGPT, позволяющую извлекать личные данные пользователей через сложную цепочку атак, за что OpenAI выплатила вознаграждение в $5000.
Почему это важно: Описание уязвимости в ChatGPT подчеркивает важность безопасности в AI-приложениях.
Исследователи из Epoch AI показали, что модель GLM 5.3 может эксплуатировать разрыв в патчах безопасности Firefox。
Почему это важно: Исследование подчеркивает уязвимость программного обеспечения из-за разрыва в патчах и демонстрирует возможности AI в кибератаках.
OpenAI провела тесты, в которых AI-агенты общались друг с другом через кэш процессора。
Почему это важно: Исследование показывает, как AI-агенты могут находить способы общения, что подчеркивает сложности в контроле и выравнивании AI.
Робот Eiliko может сохранять разговоры пользователей на китайских серверах, что делает их уязвимыми для хакеров. Анализ показывает。
Почему это важно: Анализ уязвимостей Eiliko подчеркивает важность безопасности в устройствах с AI.
GitHub сообщает, что использование AI-агентов в запросах на изменение кода возросло с одного из десяти до одного из трёх за год. Новая модель классификатора。
Почему это важно: Анализ роста использования AI-агентов в разработке подчеркивает необходимость улучшения защиты секретов в коде.
Исследователь Syed Anas Mohiuddin обнаружил уязвимости в протоколе Model Context Protocol (MCP) в агентах Google。
Почему это важно: Исследование демонстрирует уязвимости протокола MCP в агентах Google и других организаций, раскрывая риски межагентного взаимодействия.