Технологии
Джейлбрейки и защита, поведение моделей, тесты безопасности и управление рисками.
30 важных материаловЗа 30 дней: 20Всего собрано: 68
Tamnoon разработал Tami, AI-агента для автоматизации устранения проблем в облачной безопасности。
Почему это важно: Описание архитектуры и интеграции помогает понять, как автоматизация может улучшить безопасность облака.
Google DeepMind совместно с правительством Сингапура создали модель AI для обнаружения мошенничества。
Почему это важно: Описание условий доступа помогает оценить влияние функции на рабочие процессы.
Amazon представил подход к контролю доступа в реальном времени для Retrieval Augmented Generation (RAG) с использованием Amazon Quick и Amazon Bedrock。
Почему это важно: Описание реализации контроля доступа в реальном времени помогает понять, как обеспечить безопасность при использовании RAG.
GitHub сообщает, что использование AI-агентов в запросах на изменение кода возросло с одного из десяти до одного из трёх за год. Новая модель классификатора。
Почему это важно: Анализ роста использования AI-агентов в разработке подчеркивает необходимость улучшения защиты секретов в коде.
Z.ai выпустила модель GLM 5.3 для задач кодирования и агентов. Модель доступна через API с кэшированием промптов и поддержкой кросс-регионального вывода.
Почему это важно: Материал описывает новые возможности и условия доступа, что помогает оценить влияние на рабочие процессы.
Исследователь Syed Anas Mohiuddin обнаружил уязвимости в протоколе Model Context Protocol (MCP) в агентах Google。
Почему это важно: Исследование демонстрирует уязвимости протокола MCP в агентах Google и других организаций, раскрывая риски межагентного взаимодействия.
Google Research представил отчет о проблемах конфиденциальности и безопасности автономных агентов。
Почему это важно: Отчет предлагает новые подходы к обеспечению безопасности и конфиденциальности автономных агентов, что важно для их безопасного внедрения.
Разработчики представили пошаговое руководство по настройке Claude Code для работы с Amazon Bedrock в AWS GovCloud (США), включая требования и команды установки.
Почему это важно: Подробные инструкции по настройке Claude Code с Amazon Bedrock помогут организациям эффективно использовать AI в регулируемых средах.
Google DeepMind анонсировала новую модель Gemini 4 Argon с увеличенным лимитом выходных токенов до 1 миллиона. Модель демонстрирует передовые результаты в задачах программирования。
Почему это важно: Описаны возможности модели в сложных задачах и условия доступа, что помогает оценить влияние на рабочие процессы.
Google DeepMind анонсировала новую архитектуру для Private AI Compute。
Почему это важно: Описание новой архитектуры помогает понять, как обеспечивается безопасность данных пользователей в облачных AI-системах.