Исследование интерпретируемости и выравнивания нейронных сетей
Nick Cammarata из Goodfire представил теорию о том, что многие известные случаи полисемантичности нейронных сетей можно объяснить с помощью агентного анализа。
#Agent
Latent SpaceОценка AI6262
Google ResearchГлавноеОценка AI7373 Открытые и возникающие проблемы в области агентной конфиденциальности и безопасности
Google Research представил отчет о проблемах конфиденциальности и безопасности автономных агентов。
Почему это важно: Отчет предлагает новые подходы к обеспечению безопасности и конфиденциальности автономных агентов, что важно для их безопасного внедрения.
Hugging Face BlogГлавноеОценка AI8787 Microsoft и Hugging Face выпустили ThinkingBox для оценки надежности AI-агентов
Microsoft и Hugging Face совместно опубликовали ThinkingBox — бенчмарк для оценки AI-агентов。
Почему это важно: Microsoft и Hugging Face представили ThinkingBox, оценивающий AI-агентов по реальному изменению состояния базы данных, а не по количеству вызовов инструментов.
Hugging Face BlogГлавноеОценка AI7070 Презентация ProvenanceGuard: проверка фактов с учетом источника для агентов на базе MCP
Команда Multiverse Computing представила статью ProvenanceGuard, посвященную проверке фактов для LLM-агентов。
Почему это важно: Представлен метод верификации фактов для MCP-агентов, который отслеживает происхождение утверждений и предотвращает смешение источников.
Google ResearchГлавноеОценка AI8585 Google Research представила систему AI-агентов для генерации связного длинного видео
Исследователи Google описали набор фреймворков на базе Gemini и Veo для автоматизации создания многочасовых видеороликов. Система включает Co-Director для управления творческим процессом。
Почему это важно: Представлена многоагентная архитектура для создания длинных видеороликов, решающая проблему согласованности персонажей и окружения.
Google ResearchГлавноеОценка AI7373 ToolGrad: эффективная генерация датасета для использования инструментов с помощью текстовых градиентов
Исследователи Google представили ToolGrad — метод создания обучающих данных для AI-агентов на основе парадигмы «ответ прежде вопроса» и текстовых градиентов. Подход позволяет генерировать сложные цепочки вызовов API с высокой точностью и низкой стоимостью. Модели Gemma-3, дообученные на данных ToolGrad, продемонстрировали результаты, сопоставимые с лучшими проприетарными моделями (Gemini, Claude, GPT), а модель 12B даже превзошла свою «учительскую» модель Gemini.
Почему это важно: Предлагает эффективный метод генерации данных для обучения агентов, позволяя компактным моделям превосходить проприетарные аналоги.