Tech Meridian ← К СУЩНОСТЯМ
EN

КОМПАНИЯ · ENTITY #1344

Google Research

Хронология связанных событий, источники и контекст из новостной базы.

ХРОНОЛОГИЯ СОБЫТИЙ

22

RESEARCH · 1 ИСТОЧН. · Google Research

Google Research представляет SEEDS — генеративный диффузионный ИИ для масштабной генерации ансамблей прогнозов погоды

Google Research опубликовала в Science Advances работу о SEEDS (Scalable Ensemble Envelope Diffusion Sampler) — генеративном ИИ на базе диффузионных моделей, который может эффективно формировать большие ансамбли прогнозов погоды, опираясь всего на один–два запуска численной модели. Авторы утверждают, что SEEDS создаёт правдоподобные вероятностные ансамбли с гораздо меньшими вычислительными затратами по сравнению с физическими моделями и по некоторым метрикам показывает сопоставимое или лучшее качество.

8.0

RESEARCH · 1 ИСТОЧН. · Google Research

AutoBNN — композиционные байесовские нейронные сети для вероятностного прогнозирования временных рядов (open-source, Google Research)

Google Research (публикация Урса Кёстера) представляет AutoBNN — открытый пакет на JAX, доступный в TensorFlow Probability, который заменяет гауссовы процессы композиционными байесовскими нейронными сетями для автоматического подбора интерпретируемых моделей прогнозирования временных рядов, выдачи оценок неопределённости и более эффективного масштабирования на больших наборах данных. AutoBNN переводит композиционные ядра GP в архитектуры BNN, реализует аналоги операций сложения и умножения и ориентирован на ускорение на GPU/TPU и гибридные архитектуры с глубокими BNN-компонентами.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Исследование Google Research по ассистивному ИИ для КТ-скрининга рака лёгких показывает рост специфичности рентгенологов

Google Research опубликовал ретроспективное многонациональное исследование (США и Япония) в Radiology AI, в котором оценивается ассистивная ML-система для КТ-скрининга рака лёгких: система выдает четырехуровневую оценку подозрительности и локализует очаги, а в рандомизированных исследованиях отмечено повышение специфичности рентгенологов при использовании модели. Команда доработала модели (включая self-attention), развернула 13-модельную систему в Google Cloud/GKE и опубликовала код для генерации PACS-совместимых КТ-изображений.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Исследование Google показывает, что ИИ улучшает глобальные прогнозы наводнений для неоснащённых водосборов

Google Research опубликовала статью в Nature («Global prediction of extreme floods in ungauged watersheds»), в которой говорится, что модели машинного обучения (включая LSTM-подходы) значительно улучшают глобальные прогнозы наводнений в районах с дефицитом данных — в среднем продлевая надёжность прогнозов с нуля до пяти дней и позволяя Flood Hub предоставлять прогнозы рек до семи дней для участков более чем в 80 странах; оценка моделей проводилась совместно с ECMWF, а сопутствующие гидрологические данные были опубликованы в открытом доступе.

8.0

MODELS · 1 ИСТОЧН. · Google Research

ScreenAI: 5-миллиардная мультимодальная модель Google Research для интерфейсов и инфографики

Google Research представляет ScreenAI — мультимодальную модель размером 5 млрд параметров, основанную на архитектуре PaLI с гибкой стратегией пачинга из pix2struct и обученную на смеси автоматически сгенерированных и аннотированных данных экранов и инфографики (включая новую задачу Screen Annotation). Авторы сообщают о передовых результатах на задачах по интерфейсам и инфографике (WebSRC, MoTIF), сопоставимом качестве на ChartQA, DocVQA и InfographicVQA и публикуют три новых набора данных: Screen Annotation, ScreenQA Short и Complex ScreenQA.

8.0

RESEARCH · 1 ИСТОЧН. · Google Research

SCIN: открытый датасет дерматологических изображений, созданный краудсорсингом, с фокусом на повседневные состояния и разнообразные тона кожи

Google Research и Stanford Medicine опубликовали Skin Condition Image Network (SCIN) — открытый датасет более 10 000 краудсорсинг-изображений кожи, ногтей и волос, собранных в США в рамках одобренного IRB исследования. Для изображений доступны самосообщённые демографические данные и склонность к загару, разметка 1–3 дерматологов с оценкой уверенности и агрегированная взвешенная дифференциальная диагностика, а также оценки типа/тона кожи (самосообщённый sFST, оценка дерматологов eFST и оценка непрофессионалов eMST); датасет ориентирован на распространённые аллергические, воспалительные и инфекционные состояния, содержит много ранних проявлений и более широкое представление тёмных типов по шкале Фицпатрик по сравнению с рядом клинических наборов.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

MELON: восстановление 3D-объектов из непозиционированных изображений с лёгкой CNN и modulo-ошибкой

Google Research представил MELON (Modulo Equivalent Latent Optimization of NeRF), показанный на 3DV 2024, — метод, который одновременно восстанавливает NeRF и выводит объектно-центричные положения камер «с нуля» по 4–6 непозиционированным изображениям. MELON использует небольшую CNN (инициализируемую шумом, без предобучения) для регрессии поз и modulo-ошибку для учёта псевдосимметрий объекта, интегрируя это в стандартную тренировку NeRF и добиваясь передовой точности без начальных оценок поз или сложных GAN/предобучающих схем.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

HEAL: 4‑шаговая методика и метрика для оценки здравоохранительной справедливости моделей ИИ

Исследователи Google (Шекерманн и Хорн) предлагают HEAL — четырёхшаговую методику и метрику для количественной оценки того, насколько модели машинного обучения в здравоохранении отдают приоритет производительности для популяций с худшими исходами здоровья. Статья в Lancet eClinicalMedicine описывает шаги по выявлению факторов неравенства и метрик, количественной оценке существующих различий, измерению производительности по субпопуляциям и вычислению степени антикорреляции между производительностью и неравенствами; в качестве примера приведена дерматологическая CNN, обученная на ~29 тыс. случаев (288 состояний).

8.0

RESEARCH · 1 ИСТОЧН. · Google Research

Cappy: 360M-параметровый скорер на базе RoBERTa, который, по авторам, улучшает и адаптирует большие мультизадачные LLM без дообучения

Исследователи Google представляют Cappy — лёгкий (≈360M параметров) скорер на базе RoBERTa, обученный посредством непрерывного предобучения, который выдаёт оценку корректности (0–1) для пары инструкция–ответ. Авторы утверждают, что Cappy может работать самостоятельно для задач классификации или служить вспомогательным модулем для улучшения больших мультизадачных LLM и позволять адаптацию и учёт супервизии без обратного распространения ошибки и без доступа к параметрам модели (например, закрытые WebAPI).

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Google Research представила «Talk like a Graph» и бенчмарк GraphQA для кодирования графов для LLM

Исследователи Google (Бахаре Фатеми и Брайан Пероззи) предложили способы преобразования графов в текстовое представление, понятное большим языковым моделям, и представили бенчмарк GraphQA с задачами на рассуждение по графам и генераторами графов. Они отмечают, что производительность LLM зависит от метода кодирования, типа задачи и структуры графа, и выбор подходящего кодирования может повысить точность на графовых задачах примерно до 60%.

7.0

MODELS · 1 ИСТОЧН. · Google Research

Google выпустила embedding-инструменты Derm Foundation и Path Foundation для исследований в дерматологии и патологии

Google Health / Google Research объявила о двух специализированных embedding-инструментах — Derm Foundation для дерматологических изображений и Path Foundation для цифровой патологии (H&E whole-slide) — доступных для исследовательского использования. Инструменты формируют специализированные числовые эмбеддинги для ускорения последующих задач (например, линейных классификаторов) и опираются на предыдущую работу с CXR Foundation и оптимизации SSL для патологии.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Социальное обучение: метод Google Research для обучения LLM друг у друга с помощью естественного языка

Исследователи Google предлагают рамочную модель «социального обучения», в которой модели‑учителя передают знания модели‑студенту через текстовые инструкции и синтезированные примеры вместо обмена исходными данными. На основе PaLM 2‑S для задач (детектирование спама, школьная математика, вопросы по тексту) они отмечают, что сгенерированные примеры (например, 8–16 штук) часто сохраняют приватность и обеспечивают сопоставимую производительность для большинства задач, хотя детектирование спама оказалось исключением; также предложены количественные методы измерения приватности.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Croissant 1.0: формат метаданных для ML-готовых датасетов на базе schema.org с поддержкой крупных хостов и фреймворков

Croissant — новый формат метаданных для ML-готовых датасетов (версия 1.0) на базе schema.org, который унифицирует описание и организацию данных, не меняя их форматов. Релиз включает спецификацию, примеры датасетов, открытый Python-инструментарий и визуальный редактор, расширение для ответственного ИИ, и получает поддержку со стороны Kaggle, Hugging Face, OpenML, Dataset Search и загрузки через TFDS в основных фреймворках.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Google Quantum AI проводит стенд и более 50 докладов на весеннем собрании APS 2024

Команда Google Quantum AI сообщила о значительном присутствии на весеннем собрании Американского физического общества (APS) 2024 в Миннеаполисе: стенд, более 50 докладов и демонстрации проектов, включая прототип визуализации Crumble, библиотеку оценок ресурсов Qualtran и сессию по конкурсу XPRIZE. Программа охватывает квантовую коррекцию ошибок, калибровку и переход от NISQ к устойчивым системам, квантовые алгоритмы и применения машинного обучения в материаловедении и химии.

6.0

MODELS · 1 ИСТОЧН. · Google Research

VideoPrism — фундаментальный визуальный энкодер Google Research для разнообразного анализа видео

Google Research представляет VideoPrism — видеофундаментальную модель, выдающую «замороженные» представления видео для разных задач (классификация, локализация, поиск, генерация подписей, ответы на вопросы). Модель предобучена на гибридном корпусе из 36 миллионов высококачественных пар «видео‑текст» и дополнительно 582 миллионов клипов с шумными или машинно сгенерированными текстами; обучение проходит в два этапа (контрастивное обучение видео‑текст и маскирование видеопатчей).

8.0

RESEARCH · 1 ИСТОЧН. · Google Research

Google Research: инстанс-условные временные шкалы затухания для перевзвешивания тренировочных данных при дрейфе концепций

Google Research предлагает вспомогательную модель перевзвешивания, которая присваивает важность каждому обучающему примеру по его содержанию и возрасту, комбинируя несколько фиксированных временных шкал затухания и обучая назначение совместно с основной моделью. Метод объединяет преимущества офлайн- и непрерывного обучения и демонстрирует до ~15% относительного прироста точности на крупном бенчмарке с нестабильными данными (~39 млн изображений за 10 лет) и улучшения на других наборах для обучения при дрейфе данных.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Google Research выпустила DP-Auditorium — библиотеку на Python для внешнего аудита дифференциальной приватности

Google Research представила DP-Auditorium — открытую библиотеку на Python для аудита гарантий дифференциальной приватности с использованием только «чёрного ящика» механизма. Библиотека содержит тестеры свойств и поисковщики наборов данных (включая новые HockeyStick-, Rényi- и MMD-тестеры) и показывает возможность выявлять нарушения гарантий DP для разных определений (pure, approximate, Rényi).

7.0

CODING · 1 ИСТОЧН. · Google Research

Google выпустил TensorFlow GNN 1.0 для графовых нейронных сетей в промышленной эксплуатации

Google представляет TensorFlow GNN 1.0 (TF-GNN) — промышленную библиотеку для построения и обучения графовых нейронных сетей в TensorFlow с поддержкой GraphTensor, интеграцией с Keras и гибкой динамической или пакетной выборкой подграфов — от Colab до распределённой выборки через Apache Beam для наборов данных с сотнями миллионов узлов и миллиардами рёбер.

7.0

MODELS · 1 ИСТОЧН. · Google Research

Google Research представила TimesFM — 200M-параметровую декодерную foundation-модель для прогнозирования временных рядов

Исследователи Google Research Раджат Сен и Ичен Чжоу представили TimesFM — декодерную трансформерную foundation-модель, предварительно обученную примерно на 100 миллиардах реальных точек временных рядов. При объёме 200 млн параметров модель использует «патчи» временных точек как токены и демонстрирует сильные нулевые (zero-shot) прогнозы на различных невиденных наборах данных, приближаясь к лучшим в классе супервизированным методам; модель планируется сделать доступной через Google Cloud Vertex AI позже в этом году.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Исследователи Google предлагают «ранние считывания» и «просеиватель признаков» для борьбы со спурриозными признаками и простотной предвзятостью

Авторы из Google Research Ришаб Тивари и Прадеп Шеной описывают два вмешательства — прогнозы из ранних промежуточных слоёв («ранние считывания») и принудительное «забывание признаков» с помощью «просеивателя признаков» — чтобы обнаруживать и снижать зависимость от спурриозных признаков и простотную предвзятость в глубоких сетях. Сигнал от ранних считываний используется для перенастройки вклада учителя при дистилляции, а просеиватель признаков заставляет модель искать более информативные признаки; авторы сообщают об улучшении worst‑group accuracy на бенчмарках (Waterbirds, CelebA, CivilComments, MNLI) и лучшей генерализации на невидимые домены по сравнению с предыдущими подходами.

7.0

RESEARCH · 1 ИСТОЧН. · Google Research

Google Research описывает программные оптимизации смешанных входных матричных умножений для NVIDIA Ampere (CUTLASS)

В блоге Google Research (автор — Маниш Гупта) описаны программные приёмы для реализации смешанных входных матричных умножений (например, входы F16 × веса U8) на тензорных ядрах NVIDIA Ampere через преобразование типов данных и согласование макета; решения опубликованы в репозитории NVIDIA/CUTLASS и, по заявлению авторов, добавляют минимальные накладные расходы и близки к пиковой аппаратной производительности. Работа ориентирована на ресурсоёмкие LLM‑нагрузки и поддерживает схемы квантования только весов для уменьшения объёма памяти модели.

7.0

MODELS · 1 ИСТОЧН. · Google Research

Exphormer: масштабирование графовых трансформеров с помощью экспандер-графов

Exphormer — это фреймворк с разреженным вниманием для графовых трансформеров от Google Research (представлен на ICML 2023), который заменяет плотный граф взаимодействий полным вниманием на разрежённый d-регулярный экспандер (используется случайная конструкция Фридмана, близкая к раманджуану). Подход комбинирует ребра экспандера с входным графом и виртуальными узлами, даёт линейное число рёбер и показывает сильные эмпирические результаты на разных графовых датасетах; реализация доступна на GitHub.

7.0