Нейродайджест06 декабря 2021

Нейродайджест: главное из области машинного обучения за ноябрь 2021

Артем СалютинCBDO

Генерация видео из текста от Microsoft, новые редакторы изображений от NVIDIA и Adobe, высококачественные NeRF-модели и многое другое в ноябрьской подборке.

ruDALL-E

Доступность:  репозиторий / колаб / демо 

Исследователи из Сбера представили имплементацию DALL-E для русского языка. Как и в случае с ruGPT-3, о которой мы рассказывали в октябре прошлого года, реализация не полностью повторяет оригинал, и по размерам в десять раз меньше модели от OpenAI. Но даже при размере в 1,2 млрд. тренировочных параметров модель выдает потрясающие результаты. Подробное описание можно почитать в блоге компании на Хабре.   

NUWA

Доступность: статья / репозиторий

Мультимодальный трансформер, который подобно DALL-E может генерировать фото, а еще и видео из текстового описания единым потоком токенов вместо трех отдельных под каждый формат данных. Помимо этого модель способна решать еще несколько типов задач — преобразование набросков в фото и текст, дополнение фото и видео, текстовая манипуляция с фото и видео.

Bletchley

Доступность: пубикация в блоге / онлайн-демо

Также Microsoft  представили мультимодальную модель с 2,5 млрд тренировочных параметров для работы с изображениями. Модель похожа на CLIP от OpenAI, только способна обучаться на 94 языках и демонстрирует SOTA-показатели в zero-shot классификации изображений. 

EditGAN

Доступность: страница проекта / статья 

Исследователи из NVIDIA представили новый метод семантического редактирования изображений. Пользователи могут редактировать изображения сегментарно в графическом интерфейсе. Так можно редактировать маску отдельной детали объекта, например фары автомобиля с помощью векторов в скрытом пространстве. Метод помогает определять эти «редактирующие» вектора и их количество, чтобы затем применять их к другим изображениям.

SketchEdit

Доступность: страница проекта / статья / репозиторий / онлайн-демо

Adobe Research представили новый редактор, который позволяет интерактивно манипулировать изображениями. В отличие от подходов, при которых пользователю нужно наносить на объекту маску, чтобы нейросеть потом сгенерировала фрагмент для заполнения, здесь достаточно дорисовать контуры поверх изображения. 

Palette

Доступность: страница проекта / статья

Google показал такой алгоритм — на вход подается изображение с разрешением 256х256, далее модель способна предсказывать то, что за пределами кадра в двух форматах — с помощью панорамного эффекта и эффекта отдаления камеры.

В первом случае модель в четыре этапа генерирует изображение справа и слева, чтобы получить окончательное изображение 256x1280.

Во втором — кадр исходного изображения дополняется с четырех сторон. Данный алгоритм также можно использовать для общих image2image задач. В основе диффузионная модель, о которых мы подробнее писали в июле на примере SR3. 

RawNeRF

Доступность: страница проекта / статья

Google Research представили способ обучения NeRF на RAW-изображениях. Это позволяет создавать новые представления сцены в HDR, при этом можно управлять не только точкой обзора, но также экспозицией, фокусом и тональным отображением. Метод может восстанавливать сцены из чрезвычайно зашумленных изображений, снятых в почти полной темноте. 

RegNeRF

Доступность: страница проекта / статья  

Хотя NeRF позволяет генерировать реалистичные фото с новых точек обзора, для качественных результатов нужно много снимков. В противном случае на изображениях будут встречаться артефакты, вызванные ошибочным предсказанием геометрии сцены. Исследователи из института Макса Планка представили новый способ, который упорядочивает невидимые представления во время оптимизации для генерации новых представлений всего по трем фотографиям. 

Победитель WMT 21

Доступность: публикация в блоге / статья / репозиторий

Большинство систем машинного перевода используют группы двуязычных моделей, которые обычно требуют больших датасетов для каждой языковой пары и задачи. FAIR предложили подход, при котором одна модель переводит сразу несколько языковых пар, включая малоресурсные (например, с исландского на английский) и ресурсоемкие (например, с английского на немецкий) с помощью нового способа майнинга обучающих данных с использованием mixture of experts (MoE). Это позволяет масштабировать модель до 52 млрд. параметров. Алгоритм превзошел лучшие специально обученные двуязычные модели в 10 из 14 языковых пар и выиграла конкурс WMT. 


В ноябре стали доступны:

  • бета GPT-3 и Codex. Сервис платный, но при регистрации дается 300 тысяч токенов на сумму $18;
  • исходный код и демо новой версии Demucs v3 от FAIR — модели для разделения звуковых дорожек на отдельные исходные потоки;
  • интерактивное демо GauGAN2 от NVIDIA, где можно из скетча создавать пейзажи в простом графическом интерфейсе.
Ко всем статьям

Интересные статьи и кейсы
от Work Solutions

Нажимая кнопку «Подписаться», я даю согласие на обработку персональных данных

Спасибо за подписку!