Движки и фреймворки для машинного обучения

2021. Microsoft Azure добавила поддержку фреймворка PyTorch для корпораций



Microsoft запустила PyTorch Enterprise - новую службу в облаке Azure, которая предоставляет разработчикам дополнительную поддержку при использовании фреймворка PyTorch в Azure. По сути, это означает коммерческую поддержку PyTorch от Microsoft. PyTorch - это платформа машинного обучения с открытым исходным кодом, ориентированная на Python, с упором на компьютерное зрение и обработку естественного языка. Первоначально он был разработан Facebook и, по крайней мере, до некоторой степени сопоставим с популярным фреймворком Google TensorFlow.


2020. Microsoft выпустила open-source инструмент для глубокого обучения на основе триллиона параметров



Microsoft представила на GitHub обновленную открытую версию библиотеки DeepSpeed. Она предназначена для оптимизации глубокого обучения моделей искусственного интеллекта. Уникальность решения DeepSpeed заключается в том, что она способна обучать модели ИИ на основе триллиона различных параметров. В Microsoft отмечают, что используемый разработчиками DeepSpeed метод, который получил название 3D-параллелизм, адаптируется к различным требованиям пользовательских решений, включая взаимодействие с огромными моделями, сохраняя при этом баланс и эффективность в масштабировании.


2020. Google выпустил open-source платформу, которая сокращает расходы на машинное обучение на 80%



Google выпустил фреймворк с открытым исходным кодом SEED RL, которая позволяет масштабировать обучение ИИ-модулей на тысячах компьютеров. Это решение, по словам разработчиков, позволяет снижать расходы на 80%, благодаря чему стартапы могут создавать алгоритмы на уровне продуктов крупных технологических компаний. Фреймворк SEED RL построен на платформе TensorFlow 2.0 и использует комбинацию графических и тензорных модулей для централизации модели логического вывода. Вывод затем выполняется с использованием компонента, который обучает модель.

2020. Google выпустила фреймворк машинного обучения для квантовых компьютеров


Google выпустила платформу с открытым исходным кодом TensorFlow Quantum, которая позволяет разработчикам создавать ИИ-модели для квантовых компьютеров. Это расширение для TensorFlow предлагает набор операторов — низкоуровневых строительных блоков в программирования, создающих модели машинного обучения, которые работают с кубитами, квантовыми логическими элементами и квантовыми схемами. Эти операторы берут на себя некоторые сложные компоненты, чтобы уменьшить объем кода, который приходится писать программистам. При помощи данного фреймворка можно создавать гибридные и классические модели машинного обучения, обучать дискриминативные и генеративные квантовые модели и поддерживать эмуляторы квантовых схем.


2020. Amazon выпустила открытую библиотеку для создания ИИ-моделей



Компания Amazon выпустила библиотеку с открытым исходным кодом AutoGluon (на основе ML-библиотеки Gluon), которая поможет разработчикам быстро создавать приложения с использованием машинного обучения. Благодаря AutoGluon можно создавать модели искусственного интеллекта, использующие изображения, текст и табличные наборы данных, путём написания небольшого количества строк кода. AutoGluon автоматизирует выполнение таких задач как настройка гиперпараметров при построении ИИ-модели, поиск нейронной архитектуры.


2019. Google предложил бизнесу TensorFlow Enterprise



TensorFlow - самый популярный фреймворк для машинного обучения, разработанный в Google. Он распространяется как open-source система с 2015 года, но теперь в Гугле решили подзаработать на нем и запустили услугу TensorFlow Enterprise, которая включает в себя расширенную поддержку и сопутствующие облачные сервисы на Google Cloud. Поддержка обеспечивает возможность продолжать использовать более старые версии Tensorflow, на которых компании уже создали свои ИИ модели. В облаке инженеры Гугла помогут клиентам быстро запустить виртуальные машины для глубокого обучения нейросетей или контейнеры Kubernetes.


2019. Huawei хочет стать как Apple для Искусственного интеллекта


Компания Huawei представила свой процессор для систем машинного обучения - Ascend 910, который они называют самым быстрым ИИ-процессором в мире (на данный момент). Его вычислительная мощность - 256 терафлопс (триллионов операций в секунду). Для сравнения - у нового ИИ-чипа Intel - 180 терафлопс. Но это еще не все. Huawei разработала фреймворк для создания ИИ-приложений - MindSpore, который будет конкурировать с гугловским Tensorflow. Фишка в том, что он идеально использует ресурсы вышеупомянутого процессора. Т.е. за счет синергии харда и софта, Huawei хочет добиться в сфере ИИ того, чего добился Apple в производстве мобильных девайсов.


2017. Microsoft добавил гугловскую систему машинного обучения TensorFlow в облако Azure Machine Learning



Microsoft представила набор инструментов Azure Batch AI Training для обучения глубоких нейросетей, который скоро станет частью платформы Azure Machine Learning. Он позволяет использовать наиболее популярные фреймворки для глубокого обучения TensorFlow от Google, Cognitive Toolkit от Microsoft, Caffe и «любые другие библиотеки». Система предназначена для обучения глубоких нейросетевых моделей — например, реккурентных и свёрточных нейронных сетей и глубоких сетей доверия. Одна из основных особенностей таких моделей заключается в том, что для их работы требуются большие объёмы памяти для хранения и обработки информации обо всех внутренних зависимостях.


2016. Microsoft открыла для разработчиков свой фреймфорк для машинного обучения - Cognitive Toolkit


Microsoft последовала примеру Гугла и выложила в свободном доступе свой движок для нейросетей Cognitive Toolkit. Именно он использовался для создания, например, Skype Translator и Cortana. Разработчики получили возможность работать с этим фреймворком в интегрированной среде Visual Studio. Также в него была добавлена поддержка языка Python. Cognitive Toolkit - платформа широкого назначения, и она способна работать на основе разных данных, включая речь, текст и изображения. А процесс обучения может проходить на множестве стандартных CPU и GPU.  Она конкурирует с гуловской платформой TensorFlow, а также рядом других открытых фреймворков: Torch, Caffe, Paddle и др. В Майкрософт утверждают, что их платформа позволяет добиться самой высокой производительности на рынке.


2016. Intel купила разработчика библиотеки компьютерного зрения OpenCV



Open-source библиотека алгоритмов компьютерного зрения OpenCV известна, пожалуй, всем кто интересуется технологиями машинного обучения. Однако, далеко не все знают, что большинство ведущих разработчиков OpenCV живут и трудятся в Нижнем Новгороде, и являются сотрудниками компании Itseez. С 2000 по 2008 год OpenCV разрабатывалась и поддерживалась в основном Intel. Однако, затем Intel практически прекратила поддержку проекта, и он выживал благодаря спонсорству компаний Willow Garage и NVidia. Теперь же в Intel опять сильно заинтересовались машинным обучением и компьютерным зрением и решили выкупить старый знакомый стартап.


2015. Google открыл код своей системы машинного обучения TensorFlow


Google преобразовал свою систему машинного обучения TensorFlow в проект с открытым исходным кодом. TensorFlow позволяет создавать и обучать нейросети и используется компанией в сервисах распознавания устной речи, написания автоматических ответов в электронной почте и для распознавания картинок в Google Photos. Представители Google отмечают, что решения, разработанные при помощи TensorFlow, легко масштабируются в зависимости от имеющихся аппаратных ресурсов, поэтому платформа может принести пользу как научно-исследовательским организациям, так и энтузиастам машинного обучения. ***