Что такое TinyML и почему это важно?

Изучите основную концепцию, преимущества и с чего начать эту крошечную революцию.

Tiny Machine Learning (или TinyML) - это метод машинного обучения, который объединяет сокращенные и оптимизированные приложения, требующие полного стека (оборудование, система, программное обеспечение и приложения) решения, включая архитектуры машинного обучения, методы, инструменты и подходы, способные выполнять аналитику на устройстве на самом краю облака.

TinyML может быть реализован в системах с низким энергопотреблением, таких как датчики или микроконтроллеры, для выполнения автоматизированных задач.

С TinyML мы можем делать больше с меньшими затратами. Это по-прежнему ML, но с меньшими энергозатратами, затратами и без подключения к Интернету.

Небольшое устройство для потрясающего воздействия.

Это может быть краткое изложение Tiny Machine Learning (или TinyML), новых достижений в области искусственного интеллекта без преувеличения.

Если учесть, что, согласно прогнозу ABI Research, к 2030 году вполне вероятно, что около 2,5 миллиарда устройств выйдут на рынок с помощью технологий TinyML, имея в качестве основного преимущества создание умных Устройства Интернета вещей и, более того, их популяризация за счет возможного снижения затрат.

Более того, исследование консалтинговой компании Silent Intelligence подтверждает предыдущий прогноз: Экономическая стоимость TinyML может достичь более 70 миллиардов долларов в следующие пять лет. Эти цифры не могут остаться незамеченными. Несколько компаний уже организуются для создания микросхем, которые будут использоваться при реализации TinyML.

Кроме того, различные специалисты по машинному обучению организовались, чтобы определить лучшие практики этого сегмента, которые, вероятно, будут очень быстро укреплены.

Большинство устройств Интернета вещей выполняют определенную задачу. Они получают ввод через датчик, выполняют вычисления и отправляют данные или выполняют действие.

Обычный подход IoT заключается в сборе данных и их отправке на сервер централизованной регистрации, после чего вы можете использовать машинное обучение для заключения.

Но почему бы нам не сделать эти устройства умными на уровне встроенных систем? Мы можем создавать такие решения, как умные дорожные знаки на основе плотности движения, отправлять оповещения, когда в вашем холодильнике заканчивается запас, или даже прогнозировать дождь на основе данных о погоде.

Проблема со встроенными системами в том, что они крошечные. И большинство из них работает от батареи. Модели машинного обучения потребляют много вычислительной мощности, инструменты машинного обучения, такие как Tensorflow, не подходят для создания моделей на устройствах IoT.

Взломать маленький ML

В TinyML используется та же архитектура и подход к машинному обучению, но на небольших устройствах, способных выполнять разные функции, от ответа на звуковые команды до выполнения действий посредством химических взаимодействий.

Но как получить TinyML? Многие инструменты могут помочь нам запускать модели машинного обучения на устройствах Интернета вещей.

Самая известная - Tensorflow Lite. С Tensorflow Lite вы можете сгруппировать свои модели Tensorflow для работы во встроенных системах. Tensorflow Lite предлагает небольшие двоичные файлы, способные работать на встраиваемых системах с низким энергопотреблением.

Одним из примеров является использование TinyML в датчиках окружающей среды. Представьте, что устройство обучено определять температуру и качество газа в лесу. Это устройство может иметь важное значение для оценки риска и определения принципов пожара.

Некоторые из основных отличий технологии: ‍

  • Безопасность данных: поскольку нет необходимости передавать информацию во внешние среды, конфиденциальность данных более гарантирована. ‍
  • Экономия энергии: для передачи информации требуется обширная серверная инфраструктура. Когда нет передачи данных, экономятся энергия и ресурсы, следовательно, в расходах. ‍
  • Нет зависимости подключения: если устройство зависит от Интернета для работы, и оно выйдет из строя, будет невозможно отправить данные на сервер. Вы пытаетесь использовать голосового помощника, но он не отвечает, потому что он отключен от Интернета.
  • Задержка: передача данных требует времени и часто вызывает задержку. Когда это не связано с этим процессом, результат будет мгновенным.

Python обычно является предпочтительным языком для создания моделей машинного обучения, но с TensorFlow Lite вы можете использовать C, C ++ или Java для создания моделей машинного обучения.

Подключение к сети - операция энергоемкая. Используя Tensorflow Lite, вы можете развертывать модели машинного обучения без необходимости подключения к Интернету. Это также решает проблемы безопасности, поскольку встроенные системы относительно легче эксплуатировать.

Tensorflow Lite предлагает предварительно обученные модели машинного обучения для повседневного использования. К ним относятся:

  • Обнаружение объектов используется для распознавания нескольких объектов на изображении, поддерживая до 80 различных элементов.
  • Умные ответы - генерирует интеллектуальные ответы, аналогичные тем, которые вы получаете при взаимодействии с диалоговым ИИ или чат-ботом.
  • Рекомендации - предлагает индивидуальные системы рекомендаций, основанные на поведении пользователей.

Есть несколько подходящих альтернатив Tensorflow Lite. Двумя сильными конкурентами являются:

  • CoreML - библиотека Apple для построения моделей машинного обучения на устройствах iOS.
  • PyTorch Mobile - мобильная версия библиотеки глубокого обучения PyTorch от Facebook.

TinyML все еще находится на начальной стадии. В Tensorflow Lite и другие фреймворки TinyML вносятся улучшения для поддержки сложных моделей машинного обучения.

Может пройти некоторое время, прежде чем мы окончательно увидим преобладающее распространение TinyML. Но не заблуждайтесь, умные устройства идут.

Где можно узнать больше о TinyML?

В настоящее время ведущее сообщество создано вокруг tinyML Foundation, цель которого - создать глобальное сообщество исследователей, инженеров, менеджеров по продуктам для разработки передовых технологий, продвижения и стимулирования знаний по этой теме.

Но я хотел бы порекомендовать увлекательную книгу (я ее сейчас читаю и, наверное, скоро напишу о ней рецензию ..) под названием Tiny ML: Machine Learning with Tensorflow Lite on Arduino и микроконтроллеры со сверхнизким энергопотреблением , Пита Уордена и Дэниэла Ситунаяке, это вводная работа во вселенную TinyML.

Книга призвана помочь понять, как мы можем обучить небольших моделей, которые понимают звук, изображения и данные, для выполнения некоторых задач. Согласно описанию в книге, для работы не требуется никакого предыдущего опыта машинного обучения или микроконтроллеров. Думаю, стоит взглянуть.

Вывод

TinyML откроет ряд возможностей для приложений в устройствах IoT, таких как телевизоры, автомобили, кофемашины, часы и другие устройства, чтобы они обладали интеллектуальными функциями, которые сегодня ограничены в компьютерах и смартфонах.

В будущем мы увидим голосовые интерфейсы практически во всем. Как только мы сможем создать подходящие голосовые интерфейсы по низкой цене, мы будем иметь их на любом потребительском элементе, заменяя кнопки на любых устройствах, особенно если вы думаете об устройствах, сочетающих аудио и видео.

Я хочу быть к этому готов, а ты?

Еще кое-что…

Если вы хотите узнать больше о машинном обучении, искусственном интеллекте, IoT и 5G, я выбрал несколько интересных статей, которые вы, возможно, захотите прочитать:



Введение в будущее с 5G, AI и IoT.
Искусственный интеллект, IoT и 5G определят наше будущее, но чего мы можем ожидать от этих отношений? medium.com





Лучшие бесплатные курсы для изучения AI, ML и Data Science на сегодняшний день.
Более 60 курсов с рейтингами и кратким описанием (конечно же, сделано AI). medium.com





Самые впечатляющие каналы Youtube для изучения ИИ, машинного обучения и анализа данных.
Это идеальный момент, чтобы начать изучать что-то новое, и почему бы не начать с ИИ ? medium.com



Кроме того, я только что опубликовал свою новую электронную книгу на Amazon, и я уже работаю над публикацией некоторых других книг в этом году… оставайтесь на связи, подписывайтесь на меня, если хотите, и давайте сделаем это вместе.

использованная литература

  1. Google Scholar - TinyML - https://scholar.google.com/scholar?hl=ru&as_sdt=0%2C5&q=tinyML&btnG=
  2. MicroNets: архитектуры нейронных сетей для развертывания приложений TinyML на бытовых микроконтроллерах - https://arxiv.org/abs/2010.11267
  3. TensorFlow Lite Micro: встроенное машинное обучение в системах TinyML - https://arxiv.org/abs/2010.08678
  4. Почему будущее машинного обучения крошечное - https://petewarden.com/2018/06/11/why-the-future-of-machine-learning-is-tiny/
  5. Как инженеры используют TinyML для создания более умных периферийных устройств - «https://new.engineering.com/story/how-engineers-are-using-tinyml-to-build-smarter-edge-devic
  6. tinyml TensorFlow Lite 智能 物 联网 设备 _weixin_26750481 的 博客 -CSDN 博客. Https://blog.csdn.net/weixin_26750481/article/details/108499905
  7. Почему TinyML - это огромные возможности - https://venturebeat.com/2020/01/11/why-tinyml-is-a-giant-opportunity/

Еще кое-что…

Если вы хотите продолжить свое обучение, я подготовил для вас потрясающий список из более чем 60 учебных курсов по искусственному интеллекту, машинному обучению, глубокому обучению и науке о данных, которые вы можете пройти прямо сейчас бесплатно:

Если вы хотите и дальше открывать для себя новые ресурсы и узнавать об искусственном интеллекте, в моей электронной книге (ссылка ниже) я делюсь лучшими статьями, веб-сайтами и бесплатными онлайн-курсами обучения по искусственному интеллекту, машинному обучению, глубокому обучению, науке о данных. , Business Intelligence, Analytics и др., Которые помогут вам начать учиться и развивать свою карьеру.

Изучите ИИ онлайн: более 200 ресурсов в Интернете, чтобы начать изучать ИИ

Кроме того, я только что опубликовал другие интересные электронные книги на Amazon, и я уверен, что некоторые из них могут быть вам интересны ... давай будем поддерживать связь, подписываемся на меня и давай сделаем это вместе.

Подпишитесь на мою еженедельную рассылку, чтобы оставаться в курсе

Если вас интересует тема ИИ, машинного обучения, науки о данных и автономных транспортных средств, а также то, как эти инновации нарушат работу всех предприятий по всему миру, этот информационный бюллетень обязательно будет держать вас в курсе.

Я баллотируюсь на премию Top Leaders in Technology по версии журнала AI Magazine.

Если хотите, можете номинировать меня как влиятельного человека в сфере высоких технологий в список 100 лучших лидеров журнала AI.

Окончательный список будет объявлен на предстоящем мероприятии Technology & AI LIVE 14 сентября - пожалуйста, назначьте меня сейчас: http://ow.ly/LrWu50FbpaZ