Облачные TPU и растущее давление на Nvidia
Это перепечатка (более или менее) Информационного бюллетеня ARCHITECHT от 18 февраля 2018 г. Зарегистрируйтесь здесь, чтобы получать новые выпуски на свой почтовый ящик.
Прежде чем я начну, небольшое уточнение: я понимаю, что создание еженедельного информационного бюллетеня требует одновременного предоставления читателям очень большого количества ссылок. Возможно, я начну делать это два раза в неделю.
Растущая индустрия нестандартных чипов для искусственного интеллекта — это подарок, который продолжает задавать новые вопросы аналитикам и, я полагаю, компаниям, пытающимся понять, куда вкладывать ресурсы и энергию. Я писал об этом несколько раз в прошлом году (напомню, что архивы АРХИТЕХТ теперь доступны здесь) и, что примечательно, темпы инноваций только набирают обороты. Что мы видели на этой неделе?
- Ускорители машинного обучения Cloud TPU теперь доступны в бета-версии (Google)
- Amazon может разрабатывать ИИ-чипы для Alexa (TechCrunch)
- Новый чип Массачусетского технологического института может сделать нейронные сети гаджетами с батарейным питанием (TechCrunch)
- Скоро в каждом гаджете будет специальный чип для ИИ (Кварц)
Как и все, что связано с чипами ИИ, нам нужно рассматривать это в контексте Nvidia и ее растущих доходов от центров обработки данных, о которых я говорил на прошлой неделе. Я не думаю, что можно смотреть на все, что происходит за пределами Nvidia (приведенные выше ссылки лишь касаются поверхности этого пространства), и искренне верить, что ее рост будет продолжаться беспрепятственно, если компания не заглянет за пределы своих корней GPU.
Облачные TPU Google могут стать здесь канарейкой в угольной шахте, потому что они атакуют те же учебные рабочие нагрузки машинного обучения, в которых доминировали графические процессоры. Если пользователи захотят арендовать их вместо экземпляров GPU, и если они увидят значительную экономию средств и/или повышение производительности, в конечном итоге Google будет покупать меньше GPU, поскольку спрос будет ниже. Да, Google продолжает добавлять поддержку графических процессоров в такие продукты, как Kubernetes Engine, поскольку проект с открытым исходным кодом добавляет эти функции, но на самом деле ничто не мешает Google отличать свои контейнерные продукты или что-либо еще, добавляя также поддержку TPU.
Допустим, Google успешно провел эксперимент с TPU. Аналогичные результаты в Microsoft и Amazon, обе из которых, по крайней мере, рассматривают идею развертывания собственных экземпляров на основе самодельных чипов ИИ, могли бы изменить правила игры для рабочих нагрузок ИИ. За несколько коротких лет мы бы перешли от ничего к графическим процессорам как к королю, а затем от графических процессоров к ряду альтернатив для конкретных платформ.
И это не говоря уже о том, какое влияние серверные чипы Intel Nervana AI окажут на отрасль. Об этом стоит подумать: даже если графические процессоры Nvidia по-прежнему владеют учебными рабочими нагрузками, потому что покупатели предпочитают аппаратные платформы, которые не привязаны к конкретным облачным провайдерам, у Intel есть ресурсы и связи, чтобы заявить о своем присутствии. Intel также разработала свои чипы Nervana при участии Facebook, что кое-что говорит о том, кто, по мнению Intel, может стать основным покупателем ее нового оборудования.
Если бы мне пришлось высказать предположение, я бы сказал, что Nvidia готова рискнуть в центре обработки данных и просто продолжит использовать инновации в области графических процессоров. Это уже доминирующая платформа, и свергнуть ее легче сказать, чем сделать.
Тем не менее, я также могу поспорить, что Nvidia делает несколько приобретений на фронте логического вывода («логический вывод» относится к задаче запуска моделей ИИ, а не к их обучению). Здесь в игру вступают пользовательские Alexa, исследования Массачусетского технологического института и множество других стартапов и академических усилий. Если Nvidia сможет внедрить некоторые новые технологии и создать интегрированную платформу как для обучения, так и для логического вывода, она не только пожнет финансовые выгоды от питания миллиардов потребительских и промышленных устройств на базе ИИ, но и предотвратит ) от использования этой тактики для подрыва своей позиции.
MongoDB выполняет транзакции ACID
Эта новость привлекла больше внимания, чем я ожидал, что я считаю хорошим знаком. Иногда легко забыть о MongoDB, когда мы обращаем внимание на привлекательные облачные технологии, такие как CockroachDB, или базы данных временных рядов, такие как InfluxDB (подробности о ее финансировании см. в разделе Данные ниже). Или когда мы наблюдаем, как Oracle пытается позиционировать себя как лидера облачных вычислений и обещает такие вещи, как автономная база данных.
Тем не менее, MongoDB имеет большую установленную базу и до сих пор работает довольно хорошо как публичная компания. Поскольку компании продолжают искать зрелые базы данных, которые могут делать то, что им нужно, а также помогают избежать привязки к Oracle или облаку, полнофункциональный Mongo может в конечном итоге выглядеть довольно хорошо в долгосрочной перспективе.
CNCF думает о бессерверных вычислениях
Cloud Native Computing Foundation теперь имеет бессерверную рабочую группу, которая в качестве первого порядка работы опубликовала технический документ и ландшафтную диаграмму. Это имеет полный смысл, потому что, как и все предшествующие вычисления, облачные вычисления работают в непрерывном режиме. Если сегодня контейнеры на одном конце, то бессерверные — на другом.
Но это почти наверняка то направление, в котором многие разработчики хотели бы двигаться дальше. Для CNCF и ее проектов будет крайне важно иметь право голоса в том, как развиваются бессерверные технологии за пределами AWS Lambda и других технологий, специфичных для облачных провайдеров, потому что всегда будет большой контингент людей и компаний, которые предпочитают управлять этими частями. стек самостоятельно, а не на аутсорсинг. Kubernetes уже является основой для множества бессерверных проектов и продуктов, и кажется логичным, что он, наряду с другими технологиями CNCF, может стать де-факто основой для создания и запуска этих внутренних бессерверных платформ.
Интересно, однако, что сейчас одним из наиболее популярных бессерверных проектов с открытым исходным кодом является Apache OpenWhisk, которым в основном управляет IBM. (Даже защитник разработчиков Google и рок-звезда микросервисов Келси Хайтауэр высоко ценит OpenWhisk.) OpenWhisk уже поддерживает Kubernetes в качестве платформы для размещения рабочих нагрузок OpenWhisk (да, бессерверные технологии действительно требуют серверов где-то в стеке), и будет интересно посмотреть. как политика всего этого разыгрывается.
АРХИТЕКТОР
ИИ и машинное обучение
Пока Китай продвигается вперед в области искусственного интеллекта, Белый дом молчит
Я остаюсь при своих предыдущих заявлениях (в том числе и этом), что эта история преувеличена. Тот факт, что Белый дом молчит, не означает, что правительство игнорирует ИИ.
Хаус погружается в искусственный интеллект
На этом слушании в Палате представителей, по-видимому, были рассмотрены некоторые серьезные вопросы, касающиеся ИИ, в том числе вопрос о том, должна ли открытость превалировать над точностью и должны ли мы маркировать продукты, в которых используется ИИ. Последнее — плохая идея по многим причинам, но мы должны помнить о предвзятости, когда используем его для принятия важных решений.
Alibaba использует искусственный интеллект для выращивания свиней
Несмотря на то, что на большинстве ферм выращивают свиней, это еще один хороший пример применения искусственного интеллекта в реальном мире.
In-Q-Tel инвестирует в SigOpt, чтобы помочь спецслужбам США оптимизировать ИИ
Не придавайте слишком большого значения разведданным, поскольку In-Q-Tel инвестирует во многие компании. Но SigOpt определенно предоставляет ценную услугу для настройки параметров машинного обучения. Вы можете ознакомиться с моим подкаст-интервью с генеральным директором Скоттом Кларком от сентября.
Как ИИ меняет контракты
Это одна из тех историй об ИИ, в рекламу которых я просто не верю. Рассмотрение контракта — это одно, но настоящие переговоры и его составление требуют некоторых навыков юриста.
Arterys впервые получила одобрение FDA на широкомасштабный набор изображений для онкологии с глубоким обучением
Звучит как горько-сладкая новость для рентгенологов, но, вероятно, хорошая новость для пациентов.
eBay нанимает главного ученого для работы над ИИ
Ян Педерсон, бывший вице-президент Twitter по науке о данных.
Глубокое обучение с подкреплением пока не работает
Я уверен, что есть много людей, которые оспорили бы это утверждение, но, тем не менее, это хороший пост. Никогда не забывайте, что мы читаем только об успешных работах.
Глубокое обучение с Apache SystemML
Я впервые слышу об Apache SystemML, который, по-видимому, в значительной степени управляется IBM и Databricks. Мой большой вопрос о любом новом проекте Apache заключается в том, смогут ли они привлечь достаточное количество пользователей, чтобы оказать существенное влияние, особенно когда так много работы теперь выполняется вне Apache и на платформах данных следующего поколения.
Интерпретируемое машинное обучение через обучение
Это крутая работа OpenAI, направленная на то, чтобы машины и люди могли лучше понимать друг друга.
Объявление тензорных понятий
Это проект Facebook, который помогает инженерам использовать модели исследователей и превращать их в код, который хорошо работает в центре обработки данных.
Отсутствующие данные мешают тиражированию исследований искусственного интеллекта
Это одна из тех вещей, о которых полезно помнить, читая о самых горячих новых исследованиях в области ИИ. Методы открыты, но точный код и, конечно же, данные часто отсутствуют.
Сделайте ARCHITECT еще лучше, спонсируя его
Вы читаете это, потому что, как и остальная часть аудитории ARCHITECT, вы умны и заинтересованы в будущем корпоративных ИТ. Свяжитесь с другими читателями и помогите ARCHITECT расти (включая возвращение подкаста ARCHITECHT Show), став спонсором. Напишите [email protected] для получения дополнительной информации.
Облако и инфраструктура
Microsoft for Startups предоставляет предпринимателям время Azure и поддержку продаж, обеспеченные финансированием в размере 500 млн долларов США
Это немного иронично: Microsoft проделывает большую работу и нанимает активных сторонников разработчиков, но продажа стартапов на Azure по-прежнему кажется сложной задачей.
VMware приобретает компанию CloudCoreo из Сиэтла за ее опыт в области облачной безопасности
«Вы должны убедиться, что ваши данные защищены». Действительно, вы делаете. В компании было всего 10 человек; и он, и его программное обеспечение для управления конфигурацией присоединятся к подразделению облачных сервисов VMware.
Citrix приобретает Cedexis
«Citrix объявляет о приобретении Cedexis, управляемой данными службы в режиме реального времени для динамической оптимизации потока трафика в общедоступных облаках, центрах обработки данных, CDN и интернет-провайдерах. Технология Cedexis интеллектуально направляет трафик по десяткам CDN и сотням центров обработки данных и точек присутствия по всему миру».
Oracle покупает производителя ПО для DDoS-атак Zenedge
Вы должны отдать должное Oracle: она собирает множество кусочков для своего нового фокуса на облачных вычислениях. Теперь, чтобы все работало вместе.
XebiaLabs получает серию B стоимостью 100 миллионов долларов во главе с Susquehanna Growth Equity и Accel
Я не знаком с компанией, но, должно быть, она что-то делает правильно. Нет недостатка в инструментах для DevOps и управления кодом.
Представляем информацию об активности аккаунта AWS в режиме реального времени
Это не только кажется хорошей идеей с точки зрения безопасности, но и хорошим способом заставить людей потреблять больше ресурсов AWS. Это целый набор сервисов для создания этой возможности.
Поисковая система BuckHacker позволяет легко просматривать открытые серверы Amazon
Или: «Люди по-прежнему являются злейшими врагами самих себя в облаке».
Континуум облачных топологий
Виртуальные машины на одном конце, бессерверные на другом.
Бессерверные базы данных: будущее событийно-ориентированной архитектуры
Если вы еще не слышали о бессерверных базах данных, вот краткий обзор того, что они из себя представляют и кто их создает.
Получите максимальную отдачу от Google Kubernetes Engine с приоритетом и вытеснением
Трудно быть слишком взволнованным большинством выпусков проектов, но эта новая функция из Kubernetes 1.9 довольно интересна. Google просто хорошо объясняет это.
Крейг Маклаки из Heptio о начале оркестрации Kubernetes в Google
Это достойное, хотя и короткое, интервью. Мне нравятся выпадающие имена Google, потому что туда можно добавить много имен.
Как технологи поддерживают глобальные события в Facebook
Я бы сказал, что эти посты «как мы готовимся к загруженному дню дорожного движения» устарели, но Facebook хорошо справляется с тем, чтобы поддерживать их актуальность. На этот раз в канун Нового года в прямом эфире транслируется более 10 миллионов человек.
Криптовалютное увлечение «мешает поиску инопланетной жизни»
Знаете, что было бы примечательно? Если графические процессоры в конечном итоге будут переведены на высокопроизводительные вычисления и майнинг криптовалюты, в то время как TPU и другие специализированные чипы возьмут на себя машинное обучение.
HPE подписывает крупный контракт на поставку суперкомпьютеров Министерству обороны
Ну, сделка на 57 миллионов долларов на покупку трех суперкомпьютеров SGI (то ли я не знал, то ли забыл, что HPE приобрела SGI в 2016 году). Многие из этих рабочих нагрузок могут быть перемещены в облако, но продажа суперкомпьютеров еще долгое время будет крупным бизнесом.
NIST устанавливает стандарты безопасности IoT
Кажется, это стоит проверить по очевидным причинам.
Как исследователи Карнеги-Меллона готовятся к развитию периферийных вычислений с помощью гранта в размере 27,5 млн долларов
Это интересно, но большой вопрос для меня заключается в том, означают ли граничные вычисления в конечном итоге микроцентры обработки данных или просто больше вычислений на устройстве.
«Все в периферийной [вычислительной] игре»
Так говорит бывший технический директор Equinix. Но в этом определенно есть доля правды, так как все больше компаний (и их устройств) работают локально, в центрах обработки данных и в облаке.
История сервисной сетки
Да, это спонсируемый пост, но он дает хорошее общее представление о микросервисах, облачных технологиях и т. д. Такие инструменты, как Kubernetes, решают определенные аспекты жизненного цикла приложения, но далеко не все.
Искусственный интеллект, облако и Интернет вещей будут стимулировать рост в 2018 году, говорят производители чипов
В какой-то степени все это одно и то же.
LogMeIn объявляет о намерении продать бизнес Xively компании Google
За 50 миллионов долларов. Я раньше не слышал о Xively, но это платформа для создания интернет-приложений.
Наука о данных и инженерия
InfluxData получает 35 миллионов долларов в серии C для расширения бизнеса баз данных временных рядов
Поскольку пространство Интернета вещей продолжает накаляться, настало время для баз данных временных рядов извлечь из этого выгоду. Не ожидайте, что InfluxData станет последней компанией, которая позиционирует себя здесь как спаситель.
Sequoia China лидирует в разработке программного обеспечения DataVisor для обнаружения мошенничества на сумму 40 миллионов долларов
Машинное обучение для обнаружения мошенничества, спама и тому подобного. В этом пространстве ужасно много серебряных пуль, но также и гораздо больше оборотней…
4 тренда в науке о безопасности на 2018 год
Говоря о науке о данных и кибербезопасности. Самый интересный прогноз здесь связан с увеличением числа плохих парней, использующих машинное обучение в качестве оружия. После того, как неисчислимые миллиарды были вложены в попытки сделать ML противоядием от проблем с безопасностью, ирония была бы богата, если бы вместо этого оно оказалось ядом.
Большие компании используют аналитику, но в большинстве из них до сих пор нет культуры, основанной на данных
Это оказывается гораздо более трудным переходом, чем могло показаться из всех разговоров несколько лет назад. Я думаю, мы увидим какую-то версию этого и с ИИ. Есть культурные причины, технические причины и тот факт, что человеческий инстинкт все еще имеет значение.
Распределенная графовая база данных System G
Ребята из IBM Research создали графовую базу данных. Учитывая текущее количество и открытый характер графовых баз данных сегодня, вы должны задаться вопросом, каков окончательный план здесь.
