Случайная проблема Илона Маска: вредоносный ИИ, OpenAI и криптоджекинг Tesla
Это перепечатка (более или менее) Информационного бюллетеня ARCHITECHT от 22 февраля 2018 г. Зарегистрируйтесь здесь, чтобы получать новые выпуски на свой почтовый ящик.
Я сказал, что собираюсь поэкспериментировать с другим графиком публикации. Итак, вот выпуск середины недели.
Отчет под названием Злоумышленное использование искусственного интеллекта, написанный группой исследователей ИИ из разных организаций, на этой неделе получил широкую огласку в прессе из-за своих прогнозов о том, как ИИ может использоваться для совершения киберпреступлений и ограничения гражданских прав. Оно длинное (99 страниц, но вот одно из многих резюме) и спекулятивное, но с общим посылом трудно поспорить: даже без сверхразума ИИ можно использовать для того, чтобы сделать в мире много плохого.
При использовании в этом качестве истинная сила ИИ в реальных приложениях остается скоростью и масштабом, с которыми он позволяет людям выполнять задачи, которые в противном случае отнимали бы много времени. Чтобы нанести полный ущерб нашему цифровому миру, потребуются не сверхчеловеки, а достаточно умные/решительные люди с достаточно умным программным обеспечением. Белым шляпам действительно нужно быть в тонусе, иначе они рискуют сыграть в догонялки, в которых будет трудно победить.
Что действительно интересно, так это то, что эта группа участников (в которую входят представители OpenAI и EFF) призывает к исследованию того, нуждается ли ИИ в большем государственном регулировании и меньшей открытости с точки зрения того, что публикуется и как это лицензируется. Это области, безусловно, заслуживающие внимания, но трудно увидеть, что они набирают большую популярность в определенных кругах. Также трудно понять, как мы сможем обеспечить соблюдение правил в отношении публикации и информации ИИ, когда даже АНБ не может хранить информацию в своих стенах.
Можно также возразить, что попытки оцепить «официальные» исследования приведут к разным направлениям работы ИИ, некоторые из которых находятся вне поля зрения властей. Уже имеется достаточно информации, чтобы у любого, кто так склонен к мошенническим действиям, была бы неплохая отправная точка. Возможно, максимальная открытость — лучший способ гарантировать, что все работают с одного и того же базового уровня.
В любом случае, это наводящий на размышления доклад, в котором поднимаются некоторые вопросы, заслуживающие немедленного внимания политиков.
Илон Маск покидает OpenAI
Я называю это случайным изданием Илона Маска, потому что Илон был одним из первых (и самых громких) людей, предупредивших об опасностях ИИ, хотя об опасностях гораздо более спекулятивных, чем то, что указано в отчете выше. Маск также стал соучредителем OpenAI, которая участвовала в указанном отчете, во имя открытого исследования ИИ, чтобы помочь обеспечить этичную и безопасную разработку ИИ. А на этой неделе OpenAI объявила, что Маск покидает свое место в совете директоров, потому что поскольку Tesla продолжает уделять больше внимания ИИ, это устранит потенциальный будущий конфликт для Илона.
Я думаю, что задавал этот вопрос несколько раз за последние несколько лет, поскольку предупреждение Маска об ИИ становилось все более ужасным и привлекало все больше внимания. Если он собирается управлять бизнесом, который опирается на ИИ и обещает изменить наш мир, то нагнетание страха — не лучший способ заинтересовать людей этими технологиями. (Если, конечно, Маск не сможет убедить мир, что именно он придумал, как безопасно создавать ИИ.)
Tesla получает криптоджекинг через Kubernetes
И завершение трифекты Илона Маска — это новости на этой неделе о том, что Tesla входит в число компаний, которые задействуют свои ресурсы для майнинга криптовалюты. В частности, хакеры смогли получить доступ к незащищенной консоли управления Kubernetes, что дало им доступ к учетным данным команды Amazon Web Services. Они использовали их для установки и запуска программного обеспечения для майнинга в кластере Tesla AWS, а также у хакеров был доступ к корзине AWS S3, содержащей потенциально конфиденциальные данные.
Технически это не проблема ни для Kubernetes, ни для AWS, если только вы не станете утверждать, что они должны обеспечивать безопасность по своей природе. Но, тем не менее, похоже, что AWS, по крайней мере, серьезно относится к проблеме незащищенного S3, предоставив бесплатную услугу Trusted Advisor для проверки того, общедоступны ли корзины. (Шеф также объявил о новой версии своего продукта InSpec, который помогает защититься от этого.) Tesla — далеко не первая компания, чьи данные были раскрыты, потому что она оставила свои облачные ресурсы незащищенными.
Если мы свяжем эту историю с отчетом об исследовании злонамеренного использования ИИ, вы сможете увидеть, где может оказаться следующее поле битвы для облачных провайдеров. Те, кто сможет наилучшим образом защитить данные и ресурсы клиентов, выявляя ошибки, дыры в безопасности и злонамеренные действия до того, как они смогут нанести ущерб, окажутся в очень хорошем положении. ИИ, скорее всего, станет важным инструментом для осуществления этого и, в конечном итоге, может стать одной из вещей, от которых им больше всего нужно защищаться.
АРХИТЕКТОР
ИИ и машинное обучение
Почему А.И. исследователи из Google получили столы рядом с боссом
Возможно, должностные обязанности основаны на зарплате… Или более точным объяснением было бы то, что Сундар Пичаи и руководители Google могли бы лучше следить за тем, что происходит с ИИ. Если вы делаете ставку на компанию, хорошей идеей будет поболтать с людьми, которые это делают.
Технологические компании должны перестать делать вид, что ИИ не уничтожит рабочие места
Автор, китайский технический инвестор и предприниматель Кай-Фу Ли, приводит здесь несколько хороших аргументов, не со всеми из которых я согласен. В частности, я думаю, что универсальный базовый доход может быть действительно полезной идеей, если мы будем думать о нем не как о подачке, а как о возможности для людей знать, что счета оплачены, чтобы они могли вкладывать энергию в вещи, которые действительно приносят пользу.
Привет, мы исследователи из Google, Microsoft и Facebook, которые изучают искусственный интеллект. Спросите нас о чем угодно!
Просто выделите 20 минут или около того и прочитайте его.
Чтобы дать ИИ дар болтать, Силиконовой долине нужно вас обидеть
В других мирах людям нужно осветиться и просто позволить этим вещам учиться. Если нас оскорбляют некоторые ответы, это действительно не вина компании.
Vectra привлекает 36 миллионов долларов для своей технологии кибербезопасности AI
Машинное обучение, кибербезопасность, сбор денег. Промыть и повторить.
BlackRock расширяет исследования в области искусственного интеллекта
Заранее извините, что для чтения этого без подписки потребуется немного усилий, но если вы потрудитесь, это будет взвешенный взгляд на искусственный интеллект в производстве и его связь с предыдущим десятилетием больших данных. От руководителя BlackRock: «Большие данные предлагают множество возможностей для создания альфы [доходности, превосходящей рынок], но традиционные методы недостаточно хороши для анализа огромных объемов задействованной информации».
Hypergiant стремится стать консьержем искусственного интеллекта для Fortune 500
Эта бизнес-модель кажется надежной, ИМХО. Самая сложная часть фактического внедрения ИИ для многих компаний будет заключаться в том, чтобы сопоставить бизнес-задачи/цели с технологическими возможностями. А потом строить.
Остинская фирма искусственного интеллекта SparkCognition завершает раунд финансирования на 56,5 млн долларов
Компания занимается машинным обучением для промышленных систем, чтобы прогнозировать сбои и тому подобное.
Здравствуй, квантовый мир
Это хороший взгляд на то, где мы находимся с квантовыми вычислениями, и как люди на самом деле начнут их программировать. Если глубокое обучение является каким-то признаком того, что происходит, когда мощные технологии, мы можем ожидать несколько офигенных фальшивых видео Николаса Кейджа.
Нейронное клонирование голоса с помощью нескольких сэмплов
Да, такими вещами точно будут злоупотреблять.
Новый подход к машинному обучению, направленный на экспериментальные данные визуализации
Это исследование Национальной лаборатории Лоуренса Беркли по анализу научных изображений с использованием нескольких образцов. Будущее почти наверняка движется в этом направлении для всех рабочих нагрузок зрения, речи и т. д., о чем свидетельствует недавнее объявление Baidu о моделировании голоса.
Подводные камни глубокого обучения, возникающие при разработке DAWNBench
DAWNBench — еще один эталонный тест для рабочих нагрузок глубокого обучения, разработанный лабораторией в Стэнфорде, в которую входит создатель Spark Матей Захария.
Оценка сердечно-сосудистых факторов риска с помощью компьютерного зрения
Это одно из тех достижений ИИ, которое должно помочь людям понять, насколько ИИ может быть очень полезен, даже если это не какой-то сверхразум. Этот метод на самом деле менее точен, чем анализы крови, примерно на 2 процента, но, что важно, он не требует анализа крови. Даже если он достигнет паритета, это может стать большой победой с точки зрения эффективности и безопасности.
Этот компьютер использует свет, а не электричество, для обучения алгоритмов ИИ
Интересно наблюдать за тем, как искусственный интеллект на самом деле стимулирует исследования и производство маломощных вычислительных технологий. Некоторые из этих достижений могут иметь более длительный эффект, чем сами популярные методы искусственного интеллекта. Эта статья о стартапе под названием Fathom.
Сделайте ARCHITECT еще лучше, спонсируя его
Вы читаете это, потому что, как и остальная часть аудитории ARCHITECT, вы умны и заинтересованы в будущем корпоративных ИТ. Свяжитесь с другими читателями и помогите ARCHITECT расти (включая возвращение подкаста ARCHITECHT Show), став спонсором. Напишите [email protected] для получения дополнительной информации.
Облако и инфраструктура
Теперь доступно — репозиторий бессерверных приложений AWS
Это действительно интересно, если вы думаете о том, как приложения (или, точнее, микросервисы) будут предоставляться в будущем.
"Дело в том . . . Cloud IoT Core теперь общедоступен»
Одна интересная вещь в этом объявлении — увидеть партнеров по оборудованию и приложениям. Если предположить, что Google и AWS пойдут на вертикальную интеграцию своих продуктов «устройство-приложение-облако», вполне логично, что тесная интеграция будет иметь значение и для партнеров.
Робо-CTRL-ALT-DEL от Google дал сбой, завис сеть и Compute Engine на 90 минут
Облако продолжает нас чему-то учить, так это тому, что непредвиденные вещи случаются постоянно. К счастью, облачные провайдеры научились хорошо учиться. Но именно поэтому SLA так важны.
VMware нанимает основателя бессерверного OpenFaaS; Dell закрывает свою инициативу {code} с открытым исходным кодом
Это большой скачок, но представьте, если бы VMware смогла восстановить свое прежнее влияние, опередив своих коллег-поставщиков программного обеспечения в области бессерверных технологий. Кроме того, в отношении {code} эта команда работала над некоторыми интересными вещами, особенно над интеграцией контейнеров и корпоративных хранилищ.
AMD заманивает технического директора Cisco в новый центр обработки данных Epyc
Если вы следите за попыткой AMD закрепиться в центре обработки данных, вот еще один сигнал, что это серьезно.
С $10 млн финансирования два бывших сотрудника Google запускают Mabl, чтобы внедрить машинное обучение в тестирование программного обеспечения
Я сошел с ума, или возможно, что лучший код окажет большее влияние на кибербезопасность, чем сетевой анализ?
Облако убивает рабочие места в центрах обработки данных?
Судя по этой статье, это не так. В этом есть определенный смысл: модели доставки меняются, но на каком-то уровне мы все еще имеем дело с серверами, хранилищами и базами данных.
Подтолкнули к краю
Это хороший анализ того, как может измениться инфраструктура периферийных вычислений и как облачные провайдеры будут/не будут поощрять своих клиентов к ее использованию.
МАВИС: Управление дата-центрами с помощью смартфонов
Кто-нибудь из операционистов или менеджеров центров обработки данных требует использования данных мониторинга на своих телефонах? Кажется, что для чего-то серьезного вы сразу же возвращаетесь к ноутбуку или звоните кому-то, у кого есть к нему доступ.
Наука о данных и инженерия
7 основных технологий для современной архитектуры данных
Рассмотрим источник (автор из MapR), но это кажется справедливым списком.
DataTorrent: Жесткий код вокруг философии потоковой передачи данных за 90 дней
Скажу честно: за этим трудно следить. Но управление потоковыми данными становится все более важным, и кажется, что DataTorrent стоит знать в этой области.
Хранилище данных ДНК получает произвольный доступ
Это увлекательно, особенно если учесть, как быстро продвигаются исследования. Трудно представить приложения, но какими бы они ни были, они, скорее всего, будут революционными.
