- Адаптация нескольких источников и расхождение Реньи (arXiv)
Автор:Ишай Мансур, Мехрияр Мори, Афшин Ростамизаде
Аннотация: в этой статье представлено новое теоретическое исследование общей проблемы адаптации из нескольких источников с использованием понятия дивергенции Реньи. Наши результаты основаны на нашей предыдущей работе [12], но значительно расширяют объем этой работы в нескольких направлениях. Мы распространяем предыдущие гарантии потерь от нескольких источников, основанные на взвешенных комбинациях распределений, на произвольные целевые распределения P, не обязательно смеси исходных распределений, анализируем как известные, так и неизвестные случаи целевого распределения и доказываем нижнюю границу. Далее мы расширяем наши границы, чтобы иметь дело со случаем, когда обучаемый получает приблизительное распределение для каждого источника вместо точного, и показываем, что аналогичные гарантии потерь могут быть достигнуты в зависимости от расхождения между приблизительным и истинным распределениями. Мы также анализируем случай, когда функции маркировки исходных доменов несколько отличаются. Наконец, мы сообщаем о результатах экспериментов как с искусственным набором данных, так и с задачей анализа настроений, показывая преимущества производительности комбинаций, взвешенных по распределению, и качество наших оценок, основанных на расхождении Реньи.
2. Предел квантовой дивергенции Реньи(arXiv)
Автор: Ниланджана Датта, Феликс Ледицкий
Аннотация: Недавно для пар положительных полуопределенных операторов ρ и σ была определена интересная величина, называемая квантовой дивергенцией Реньи (или «сэндвичевой» относительной энтропией Реньи). Он зависит от параметра α и действует как исходная величина для других относительных энтропий, имеющих важное операционное значение в квантовой теории информации: квантовой относительной энтропии и минимальной и максимальной относительных энтропий. Однако существует еще одна относительная энтропия, называемая 0-относительной энтропией Реньи, которая играет ключевую роль в анализе различных задач квантовой обработки информации в однократном режиме. Мы доказываем, что 0-относительная энтропия Реньи может быть получена из квантовой дивергенции Реньи, только если ρ и σ имеют одинаковые носители. Это, наряду с существующими в литературе результатами, предполагает, что достаточно рассмотреть две существенные исходные величины, из которых могут быть получены операционально значимые энтропийные величины — квантовую дивергенцию Реньи с параметром α≥1/2 и относительную энтропию Реньи с α α∈[0,1).
3.Надежные оценки функционалов, чувствительных к риску, с помощью дивергенции Реньи (arXiv)
Автор: Рами Атар, Камалджит Чоудхари, Поль Дюпюи
Аннотация: мы расширяем двойственность между экспоненциальными интегралами и относительной энтропией до вариационной формулы для экспоненциальных интегралов, включающей расходимость Реньи. Эта формула характеризует зависимость чувствительных к риску функционалов и связанных с ними величин, определяемых поведением хвоста, от возмущений в основных распределениях в терминах дивергенции Реньи. Характеристика дает верхние и нижние границы, которые имеют смысл для всех значений параметра масштабирования больших отклонений, что позволяет в явном виде количественно оценить устойчивость затрат, чувствительных к риску. В качестве приложений рассматриваются задачи количественного определения неопределенности, когда аспекты модели полностью не известны, а также их использование для ограничения хвостовых свойств неразрешимой модели через поддающуюся обработке.
4. Максимальная разовая рассеянная работа от расхождений Реньи(arXiv)
Автор: Николь Юнгер Халперн, Эндрю Дж. П. Гарнер, Оскар К. О. Дальстен, Влатко Ведрал
Выдержка:термодинамика описывает крупномасштабные, медленно развивающиеся системы. Два современных подхода обобщают термодинамику: теоремы о флуктуациях, которые касаются неравновесных процессов за конечное время, и однократная статистическая механика, которая касается малых масштабов и конечного числа испытаний. Комбинируя эти подходы, мы вычисляем одноразовый аналог средней рассеянной работы, определенной в контексте флуктуаций: стоимость выполнения протокола за конечное время, а не квазистатически. Было показано, что средняя рассеянная работа пропорциональна относительной энтропии между плотностями фазового пространства, относительной энтропии между квантовыми состояниями и относительной энтропии между вероятностными распределениями по возможным значениям работы. Мы выводим однократные аналоги всех трех уравнений, демонстрируя, что расходимость Реньи бесконечного порядка пропорциональна максимально возможной рассеиваемой работе в каждом случае. Эти одноразовые аналоги результатов теоремы о флуктуациях способствуют объединению этих двух наборов инструментов для мелкомасштабной неравновесной статистической физики.
